Glossari de IA corporativa

AI Governance — Govern de la IA

El govern de la intel·ligència artificial (AI Governance) és el conjunt de polítiques, marcs, processos i controls que una organització estableix per garantir que l'ús de la IA sigui segur, ètic, transparent i conforme amb la normativa aplicable.

Un programa d'AI Governance eficaç defineix qui pot fer servir IA, amb quines eines, per a quines tasques, amb quines dades i sota quina supervisió. També estableix mecanismes de rendició de comptes i procediments de resposta davant d'incidents relacionats amb la IA.

En el context europeu, l'AI Act (Reglament UE 2024/1689) obliga les organitzacions a implementar sistemes de gestió de riscos per als sistemes d'IA d'alt risc, cosa que converteix l'AI Governance en una necessitat regulatòria a més d'una bona pràctica.

DLP — Data Loss Prevention en IA

El Data Loss Prevention (DLP) en el context de la intel·ligència artificial fa referència a les tecnologies i polítiques que analitzen els prompts i les respostes dels models de llenguatge per detectar, alertar o prevenir l'exposició no autoritzada de dades sensibles.

A diferència del DLP tradicional (que protegeix fitxers, correus i endpoints), el DLP per a IA actua sobre el text dels missatges abans que s'enviïn als models. Pot detectar Informació d'Identificació Personal (PII), dades financeres, credencials, secrets comercials o dades de salut, i aplicar accions com bloquejar l'enviament, advertir l'usuari, anonimitzar les dades sensibles en temps real o enviar el prompt a revisió manual.

coordinat.io implementa el DLP mitjançant l'anàlisi de patrons (regex) i regles configurables, aplicades al gateway abans que cap dada arribi al proveïdor d'IA.

BYOK — Bring Your Own Key

El BYOK (Bring Your Own Key) és la modalitat en què una empresa fa servir les seves pròpies claus API i contractes directes amb els proveïdors d'IA (OpenAI, Anthropic, Google, etc.), en lloc de consumir IA a través d'un intermediari que factura l'ús.

Els avantatges principals del BYOK són: control total sobre els costos (es paga directament al proveïdor sense sobrecostos), més visibilitat sobre els termes de privadesa aplicables i la possibilitat de negociar tarifes corporatives amb els proveïdors.

A coordinat.io, el BYOK està disponible des del pla Basic. La plataforma actua com a proxy transparent: rep les peticions, aplica les polítiques de seguretat i les reenvia al proveïdor amb les claus pròpies del client. El client paga directament a OpenAI, Anthropic o Google.

AI Gateway

Un AI Gateway és un component d'infraestructura que actua com a punt d'entrada centralitzat per a totes les peticions a models d'intel·ligència artificial dins d'una organització. De manera similar a un API Gateway en arquitectures de microserveis, l'AI Gateway intercepta el trànsit d'IA abans que arribi als proveïdors.

Les funcions típiques d'un AI Gateway inclouen: autenticació i autorització, aplicació de polítiques de seguretat (DLP), registre d'activitat, limitació de velocitat (rate limiting), balanceig de càrrega entre proveïdors, fallback automàtic davant de fallades i optimització de models.

coordinat.io exposa un AI Gateway amb API compatible amb l'especificació d'OpenAI, cosa que permet a les organitzacions adoptar el govern de la IA sense modificar les aplicacions existents: només cal apuntar la URL base a coordinat.io.

Shadow AI

El Shadow AI (IA a l'ombra) és l'ús no autoritzat o no supervisat d'eines d'intel·ligència artificial per part dels empleats, fora del coneixement i el control del departament d'IT, de seguretat o de la direcció de l'organització.

El fenomen és anàleg al "Shadow IT" que va sorgir amb l'adopció massiva de serveis al núvol. Estudis recents indiquen que entre el 70% i el 80% dels empleats fan servir eines d'IA a la feina, independentment de si l'empresa les ha autoritzat o no.

Els riscos del Shadow AI inclouen: filtració de dades confidencials a través de prompts no controlats, ús d'eines que no compleixen amb el GDPR o altres normatives, costos incontrolats si l'empleat fa servir eines de pagament amb targeta corporativa, i absència total de traçabilitat per a auditories.

La solució més efectiva no és bloquejar l'accés a la IA (cosa que redueix la productivitat sense eliminar el risc), sinó centralitzar l'accés a través d'una plataforma de govern que permeti l'ús controlat i auditat.

Routing intel·ligent de models d'IA

El routing intel·ligent de models d'IA (Intelligent Model Routing) és la selecció automàtica del model de llenguatge més adequat per a cada petició concreta, amb l'objectiu de minimitzar el cost sense sacrificar la qualitat de la resposta.

La lògica de routing es basa a classificar la complexitat de cada petició abans d'enviar-la al model. Una pregunta simple ("tradueix aquesta frase") no necessita el mateix model que una tasca complexa ("analitza aquest contracte i detecta clàusules abusives"). Els models "nano" (les versions més econòmiques de cada proveïdor) costen fins a 10 vegades menys que els models "top" (les versions més avançades), per a tasques on la diferència de qualitat és imperceptible.

coordinat.io implementa un routing heurístic basat en el contingut del prompt: longitud, vocabulari, tipus de tasca sol·licitada i context. La classificació és instantània, sense trucades addicionals a APIs, i pot estalviar entre un 20% i un 40% en costos d'IA per a organitzacions amb ús intensiu de models premium.

AI Act — Reglament Europeu d'IA

L'AI Act (Reglament UE 2024/1689 del Parlament Europeu i del Consell) és el primer marc regulatori integral sobre intel·ligència artificial del món. Publicat al Diari Oficial de la UE el juliol de 2024, estableix obligacions per als proveïdors, operadors i usuaris de sistemes d'IA en funció del nivell de risc.

El Reglament classifica els sistemes d'IA en quatre categories de risc: inacceptable (prohibits), alt risc (amb obligacions estrictes de transparència, gestió de riscos i documentació), risc limitat (amb obligacions de transparència) i risc mínim (sense obligacions específiques).

Per a les empreses que fan servir models de propòsit general (com els d'OpenAI, Anthropic o Google) en contextos interns, les obligacions principals són: documentar-ne l'ús, implementar la gestió de riscos, garantir la supervisió humana i mantenir registres d'activitat auditables.

coordinat.io ajuda les organitzacions a complir amb l'AI Act proporcionant un registre complet de tota l'activitat d'IA, informes de compliment exportables i controls de polítiques configurables.

Prompt Injection

El prompt injection és una tècnica d'atac en què s'inclouen instruccions malicioses dins d'un prompt per manipular el comportament d'un model de llenguatge (LLM) i aconseguir que faci accions no autoritzades, reveli informació confidencial del sistema o eludeixi controls de seguretat.

Hi ha dues variants principals: el direct prompt injection (l'usuari inclou instruccions adversàries directament al seu missatge) i l'indirect prompt injection (les instruccions malicioses s'introdueixen a través de contingut extern que el model processa, com una pàgina web o un document).

Per a les organitzacions que despleguen assistents d'IA o fan servir LLMs en processos automatitzats, el prompt injection representa un vector d'atac real que pot comprometre la confidencialitat dels system prompts, les dades processades o la integritat dels fluxos de treball. La defensa inclou la sanitització d'inputs, la separació clara d'instruccions i dades, i la monitorització de patrons anòmals als prompts.

FinOps de IA — Chargeback

El FinOps de IA aplica la disciplina de gestió financera del núvol al consum d'intel·ligència artificial: mesurar la despesa real, assignar-la a qui la genera i optimitzar-la de manera contínua. El chargeback n'és el mecanisme central: imputar el cost de IA al client, projecte o departament que el consumeix.

Per a les empreses de serveis (consultores, agències, despatxos) és especialment crític: si la IA es fa servir per a feina de clients però el seu cost no s'imputa a cada compte, aquesta despesa erosiona el marge sense que ningú ho vegi. Un programa de FinOps de IA distingeix a més el cost facturable de l'intern i detecta la despesa sense assignar.

coordinat.io implementa el FinOps de IA de manera nativa: cada petició queda associada a un usuari, projecte i departament, amb regles d'imputació (overhead, facturable/intern) i exportació comptable en CSV.

Govern d'agents de IA

El govern d'agents de IA és el conjunt de controls que supervisen els agents autònoms: sistemes de IA que no només responen preguntes, sinó que executen accions — cridar eines, consultar APIs, modificar dades.

A diferència d'un xat, un agent actua. Això exigeix controls addicionals: aprovació humana abans d'accions sensibles (human-in-the-loop), registre de cada eina executada amb els seus paràmetres i resultats, i límits sobre quines eines pot fer servir cada agent.

coordinat.io registra cada sessió d'agent amb traçabilitat completa de les seves tool calls i aplica fluxos d'aprovació humana configurables abans que un agent executi accions externes.

RAG — Retrieval-Augmented Generation

El RAG (Retrieval-Augmented Generation) és la tècnica que permet a un model de llenguatge respondre fent servir el coneixement propi d'una organització: abans de generar la resposta, el sistema recupera els fragments rellevants dels documents de l'empresa i els proporciona al model com a context.

Sense RAG, un model només sap allò que va aprendre en l'entrenament: respon bé sobre coneixement general i malament sobre el negoci concret. Amb RAG, les respostes citen procediments, contractes o documentació interna reals, cosa que redueix les al·lucinacions i fa la IA útil per a la feina diària.

A coordinat.io, les bases de coneixement permeten pujar documents corporatius que els assistents fan servir com a font, sempre dins del perímetre de seguretat de l'organització: el coneixement no surt de les polítiques de l'empresa.