Glossário de IA corporativa

AI Governance — Governança de IA

A governança de inteligência artificial (AI Governance) é o conjunto de políticas, frameworks, processos e controlos que uma organização estabelece para garantir que o uso de IA seja seguro, ético, transparente e conforme com a regulamentação aplicável.

Um programa de AI Governance eficaz define quem pode usar IA, com que ferramentas, para que tarefas, com que dados e sob que supervisão. Estabelece também mecanismos de responsabilização e procedimentos de resposta a incidentes relacionados com IA.

No contexto europeu, o AI Act (Regulamento UE 2024/1689) obriga as organizações a implementar sistemas de gestão de riscos para os sistemas de IA de alto risco, o que torna a AI Governance uma necessidade regulamentar além de uma boa prática.

DLP — Data Loss Prevention para IA

O Data Loss Prevention (DLP) no contexto da inteligência artificial refere-se às tecnologias e políticas que analisam os prompts e as respostas dos modelos de linguagem para detetar, alertar ou prevenir a exposição não autorizada de dados sensíveis.

Ao contrário do DLP tradicional (que protege ficheiros, e-mails e endpoints), o DLP para IA atua sobre o texto das mensagens antes de serem enviadas aos modelos. Pode detetar Informação de Identificação Pessoal (PII), dados financeiros, credenciais, segredos comerciais ou dados de saúde, e aplicar ações como bloquear o envio, avisar o utilizador, anonimizar os dados sensíveis em tempo real ou enviar o prompt para revisão manual.

A coordinat.io implementa o DLP através de análise de padrões (regex) e regras configuráveis, aplicadas no gateway antes de qualquer dado chegar ao fornecedor de IA.

BYOK — Bring Your Own Key

O BYOK (Bring Your Own Key) é a modalidade em que uma empresa utiliza as suas próprias chaves de API e contratos diretos com os fornecedores de IA (OpenAI, Anthropic, Google, etc.), em vez de consumir IA através de um intermediário que fatura o uso.

As principais vantagens do BYOK são: controlo total dos custos (paga-se diretamente ao fornecedor, sem margens), maior visibilidade sobre os termos de privacidade aplicáveis e a possibilidade de negociar tarifas empresariais com os fornecedores.

Na coordinat.io, o BYOK está disponível a partir do plano Basic. A plataforma atua como um proxy transparente: recebe os pedidos, aplica as políticas de segurança e reencaminha-os ao fornecedor usando as chaves próprias do cliente. O cliente paga diretamente à OpenAI, Anthropic ou Google.

AI Gateway

Um AI Gateway é um componente de infraestrutura que funciona como ponto de entrada centralizado para todos os pedidos aos modelos de inteligência artificial dentro de uma organização. À semelhança de um API Gateway em arquiteturas de microsserviços, o AI Gateway interceta o tráfego de IA antes de chegar aos fornecedores.

As funções típicas de um AI Gateway incluem: autenticação e autorização, aplicação de políticas de segurança (DLP), registo de atividade, limitação de taxa (rate limiting), balanceamento de carga entre fornecedores, fallback automático em caso de falhas e otimização de modelos.

A coordinat.io expõe um AI Gateway com API compatível com a especificação da OpenAI, o que permite às organizações adotar a governança de IA sem modificar as aplicações existentes: basta apontar o URL base para a coordinat.io.

Shadow AI

O Shadow AI (IA na sombra) é o uso não autorizado ou não supervisionado de ferramentas de inteligência artificial pelos colaboradores, fora do conhecimento e do controlo do departamento de TI, de segurança ou da direção da organização.

O fenómeno é análogo ao "Shadow IT" que surgiu com a adoção massiva de serviços na cloud. Estudos recentes indicam que entre 70% e 80% dos colaboradores usam ferramentas de IA no trabalho, independentemente de a empresa as ter autorizado.

Os riscos do Shadow AI incluem: fuga de dados confidenciais através de prompts não controlados, uso de ferramentas que não cumprem o RGPD ou outras regulamentações, custos descontrolados quando o colaborador usa ferramentas pagas com cartão da empresa, e a ausência total de rastreabilidade para auditorias.

A solução mais eficaz não é bloquear o acesso à IA (o que reduz a produtividade sem eliminar o risco), mas centralizar o acesso através de uma plataforma de governança que permita um uso controlado e auditável.

Routing inteligente de modelos de IA

O routing inteligente de modelos de IA (Intelligent Model Routing) é a seleção automática do modelo de linguagem mais adequado para cada pedido concreto, com o objetivo de minimizar o custo sem sacrificar a qualidade da resposta.

A lógica de routing baseia-se em classificar a complexidade de cada pedido antes de o enviar a um modelo. Uma pergunta simples ("traduz esta frase") não precisa do mesmo modelo que uma tarefa complexa ("analisa este contrato e deteta cláusulas abusivas"). Os modelos "nano" (as versões mais económicas de cada fornecedor) custam até 10 vezes menos do que os modelos "top" (as versões mais avançadas), para tarefas em que a diferença de qualidade é impercetível.

A coordinat.io implementa um routing heurístico baseado no conteúdo do prompt: comprimento, vocabulário, tipo de tarefa solicitada e contexto. A classificação é instantânea, sem chamadas de API adicionais, e pode poupar entre 20% e 40% nos custos de IA a organizações com uso intensivo de modelos premium.

AI Act — Regulamento Europeu de IA

O AI Act (Regulamento UE 2024/1689 do Parlamento Europeu e do Conselho) é o primeiro quadro regulamentar abrangente do mundo sobre inteligência artificial. Publicado no Jornal Oficial da UE em julho de 2024, estabelece obrigações para os fornecedores, operadores e utilizadores de sistemas de IA em função do nível de risco.

O Regulamento classifica os sistemas de IA em quatro categorias de risco: inaceitável (proibidos), alto risco (com obrigações rigorosas de transparência, gestão de riscos e documentação), risco limitado (com obrigações de transparência) e risco mínimo (sem obrigações específicas).

Para as empresas que usam modelos de uso geral (como os da OpenAI, Anthropic ou Google) em contextos internos, as obrigações principais são: documentar o uso, implementar gestão de riscos, garantir a supervisão humana e manter registos de atividade auditáveis.

A coordinat.io ajuda as organizações a cumprir o AI Act ao fornecer um registo completo de toda a atividade de IA, relatórios de conformidade exportáveis e controlos de políticas configuráveis.

Prompt Injection

O prompt injection é uma técnica de ataque na qual se incluem instruções maliciosas dentro de um prompt para manipular o comportamento de um modelo de linguagem (LLM) e conseguir que realize ações não autorizadas, revele informação confidencial do sistema ou contorne controlos de segurança.

Existem duas variantes principais: o direct prompt injection (o utilizador inclui instruções adversárias diretamente na sua mensagem) e o indirect prompt injection (as instruções maliciosas são introduzidas através de conteúdo externo que o modelo processa, como uma página web ou um documento).

Para as organizações que implementam assistentes de IA ou usam LLMs em processos automatizados, o prompt injection representa um vetor de ataque real que pode comprometer a confidencialidade dos system prompts, os dados processados ou a integridade dos fluxos de trabalho. As defesas incluem a sanitização de inputs, a separação clara entre instruções e dados, e a monitorização de padrões anómalos nos prompts.

FinOps de IA — Chargeback

O FinOps de IA aplica a disciplina de gestão financeira da cloud ao consumo de inteligência artificial: medir o gasto real, atribuí-lo a quem o gera e otimizá-lo de forma contínua. O chargeback é o seu mecanismo central: imputar o custo de IA ao cliente, projeto ou departamento que o consome.

Para as empresas de serviços (consultoras, agências, escritórios de advogados) é especialmente crítico: se a IA é usada para trabalho de clientes mas o seu custo não é imputado a cada conta, esse gasto corrói a margem sem que ninguém o veja. Um programa de FinOps de IA distingue ainda o custo faturável do interno e deteta o gasto por atribuir.

O coordinat.io implementa o FinOps de IA de forma nativa: cada pedido fica associado a um utilizador, projeto e departamento, com regras de imputação (overhead, faturável/interno) e exportação contabilística em CSV.

Governação de agentes de IA

A governação de agentes de IA é o conjunto de controlos que supervisionam os agentes autónomos: sistemas de IA que não se limitam a responder a perguntas, mas executam ações — chamar ferramentas, consultar APIs, modificar dados.

Ao contrário de um chat, um agente age. Isso exige controlos adicionais: aprovação humana antes de ações sensíveis (human-in-the-loop), registo de cada ferramenta executada com os seus parâmetros e resultados, e limites sobre que ferramentas cada agente pode usar.

O coordinat.io regista cada sessão de agente com rastreabilidade completa das suas tool calls e aplica fluxos de aprovação humana configuráveis antes de um agente executar ações externas.

RAG — Retrieval-Augmented Generation

O RAG (Retrieval-Augmented Generation) é a técnica que permite a um modelo de linguagem responder usando o conhecimento próprio de uma organização: antes de gerar a resposta, o sistema recupera os fragmentos relevantes dos documentos da empresa e fornece-os ao modelo como contexto.

Sem RAG, um modelo só sabe o que aprendeu no treino: responde bem sobre conhecimento geral e mal sobre o negócio concreto. Com RAG, as respostas citam procedimentos, contratos ou documentação interna reais, o que reduz as alucinações e torna a IA útil para o trabalho diário.

No coordinat.io, as bases de conhecimento permitem carregar documentos corporativos que os assistentes usam como fonte, sempre dentro do perímetro de segurança da organização: o conhecimento não sai das políticas da empresa.