Unternehmens-KI-Glossar

AI Governance — KI-Governance

KI-Governance (AI Governance) ist die Gesamtheit der Richtlinien, Rahmenwerke, Prozesse und Kontrollen, die eine Organisation einführt, um sicherzustellen, dass ihr Einsatz von KI sicher, ethisch, transparent und im Einklang mit den geltenden Vorschriften erfolgt.

Ein wirksames KI-Governance-Programm legt fest, wer KI nutzen darf, mit welchen Tools, für welche Aufgaben, mit welchen Daten und unter welcher Aufsicht. Es schafft außerdem Mechanismen der Rechenschaftspflicht und Verfahren zur Reaktion auf KI-bezogene Vorfälle.

Im europäischen Kontext verpflichtet der AI Act (Verordnung EU 2024/1689) Organisationen dazu, für KI-Systeme mit hohem Risiko Risikomanagementsysteme einzuführen, wodurch KI-Governance neben einer bewährten Praxis auch zu einer regulatorischen Notwendigkeit wird.

DLP — Data Loss Prevention für KI

Data Loss Prevention (DLP) im Kontext der künstlichen Intelligenz bezeichnet die Technologien und Richtlinien, die die Prompts und Antworten von Sprachmodellen analysieren, um die unbefugte Offenlegung sensibler Daten zu erkennen, davor zu warnen oder sie zu verhindern.

Anders als klassisches DLP (das Dateien, E-Mails und Endpoints schützt) setzt DLP für KI am Text der Nachrichten an, bevor diese an die Modelle gesendet werden. Es kann personenbezogene Daten (PII), Finanzdaten, Zugangsdaten, Geschäftsgeheimnisse oder Gesundheitsdaten erkennen und Maßnahmen anwenden wie das Blockieren des Versands, das Warnen des Nutzers, das Anonymisieren sensibler Daten in Echtzeit oder das Senden des Prompts zur manuellen Prüfung.

coordinat.io setzt DLP über Musteranalyse (Regex) und konfigurierbare Regeln um, die im Gateway angewendet werden, bevor irgendwelche Daten den KI-Anbieter erreichen.

BYOK — Bring Your Own Key

BYOK (Bring Your Own Key) ist das Modell, bei dem ein Unternehmen seine eigenen API-Schlüssel und direkten Verträge mit den KI-Anbietern (OpenAI, Anthropic, Google usw.) nutzt, anstatt KI über einen Vermittler zu beziehen, der die Nutzung abrechnet.

Die wichtigsten Vorteile von BYOK sind: volle Kostenkontrolle (man zahlt direkt an den Anbieter, ohne Aufschläge), bessere Transparenz über die geltenden Datenschutzbedingungen und die Möglichkeit, Unternehmenstarife mit den Anbietern auszuhandeln.

Bei coordinat.io ist BYOK ab dem Basic-Plan verfügbar. Die Plattform fungiert als transparenter Proxy: Sie empfängt die Anfragen, wendet die Sicherheitsrichtlinien an und leitet sie mit den eigenen Schlüsseln des Kunden an den Anbieter weiter. Der Kunde zahlt direkt an OpenAI, Anthropic oder Google.

AI Gateway

Ein AI Gateway ist eine Infrastrukturkomponente, die als zentraler Einstiegspunkt für alle Anfragen an KI-Modelle innerhalb einer Organisation dient. Ähnlich wie ein API-Gateway in Microservice-Architekturen fängt das AI Gateway den KI-Verkehr ab, bevor er die Anbieter erreicht.

Typische Funktionen eines AI Gateway sind: Authentifizierung und Autorisierung, Durchsetzung von Sicherheitsrichtlinien (DLP), Aktivitätsprotokollierung, Rate Limiting, Lastverteilung zwischen Anbietern, automatischer Fallback bei Ausfällen und Modelloptimierung.

coordinat.io stellt ein AI Gateway mit einer zur OpenAI-Spezifikation kompatiblen API bereit, sodass Organisationen KI-Governance einführen können, ohne ihre bestehenden Anwendungen zu ändern: Es genügt, die Basis-URL auf coordinat.io zu richten.

Shadow AI

Shadow AI (Schatten-KI) ist die unbefugte oder unbeaufsichtigte Nutzung von KI-Tools durch Mitarbeitende, ohne Wissen und Kontrolle der IT-, Sicherheits- oder Führungsebene der Organisation.

Das Phänomen ist analog zur „Shadow IT", die mit der massenhaften Einführung von Cloud-Diensten entstand. Aktuelle Studien deuten darauf hin, dass 70 % bis 80 % der Mitarbeitenden KI-Tools bei der Arbeit nutzen, unabhängig davon, ob das Unternehmen sie genehmigt hat.

Zu den Risiken von Shadow AI zählen: Abfluss vertraulicher Daten über unkontrollierte Prompts, Nutzung von Tools, die nicht DSGVO-konform oder anderweitig regelkonform sind, unkontrollierte Kosten, wenn Mitarbeitende kostenpflichtige Tools über eine Firmenkarte nutzen, und das völlige Fehlen von Nachvollziehbarkeit für Audits.

Die wirksamste Lösung ist nicht, den Zugang zu KI zu sperren (das senkt die Produktivität, ohne das Risiko zu beseitigen), sondern den Zugang über eine Governance-Plattform zu zentralisieren, die eine kontrollierte und auditierbare Nutzung ermöglicht.

Intelligentes Routing von KI-Modellen

Intelligentes Modell-Routing (Intelligent Model Routing) ist die automatische Auswahl des am besten geeigneten Sprachmodells für jede einzelne Anfrage, mit dem Ziel, die Kosten zu minimieren, ohne die Antwortqualität zu beeinträchtigen.

Die Routing-Logik beruht darauf, die Komplexität jeder Anfrage zu klassifizieren, bevor sie an ein Modell gesendet wird. Eine einfache Frage („übersetze diesen Satz") benötigt nicht dasselbe Modell wie eine komplexe Aufgabe („analysiere diesen Vertrag und erkenne missbräuchliche Klauseln"). „Nano"-Modelle (die günstigsten Versionen jedes Anbieters) kosten bis zu zehnmal weniger als „Top"-Modelle (die fortschrittlichsten Versionen), bei Aufgaben, bei denen der Qualitätsunterschied nicht wahrnehmbar ist.

coordinat.io setzt ein heuristisches Routing auf Basis des Prompt-Inhalts um: Länge, Vokabular, Art der angeforderten Aufgabe und Kontext. Die Klassifizierung erfolgt sofort, ohne zusätzliche API-Aufrufe, und kann Organisationen mit intensiver Nutzung von Premium-Modellen zwischen 20 % und 40 % der KI-Kosten einsparen.

AI Act — Europäische KI-Verordnung

Der AI Act (Verordnung EU 2024/1689 des Europäischen Parlaments und des Rates) ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz. Im Juli 2024 im Amtsblatt der EU veröffentlicht, legt er Pflichten für Anbieter, Betreiber und Nutzer von KI-Systemen je nach Risikoniveau fest.

Die Verordnung teilt KI-Systeme in vier Risikokategorien ein: inakzeptabel (verboten), hohes Risiko (mit strengen Pflichten zu Transparenz, Risikomanagement und Dokumentation), begrenztes Risiko (mit Transparenzpflichten) und minimales Risiko (ohne spezifische Pflichten).

Für Unternehmen, die Allzweckmodelle (wie die von OpenAI, Anthropic oder Google) in internen Kontexten nutzen, sind die wichtigsten Pflichten: die Nutzung zu dokumentieren, ein Risikomanagement einzuführen, die menschliche Aufsicht sicherzustellen und auditierbare Aktivitätsprotokolle zu führen.

coordinat.io unterstützt Organisationen bei der Einhaltung des AI Act durch eine vollständige Protokollierung sämtlicher KI-Aktivität, exportierbare Compliance-Berichte und konfigurierbare Richtlinienkontrollen.

Prompt Injection

Prompt Injection ist eine Angriffstechnik, bei der bösartige Anweisungen in einen Prompt eingebettet werden, um das Verhalten eines Sprachmodells (LLM) zu manipulieren und es dazu zu bringen, unbefugte Aktionen auszuführen, vertrauliche Systeminformationen preiszugeben oder Sicherheitskontrollen zu umgehen.

Es gibt zwei Hauptvarianten: die direkte Prompt Injection (der Nutzer bettet gegnerische Anweisungen direkt in seine Nachricht ein) und die indirekte Prompt Injection (die bösartigen Anweisungen werden über externe Inhalte eingeschleust, die das Modell verarbeitet, etwa eine Webseite oder ein Dokument).

Für Organisationen, die KI-Assistenten einsetzen oder LLMs in automatisierten Prozessen nutzen, stellt Prompt Injection einen realen Angriffsvektor dar, der die Vertraulichkeit von System-Prompts, die verarbeiteten Daten oder die Integrität von Workflows gefährden kann. Zu den Abwehrmaßnahmen gehören die Bereinigung von Eingaben, die klare Trennung von Anweisungen und Daten sowie die Überwachung auf anomale Muster in den Prompts.

KI-FinOps — Chargeback

KI-FinOps überträgt die Finanzmanagement-Disziplin der Cloud auf den Verbrauch künstlicher Intelligenz: die tatsächlichen Ausgaben messen, demjenigen zuordnen, der sie verursacht, und kontinuierlich optimieren. Chargeback ist der zentrale Mechanismus: die KI-Kosten dem Kunden, Projekt oder der Abteilung zuzurechnen, die sie verbrauchen.

Für Dienstleistungsunternehmen (Beratungen, Agenturen, Kanzleien) ist das besonders kritisch: Wird KI für Kundenarbeit genutzt, ohne die Kosten den einzelnen Konten zuzuordnen, schmälern diese Ausgaben unbemerkt die Marge. Ein KI-FinOps-Programm unterscheidet außerdem abrechenbare von internen Kosten und erkennt nicht zugeordnete Ausgaben.

coordinat.io implementiert KI-FinOps nativ: Jede Anfrage wird einem Nutzer, Projekt und einer Abteilung zugeordnet, mit Zuordnungsregeln (Overhead, abrechenbar/intern) und Buchhaltungsexport als CSV.

Governance von KI-Agenten

Die Governance von KI-Agenten ist die Gesamtheit der Kontrollen zur Überwachung autonomer Agenten: KI-Systeme, die nicht nur Fragen beantworten, sondern Aktionen ausführen — Tools aufrufen, APIs abfragen, Daten verändern.

Anders als ein Chat handelt ein Agent. Das erfordert zusätzliche Kontrollen: menschliche Freigabe vor sensiblen Aktionen (Human-in-the-Loop), ein Protokoll jedes ausgeführten Tools mit Parametern und Ergebnissen sowie Grenzen, welche Tools jeder Agent nutzen darf.

coordinat.io protokolliert jede Agentensitzung mit vollständiger Nachvollziehbarkeit der Tool Calls und wendet konfigurierbare menschliche Freigabe-Workflows an, bevor ein Agent externe Aktionen ausführt.

RAG — Retrieval-Augmented Generation

RAG (Retrieval-Augmented Generation) ist die Technik, mit der ein Sprachmodell mit dem eigenen Wissen einer Organisation antworten kann: Vor der Antwortgenerierung ruft das System die relevanten Fragmente aus den Unternehmensdokumenten ab und stellt sie dem Modell als Kontext bereit.

Ohne RAG weiß ein Modell nur, was es im Training gelernt hat: Es antwortet gut zu Allgemeinwissen und schlecht zum konkreten Geschäft. Mit RAG zitieren die Antworten echte Prozesse, Verträge oder interne Dokumentation — das reduziert Halluzinationen und macht KI für die tägliche Arbeit nützlich.

In coordinat.io ermöglichen Wissensdatenbanken das Hochladen von Unternehmensdokumenten, die Assistenten als Quelle nutzen — stets innerhalb des Sicherheitsperimeters der Organisation: Das Wissen verlässt die Unternehmensrichtlinien nicht.