KI-Governance scheitert am Betriebsmodell
Richtlinien begrenzen Risiken nur auf dem Papier. Wirksame Governance muss in Entscheidungen, Übergaben, Kennzeichnung und laufenden Betrieb eingebaut werden.

In 30 Sekunden
Der AI Act lässt sich nicht mit einer Richtlinie operationalisieren. Unternehmen brauchen ein Betriebsmodell, das Rollen, Evidenz, Freigaben, Änderungen und Eingriffsrechte direkt in den Lieferprozess von KI-Systemen einbaut.
Rechtsklassifikation und operative Wirkungsklasse müssen getrennt, aber in einem gemeinsamen Inventar geführt werden.
Jede Freigabe braucht überprüfbare Evidenz, ein benanntes Restrisiko, eine Gültigkeitsdauer und ein getestetes Eingriffsrecht.
Ein föderiertes Kontrollmodell ist einem zentralen Freigabestau überlegen, sofern Standards und Eskalationsgrenzen verbindlich sind.
Position der Redaktion
Transformation Briefing hält rein dokumentenzentrierte KI-Governance für ein Scheinsystem. Regulierung wird erst wirksam, wenn sie die reale Produktentscheidung verändert und ein System kontrolliert gestoppt werden kann.
Viele Unternehmen besitzen inzwischen KI-Grundsätze, Freigabegremien und erste Modellinventare. Trotzdem bleibt im Alltag häufig offen, wer eine Anwendung freigibt, welche Evidenz dafür genügt und wer eingreift, wenn sich Daten, Modell oder Nutzungskontext verändern. Das Problem ist nicht der Mangel an Regeln. Es ist ihre fehlende Übersetzung in ein Betriebsmodell.
Diese Lücke wird dringlicher. Die KI-Nutzung europäischer Unternehmen ist 2025 deutlich gestiegen; Eurostat weist 20 Prozent gegenüber 13,5 Prozent im Vorjahr aus. [6] Gleichzeitig treten weitere Teile des AI Act in die operative Anwendung. Governance muss deshalb vom Grundsatzpapier in Produktaufnahme, Architektur, Lieferprozess und Betrieb wandern.
Governance beginnt mit einer Landkarte realer Entscheidungen
Eine tragfähige Governance startet nicht mit einem zusätzlichen Gremium, sondern mit sechs präzisen Entscheidungen:
- Welchen Handlungsspielraum erhält das System?
- Welche Folgen können aus seiner Nutzung entstehen?
- Welche Person trägt das Ergebnis im Geschäft?
- Welche Evidenz ist vor einer Freigabe erforderlich?
- Welche Abweichung löst eine Intervention aus?
- Wer darf Nutzung, Modell oder Datenquelle einschränken?
„Human in the loop“ ist keine belastbare Antwort, solange Rolle, Zeitpunkt, Informationsgrundlage und Eingriffsrecht dieses Menschen offenbleiben. Eine Kontrolle, die unter Zeitdruck regelmäßig übersprungen wird, existiert nur nominell.
Regulatorischer Kalender ist nicht gleich Risikokalender
Der AI Act gilt stufenweise. Verbote bestimmter Praktiken und Anforderungen an KI-Kompetenz greifen seit Februar 2025; Governance- und GPAI-Regeln seit August 2025. Weitere Transparenzpflichten greifen ab 2. August 2026, während sich die Zeitplanung für bestimmte Hochrisikoanforderungen verändert hat. [1]
Für Unternehmen ist entscheidend, Rechtskalender und Risikokalender zu trennen. Eine Anwendung kann heute bereits ein erhebliches Geschäfts-, Sicherheits- oder Reputationsrisiko besitzen, auch wenn eine spezielle Pflicht erst später greift. Umgekehrt kann ein formal erfasster Anwendungsfall bei engem Mandat und niedriger Wirkung einen schlanken Kontrollweg verdienen.
Ein gutes Modell führt deshalb zwei Klassifikationen:
- rechtlicher Status: Welche Rolle hat das Unternehmen, welche Norm gilt, welche Pflicht folgt?
- operative Wirkung: Wie autonom handelt das System, wie reversibel sind Folgen, wie schnell werden Fehler sichtbar?
Vier Wirkungsklassen statt eines Einheitsprozesses
Eine praktikable interne Ordnung kann KI-Anwendungen nach tatsächlicher Eingriffstiefe unterscheiden:
Assistenz
Das System bereitet Informationen auf. Ein Mensch prüft und entscheidet vollständig. Kontrollen fokussieren Datenzugang, Vertraulichkeit, Qualitätsgrenzen und Kennzeichnung.
Empfehlung
Das System gewichtet Optionen und prägt wiederkehrend Entscheidungen. Zusätzlich braucht es Vergleichstests, Bias-Analysen, Protokollierung und eine Beobachtung menschlicher Übernahmeeffekte.
Delegation
Das System handelt innerhalb eines definierten Mandats. Notwendig sind harte Aktionsgrenzen, Freigabeschwellen, Fallbacks, Transaktionsprotokolle und unmittelbare Eingriffsrechte.
Kritische Autonomie
Fehler können erhebliche rechtliche, finanzielle oder gesellschaftliche Folgen auslösen. Hier sind unabhängige Prüfung, Red-Teaming, Stresstests, Krisenabläufe und Vorstandstransparenz angemessen.
Die Klasse bestimmt nicht nur die Prüftiefe. Sie bestimmt, welches Team beteiligt sein muss und wie viel Unsicherheit akzeptiert werden darf.
Transparenz wird zum Produktmerkmal
Die Kommission veröffentlichte am 20. Juli 2026 Leitlinien zu den Transparenzpflichten des Artikels 50; diese Pflichten gelten ab 2. August 2026. [2] Betroffen sind unter anderem Systeme, die direkt mit Menschen interagieren, sowie die maschinenlesbare Markierung bestimmter generierter Inhalte. Für Deepfakes und KI-generierte oder manipulierte Texte zu Themen von öffentlichem Interesse bestehen zusätzliche Offenlegungspflichten. [3]
Das lässt sich nicht am Ende durch einen pauschalen Hinweis lösen. Transparenz muss in vier Schichten gestaltet werden:
- Interaktion: Erkennt ein Mensch, dass er mit einem KI-System kommuniziert?
- Herkunft: Kann ein Inhalt technisch und sichtbar als generiert oder verändert erkannt werden?
- Verantwortung: Ist verständlich, wer das System betreibt und Beschwerden bearbeitet?
- Grenzen: Werden relevante Unsicherheiten und ungeeignete Nutzungen erklärt?
GPAI verändert die Lieferantenbeziehung
Für Anbieter allgemeiner KI-Modelle gelten seit August 2025 Dokumentations-, Copyright- und Transparenzpflichten; Anbieter systemisch riskanter Modelle müssen zusätzliche Risiko-, Sicherheits- und Meldeanforderungen erfüllen. [4] Der GPAI Code of Practice dient als freiwilliges Instrument zur Konkretisierung dieser Anforderungen. [5]
Downstream-Unternehmen sollten daraus eine neue Beschaffungsdisziplin ableiten. Ein Modellvertrag genügt nicht. Sie brauchen Antworten auf:
- Welche Modellversion ist produktiv und wie werden Änderungen angekündigt?
- Welche Informationen zu Fähigkeiten und Grenzen sind verfügbar?
- Welche Daten verlassen die eigene Kontrollsphäre?
- Welche Protokolle, Evaluierungen und Sicherheitszusagen können geprüft werden?
- Welche Exit- und Migrationswege existieren?
Anbietergouvernance ist damit kein Einkaufsthema allein. Sie verbindet Architektur, Recht, Sicherheit, Produkt und Betrieb.
Kontrolle in den Lieferprozess einbauen
Governance muss dort stattfinden, wo Produktentscheidungen ohnehin getroffen werden:
- Aufnahme: Mandat, Wirkungsklasse und rechtlicher Status werden vor Entwicklung geklärt.
- Datenfreigabe: Herkunft, Berechtigung, Repräsentativität und Löschlogik werden dokumentiert.
- Evaluation: Tests decken Normalfälle, Randfälle, Missbrauch, Drift und menschliche Interaktion ab.
- Release: Freigabe basiert auf Evidenz und benennt Restrisiken, Gültigkeitsdauer und Eingriffsrechte.
- Betrieb: Qualität, Kosten, Sicherheitsereignisse und Nutzungsmuster werden laufend beobachtet.
- Änderung: Modell-, Prompt-, Daten- oder Prozessänderungen lösen eine angemessene Neubewertung aus.
- Rückbau: Deaktivierung, Datenaufbewahrung und Ersatzprozess sind vorbereitet.
Gute KI-Governance produziert nicht mehr Dokumente. Sie erhöht die Qualität, Nachvollziehbarkeit und Reversibilität konkreter Entscheidungen.
Verantwortlichkeit ohne Kontrollzentralismus
Ein zentrales KI-Board kann Standards setzen und kritische Fälle entscheiden. Es kann jedoch nicht jede fachliche Veränderung verstehen. Wirksamer ist ein föderiertes Modell:
- gemeinsame Taxonomie und Mindestkontrollen,
- dezentrale Produktverantwortung,
- qualifizierte Risk Champions in den Domänen,
- zentrale Eskalation für hohe Wirkung oder große Unsicherheit,
- unabhängige Prüfung ausgewählter kritischer Systeme.
Die Unternehmensleitung darf drei Dinge nicht delegieren: die akzeptierte Risikobereitschaft, die Verteilung der Entscheidungsrechte und die Ausstattung der Kontrollfähigkeiten.
Das KI-Risikocockpit für den Vorstand
Ein aussagekräftiges Cockpit zählt nicht nur Anwendungen. Es zeigt:
- Anteil inventarisierter Systeme mit benanntem Owner,
- Anwendungen je Wirkungsklasse,
- überfällige Re-Evaluierungen,
- ungeklärte Modell- oder Datenabhängigkeiten,
- Qualitäts- und Sicherheitsabweichungen,
- Zeit bis zur Intervention,
- sowie Systeme ohne getesteten Fallback.
Damit wird Governance zu einer sichtbaren Führungsfähigkeit. Ihr Reifegrad zeigt sich nicht im Umfang des Regelwerks, sondern darin, ob die Organisation unter Zeitdruck gute Entscheidungen trifft und Systeme kontrolliert verändern oder stoppen kann.
Regulierung operativ: vom Artikel zur Kontrollhandlung
Ein Rechtsakt beschreibt Pflichten, Begriffe und Verantwortlichkeiten. Ein Betriebsmodell muss daraus wiederholbare Handlungen machen. Zwischen beiden Ebenen liegt die schwierigste Übersetzungsarbeit: Wer prüft was, zu welchem Zeitpunkt, mit welcher Evidenz und mit welchem Recht, die Lieferung zu stoppen?
Transformation Briefing empfiehlt eine Kontrollmatrix mit fünf Spalten:
| Regulatorisches Ziel | Operative Kontrolle | Evidenz | Verantwortlich | Auslöser für Neubewertung |
|---|---|---|---|---|
| Transparenz | sichtbare und maschinenlesbare Kennzeichnung | Testprotokoll und Produktansicht | Product Owner | Änderung von Ausgabe oder Nutzungskontext |
| menschliche Aufsicht | definierter Eingriffspunkt mit Kompetenz und Zeit | Rollenbeschreibung, Simulation, Protokoll | Geschäftsprozess-Owner | veränderte Autonomie oder Fehlerrate |
| Datenqualität | Herkunft, Eignung und zulässige Nutzung prüfen | Datenblatt, Freigabe, Qualitätsprofil | Data Owner | neue Quelle oder erheblicher Drift |
| Robustheit | Randfälle, Missbrauch und Fallback testen | Evaluationsbericht und offene Abweichungen | Engineering Lead | Modell-, Prompt- oder Systemwechsel |
| Rechenschaft | Entscheidung und Restrisiko nachvollziehbar machen | signierte Freigabe mit Ablaufdatum | Risk Owner | Ablauf, Vorfall oder wesentliche Änderung |
Diese Matrix ist kein universelles Rechtsgutachten. Sie ist die Verbindung zwischen juristischer Auslegung und realem Produktbetrieb. Die Rechtsfunktion bestimmt gemeinsam mit Fachleuten, welche Anforderungen gelten. Produkt, Daten, Sicherheit und Betrieb liefern die Evidenz. Die Geschäftsverantwortung entscheidet, ob der verbleibende Nutzen das Restrisiko rechtfertigt.
Was in eine belastbare Freigabeakte gehört
Viele Freigabeunterlagen sind entweder zu dünn oder so umfangreich, dass niemand die tragende Entscheidung erkennt. Eine gute Akte trennt sieben Bestandteile:
- Mandat: Was soll das System tun, für wen und innerhalb welcher Grenze?
- Wirkungsmodell: Welche unmittelbaren und mittelbaren Folgen kann seine Ausgabe erzeugen?
- Systemkarte: Welche Modelle, Datenquellen, Werkzeuge, Anbieter und menschlichen Rollen wirken zusammen?
- Evaluation: Welche Normal-, Rand- und Missbrauchsfälle wurden mit welchem Ergebnis geprüft?
- Restrisiko: Welche Unsicherheit bleibt, wer akzeptiert sie und wie lange gilt die Entscheidung?
- Betriebsbeobachtung: Welche Signale zeigen Qualitätsverlust, Drift, Missbrauch oder Kostenabweichung?
- Intervention: Wer kann das System beschränken, zurücksetzen oder abschalten, und welcher Ersatzprozess greift dann?
Der Wert der Akte liegt nicht in Vollständigkeit um jeden Preis. Sie muss eine dritte Person in die Lage versetzen, die Entscheidung später zu rekonstruieren. Dafür braucht es Versionen, Datenstände, bekannte Grenzen und eine klare Verbindung zwischen Test und tatsächlichem Nutzungskontext.
Gegenargument eins: Die endgültige Auslegung ist noch in Bewegung
Unternehmen hören häufig den Einwand, man solle mit umfangreicher Umsetzung warten, bis Leitlinien, Standards und nationale Aufsichtspraxis vollständig stabil seien. Das Argument schützt vor teuren Fehlinterpretationen. Es rechtfertigt aber keinen Stillstand.
Unveränderlich sind bereits die betrieblichen Grundfragen: Welche Systeme existieren? Wer verantwortet sie? Welche Daten und Modelle werden genutzt? Welche Wirkung kann entstehen? Wie wird eine Änderung erkannt? Wie kann eingegriffen werden? Diese Fähigkeiten bleiben wertvoll, selbst wenn sich eine rechtliche Detailauslegung verschiebt.
Deshalb sollte die Organisation zwischen stabilen Kontrollfähigkeiten und variablen Rechtsparametern unterscheiden. Inventar, Evidenzspeicher, Rollen, Änderungsmanagement und Vorfallprozess bilden den stabilen Kern. Schwellenwerte, Klassifizierungsregeln oder konkrete Informationspflichten werden konfigurierbar gehalten. So wird Regulierung nicht zu einer Serie hektischer Projekte, sondern zu einer anpassbaren Betriebsfähigkeit.
Gegenargument zwei: Governance bremst Innovation
Schlecht konstruierte Governance bremst tatsächlich. Ein zentrales Gremium, das jeden kleinen Promptwechsel prüft, produziert Wartezeit ohne entsprechenden Risikogewinn. Daraus folgt jedoch nicht, Kontrolle abzuschaffen. Es folgt, die Kontrolltiefe an Wirkung und Veränderung zu koppeln.
Für eine interne Assistenz ohne Außenwirkung kann ein standardisierter Pfad genügen: freigegebene Werkzeuge, zulässige Datenklassen, automatisierte Protokollierung und eine kurze Selbstdeklaration. Für ein System, das Preise setzt, Bewerbungen vorsortiert oder sicherheitsrelevante Maßnahmen beeinflusst, sind unabhängige Tests und explizite Geschäftsfreigabe angemessen.
Gute Governance schafft damit Geschwindigkeit durch Vorhersehbarkeit. Teams wissen früh, welche Nachweise benötigt werden. Wiederkehrende Kontrollen werden als Plattformdienst angeboten. Präzedenzentscheidungen werden dokumentiert. Die zentrale Funktion konzentriert sich auf hohe Wirkung, neue Unsicherheit und Konflikte. Nicht jede Anwendung wird gleich behandelt – aber keine bleibt ohne benannte Verantwortung.
Änderungen sind das eigentliche Governance-Problem
Die Erstfreigabe erhält viel Aufmerksamkeit, obwohl produktive KI-Systeme sich danach laufend verändern. Ein Anbieter aktualisiert ein Modell. Ein Team passt den Systemprompt an. Neue Dokumente erweitern den Wissensraum. Nutzende übertragen das Werkzeug auf einen anderen Prozess. Eine Datenverteilung verschiebt sich. Jede dieser Änderungen kann eine frühere Bewertung entwerten.
Das Betriebsmodell benötigt deshalb Änderungsereignisse, keine pauschale Wiederholungsprüfung. Eine Neubewertung wird ausgelöst, wenn sich mindestens eine der folgenden Größen wesentlich ändert:
- Handlungsspielraum oder betroffene Personengruppe,
- Modellfamilie, Modellversion oder externer Anbieter,
- Datenquelle, Zweckbindung oder geografischer Verarbeitungskontext,
- Schnittstelle zu einem kritischen Prozess,
- beobachtete Fehlerart oder Missbrauchsmuster,
- menschliche Aufsicht, Fallback oder Beschwerdeweg.
Nicht jede Änderung führt zurück an den Anfang. Die Kontrollmatrix zeigt, welche Evidenz betroffen ist. Ein Modellwechsel kann neue Robustheits- und Transparenztests verlangen, während das fachliche Mandat unverändert bleibt. Eine Zweckänderung kann dagegen die gesamte Rechts- und Wirkungsbewertung neu öffnen.
Ein Vorfallprozess, der technisch und organisatorisch funktioniert
Ein KI-Vorfall ist selten nur ein Modellfehler. Er kann aus falschen Daten, missverständlicher Oberfläche, ungeeigneter menschlicher Nutzung oder einer Kette kleiner Entscheidungen entstehen. Der Incident-Prozess muss daher mehr können als Logs sichern.
Er braucht eine gemeinsame Triage: Welche Personen und Entscheidungen sind betroffen? Kann der Schaden fortwirken? Muss das System eingeschränkt oder vollständig gestoppt werden? Welche internen und externen Meldewege greifen? Welche Version, Daten und Konfiguration waren aktiv? Wer kommuniziert mit Betroffenen?
Besonders wichtig ist die Wiederaufnahme. Ein System darf nicht allein deshalb zurückkehren, weil der sichtbare Fehler behoben wurde. Das Team muss die Ursache, die Reichweite, die Wirksamkeit der Korrektur und neue Beobachtungssignale belegen. Bei hoher Wirkung sollte eine von der Produktlinie unabhängige Rolle die Wiederfreigabe bestätigen.
Der Zwölf-Wochen-Plan
Woche 1 bis 3: Das Unternehmen erstellt kein perfektes Inventar, sondern eine risikoorientierte erste Landkarte. Beschaffung, Identitätsplattformen, Cloud-Konten und Fachbereiche liefern Hinweise auf produktive und pilotierte Systeme. Für jeden Eintrag werden Owner, Zweck, Anbieter und vorläufige Wirkungsklasse erfasst.
Woche 4 bis 6: Die vier Wirkungsklassen werden mit Mindestkontrollen, Evidenz und Eskalationsgrenzen verbunden. Drei reale Anwendungen durchlaufen den Prozess. Widersprüche werden als Designfehler des Modells behandelt, nicht als Versagen der Teams.
Woche 7 bis 9: Wiederverwendbare Kontrollen werden technisch unterstützt: Modell- und Datenversionen, Evaluationsprotokolle, Kennzeichnung, Freigabestatus und Betriebsmetriken. Die Organisation testet außerdem, ob ein kritisches System tatsächlich eingeschränkt und durch einen Ersatzprozess überbrückt werden kann.
Woche 10 bis 12: Vorstand oder zuständiges Leitungsgremium beschließt Risikobereitschaft, Entscheidungsrechte und Berichtsbild. Offene Hochwirkungsfälle erhalten eine explizite Entscheidung. Der nächste Zyklus konzentriert sich auf Lieferantenabhängigkeiten und Änderungen im Betrieb.
Die Position von Transformation Briefing
- Ja Hohe Wirkung oder schwer reversible Folgen
Vertiefte Prüfung, unabhängige Evidenz, benannte Freigabe und laufendes Monitoring verlangen.
- Begrenzt Wirkung ist moderat und kontrollierbar
Standardkontrollen nutzen, Stichproben und klare Eskalationsschwellen einrichten.
- Nein Niedriges Risiko, reversible Assistenz
Sicheren Standardpfad freigeben und nur Nutzung sowie Abweichungen beobachten.
Wir widersprechen der Vorstellung, KI-Governance sei primär ein Compliance-Paket, das Produktteams nachträglich ergänzt wird. Diese Sicht produziert entweder Papierkontrolle oder einen Freigabestau. Der bessere Ansatz behandelt Governance als Qualitätsmerkmal des Betriebssystems: Systeme sind inventarisiert, Entscheidungen nachvollziehbar, Änderungen erkennbar und Eingriffe praktisch möglich.
Das zentrale Managementsignal lautet deshalb nicht „100 Prozent der Richtlinie bestätigt“. Es lautet: Wie viele Hochwirkungssysteme besitzen aktuelle Evidenz, einen verantwortlichen Geschäftseigner und einen getesteten Fallback? Diese Zahl ist unangenehmer, aber führungsrelevant.
Regulierung operativ umzusetzen bedeutet, Recht nicht zu vereinfachen, sondern handlungsfähig zu machen. Der Erfolg zeigt sich an einem konkreten Moment: Wenn Zeitdruck, wirtschaftliches Interesse und Unsicherheit zusammenkommen, kann die Organisation trotzdem eine begründete Entscheidung treffen – und sie später belegen.
Management-Assessment
Kann das Unternehmen für jedes produktive KI-System Owner, Wirkungsklasse, Freigabeevidenz und Abschaltweg innerhalb eines Arbeitstages vorlegen?
Den AI Act als Kontrollarchitektur des Produktlebenszyklus umsetzen und die Qualität der Entscheidungen statt der Dokumentenmenge messen.
- Alle produktiven und pilotierten Systeme in ein gemeinsames Wirkungs- und Rechtsinventar überführen.
- Für jede Wirkungsklasse Mindestbelege, Freigaberechte und Änderungsereignisse definieren.
- Drei kritische Systeme mit einem unangekündigten Stop- und Fallback-Test prüfen.
Belege & Vertiefung
Quellenverzeichnis
Verwendet werden nach Möglichkeit Originaldokumente, amtliche Veröffentlichungen und direkt zuordenbare Primärquellen. Herausgeber, Quellenhinweise und Abrufdaten dokumentieren Herkunft und Recherchestand. Unser Quellenstandard
- Europäische KommissionAI Act – regulatory framework and application timeline Abgerufen am 23. Juli 2026
- Europäische KommissionGuidelines on transparency obligations for providers and deployers of AI systems Abgerufen am 23. Juli 2026
- Europäische KommissionTransparency obligations under Article 50 of the AI Act Abgerufen am 23. Juli 2026
- Europäische KommissionGeneral-purpose AI obligations under the AI Act Abgerufen am 23. Juli 2026
- Europäische KommissionThe General-Purpose AI Code of Practice Abgerufen am 23. Juli 2026
- Eurostat20% of EU enterprises use AI technologies Abgerufen am 23. Juli 2026
Transparenz
Versions- und Korrekturhistorie
- Als Format „Regulierung operativ“ um Kontrollmatrix, Gegenargumente und Umsetzungsplan erweitert.
- Erstveröffentlichung.