KI-Governance scheitert am Betriebsmodell
Richtlinien begrenzen Risiken nur auf dem Papier. Wirksame Governance muss in Entscheidungen, Übergaben und den laufenden Betrieb eingebaut werden.
Viele Unternehmen haben inzwischen Grundsätze für den Einsatz künstlicher Intelligenz formuliert. Sie definieren erwünschte Werte, verbieten bestimmte Anwendungen und verlangen menschliche Kontrolle. Dennoch bleibt im Alltag häufig unklar, wer eine Anwendung freigibt, welche Evidenz dafür genügt und wer eingreift, wenn sich ein System nach der Einführung anders verhält als erwartet.
Das Problem ist selten ein Mangel an Regeln. Es ist die fehlende Übersetzung in ein Betriebsmodell. Solange Governance neben der Produktentwicklung stattfindet, wird sie entweder umgangen oder zum späten Prüfpunkt, an dem bereits getroffene Entscheidungen nachträglich legitimiert werden sollen.
Von der Richtlinie zur Entscheidung
Eine tragfähige Governance beginnt nicht mit einem zusätzlichen Gremium, sondern mit einer präzisen Landkarte der Entscheidungen. Für jede KI-Anwendung müssen fünf Fragen beantwortet sein:
- Welchen realen Handlungsspielraum erhält das System?
- Welche Person oder Funktion trägt die Folgen seiner Entscheidungen?
- Welche Evidenz ist vor einer Freigabe erforderlich?
- Welche Abweichung löst eine Intervention aus?
- Wer darf das System einschränken oder abschalten?
Diese Fragen unterscheiden einen abstrakten Kontrollanspruch von einer operativen Fähigkeit. „Human in the loop“ ist beispielsweise keine belastbare Antwort, solange Rolle, Zeitpunkt und Informationsgrundlage dieses Menschen offenbleiben. Eine Kontrolle, die nur nominell existiert oder unter Zeitdruck regelmäßig übersprungen wird, ist keine Kontrolle.
Gute KI-Governance produziert nicht mehr Dokumente. Sie verbessert die Qualität und Reversibilität konkreter Entscheidungen.
Risiken nach Wirkung ordnen
Nicht jede Anwendung braucht dieselbe Prüfintensität. Ein internes Werkzeug zur Zusammenfassung von Sitzungsnotizen unterscheidet sich grundlegend von einem System, das Preise verändert, Bewerbungen vorsortiert oder Zahlungen blockiert. Wer für alle Fälle denselben Prozess vorschreibt, erzeugt entweder unnötige Bürokratie oder eine gefährliche Untersteuerung.
Praktikabler ist eine Einteilung entlang der möglichen Wirkung:
- Assistenz: Das System bereitet Informationen auf; ein Mensch entscheidet vollständig.
- Empfehlung: Das System gewichtet Optionen und beeinflusst regelmäßig Entscheidungen.
- Delegation: Das System handelt innerhalb eines definierten Mandats selbstständig.
- Kritische Autonomie: Fehler können erhebliche finanzielle, rechtliche oder gesellschaftliche Folgen auslösen.
Mit jeder Stufe steigen die Anforderungen an Datenherkunft, Tests, Erklärbarkeit, Freigabe und laufende Beobachtung. Entscheidend ist, dass die Einstufung nicht vom Entwicklungsteam allein vorgenommen wird. Produktverantwortung, Fachbereich, Risiko, Recht, Sicherheit und Betrieb betrachten unterschiedliche Folgen desselben Systems.
Kontrolle in den Lieferprozess einbauen
Das zentrale Designprinzip lautet: Governance muss dort stattfinden, wo Entscheidungen ohnehin getroffen werden. Risikoeinstufung gehört in die Produktaufnahme. Anforderungen an Daten und Tests gehören in die Definition of Done. Freigaben gehören in den Release-Prozess. Beobachtung und Eskalation gehören in den Betrieb.
Ein belastbarer Ablauf umfasst mindestens vier Kontrollpunkte:
1. Mandat
Vor Beginn wird festgelegt, welche Aufgabe das System übernimmt und welche nicht. Ein enger, überprüfbarer Auftrag ist wertvoller als ein großer Katalog allgemeiner Möglichkeiten.
2. Evidenz
Vor der Freigabe muss die Anwendung unter realistischen Bedingungen getestet werden. Dazu gehören nicht nur durchschnittliche Qualität, sondern Randfälle, widersprüchliche Eingaben, unerwünschte Nebenwirkungen und das Verhalten bei fehlenden Daten.
3. Betriebsfähigkeit
Ein Modell ist noch kein Dienst. Verantwortliche brauchen Protokollierung, Zugriffskontrollen, Fallbacks, Kapazitätsgrenzen und einen klaren Weg für Beschwerden oder Korrekturen.
4. Laufende Neubewertung
Modelle, Daten und Nutzungskontexte verändern sich. Deshalb hat eine Freigabe ein Ablaufdatum oder klar definierte Revisionspunkte. Governance endet nicht mit dem ersten produktiven Einsatz.
Verantwortlichkeit ohne Zentralismus
Ein zentrales KI-Gremium kann Standards setzen und bei besonders kritischen Fällen entscheiden. Es kann jedoch nicht jede Anwendung fachlich verstehen oder jede operative Änderung freigeben. Wirksamer ist ein föderiertes Modell: gemeinsame Leitplanken, dezentrale Produktverantwortung und zentrale Eskalation dort, wo Wirkung oder Unsicherheit besonders hoch sind.
Die Unternehmensleitung sollte dabei drei Dinge nicht delegieren: die akzeptierte Risikobereitschaft, die Verteilung der Entscheidungsrechte und die Ausstattung der Kontrollfunktionen. Wer Geschwindigkeit fordert, ohne Prüf- und Betriebsfähigkeit zu finanzieren, verschiebt Risiken lediglich in die Zukunft.
Sechs Fragen für den Vorstand
- Welche KI-Anwendungen dürfen heute eigenständig handeln?
- Wer kann für jede Anwendung die verantwortliche Person benennen?
- Welche Freigabe beruht auf gemessener Evidenz und welche nur auf Vertrauen?
- Wie schnell erkennen wir eine Verschlechterung im Betrieb?
- Wer besitzt das uneingeschränkte Recht zum Eingriff?
- Welche Anwendung würden wir unter heutigen Erkenntnissen nicht erneut freigeben?
Die Qualität von KI-Governance zeigt sich nicht im Umfang des Regelwerks. Sie zeigt sich daran, ob das Unternehmen unter Zeitdruck gute Entscheidungen trifft, Abweichungen früh erkennt und Systeme kontrolliert verändern kann. Erst dann wird aus einem Prinzip eine institutionelle Fähigkeit.