Ein System kann technisch in der Lage sein, etwas zu tun, ohne irgendein Recht dazu zu haben. Das klingt selbstverständlich. Bei agentischen Systemen kann diese Unterscheidung jedoch leicht verloren gehen. Tool-Zugriff ist keine Autorität. Eine Modellempfehlung ist keine Autorität. Und auch ein Mensch irgendwo im Workflow beantwortet die Frage nicht, solange dieser Mensch nicht tatsächlich über das erforderliche Mandat verfügt. Welche Autorität erforderlich ist, hängt außerdem vom vorgesehenen Verwendungszweck ab. Für Triage kann ein anderes Mandat genügen als für eine verbindliche Ablehnung. Was muss vorhanden sein? Eine explizite Definition von Entscheidungsrechten, Ausführungsrechten, Geltungsbereich, Delegationsgrenzen und den Bedingungen, unter denen Autorität gültig ist. Wer verantwortet den Inhalt? Der institutionelle Mandatsträger oder Prozessverantwortliche, der legitim berechtigt ist, diese Rechte festzulegen oder zu delegieren. AI Governance sollte verlangen, dass Autorität explizit gemacht wird. Sie sollte das Mandat nicht selbst erzeugen. Autorität muss deshalb als eigenständige institutionelle Verantwortung behandelt werden. Wer ist als zuständige Instanz benannt, bis wann muss sie reagieren und über welche Autorität verfügt sie? Der Mandatsträger oder eine autorisierte delegierende Rolle muss im Voraus benannt sein, innerhalb des erforderlichen Prozessfensters erreichbar sein und entweder selbst entscheiden oder die benötigte Autorität legitim übertragen können. Welche Kosten entstehen, wenn der Prozess nicht fortgesetzt wird – und wo werden diese Kosten getragen? Fehlende Autorität führt zu Wartezeiten, manuellen Eingriffen und geringerer Autonomie agentischer Systeme. Der Prozessverantwortliche muss festlegen, wo diese Kosten getragen werden. Sie dürfen nicht dadurch vermieden werden, dass Tool-Zugriff stillschweigend als Berechtigung behandelt wird. Was muss im Nachhinein eindeutig zugeordnet werden können? Wer die relevante Autorität für welche Entscheidung oder Handlung und innerhalb welchen Geltungsbereichs innehatte – und wer diese Autorität erteilt oder verändert hat.

Ein Ergebnis kann gut begründet sein und trotzdem ungeeignet für den Zweck, für den jemand es verwenden möchte. Genau darin liegt der Unterschied zwischen epistemischer Suffizienz und Output-Gültigkeit. Epistemische Suffizienz fragt: Gab es eine ausreichende Grundlage für die Schlussfolgerung? Output-Gültigkeit fragt: Ist diese Schlussfolgerung geeignet, für diesen konkreten Zweck verwendet zu werden? Derselbe KI-Output kann für eine Triage vollkommen akzeptabel und für eine verbindliche Entscheidung völlig ungeeignet sein. Eine Schadensbewertung kann beispielsweise gut genug sein, um einen Fall für eine menschliche Prüfung zu priorisieren – aber nicht gut genug, um einen Anspruch abzulehnen. Genau hier stößt eine generische Freigabe an ihre Grenzen. Was muss vorhanden sein? Explizite Grenzen dafür, wie unterschiedliche Klassen von Outputs verwendet werden dürfen. Wer verantwortet den Inhalt? Der Business- oder Fachverantwortliche, der für die Konsequenz dieser Verwendung verantwortlich ist. AI Governance sollte verlangen, dass diese Grenzen explizit festgelegt werden. Sie sollte sie nicht zentral definieren. Wer ist als zuständige Instanz benannt, bis wann muss sie reagieren und über welche Autorität verfügt sie? Die Rolle, die für eine Verwendung mit höherer Konsequenz autorisiert ist, muss im Voraus festgelegt sein, innerhalb des erforderlichen Reaktionsfensters erreichbar sein und entweder die weitergehende Entscheidung selbst treffen oder zusätzliche Prüfung verlangen können. Welche Kosten entstehen, wenn der Prozess nicht fortgesetzt wird – und wo werden diese Kosten getragen? Eine Verwendung mit höherer Konsequenz kann zusätzliche menschliche Prüfung, längere Bearbeitungszeiten oder weniger Automatisierung erfordern. Der Teil der Organisation, der diese weitergehende Verwendung wünscht, muss diese Kosten tragen. Wenn ein System nur für Triage qualifiziert ist, können die Kosten zusätzlicher menschlicher Prüfung nicht einfach wegdefiniert werden. Was muss im Nachhinein eindeutig zugeordnet werden können?

Sobald die anwendbare Struktur und die autoritativen Quellen geklärt sind, stellt sich eine weitere Frage: Wann ist die verfügbare Grundlage tatsächlich ausreichend, um sich darauf zu verlassen? Das kann ein zentrales AI-Governance-Team nicht für jeden Fachbereich festlegen. Eine Kreditentscheidung, eine Wartungsempfehlung und eine rechtliche Bewertung können völlig unterschiedliche Evidenzanforderungen haben. Der jeweilige Fachbereich muss definieren, was für den konkreten Anwendungsfall „ausreichend“ bedeutet. Modellevaluationen lösen dieses Problem nicht. Sie zeigen, wie ein System über einen Testdatensatz hinweg abschneidet. Sie sagen nicht, ob dieser konkrete Fall die Evidenz enthält, die diese konkrete Entscheidung voraussetzt. Was muss vorhanden sein? Explizite Kriterien für die Suffizienz der Evidenz: erforderliche Quellen, Aktualität, Vollständigkeit, ungelöste Widersprüche oder andere fachspezifische Bedingungen. Wer verantwortet den Inhalt? Die Fachrolle, die für die Qualität der zugrunde liegenden Entscheidungsbasis verantwortlich ist. Governance sollte verlangen, dass diese Kriterien existieren und gepflegt werden. Sie sollte sie nicht zentral erfinden. Wer ist als zuständige Instanz benannt, bis wann muss sie reagieren und über welche Autorität verfügt sie? Die Fachrolle, die für die Entscheidungsgrundlage verantwortlich ist, muss im Voraus festgelegt sein, innerhalb des relevanten Entscheidungsfensters erreichbar sein und entweder fehlende Evidenz beschaffen, Widersprüche klären oder die Entscheidung treffen können, die das automatisierte System selbst nicht treffen durfte. Welche Kosten entstehen, wenn der Prozess nicht fortgesetzt wird – und wo werden diese Kosten getragen? Unzureichende Evidenz kann zusätzliche Datenerhebung, manuelle Prüfung, Verzögerung oder eine echte Nicht-Entscheidung erforderlich machen. Das Betriebsmodell muss festlegen, wo diese zusätzlichen Daten-, Prüf- und Verzögerungskosten getragen werden. Wenn sie nicht ausdrücklich akzeptiert werden, entsteht der Anreiz, das Modell die Lücke füllen zu lassen.

Sobald klar ist, welche institutionelle Struktur gilt, stellt sich die nächste Frage: Welches Wissen darf innerhalb dieser Struktur tatsächlich als maßgeblich gelten? Hier werden Relevanz und Autorität häufig verwechselt. RAG kann das relevanteste Dokument abrufen. Eine Suche kann die neueste Quelle finden. Ein Modell kann beide korrekt zitieren. Nichts davon stellt sicher, dass diese Information für den konkreten Fall autoritativ ist. Das ist eine institutionelle Entscheidung. Was muss vorhanden sein? Eine klare Festlegung, welche Quellen für welchen Geltungsbereich und in welcher Version als autoritativ behandelt werden dürfen. Wer verantwortet den Inhalt? Der zuständige Fach- oder Wissensverantwortliche. AI Governance sollte verlangen, dass die Autorität von Quellen explizit festgelegt und gepflegt wird. Sie sollte nicht selbst jede autoritative Quelle bestimmen. Wer ist als zuständige Instanz benannt, bis wann muss sie reagieren und über welche Autorität verfügt sie? Die zuständige Quellen- oder Wissensinstanz muss benannt sein, bevor ein Konflikt eintritt – mit definierter Reaktionszeit und der Autorität, über Quellenstatus, Ablösung oder Vorrang zu entscheiden. Welche Kosten entstehen, wenn der Prozess nicht fortgesetzt wird – und wo werden diese Kosten getragen? Ungeklärte Quellenautorität führt zu manueller Quellenprüfung, längerer Fallbearbeitung und geringerer Automatisierung. Das Betriebsmodell muss festlegen, wo die zusätzliche Prüfkapazität und Bearbeitungszeit aufgefangen werden. Andernfalls wird Relevanz irgendwann als Ersatz für Autorität behandelt. Was muss im Nachhinein eindeutig zugeordnet werden können? Welche Quelle als autoritativ behandelt wurde, unter welcher Version und welchem Geltungsbereich – und wer diesen Status festgestellt hat. Ein einfaches Beispiel: Eine abgerufene Richtlinie kann hoch relevant sein und trotzdem die falsche Version für den konkreten Fall darstellen. Deshalb gilt: Retrieval findet Informationen. Governance stellt sicher, dass jemand festgelegt hat, was davon überhaupt zählen darf.

Bevor ein KI-System einen Fall interpretieren kann, muss jemand festlegen, innerhalb welcher institutionellen Struktur diese Interpretation gelten soll. Eine Richtlinienbibliothek löst dieses Problem nicht. RAG ebenfalls nicht. Beides kann Regeln verfügbar machen. Beides stellt jedoch nicht fest, welche Regel für diesen Fall verbindlich ist, welche Version gilt oder was geschieht, wenn zwei gültige Regeln miteinander kollidieren. Diese Verantwortung kann nicht allein bei einem zentralen AI-Governance-Team liegen. Inhaltlich zuständig sind diejenigen, die tatsächlich über das institutionelle Mandat verfügen: Fachverantwortliche, Policy Owner, Rechtsfunktionen oder andere autorisierte Rollen. Governance muss sicherstellen, dass diese Verantwortung ausdrücklich festgelegt ist. Was muss vorhanden sein? Eine klare Festlegung der Regeln, Definitionen, Geltungsbereiche, Gültigkeiten und Vorrangordnungen, die für den jeweiligen Bereich maßgeblich sind. Wer verantwortet den Inhalt? Der autorisierte Fach- oder Policy Owner – nicht das Modell und nicht automatisch die AI-Governance-Funktion. Wer ist als zuständige Instanz benannt, bis wann muss sie reagieren und über welche Autorität verfügt sie? Die verantwortliche Policy- oder Fachinstanz muss im Voraus benannt sein, mit einem klaren Lösungsweg, einer definierten Reaktionszeit und dem Mandat, Konflikte über Anwendbarkeit, Geltungsbereich oder Vorrang zu entscheiden. Die zuständige Instanz sollte nicht erst gesucht werden müssen, nachdem das System bereits gestoppt hat. Welche Kosten entstehen, wenn der Prozess nicht fortgesetzt wird – und wo werden diese Kosten getragen? Die Klärung institutioneller Gültigkeit kann Verzögerungen, zusätzliche rechtliche oder fachliche Prüfung und weniger Automatisierung verursachen. Der Prozessverantwortliche muss deshalb vor der Einführung entscheiden, wo diese Verzögerungen und zusätzlichen Prüfkapazitäten aufgefangen werden. Andernfalls entsteht der Druck, das Modell die Mehrdeutigkeit einfach selbst auflösen zu lassen.