Künstliche Intelligenz wird in Serviceorganisationen zunehmend zum festen Bestandteil des Arbeitsalltags. KI beantwortet Anfragen, unterstützt Entscheidungen, verarbeitet Informationen und kann in bestimmten Bereichen selbstständig handeln. Gleichzeitig wachsen die Anforderungen an Governance, Kontrolle und Nachvollziehbarkeit.
Viele Unternehmen verfügen bereits über Richtlinien für den Einsatz von KI. Doch eine Richtlinie allein beantwortet noch nicht die entscheidende Frage: Wer trägt im täglichen Betrieb konkret die Verantwortung, wenn ein KI-gestützter Service entscheidet, empfiehlt oder handelt?
Genau hier setzt HUCAISM®, kurz für Human-Centered AI Service Management, an. Das Framework verbindet KI-Governance mit der Arbeitsrealität des Service Managements. Im Mittelpunkt steht nicht nur die Frage, welche Regeln gelten, sondern wie diese Regeln in Rollen, Kontrollen und konkrete Verantwortlichkeiten übersetzt werden.
Warum KI-Governance im Alltag konkret werden muss
Governance klingt zunächst nach Richtlinien, Vorgaben und übergeordneten Entscheidungen. Im täglichen Servicebetrieb reicht diese Ebene jedoch nicht aus.
Sobald KI Bestandteil eines Service wird, entstehen sehr praktische Fragen:
- Wer verantwortet den KI-gestützten Service?
- Wer überwacht seine Ergebnisse?
- Wer darf bei Auffälligkeiten eingreifen?
- Wer entscheidet über Änderungen?
- Wer hält notwendige Nachweise aktuell?
- Was passiert bei einer Eskalation oder einem Vorfall?
Eine allgemeine Vorgabe wie „KI muss verantwortungsvoll eingesetzt werden“ beantwortet diese Fragen noch nicht.
HUCAISM setzt deshalb an einer anderen Stelle an. Die Kernfrage lautet nicht, wie ein KI-System gebaut wird, sondern wie KI-gestützte Services und digitale Produkte verantwortungsvoll betrieben werden. Governance wird damit vom abstrakten Regelwerk zu einem Bestandteil des täglichen Service Managements.
Regeln allein schaffen noch keine Verantwortung
Eine Organisation kann umfassende KI-Richtlinien besitzen und trotzdem im entscheidenden Moment nicht wissen, wer handeln muss.
Besonders deutlich wird das, wenn etwas schiefgeht. Im Normalbetrieb ist vielleicht geregelt, wer einen Service betreut. Doch wer entscheidet bei einer Auffälligkeit? Wer übernimmt bei einer Eskalation? Wer darf einen KI-gestützten Ablauf stoppen?
HUCAISM betrachtet deshalb Verantwortung nicht als allgemeine Zuständigkeit, sondern als etwas, das konkret zugeordnet werden muss.
Eines der sechs grundlegenden Prinzipien lautet entsprechend: „Verantwortung ist nicht delegierbar.“
KI darf Aufgaben übernehmen, Empfehlungen geben oder innerhalb festgelegter Grenzen selbstständig handeln. Die Verantwortung dafür bleibt jedoch beim Menschen und innerhalb der Organisation.
Damit verhindert HUCAISM eine Antwort, die bei KI schnell verführerisch wird: „Das hat die KI entschieden.“
Für einen verantwortungsvoll betriebenen Service reicht diese Erklärung nicht aus. Es muss klar sein, wer für den Einsatz des Systems und seine Auswirkungen einsteht.
Governance by Design: Verantwortung beginnt vor dem Go-live
Ein weiteres HUCAISM-Prinzip lautet „Governance by Design“.
Der Gedanke dahinter ist einfach: Governance darf nicht erst dann beginnen, wenn ein KI-Service bereits produktiv eingesetzt wird.
Das HUCAISM-Buch beschreibt dazu ein typisches Szenario. Ein Vorhaben steht kurz vor dem Start. Die Risikoeinstufung und die damit verbundenen Anforderungen sollen erst nach dem Go-live geklärt werden. Später stellt sich heraus, dass bestimmte Anforderungen bereits beim Design hätten berücksichtigt werden müssen. Die notwendigen Anpassungen werden dadurch aufwendiger, lückenhafter und stehen plötzlich unter Zeitdruck.
HUCAISM dreht diese Reihenfolge um.
Die Risikoeinstufung steht am Anfang. Anforderungen an Transparenz und menschliche Aufsicht fließen bereits in die Gestaltung ein. Die erforderlichen Nachweise entstehen anschließend kontinuierlich im Betrieb.
Damit wird KI-Governance nicht nachträglich über einen fertigen Service gelegt. Sie wird von Beginn an zu einem Bestandteil seiner Gestaltung.
Vom Governance-Prinzip zur konkreten Rolle
Damit Regeln im Alltag funktionieren, müssen Menschen wissen, welche Verantwortung sie tragen.
HUCAISM beschreibt dafür fünf zentrale Rollen. Dabei müssen nicht zwangsläufig fünf neue Stellen geschaffen werden. Die Verantwortlichkeiten können bestehenden Funktionen zugeordnet werden. Entscheidend ist, dass Verantwortung, Kompetenz und Eingriffsmöglichkeiten zusammenpassen.
AI Service Owner
Der AI Service Owner verantwortet einen KI-gestützten Service von Anfang bis Ende, einschließlich seines KI-Anteils.
Er beantwortet damit eine zentrale Governance-Frage: Wer steht für diesen Service ein?
Die Verantwortung verschwindet nicht, nur weil innerhalb des Service eine KI Aufgaben übernimmt.
Aufsichtsrolle
Die Aufsichtsrolle übernimmt die fachliche Kontrolle im laufenden Betrieb.
HUCAISM stellt dabei klare Anforderungen. Wirksame Aufsicht benötigt Eingriffsrecht, Kompetenz und ausreichend Zeit. Eine Person lediglich auf dem Papier als Aufsicht zu benennen, reicht nicht aus.
Governance-Rolle
Die Governance-Rolle hält unter anderem Verzeichnis, Richtlinien und Nachweise und übernimmt Aufgaben bei der Steuerung von Lieferanten.
Sie verbindet damit übergeordnete Governance-Anforderungen mit den Informationen, die im täglichen Betrieb tatsächlich benötigt werden.
Wissensverantwortliche
Bei generativer KI spielt das verwendete Wissen eine besondere Rolle. Wissensverantwortliche kümmern sich deshalb um die Quellen, auf die ein KI-gestützter Service zugreift.
Sie sorgen dafür, dass Wissen gepflegt und kontrolliert wird.
Betriebsrolle
Die Betriebsrolle verantwortet den sicheren technischen Betrieb. Dazu gehören unter anderem Modelle, Monitoring und Rückfallmöglichkeiten.
Gemeinsam übersetzen diese Rollen eine abstrakte Forderung nach „verantwortungsvoller KI“ in konkrete Aufgaben.
Governance braucht unterschiedliche Antworten für Normalbetrieb und Vorfall
Verantwortung ist besonders dann wichtig, wenn der normale Ablauf verlassen wird.
HUCAISM überträgt deshalb das bekannte Prinzip einer Verantwortungsmatrix auf KI-gestützte Entscheidungen. Entscheidend ist dabei, Verantwortlichkeiten nicht nur für den normalen Betrieb festzulegen.
Das Framework unterscheidet zwischen:
- Normalbetrieb
- Eskalation
- Vorfall
Für jede dieser Situationen sollte geklärt sein, wer entscheidet, wer handelt, wer konsultiert wird und wer informiert werden muss.
Das ist im Servicealltag entscheidend.
Solange ein KI-Service erwartungsgemäß funktioniert, erscheinen unklare Zuständigkeiten häufig unproblematisch. Erst wenn eine Fehlentscheidung auffällt oder schnelles Eingreifen notwendig wird, zeigt sich, ob Governance tatsächlich funktioniert.
HUCAISM macht Verantwortung deshalb dort konkret, wo sie gebraucht wird.
Menschliche Aufsicht muss mehr sein als eine Formalität
Eine Richtlinie kann festlegen, dass ein Mensch einen KI-Service überwacht. Doch daraus folgt noch nicht automatisch wirksame Kontrolle.
Das HUCAISM-Buch beschreibt eine Situation, in der eine Person offiziell für die Aufsicht eines KI-Assistenten zuständig ist. Sie übernimmt die Aufgabe jedoch zusätzlich zu einer bereits vollen Stelle, verfügt nur begrenzt über das notwendige Fachwissen und kann Ergebnisse lediglich gelegentlich prüfen.
Als der Assistent über längere Zeit leicht fehlerhafte Ergebnisse liefert, fällt dies nicht auf.
HUCAISM bezeichnet eine solche Situation als Scheinaufsicht.
Eine Aufsicht kann ihre Governance-Funktion nur erfüllen, wenn drei Voraussetzungen zusammenkommen:
- das Recht einzugreifen
- die notwendige Kompetenz
- ausreichend Zeit für die Aufgabe
Eine Regel wie „Der Mensch behält die Kontrolle“ wird dadurch zu einer konkreten organisatorischen Anforderung.
Wie viel Kontrolle braucht ein KI-Service?
Auch beim Umfang menschlicher Kontrolle setzt HUCAISM nicht auf eine pauschale Vorgabe.
Das Framework unterscheidet drei Aufsichtsmuster:
Human-in-the-Loop
Ein Mensch gibt eine Entscheidung frei, bevor sie umgesetzt wird.
Human-on-the-Loop
Die KI handelt selbstständig, während ein Mensch den Betrieb überwacht und bei Bedarf eingreifen kann.
Human-out-of-the-Loop
Die KI handelt innerhalb klar definierter Grenzen autonom.
Welches Aufsichtsmuster geeignet ist, richtet sich nach drei Kriterien: Folgenschwere, Reversibilität und Regulatorik.
Damit wird Governance differenziert.
Ein risikoarmer, leicht rückgängig zu machender Vorgang benötigt möglicherweise eine andere Form der Kontrolle als eine Entscheidung mit erheblichen oder schwer umkehrbaren Folgen.
HUCAISM übersetzt die allgemeine Forderung nach menschlicher Kontrolle dadurch in eine konkrete Designentscheidung für jeden KI-gestützten Service.
Governance bedeutet auch Nachweisbarkeit
Verantwortung muss nicht nur definiert sein. Sie muss auch nachvollziehbar bleiben.
HUCAISM verbindet Governance deshalb eng mit Transparenz. Ein weiteres Grundprinzip lautet „Transparenz im Service, nicht nur im Modell“.
Für einen KI-gestützten Service soll nachvollziehbar sein, wie ein Ergebnis zustande gekommen ist. Das gilt für Nutzende, Betreibende und Prüfende.
Dazu gehört beispielsweise, sichtbar zu machen, dass KI beteiligt war, relevante Quellen und den verwendeten Stand festzuhalten und Entscheidungswege rekonstruierbar zu gestalten.
Der entscheidende Zusammenhang lautet: Was nicht nachvollziehbar ist, lässt sich auch nur schwer verantworten.
Damit bekommt Governance im Alltag eine weitere praktische Dimension. Es reicht nicht, Zuständigkeiten aufzuschreiben. Die Organisation muss auch die Informationen erzeugen und erhalten, die eine spätere Prüfung ermöglichen.
KI-Governance begleitet den gesamten Service-Lebenszyklus
Governance ist bei HUCAISM kein einmaliger Freigabepunkt.
Sie begleitet einen KI-gestützten Service über seinen gesamten Lebenszyklus. Für die einzelnen Phasen stellt das Framework unterschiedliche Kontrollfragen.
Beim Planen geht es unter anderem darum, warum KI eingesetzt wird und wer dafür einsteht.
Beim Gestalten wird geprüft, ob Menschen bei Bedarf eingreifen oder einen alternativen Weg nutzen können.
Bei der Übergabe stellt sich die Frage, ob der Service auch einer späteren Prüfung standhalten würde.
Im Betrieb muss die Organisation erkennen können, wenn ein Service zwar technisch funktioniert, aber fachlich falsche Ergebnisse liefert.
Beim Verbessern wird hinterfragt, ob der Service tatsächlich besser für Menschen wird oder lediglich effizientere Kennzahlen produziert.
Damit wird KI-Governance zu einer laufenden Aufgabe und nicht zu einem Haken auf einer Checkliste vor dem Start.
Governance und Compliance werden mit dem Service Management verbunden
HUCAISM beschreibt Governance & Compliance als eine seiner fünf zentralen Domänen.
Die Leitfrage lautet: Wie bleiben wir regelkonform und auditierbar?
Daneben stehen die Domänen Menschen & Rollen, Praktiken, Wert & Erlebnis sowie Technologie & Daten. Zusätzlich wirken Fairness & Bias sowie Vertrauen & Human Factors als Querschnittsthemen. Für handelnde KI-Systeme kommt die Governance agentischer Systeme hinzu.
Diese Struktur ist wichtig, weil Governance dadurch nicht isoliert betrachtet wird.
Eine Richtlinie kann beispielsweise festlegen, dass bestimmte KI-Entscheidungen menschlich überwacht werden müssen. Damit diese Vorgabe funktioniert, braucht es jedoch gleichzeitig eine verantwortliche Rolle, den passenden Prozess, eine funktionierende technische Eingriffsmöglichkeit und Menschen, die für diese Aufgabe qualifiziert sind.
Governance entsteht damit aus dem Zusammenspiel verschiedener Teile des Service.
Auch Lieferanten gehören zur KI-Governance
Viele KI-gestützte Services entstehen nicht vollständig innerhalb der eigenen Organisation. Modelle, Plattformen oder andere technische Komponenten können von externen Anbietern stammen.
Das verändert jedoch nicht die Verantwortung für den Service.
HUCAISM ordnet deshalb auch die Lieferantensteuerung der Governance-Rolle zu. Gleichzeitig bleibt der AI Service Owner für den gesamten KI-gestützten Service verantwortlich.
Für Unternehmen ist diese Trennung wichtig.
Ein Anbieter kann für seine Technologie zuständig sein. Die eigene Organisation muss trotzdem entscheiden, wie diese Technologie innerhalb ihres Service eingesetzt, überwacht und kontrolliert wird.
KI-Governance lässt sich deshalb nicht vollständig einkaufen oder an einen Hersteller auslagern.
Regeln müssen im Betrieb überprüfbar sein
HUCAISM beschränkt sich nicht darauf, Prinzipien zu formulieren. Der Werkzeugkasten des Frameworks verbindet diese Prinzipien mit konkreten Techniken.
Dazu gehören unter anderem:
- die Auswahl des Aufsichtsmusters
- eine Verantwortungsmatrix für KI-Entscheidungen
- eine Risikoeinstufung zu Beginn des Lebenszyklus
- feste Prüffragen für Änderungen
- die Einordnung KI-spezifischer Störungen
- die Pflege von Wissensquellen
- die Messung des tatsächlichen menschlichen Ergebnisses
- Stichproben zur Suche nach stillen Fehlern
Damit wird deutlich, was HUCAISM unter Governance versteht: Regeln sollen sich im täglichen Betrieb in Entscheidungen, Kontrollen und überprüfbaren Handlungen wiederfinden.
Welche Fragen Unternehmen jetzt beantworten sollten
Wer prüfen möchte, ob KI-Governance bereits im Servicealltag angekommen ist, kann mit einigen grundlegenden Fragen beginnen:
- Wissen wir, welche KI-gestützten Services wir betreiben?
- Ist für jeden Service eindeutig festgelegt, wer verantwortlich ist?
- Haben wir Verantwortlichkeiten auch für Eskalationen und Vorfälle geregelt?
- Ist klar, wann Menschen eingreifen müssen?
- Haben die Aufsichtspersonen Kompetenz, Zeit und Eingriffsrechte?
- Werden notwendige Entscheidungen und Nachweise nachvollziehbar dokumentiert?
- Beginnt unsere Governance bereits bei der Planung eines KI-Service?
- Können wir erkennen, wenn ein Service fachlich falsch arbeitet?
- Sind auch externe Anbieter in unsere Governance-Strukturen eingebunden?
- Wissen wir, wie ein KI-gestützter Service kontrolliert verändert und schließlich außer Betrieb genommen wird?
Wenn diese Fragen nur mit Verweis auf eine allgemeine KI-Richtlinie beantwortet werden können, fehlt möglicherweise noch die Verbindung zum tatsächlichen Servicebetrieb.
Fazit: HUCAISM bringt KI-Governance in den Arbeitsalltag
KI-Governance entscheidet sich nicht allein in Richtlinien, Strategiepapieren oder Kontrollgremien. Sie entscheidet sich dort, wo KI tatsächlich Services unterstützt oder selbstständig erbringt.
HUCAISM übersetzt deshalb allgemeine Anforderungen in konkrete Verantwortung. Ein AI Service Owner steht für den Service ein. Aufsichtsrollen erhalten klar definierte Aufgaben und Eingriffsmöglichkeiten. Verantwortungsmatrizen regeln Normalbetrieb, Eskalation und Vorfall. Governance by Design sorgt dafür, dass Risiken, Transparenz und Aufsicht bereits bei der Gestaltung berücksichtigt werden.
So wird aus der abstrakten Forderung nach verantwortungsvoller KI ein Betriebsmodell für den Servicealltag.
Die zentrale Idee bleibt dabei bewusst einfach: KI kann handeln. Regeln können Orientierung geben. Verantwortung muss jedoch bei Menschen konkret verankert bleiben.
Zuletzt erschienen
Sie möchten wissen, wie HUCAISM dafür sorgt, dass Menschen auch bei zunehmender KI-Unterstützung urteilsfähig und handlungsfähig bleiben? Dann lesen Sie auch den vorherigen Beitrag:
„Human Reliability: Wie HUCAISM das Zusammenspiel von Mensch und KI stärkt“
Schulungstipp: HUCAISM AI Service Professional bei SERVIEW
Wenn Sie lernen möchten, wie KI-Governance in konkrete Rollen, Verantwortlichkeiten und Kontrollen für den Servicealltag übersetzt wird, ist das HUCAISM Professional Training bei SERVIEW der passende Einstieg. Sie lernen unter anderem die HUCAISM-Rollen, Aufsichtsmuster und Verantwortungsmatrizen kennen und erfahren, wie Governance über den gesamten Lebenszyklus eines KI-gestützten Service verankert wird.
Mehr erfahren:
HUCAISM Schulungen bei SERVIEW
