Wer trägt die Verantwortung für Antworten eines KI-Assistenten?

Ein KI-Assistent kann schnell antworten und freigegebene Quellen nutzen. Trotzdem kann ein alltägliches Problem entstehen: Niemand weiß, wer eine veraltete Information korrigieren soll. Der Anbieter betreibt die Plattform, der Vertrieb kennt das Angebot, der Support sieht Beschwerden und die Rechtsabteilung kommt erst bei einem Vorfall hinzu. In der Lücke zwischen diesen Rollen bleibt eine falsche Antwort zu lange aktiv.

Die Verantwortung gehört deshalb nicht zu einem unbestimmten „KI-Administrator“. Sie muss konkreten Entscheidungen folgen. Das NIST AI Risk Management Framework empfiehlt klar definierte menschliche Rollen, Aufsicht und Verfahren. Das OECD-Prinzip zur Rechenschaftspflicht betont Nachvollziehbarkeit, Dokumentation und laufendes Risikomanagement über den gesamten Lebenszyklus.

Verantwortlicher KI-Betrieb braucht keine Person, die alles weiß. Er braucht ein Team, in dem jeder seine Entscheidung und seine Frist kennt.

Fünf Rollen für den täglichen Betrieb

1. Der Service Owner bestimmt Zweck und Grenzen

Diese Person entscheidet, warum der Assistent existiert, wem er dient, welche Themen erlaubt sind und wann ein Mensch übernehmen soll. Das kann die Support-Leitung, ein E-Commerce-Manager oder eine Amts- beziehungsweise Abteilungsleitung sein.

2. Der Content Owner verantwortet die Quelle

Jedes wichtige Thema braucht eine benannte Person oder Abteilung. Der Vertrieb verantwortet Preise, HR die Karriereinformationen und eine kommunale Fachabteilung ihre Verfahren und Fristen. Der Content Owner gibt die Quelle frei, setzt einen Prüftermin und aktualisiert sie bei Änderungen.

Viele Fehler beginnen in der Quelle, nicht im Modell. Enthält die Webseite noch einen alten Preis oder Termin, kann der Assistent die falsche Angabe korrekt wiedergeben.

3. Der Operations Owner beobachtet echte Gespräche

Der Support sieht, was Besucher missverstehen und wo Gespräche ohne Ergebnis enden. Der Operations Owner sortiert unbeantwortete Fragen, Feedback und Übergaben an Menschen und weist jeden Fund dem zuständigen Content Owner oder technischen Administrator zu.

4. Der technische Administrator schützt Zugänge und Integrationen

Diese Rolle verwaltet Berechtigungen, erlaubte Domains, Importe, Limits und Vorfälle. Sie prüft die Aufnahme der Quellen, die Trennung interner Dokumente und die Übergabe an Mitarbeitende. Die fachliche Richtigkeit von Preisen oder Verwaltungsverfahren entscheidet der jeweilige Content Owner.

5. Ein Fachprüfer kontrolliert sensible Themen

Personenbezogene Daten sowie medizinische, finanzielle oder verbindliche Aussagen können eine Datenschutzperson, einen Fachverantwortlichen oder Juristen erfordern. Der Prüfer legt zulässige Formulierungen und Fälle für eine sofortige menschliche Übergabe fest.

Ein einfacher Betriebsrhythmus

Vor dem Start

• Zweck und ausgeschlossene Themen dokumentieren.
• Jeder Quelle einen Owner und Prüftermin zuordnen.
• Reale, mehrdeutige, widersprüchliche und sensible Fragen testen.
• Menschliche Übergabe und Benachrichtigung einrichten.

Jede Woche

• Unbeantwortete Fragen, negatives Feedback und Übergaben prüfen.
• Je nach Ursache Quelle, Anweisung oder Integration korrigieren.
• Wiederholte Fehler in eine kleine Testliste aufnehmen.

Jeden Monat oder jedes Quartal

• Owner, Kontakte und Berechtigungen bestätigen.
• Öffentliche Quellen, Risikothemen und Übergabequalität prüfen.
• Sicherstellen, dass der Assistent nicht in ungeprüfte Bereiche abdriftet.

Das NIST AI RMF Playbook fragt, wer ein KI-System nach dem Einsatz pflegt, erneut verifiziert, überwacht und aktualisiert. Diese Fragen machen aus einem Projekt einen gesteuerten Dienst.

Beispiel aus einem Onlineshop

Der Assistent verspricht kostenlosen Versand, obwohl die Aktion beendet ist. Operations markiert das Gespräch, der Content Owner korrigiert die Quelle, Technik bestätigt den erneuten Import und der Prüfer wiederholt den Test. Der Service Owner entscheidet über eine Reaktion gegenüber betroffenen Kunden.

Beispiel aus einer Kommune

Ein Bürger fragt nach der Abfallabfuhr und der Assistent findet einen alten Kalender. Die Fachkraft korrigiert die offizielle Quelle, Operations sucht ähnliche Gespräche, Technik aktualisiert die Wissensbasis und der Service Owner setzt vorübergehend einen Link zur aktuellen Meldung.

Vorgehen bei einer falschen Antwort

1. Erfassen: Frage, Antwort, Quelle und Zeitpunkt sichern.
2. Auswirkung begrenzen: betroffene Quelle oder Thema deaktivieren und bei hohem Risiko an Menschen übergeben.
3. Ursache finden: veralteten Inhalt, fehlende Quelle, falsche Anweisung, Zugriffsfehler und technische Störung unterscheiden.
4. Korrigieren und prüfen: die Ursache ändern und verwandte Fragen testen.
5. Abschließen: Owner, Frist, Ergebnis und Prozessänderung dokumentieren.

In fünfzehn Minuten beginnen

Öffnen Sie die letzten fünf problematischen Gespräche. Notieren Sie für jedes den Source Owner, den Operations Owner und die Frist. Jedes leere Feld zeigt ein organisatorisches Risiko, bevor daraus ein Vorfall wird.

Informio kann Antworten an kontrollierte Quellen binden, Zitate zeigen, Gespräche und Feedback sichtbar machen und eine Unterhaltung an Mitarbeitende übergeben. Wer Preise oder Verwaltungsverfahren freigibt, muss jedoch die Organisation bestimmen.

Möchten Sie einen KI-Assistenten mit einem praktischen Verantwortungsmodell einführen? Vereinbaren Sie eine Beratung mit Informio.

Quellen

• NIST AI Risk Management Framework
• NIST AI RMF Playbook: Govern
• OECD AI Principle: Accountability
• OECD AI Principle: Transparency and explainability

Der Artikel bietet einen Betriebsrahmen und keine Rechtsberatung. NIST AI RMF ist freiwillig; konkrete Pflichten hängen von Einsatz, Verträgen und geltendem Recht ab.