Kdo odpovídá za odpovědi AI asistenta? Praktický model pro firmy a obce

AI asistent může odpovídat rychle a používat schválené zdroje, ale narazit na obyčejný problém: nikdo neví, kdo má opravit zastaralou informaci. Dodavatel řeší platformu, obchod zná nabídku, podpora vidí stížnosti a právník se zapojí až při incidentu. Mezi rolemi vznikne mezera, ve které zůstane chybná odpověď aktivní příliš dlouho.

Odpovědnost proto nelze nechat jednomu neurčitému „správci AI“. Je potřeba ji rozdělit podle konkrétních rozhodnutí. NIST AI Risk Management Framework doporučuje jasně definovat lidské role, dohled a postupy. Princip odpovědnosti OECD zdůrazňuje dohledatelnost, dokumentaci a průběžné řízení rizik během životního cyklu systému.

Za AI asistenta neodpovídá člověk, který zná všechno. Odpovídá tým, ve kterém každý ví, které rozhodnutí patří jemu a dokdy je musí udělat.

Pět rolí pro běžný provoz

1. Vlastník služby určuje účel a hranice

Určuje, proč asistent existuje, komu slouží, jaká témata smí řešit a kdy má konverzaci převzít člověk. Ve firmě to může být vedoucí podpory nebo e-commerce manažer, na obci vedoucí úřadu či oddělení.

2. Vlastník obsahu ručí za správný zdroj

Každé důležité téma má mít konkrétního vlastníka. Obchod vlastní ceník, personalista kariérní informace a obecní oddělení své postupy a lhůty. Vlastník schválí zdroj, určí termín kontroly a zajistí aktualizaci.

Častá chyba není v modelu, ale ve zdroji. Pokud web uvádí starou cenu nebo neplatný termín, asistent může přesně zopakovat špatný údaj.

3. Provozní vlastník sleduje skutečné rozhovory

Podpora vidí, čemu návštěvníci nerozumějí a kde rozhovor končí bez výsledku. Provozní vlastník třídí nezodpovězené otázky, zpětnou vazbu a předání člověku. Každý nález přiřadí vlastníkovi obsahu nebo technickému správci.

4. Technický správce chrání přístupy a integrace

Spravuje oprávnění, povolené domény, importy, limity a incidenty. Ověřuje načtení zdrojů, oddělení interních dokumentů a funkční předání operátorovi. O věcné správnosti ceníku nebo úředního postupu rozhoduje příslušný vlastník obsahu.

5. Odborný schvalovatel kontroluje citlivá témata

U osobních údajů, zdravotních, finančních nebo závazných informací se zapojí příslušný odborník. Určí povolené formulace a situace, které má asistent rovnou předat člověku.

Jednoduchý rytmus místo jednorázového auditu

Před spuštěním

• Zapište účel asistenta a zakázaná témata.
• Ke každému zdroji přiřaďte vlastníka a datum kontroly.
• Otestujte reálné, nejasné a citlivé otázky.
• Nastavte předání člověku a upozornění.

Každý týden

• Projděte nezodpovězené otázky, negativní zpětnou vazbu a předané rozhovory.
• Opravte zdroj, pokyn nebo integraci podle skutečné příčiny.
• Opakovanou chybu přidejte do testovací sady.

Každý měsíc nebo čtvrtletí

• Potvrďte vlastníky, kontakty a přístupy.
• Prověřte veřejné zdroje, riziková témata a kvalitu předání.
• Ověřte, že se asistent nerozšířil do neschválených oblastí.

NIST AI RMF Playbook se ptá, kdo systém po nasazení udržuje, znovu ověřuje, monitoruje a aktualizuje. Tyto otázky mění jednorázový projekt na řízený provoz.

Příklad z e-shopu

Asistent slíbí dopravu zdarma po skončení akce. Provozní vlastník označí rozhovor, vlastník obsahu opraví zdroj, technický správce ověří nové načtení a schvalovatel zopakuje test. Vlastník služby rozhodne, zda je potřeba informovat dotčené zákazníky.

Příklad z obce

Asistent najde starý harmonogram svozu odpadu. Referent opraví oficiální zdroj, provozní vlastník dohledá podobné otázky, technický správce obnoví znalostní bázi a vedoucí služby nastaví dočasný odkaz na aktuální oznámení.

Postup při chybné odpovědi

1. Zachytit: uložte otázku, odpověď, zdroj a čas.
2. Omezit dopad: vypněte problematické téma nebo předejte návštěvníka člověku.
3. Najít příčinu: rozlište obsah, chybějící zdroj, pokyn, oprávnění a technickou poruchu.
4. Opravit a ověřit: změňte příčinu a otestujte i podobné otázky.
5. Uzavřít: zaznamenejte vlastníka, termín a výsledek.

Začněte patnácti minutami

Otevřete pět posledních problematických rozhovorů. U každého napište vlastníka zdroje, člověka pro provoz a termín opravy. Chybějící pole odhalí organizační riziko dřív než incident.

Informio pomáhá držet odpovědi u kontrolovaných zdrojů, zobrazovat citace, sledovat rozhovory a zpětnou vazbu a předat konverzaci operátorovi. Kdo schvaluje ceník nebo úřední postup, však musí určit organizace.

Chcete nastavit AI asistenta i s praktickým modelem odpovědnosti? Domluvte si konzultaci s Informio.

Zdroje

• NIST AI Risk Management Framework
• NIST AI RMF Playbook: Govern
• OECD AI Principle: Accountability
• OECD AI Principle: Transparency and explainability

Článek nabízí provozní rámec, nikoli právní poradenství. NIST AI RMF je dobrovolný a konkrétní povinnosti závisejí na použití, smlouvách a předpisech.