25 promptů zdarma

Agenti a automatizace

Log a auditní stopa agenta

anglicky audit trail

Log a auditní stopa agenta je záznam toho, co AI agent udělal, kdy, s jakými daty a proč. Bez něj nejde zpětně dohledat chybu, vyřídit reklamaci ani doložit dodržování AI politiky.

Proč to manažera zajímá

Agent pracuje, i když u toho nesedíte, a vy vidíte až výsledek. Když se něco pokazí – zákazník dostal špatnou cenu, z tabulky zmizel řádek – bez záznamu nevíte, jestli chybu udělal agent, člověk, nebo zdrojová data. Šest pravidel bezpečného delegování proto počítá se stopou: agent musí zanechat záznam o tom, co udělal. Log je také podklad pro rozšiřování oprávnění podle prokázaného chování, jak to popisuje pohled agent jako insider.

Jak to vypadá v praxi

Agent, který každé ráno upravuje dostupnost zboží v e-shopu, zapisuje do sdílené tabulky řádek za každou změnu: čas, produkt, původní a nová hodnota, zdroj dat a důvod. Vedoucí skladu první týdny prochází celý záznam, pak už jen vzorek. Když zákazník reklamuje objednávku zboží, které nebylo skladem, příčina se dohledá za pár minut. Kde log najdete, patří do dokumentace agenta. Víc v článku Jak bezpečně delegovat na AI agenta.

Na co si dát pozor

  • Kontrolujte i to, co agent posílá ven, ne jen co hlásí vám.
  • Pokud log obsahuje údaje zákazníků, určete, kdo k němu má přístup a jak dlouho se uchovává.

Podrobně v článku

Související pojmy

  • Šest pravidel bezpečného delegování

    Šest pravidel bezpečného delegování je rámec deleguj AI pro práci s AI agenty: úkol s mantinely, oprávnění na minimum, nevratné kroky schvaluje člověk, citlivá data jen kde je nutné, krátké úlohy s kontrolním bodem a stopa se zkušební dobou.

  • Agent jako insider

    Agent jako insider je bezpečnostní pohled, podle kterého AI agenta s vašimi přístupy řídíte jako zaměstnance s přístupem do firmy: oprávnění dostává podle prokázaného chování a jeho kroky někdo sleduje.

  • Kontrola vzorkem

    Kontrola vzorkem je způsob ověřování výstupů AI, kdy místo kontroly všeho pravidelně projdete náhodně vybranou část. Hodí se pro opakované úlohy a agenty, které se už osvědčily.

  • Dokumentace agenta

    Dokumentace agenta je šablona z kurzu Claude Masterclass, která na jedné stránce popisuje, co agent dělá, k čemu má přístup, kdo za něj odpovídá a jak se vypíná.

  • AI politika

    AI politika je krátký firemní dokument s pravidly pro práci s AI: které nástroje jsou schválené, jaká data do nich smí, kdo smí nasadit agenta nebo konektor a kdo za výsledky odpovídá.

  • AI agent

    AI agent je program nad jazykovým modelem, který na zadaný cíl sám plánuje kroky, používá nástroje a pracuje dál bez další zprávy od člověka. Na rozdíl od chatbota tedy jen neodpovídá, ale jedná.

Kde to učíme

V kurzu Masterclass: Claude pro byznys na to navazuje modul 7: Agenti a workflow. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu