25 promptů zdarma

Bezpečnost, data a právo

Odpovědnost za výstup AI

Odpovědnost za výstup AI je princip, podle kterého za výsledek práce s AI odpovídá člověk nebo firma, kteří ho použili, ne nástroj. Proto výstup před odesláním někdo zkontroluje a schválí.

Proč to manažera zajímá

Zákazník, úřad ani obchodní partner nebude řešit, že chybnou cenu v nabídce napsala AI. Řeší, že ji poslala vaše firma. Totéž platí u agentů: za kroky agenta odpovídá ten, kdo ho pustil a nastavil mu oprávnění. Bez jmenovitě určeného odpovědného člověka se chyba snadno ztratí mezi „to udělal Claude“ a „to jsem neviděl“.

Jak to vypadá v praxi

Obchodník nechá Claude připravit cenovou nabídku z ceníku. Claude ji připraví, obchodník zkontroluje ceny, slevy a termíny a teprve potom ji odešle pod svým jménem. To je pravidlo „AI připraví, odesílám já“. I Anthropic v dokumentaci doplňku pro Excel k říjnu 2026 výslovně nedoporučuje používat ho na finální výstupy pro klienty bez lidské kontroly. Víc v článku Jak bezpečně delegovat na AI agenta a v článku Computer use v Claude.

Na co si dát pozor

  • U každého procesu s AI mějte jmenovitě určeného člověka, který výstup schvaluje, a zapište ho do AI politiky.
  • Pozor na halucinace: přesvědčivý text ještě není správný text.

Podrobně v článku

Související pojmy

  • Člověk ve smyčce

    Člověk ve smyčce je princip, podle kterého AI práci připraví, ale nevratné nebo rizikové kroky, jako odeslání, platbu nebo smazání, potvrzuje člověk. Je základem bezpečného delegování na agenty.

  • Pravidlo „AI připraví, odesílám já“

    Pravidlo „AI připraví, odesílám já“ říká, že AI agent smí připravit e-mail, nabídku, objednávku nebo příspěvek, ale odeslání, zveřejnění či platbu vždy potvrzuje člověk.

  • Halucinace

    Halucinace je sebejistě podaná, ale nepravdivá nebo vymyšlená informace v odpovědi AI, třeba neexistující zdroj, špatné číslo nebo smyšlený paragraf. Omezují ji zdroje v zadání, vyhledávání a kontrola výstupu.

  • AI politika

    AI politika je krátký firemní dokument s pravidly pro práci s AI: které nástroje jsou schválené, jaká data do nich smí, kdo smí nasadit agenta nebo konektor a kdo za výsledky odpovídá.

  • Šest pravidel bezpečného delegování

    Šest pravidel bezpečného delegování je rámec deleguj AI pro práci s AI agenty: úkol s mantinely, oprávnění na minimum, nevratné kroky schvaluje člověk, citlivá data jen kde je nutné, krátké úlohy s kontrolním bodem a stopa se zkušební dobou.

  • AI governance

    AI governance je systém řízení AI ve firmě – kdo smí jaké nástroje používat, na jaká data, kdo schvaluje automatizace a jak se kontrolují rizika a soulad s předpisy. AI politika je její písemná část.

Kde to učíme

V kurzu Masterclass: Claude pro byznys na to navazuje modul 0: Základna: účty, plány, instalace. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu