25 promptů zdarma

Agenti a automatizace

Mantinely

anglicky guardrails

Mantinely jsou předem daná omezení, ve kterých AI agent pracuje: co nesmí udělat, kolik smí utratit a ke kterým datům a webům smí. Mohou být napsané v zadání i nastavené technicky v nástroji.

Proč to manažera zajímá

Cíl sám o sobě je pro agenta souhlas se vším, co k němu vede. „Prodej klávesnici“ je cíl, „prodej nejméně za 700 USD a adresu pošli až po mém potvrzení“ je úkol s mantinely. Dobře napsané mantinely jsou totéž co dobré zadání pro nového kolegu: neomezují práci, jen vymezují prostor, ve kterém se smí rozhodovat sám.

Jak to vypadá v praxi

Provozní ředitel zadá agentovi: „Objednávej tonery u stálého dodavatele, jednou objednávkou nejvýš za 5 000 Kč. Jiné zboží nebo vyšší částku jen po mém potvrzení.“ Technické mantinely doplní IT: agent má vlastní účet, přístup jen ke skladové tabulce a nejmenší oprávnění, jaká úkol potřebuje. V Claude Code k tomu slouží režimy práce a oprávnění, víc v článku Mody v Claude Code.

Na co si dát pozor

  • Mantinely v zadání jsou pokyn, ne zámek. U rizikových akcí je doplňte technickým omezením.
  • Věci, které se nedelegují vůbec, patří mezi červené linie, ne do mantinelů.

Podrobně v článku

Související pojmy

  • AI agent

    AI agent je program nad jazykovým modelem, který na zadaný cíl sám plánuje kroky, používá nástroje a pracuje dál bez další zprávy od člověka. Na rozdíl od chatbota tedy jen neodpovídá, ale jedná.

  • Červené linie

    Červené linie jsou činnosti a data, které se na AI nedelegují vůbec, ani s kontrolou: platby, hesla, bankovnictví, odeslání bez kontroly a rozhodnutí o lidech. V kurzu jde o pevný seznam pro Chrome, computer use i agenty.

  • Nejmenší oprávnění

    Nejmenší oprávnění je bezpečnostní princip, podle kterého AI dostane jen ty přístupy, které konkrétní úloha opravdu vyžaduje, a jen na dobu, kdy je potřebuje. U agentů se mluví i o nejmenší samostatnosti (least agency).

  • Kontrolní bod

    Kontrolní bod je předem určené místo v postupu, kde AI agent zastaví a čeká, až člověk zkontroluje výsledek a schválí další krok. Určuje se už při zadání úlohy, ne až když se něco pokazí.

  • Sandbox

    Sandbox je izolované prostředí, ve kterém AI pracuje bez dopadu na ostrý provoz, třeba kopie dat, testovací účet nebo oddělený počítač. Hodí se pro první běhy agenta a pro úlohy s nejistým výsledkem.

  • Eskalace

    Eskalace je předání úlohy nebo rozhodnutí člověku ve chvíli, kdy si AI agent není jistý, narazí na výjimku nebo by překročil své mantinely. V zadání musí být, kdy se eskaluje a komu.

Kde to učíme

V kurzu Masterclass: Claude pro byznys na to navazuje modul 7: Agenti a workflow. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu