25 promptů zdarma

Agenti a automatizace

Eskalace

Eskalace je předání úlohy nebo rozhodnutí člověku ve chvíli, kdy si AI agent není jistý, narazí na výjimku nebo by překročil své mantinely. V zadání musí být, kdy se eskaluje a komu.

Proč to manažera zajímá

Agent bez pravidla eskalace si nejistotu domyslí a pokračuje. Výsledek pak vypadá sebejistě, i když stojí na odhadu. Dobře nastavená eskalace odděluje běžné případy, které agent vyřídí sám, od sporných, které patří člověku. Stejně pracuje i Google DeepMind se svými interními agenty: sporné případy jdou k člověku.

Jak to vypadá v praxi

Agent zákaznické péče e-shopu připravuje odpovědi na reklamace. Pravidlo eskalace zní: „Když zákazník žádá vrácení peněz nad 3 000 Kč, zmiňuje právníka nebo píše potřetí, nepiš odpověď a předej případ vedoucí péče s krátkým shrnutím.“ Běžné dotazy agent vyřídí sám, citlivé skončí u člověka i s podklady. Víc v článku Jak bezpečně delegovat na AI agenta.

Na co si dát pozor

  • U eskalace vždy uveďte, komu případ jde. „Zeptej se“ bez adresáta nefunguje.
  • Když agent eskaluje skoro všechno, úloha je špatně vymezená nebo pro agenta nevhodná.

Podrobně v článku

Související pojmy

  • AI agent

    AI agent je program nad jazykovým modelem, který na zadaný cíl sám plánuje kroky, používá nástroje a pracuje dál bez další zprávy od člověka. Na rozdíl od chatbota tedy jen neodpovídá, ale jedná.

  • Člověk ve smyčce

    Člověk ve smyčce je princip, podle kterého AI práci připraví, ale nevratné nebo rizikové kroky, jako odeslání, platbu nebo smazání, potvrzuje člověk. Je základem bezpečného delegování na agenty.

  • Kontrolní bod

    Kontrolní bod je předem určené místo v postupu, kde AI agent zastaví a čeká, až člověk zkontroluje výsledek a schválí další krok. Určuje se už při zadání úlohy, ne až když se něco pokazí.

  • Mantinely

    Mantinely jsou předem daná omezení, ve kterých AI agent pracuje: co nesmí udělat, kolik smí utratit a ke kterým datům a webům smí. Mohou být napsané v zadání i nastavené technicky v nástroji.

  • Agent jako insider

    Agent jako insider je bezpečnostní pohled, podle kterého AI agenta s vašimi přístupy řídíte jako zaměstnance s přístupem do firmy: oprávnění dostává podle prokázaného chování a jeho kroky někdo sleduje.

  • Spolehlivost agenta

    Spolehlivost agenta je podíl úloh, které AI agent dokončí správně bez zásahu člověka, měřený na vzorku skutečných výstupů spolu s typem chyb a náklady na jejich opravu.

Kde to učíme

V kurzu Masterclass: Claude pro byznys na to navazuje modul 7: Agenti a workflow. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu