25 promptů zdarma

Agenti a automatizacepojem z kurzu Claude Masterclass

Červené linie

Červené linie jsou činnosti a data, které se na AI nedelegují vůbec, ani s kontrolou: platby, hesla, bankovnictví, odeslání bez kontroly a rozhodnutí o lidech. V kurzu Masterclass: Claude pro byznys jde o pevný seznam pro Claude v Chrome, computer use i agenty.

Proč to manažera zajímá

Mantinely se nastavují úkol od úkolu. Červené linie platí vždy a pro všechny, takže je nemusí nikdo pokaždé znovu domýšlet. Jasný seznam chrání před nejdražšími chybami: platbou na špatný účet, uniklým heslem nebo rozhodnutím o zaměstnanci, které by udělal stroj místo vedoucího.

Jak to vypadá v praxi

Než kolegyně pustí Clauda ovládat počítač, přidá bankovnictví a personální systém na seznam blokovaných aplikací. Anthropic k říjnu 2026 doporučuje nepoužívat computer use na finanční účty, právní dokumenty, zdravotní informace a aplikace s osobními údaji jiných lidí. Ve firmě patří červené linie do AI politiky, aby je znal každý, kdo s AI pracuje. Víc v článku Computer use v Claude.

Na co si dát pozor

  • Červená linie není „buďte opatrní“. Je to konkrétní seznam činností a aplikací.
  • AI smí platbu nebo e-mail připravit. Provést je musí člověk.

Podrobně v článku

Související pojmy

  • Mantinely

    Mantinely jsou předem daná omezení, ve kterých AI agent pracuje: co nesmí udělat, kolik smí utratit a ke kterým datům a webům smí. Mohou být napsané v zadání i nastavené technicky v nástroji.

  • AI agent

    AI agent je program nad jazykovým modelem, který na zadaný cíl sám plánuje kroky, používá nástroje a pracuje dál bez další zprávy od člověka. Na rozdíl od chatbota tedy jen neodpovídá, ale jedná.

  • Computer use

    Computer use je funkce, při které Claude vidí obrazovku počítače, hýbe myší, kliká a píše jako člověk. Hodí se tam, kde aplikace nemá konektor ani jiné napojení, například u interního nebo staršího systému.

  • AI politika

    AI politika je krátký firemní dokument s pravidly pro práci s AI: které nástroje jsou schválené, jaká data do nich smí, kdo smí nasadit agenta nebo konektor a kdo za výsledky odpovídá.

  • Člověk ve smyčce

    Člověk ve smyčce je princip, podle kterého AI práci připraví, ale nevratné nebo rizikové kroky, jako odeslání, platbu nebo smazání, potvrzuje člověk. Je základem bezpečného delegování na agenty.

  • Šest pravidel bezpečného delegování

    Šest pravidel bezpečného delegování je rámec deleguj AI pro práci s AI agenty: úkol s mantinely, oprávnění na minimum, nevratné kroky schvaluje člověk, citlivá data jen kde je nutné, krátké úlohy s kontrolním bodem a stopa se zkušební dobou.

Kde to učíme

Pojem z kurzu Masterclass: Claude pro byznys. Prakticky ho procházíme v modul 3: Desktop, Cowork a práce se složkami. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu