25 promptů zdarma

Bezpečnost, data a právopojem z kurzu Claude Masterclass

Šest pravidel bezpečného delegování

Šest pravidel bezpečného delegování je rámec deleguj AI pro práci s AI agenty: úkol s mantinely, oprávnění na minimum, nevratné kroky schvaluje člověk, citlivá data jen kde je nutné, krátké úlohy s kontrolním bodem a stopa se zkušební dobou.

Proč to manažera zajímá

Agent, kterému dáte cíl a přístupy, si je vyloží po svém. Šest pravidel je kontrolní seznam, se kterým ho pustíte k práci s mnohem menším rizikem ostudy, a nevyžaduje technické znalosti. Rámec vychází z toho, jak k agentům přistupují bezpečnostní týmy velkých firem: jako k novému kolegovi s přístupovou kartou, kterému důvěra roste postupně.

Jak to vypadá v praxi

  1. Úkol s mantinely, ne jen cíl: „Prodej nejméně za 700 USD, adresu pošli až po mém potvrzení.“
  2. Oprávnění na minimum: nikdy „povolit vždy“ napoprvé, viz nejmenší oprávnění.
  3. Nevratné kroky schvaluje člověk: odeslat, zaplatit, smazat, zveřejnit.
  4. Citlivá data jen tam, kde jsou nutná, a čtěte šablony zpráv, které agent posílá.
  5. Krátké úlohy s kontrolním bodem.
  6. Stopa, revize a zkušební doba: první týdny kontrolujte vše, pak vzorky.

Podrobně i s kontrolním seznamem deseti otázek v článku Jak bezpečně delegovat na AI agenta.

Na co si dát pozor

  • Pravidla platí i pro naplánované úlohy a computer use, nejen pro „velké“ agenty.

Podrobně v článku

Související pojmy

  • Mantinely

    Mantinely jsou předem daná omezení, ve kterých AI agent pracuje: co nesmí udělat, kolik smí utratit a ke kterým datům a webům smí. Mohou být napsané v zadání i nastavené technicky v nástroji.

  • Nejmenší oprávnění

    Nejmenší oprávnění je bezpečnostní princip, podle kterého AI dostane jen ty přístupy, které konkrétní úloha opravdu vyžaduje, a jen na dobu, kdy je potřebuje. U agentů se mluví i o nejmenší samostatnosti (least agency).

  • Člověk ve smyčce

    Člověk ve smyčce je princip, podle kterého AI práci připraví, ale nevratné nebo rizikové kroky, jako odeslání, platbu nebo smazání, potvrzuje člověk. Je základem bezpečného delegování na agenty.

  • Kontrolní bod

    Kontrolní bod je předem určené místo v postupu, kde AI agent zastaví a čeká, až člověk zkontroluje výsledek a schválí další krok. Určuje se už při zadání úlohy, ne až když se něco pokazí.

  • AI agent

    AI agent je program nad jazykovým modelem, který na zadaný cíl sám plánuje kroky, používá nástroje a pracuje dál bez další zprávy od člověka. Na rozdíl od chatbota tedy jen neodpovídá, ale jedná.

  • Červené linie

    Červené linie jsou činnosti a data, které se na AI nedelegují vůbec, ani s kontrolou: platby, hesla, bankovnictví, odeslání bez kontroly a rozhodnutí o lidech. V kurzu jde o pevný seznam pro Chrome, computer use i agenty.

Kde to učíme

Pojem z kurzu Masterclass: Claude pro byznys. Prakticky ho procházíme v modul 0: Základna: účty, plány, instalace. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu