25 promptů zdarma

Bezpečnost, data a právo

Nejmenší oprávnění

anglicky least privilege

Nejmenší oprávnění je bezpečnostní princip, podle kterého AI dostane jen ty přístupy, které konkrétní úloha opravdu vyžaduje, a jen na dobu, kdy je potřebuje. U agentů se mluví i o nejmenší samostatnosti (least agency).

Proč to manažera zajímá

Agent s přístupem k celé schránce, celému disku nebo firemní kartě udělá i to, co mu nikdo nezadal. Nemusí jít o útok: stačí špatně pochopený cíl. Čím užší přístup, tím menší škoda, když se něco pokazí. Je to stejná disciplína, jakou firmy znají u lidí: nový kolega nedostane první den klíče od trezoru.

Jak to vypadá v praxi

Úloha má každé ráno shrnout objednávky z e-shopu. Dostane proto jen přístup pro čtení k exportu objednávek, ne práva upravovat ceny nebo psát zákazníkům. Agent, který zpracovává faktury, má vlastní účet a rozpočtový strop, ne přihlášení vedoucího. Trvalé povolení dostane až rutina, kterou máte ověřenou. Bezpečnostní komunita OWASP tento princip uvádí mezi základy ochrany agentních aplikací. Šest praktických pravidel shrnuje článek Jak bezpečně delegovat na AI agenta.

Na co si dát pozor

  • Nikdy „povolit vždy“ napoprvé. Oprávnění rozšiřujte podle prokázaného chování.
  • U konektorů kontrolujte rozsah oprávnění, který při napojení schvalujete.

Podrobně v článku

Související pojmy

  • Rozsah oprávnění

    Rozsah oprávnění je výčet toho, co smí AI nebo konektor v připojené aplikaci dělat, například jen číst e-maily, nebo je i odesílat. Schvaluje se při připojení a měl by odpovídat tomu, co úloha opravdu potřebuje.

  • Přístup jen pro čtení

    Přístup jen pro čtení je oprávnění, se kterým AI data v připojeném systému vidí, ale nemůže je měnit, mazat ani odesílat. Je to bezpečný výchozí stav pro reporty, analýzy a první nasazení agentů.

  • AI agent

    AI agent je program nad jazykovým modelem, který na zadaný cíl sám plánuje kroky, používá nástroje a pracuje dál bez další zprávy od člověka. Na rozdíl od chatbota tedy jen neodpovídá, ale jedná.

  • Autonomie

    Autonomie je míra samostatnosti, kterou dáte AI agentovi: kolik rozhodnutí a kroků smí udělat bez schválení člověkem. Nastavuje se podle rizika úlohy, ne podle toho, co AI zvládne.

  • Mantinely

    Mantinely jsou předem daná omezení, ve kterých AI agent pracuje: co nesmí udělat, kolik smí utratit a ke kterým datům a webům smí. Mohou být napsané v zadání i nastavené technicky v nástroji.

  • Agent jako insider

    Agent jako insider je bezpečnostní pohled, podle kterého AI agenta s vašimi přístupy řídíte jako zaměstnance s přístupem do firmy: oprávnění dostává podle prokázaného chování a jeho kroky někdo sleduje.

Kde to učíme

V kurzu Masterclass: Claude pro byznys na to navazuje modul 0: Základna: účty, plány, instalace. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu