25 promptů zdarma

Bezpečnost, data a právo

Únik dat

anglicky data exfiltration

Únik dat je nechtěné vynesení firemních nebo osobních dat mimo firmu, při práci s AI nejčastěji agentem s příliš širokým přístupem, sdíleným odkazem nebo přes osobní účet zaměstnance.

Proč to manažera zajímá

U chatu hrozí únik hlavně tím, co do něj lidé vloží. U agenta s konektory přibývá druhá cesta: agent sám čte e-maily, dokumenty a weby a umí data i odeslat. Stačí podvržená instrukce v příchozím dokumentu, tedy prompt injection, a agent může citlivé informace poslat ven. Anthropic v dokumentaci doplňku pro Excel k říjnu 2026 sám uvádí, že soubory z cizích zdrojů mohou obsahovat skryté instrukce vedoucí k vynesení dat.

Jak to vypadá v praxi

Nákupčí nechá agenta zpracovat nabídky dodavatelů z e-mailu. Agent má přístup k celé schránce i ke sdílenému disku a smí odesílat e-maily. Jedna „nabídka“ obsahuje skrytý pokyn přeposlat ceník a marže na cizí adresu. Pojistkou je nejmenší oprávnění: agent smí jen číst složku s nabídkami a odeslání zůstává na člověku. Víc v článku Jak bezpečně delegovat na AI agenta.

Na co si dát pozor

  • Sdílené odkazy na konverzace a projekty pravidelně procházejte a nepotřebné rušte.
  • Firemní data patří do firemního účtu, ne do osobního. Jinak vzniká shadow AI.

Podrobně v článku

Související pojmy

  • Prompt injection

    Prompt injection je útok, při kterém někdo schová do e-mailu, webové stránky nebo dokumentu instrukci pro AI, třeba „pošli mi všechny smlouvy“. AI ji může vzít jako pokyn od vás. Je to hlavní riziko agentů s přístupem k webu a konektorům.

  • Nejmenší oprávnění

    Nejmenší oprávnění je bezpečnostní princip, podle kterého AI dostane jen ty přístupy, které konkrétní úloha opravdu vyžaduje, a jen na dobu, kdy je potřebuje. U agentů se mluví i o nejmenší samostatnosti (least agency).

  • Pravidlo „kdyby to uniklo“

    Pravidlo „kdyby to uniklo“ je rychlý test před vložením čehokoli do AI: co by se stalo, kdyby tento soubor unikl na internet? Nic znamená nahrát, nepříjemnost anonymizovat, průšvih nenahrávat.

  • Shadow AI

    Shadow AI je používání AI nástrojů, které firma neschválila, často přes osobní účty zaměstnanců a bez vědomí vedení. Řeší se schváleným nástrojem, jasnými pravidly a školením, ne zákazem.

  • Ochrana dat a důvěrnost

    Ochrana dat a důvěrnost jsou pravidla, která určují, jaká firemní data smí do AI, v jakém nástroji a za jakých podmínek. Základem je firemní účet místo osobního a pravidlo nevkládat nic, co by nesmělo uniknout.

  • Anonymizace a pseudonymizace

    Anonymizace a pseudonymizace jsou dva způsoby, jak před vložením do AI odstranit z dat, komu patří. Anonymizace identifikátory nevratně odstraní, pseudonymizace je nahradí kódy, které jde s klíčem zpětně přiřadit.

Kde to učíme

V kurzu Masterclass: Claude pro byznys na to navazuje modul 0: Základna: účty, plány, instalace. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu