25 promptů zdarma

Zavádění AI ve firmě

AI governance

AI governance je systém řízení AI ve firmě – kdo smí jaké nástroje používat, na jaká data, kdo schvaluje automatizace a jak se kontrolují rizika a soulad s předpisy. AI politika je její písemná část.

Proč to manažera zajímá

Za kroky AI agenta odpovídá ten, kdo ho pustil, ne nástroj. Bez jasných pravidel lidé AI stejně používají, jen s vlastními účty a mimo dohled – vzniká shadow AI. Governance nemá práci brzdit: určuje, co je dovoleno hned, co potřebuje schválení a co je zakázané.

Jak to vypadá v praxi

V e-shopu se 40 lidmi stačí na začátek tři role a jedna stránka pravidel. Jednatel schvaluje nástroje a rozpočet, vedoucí týmů odpovídají za své automatizace a jeden člověk vede seznam schválených nástrojů a úloh. Pro agenty platí: kdo je smí nasadit, na jaká data a s jakými schvalovacími body; nevratné kroky vždy potvrzuje člověk ve smyčce. Základ dává šest pravidel bezpečného delegování. Víc v článku Jak bezpečně delegovat na AI agenta a v článku Computer use v Claude.

Na co si dát pozor

  • Zákaz AI nefunguje, lidé ji pak používají neřízeně.
  • Pravidla pište pro konkrétní úlohy a data, ne obecně „používejte AI zodpovědně“.

Podrobně v článku

Související pojmy

  • AI politika

    AI politika je krátký firemní dokument s pravidly pro práci s AI: které nástroje jsou schválené, jaká data do nich smí, kdo smí nasadit agenta nebo konektor a kdo za výsledky odpovídá.

  • Shadow AI

    Shadow AI je používání AI nástrojů, které firma neschválila, často přes osobní účty zaměstnanců a bez vědomí vedení. Řeší se schváleným nástrojem, jasnými pravidly a školením, ne zákazem.

  • Šest pravidel bezpečného delegování

    Šest pravidel bezpečného delegování je rámec deleguj AI pro práci s AI agenty: úkol s mantinely, oprávnění na minimum, nevratné kroky schvaluje člověk, citlivá data jen kde je nutné, krátké úlohy s kontrolním bodem a stopa se zkušební dobou.

  • Člověk ve smyčce

    Člověk ve smyčce je princip, podle kterého AI práci připraví, ale nevratné nebo rizikové kroky, jako odeslání, platbu nebo smazání, potvrzuje člověk. Je základem bezpečného delegování na agenty.

  • Odpovědnost za výstup AI

    Odpovědnost za výstup AI je princip, podle kterého za výsledek práce s AI odpovídá člověk nebo firma, kteří ho použili, ne nástroj. Proto výstup před odesláním někdo zkontroluje a schválí.

  • AI šampion

    AI šampion je kolega, který ve svém týmu používá AI jako první, sbírá osvědčené postupy a pomáhá ostatním začít. Tým tak učí kolega zevnitř, ne centrální příkaz shora.

Kde to učíme

V kurzu Masterclass: Claude pro byznys na to navazuje modul 8: Nasazení v týmu a firmě. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu