25 promptů zdarma

Základy AI a modely

Zkreslení

anglicky bias

Zkreslení (bias) je systematická nerovnováha v odpovědích AI převzatá z trénovacích dat, třeba když model při hodnocení lidí nenápadně zvýhodňuje určitou skupinu. Je to důvod, proč AI nemá o lidech rozhodovat sama.

Proč to manažera zajímá

Zkreslení se neprojeví jako chyba v jedné odpovědi, ale jako vzorec v mnoha. Každý výstup zvlášť vypadá rozumně, problém uvidíte až v součtu: kdo prošel prvním kolem výběru, komu AI navrhla vyšší hodnocení, čí reklamace označila za podezřelé. Za takové rozhodnutí odpovídá firma, ne nástroj, viz odpovědnost za výstup AI.

Jak to vypadá v praxi

Personalistka chce, aby AI seřadila osmdesát životopisů na pozici skladníka. Pokud model z trénovacích dat spojuje práci ve skladu spíš s určitým věkem nebo pohlavím, pořadí to tiše ovlivní. Rozumnější je nechat AI shrnout životopisy podle předem daných kritérií a o postupu rozhodnout sama. Zásady přijatelného užití Anthropic k říjnu 2026 řadí výběr uchazečů i hodnocení zaměstnanců mezi vysoce rizikové oblasti, kde doporučení AI musí smysluplně přezkoumat kvalifikovaný člověk. Nábor se týká i EU AI Actu.

Na co si dát pozor

  • Z podkladů pro hodnocení odstraňte údaje, které s kritérii nesouvisejí, třeba věk, fotku nebo rodinný stav.
  • Výsledky AI v personalistice kontrolujte i v součtu, ne jen jednotlivě.

Související pojmy

  • Trénování modelu a trénovací data

    Trénování modelu je proces, při kterém se jazykový model učí z obrovského množství textu (trénovacích dat). Hotový model se dál neučí a vaše chaty se do budoucího trénování dostanou jen podle nastavení účtu.

  • Člověk ve smyčce

    Člověk ve smyčce je princip, podle kterého AI práci připraví, ale nevratné nebo rizikové kroky, jako odeslání, platbu nebo smazání, potvrzuje člověk. Je základem bezpečného delegování na agenty.

  • Odpovědnost za výstup AI

    Odpovědnost za výstup AI je princip, podle kterého za výsledek práce s AI odpovídá člověk nebo firma, kteří ho použili, ne nástroj. Proto výstup před odesláním někdo zkontroluje a schválí.

  • EU AI Act

    EU AI Act je nařízení EU 2024/1689 o umělé inteligenci, které nabíhá postupně od února 2025. Běžnou firmu zavazuje hlavně k AI gramotnosti a transparentnosti, přísná pravidla platí pro vysoce rizikové systémy.

  • Strojové učení

    Strojové učení je oblast umělé inteligence, ve které programy získávají schopnosti z dat místo z ručně psaných pravidel. Velké jazykové modely jsou jeho dnes nejviditelnější odnoží.

  • Vysoce rizikové systémy AI

    Vysoce rizikové systémy AI jsou podle AI Actu systémy použité v oblastech s velkým dopadem na lidi, například v náboru, hodnocení zaměstnanců, vzdělávání nebo posuzování úvěrů. Musí splnit přísné požadavky včetně lidského dohledu.

Kde to učíme

V kurzu Masterclass: Claude pro byznys na to navazuje modul 1: Claude jako pracovní kolega. Na reálných úlohách z vaší firmy, česky a bez technického zázemí.

Prohlédnout moduly kurzu