Seznam, který se čte jako sci-fi, dokud v něm firma nenajde sama sebe
Když se řekne zakázané praktiky umělé inteligence, většina lidí si představí sledování obyvatelstva nebo bodování občanů podle chování, jak to zavedla Čína. Je to přesně to, co článek 5 evropského nařízení o umělé inteligenci opravdu zakazuje, a je to daleko od běžné české firmy s patnácti nebo sto zaměstnanci.
Problém je, že mezi osmi zakázanými praktikami, doplněnými v červenci 2026 o další dvě, jsou i dvě, které si firma může koupit jako součást zdánlivě neutrálního softwaru, aniž by tušila, co přesně dělá. Tenhle text je oddělí od zbytku seznamu, kde jde spíš o zajímavost než o riziko.
Přehled navazuje na souhrnný text o pravidlech platných po 2. srpnu 2026, kde je i tabulka sankcí. Tady jdeme do hloubky jen u článku 5.
Celý seznam v přehledu
| Zakázaná praktika | O co jde | Týká se běžné firmy? |
|---|---|---|
| Podprahové a manipulativní techniky | Ovlivňování rozhodování bez vědomí člověka, které mu způsobí újmu | Výjimečně, u agresivního marketingu |
| Zneužití zranitelnosti | Cílení na věk, zdravotní postižení nebo tíživou sociální situaci | Výjimečně, u spotřebitelských úvěrů |
| Sociální bodování | Hodnocení lidí podle chování s dopadem mimo původní kontext | Prakticky ne, míří na veřejné orgány |
| Predikce trestné činnosti jen z profilu osoby | Odhad rizika bez konkrétního jednání | Ne, míří na orgány činné v trestním řízení |
| Plošné stahování obličejů z internetu nebo kamer | Budování databází pro rozpoznávání obličejů | Výjimečně, u vlastních kamerových systémů |
| Odvozování emocí na pracovišti a ve školství | Hodnocení emočního stavu zaměstnanců, uchazečů, žáků | Ano |
| Biometrická kategorizace odvozující citlivé údaje | Odhad rasy, politických názorů, orientace z biometrických dat | Ano |
| Biometrická identifikace na veřejnosti v reálném čase | Rozpoznávání konkrétních osob na ulici | Ne, jen orgány činné v trestním řízení, a i to výjimečně |
| Intimní obrazový materiál bez souhlasu (doplněno 2026) | Vytváření nebo úprava intimních zobrazení bez souhlasu | Ne, mimo legitimní podnikání |
| Materiál zobrazující zneužívání dětí (doplněno 2026) | Generování takového obsahu | Ne, mimo legitimní podnikání |
Tučně zvýrazněné dva řádky jsou ty, kde se firma může splést, aniž by to zamýšlela.
Zákaz, který se týká pohovorů i porad
Od 2. února 2025 platí zákaz uvádět na trh, do provozu nebo používat systémy, které odvozují emoce fyzické osoby v oblasti pracoviště a vzdělávacích institucí. Pojem pracoviště se podle výkladu vztahuje široce na jakékoli místo, kde se vykonává práce, a zahrnuje i proces náboru, tedy i uchazeče, kteří zaměstnanci firmy ještě nejsou.
Prakticky to zasahuje produkty, které se v posledních letech nabízely jako pokrokové: analýza tónu hlasu a mimiky při videopohovoru, měření „zapojení“ nebo „nadšení“ účastníků online porady, software, který na základě hlasu operátora v call centru odhaduje jeho náladu. Pokud takový systém odvozuje emoční stav lidí, spadá pod zákaz bez ohledu na to, jak neškodně ho dodavatel v prezentaci popisuje.
Výjimka platí pro zdravotní nebo bezpečnostní důvody, typicky terapeutické využití, a pro čistě osobní nácvik, kde výsledek nevidí nikdo, kdo o dané osobě rozhoduje, a nijak neovlivňuje její hodnocení nebo povýšení. Jakmile se výsledek dostane k nadřízenému nebo do personálního spisu, výjimka končí.
Na školeních se nás firmy ptají, jestli se zákaz týká i běžných průzkumů spokojenosti zaměstnanců. Netýká se, pokud jde o dotazník, na který lidé sami odpovídají. Zákaz cílí na systémy, které emoce odvozují samy, typicky z obrazu, hlasu nebo biometrických signálů, ne na to, že se zaměstnanců na jejich pocity přímo zeptáte.
Zákaz, který se schovává v marketingových a bezpečnostních nástrojích
Druhá praktika relevantní pro firmy je biometrická kategorizace. Zakázané jsou systémy, které kategorizují fyzické osoby na základě biometrických údajů, jako je otisk prstu, obličej nebo hlas, a z těchto dat odvozují nebo dovozují citlivé charakteristiky: rasu, politické názory, členství v odborech, náboženské vyznání, sexuální život nebo sexuální orientaci.
Firmy se s tímhle setkávají hlavně u kamerových analytických systémů prodávaných jako nástroj pro měření návštěvnosti prodejny nebo pro bezpečnost. Pokud takový systém kromě počítání lidí nebo odhadu věku a pohlaví přidává i odhad dalších, citlivějších kategorií, dostává se firma, která ho koupila a provozuje, do dosahu zákazu, i když sama žádnou kategorizaci nezadávala a jen převzala hotový produkt.
Výjimka je úzká a týká se v zásadě jen zákonného označování nebo filtrování dat získaných biometrickým systémem a kontextu vymáhání práva. Pro běžný komerční provoz prakticky neplatí.
Zákaz platí i pro toho, kdo nástroj jen používá
U jiných částí nařízení, třeba u pravidel průhlednosti podle článku 50, se povinnosti dělí mezi poskytovatele, tedy dodavatele nástroje, a zavádějící subjekt, tedy firmu, která ho používá. U zakázaných praktik tohle dělení téměř mizí. Článek 5 zakazuje uvádět na trh, uvádět do provozu i používat systémy s těmito vlastnostmi, a slovo používat se týká přímo firmy jako zákazníka.
To znamená, že argument „to jsme nevymysleli my, jen jsme si koupili hotový produkt“ u zakázaných praktik neobstojí. Zodpovědnost za to, že koupený nástroj takhle nefunguje, nese i firma, která ho nasadila, ne jen ten, kdo ho vyrobil. Právě proto dává smysl klást dodavateli konkrétní otázky ještě před podpisem smlouvy, ne se spoléhat na to, že za správnost produktu ručí sám výrobce.
Co s tím dělat, než nástroj koupíte
Tři otázky, které mají smysl položit dodavateli dřív, než firma podepíše smlouvu na kamerový nebo náborový systém s prvky umělé inteligence:
- Odvozuje systém emoce, náladu nebo míru zapojení konkrétní osoby? Pokud ano a nejde o zdravotní nebo bezpečnostní účel, jde o zakázanou praktiku.
- Odvozuje systém z biometrických dat rasu, politický názor, náboženství nebo sexuální orientaci? I jako vedlejší, nepoužívanou funkci. Pokud ano, jde o zakázanou praktiku bez ohledu na to, jestli ji firma plánuje využívat.
- Umí to dodavatel doložit písemně? Ústní ujištění obchodního zástupce v případě kontroly nic neváží, dokumentace k systému ano.
Tenhle krok patří do stejného procesu jako schvalování nového nástroje, o kterém je řeč v textu o tom, koho se ve firmě týká povinnost gramotnosti v oblasti AI. Kdo nástroje schvaluje, měl by tyhle tři otázky mít v kontrolním seznamu.
Sankce, které se nedají zlehčit
Porušení zakázaných praktik má nejvyšší sazbu v celém nařízení: do 35 milionů eur nebo 7 procent celosvětového ročního obratu, podle toho, která hodnota je vyšší. U malých a středních podniků se podle článku 99 odstavce 6 uplatní ta nižší z obou hodnot, ne vyšší, ale i tak jde o řád, který se nedá srovnávat s běžnou provozní pokutou.
Digitální omnibus, který u vysoce rizikových systémů většinu termínů odsunul, u zakázaných praktik naopak přitvrdil. To je odpověď těm, kdo omnibus čtou jako plošné změkčení celého nařízení: nejpřísnější pásmo se nerozvolnilo, naopak se rozšířilo.
Kde v tom stojíme my
Právní posouzení konkrétního nástroje, který firma zvažuje koupit, neděláme, na to je potřeba advokát nebo specializovaný auditor. Co v kurzech učíme, je základní orientace: aby lidé, kteří ve firmě nástroje vybírají, věděli, na co se dodavatele zeptat, dřív než něco podepíšou.
V padesátihodinovém kurzu AI pro zaměstnance je bezpečnostní minimum součástí prvního modulu, včetně přehledu toho, co je zakázané a co jen vysoce rizikové. Při schválené žádosti kurz hradí program Úřadu práce, kolik z ceny pokryje ve vašem případě, spočítáme písemně dopředu.
Zdroje
- Nařízení (EU) 2024/1689 o umělé inteligenci, článek 5, EUR-Lex
- Nařízení (EU) 2026/1744, digitální omnibus na umělou inteligenci, EUR-Lex
- Red Lines under EU AI Act: emotion recognition in the workplace, Future of Privacy Forum
- Prohibited practices, Bundesnetzagentur
Časté dotazy
O autorovi
Lektor firemních kurzů AI
Bývalý pedagog, dnes vývojář a expert Inovačního centra Ústeckého kraje. Proškolil stovky pedagogů a stovky zaměstnanců firem.
- AI automatizace
- Interní nástroje
- Digitální gramotnost