Úloha, u které se vyplatí znát hranici
Ze všech prací, které jazykový model ve firmě zvládne, patří předvýběr uchazečů k těm, kde se nejrychleji plete pomoc s rozhodováním. A je to zrovna oblast, kde ten rozdíl něco znamená právně, ne jen prakticky.
Personalista, který dostane na jedno volné místo osmdesát životopisů, má silný důvod nechat si první čtení ulehčit. Otázka není, jestli to model zvládne. Otázka je, kde končí jeho pomoc a začíná rozhodnutí, které má mít na starosti člověk.
Co je bezpečná pomoc
Tyhle úkony model zvládá dobře a nenesou zvláštní riziko, protože na konci pořád rozhoduje personalista:
- Shrnutí životopisu do jednotné podoby, aby se daly porovnávat vedle sebe.
- Srovnání s popisem pozice, tedy vypsání, co uchazeč splňuje a co ne, podle toho, co je v inzerátu.
- Příprava otázek na pohovor ušitých na konkrétní zkušenosti z životopisu.
- Návrh odpovědi uchazeči, ať už pozvánky, nebo zdvořilého zamítnutí, kterou personalista před odesláním upraví.
Společné mají to, že výstup je podklad. Personalista si ho přečte a teprve on rozhodne, koho pozve.
Kde to přechází do jiné kategorie
Jiná situace nastává, když systém sám, bez toho, aby se konkrétní případ dostal před člověka, roztřídí uchazeče a část z nich automaticky vyřadí. To už není pomoc s čtením, to je rozhodování.
Evropské nařízení o umělé inteligenci řadí nábor a výběr uchazečů mezi vysoce rizikové oblasti podle přílohy III. Rozebrali jsme to v článku o tom, co pro firmy platí po 2. srpnu 2026: povinnosti u téhle kategorie se odsunuly z původního termínu na 2. prosince 2027. Do té doby ještě neplatí v plném rozsahu, ale kategorie samotná se tím nezměnila. Nástroj, který třídí životopisy podle vhodnosti, do ní patří teď stejně jako po prosinci 2027.
K tomu přistupuje GDPR, které v článku 22 omezuje rozhodnutí založené výhradně na automatizovaném zpracování, jež má na člověka právní nebo jinak významný dopad. Automatické vyřazení uchazeče bez lidského zásahu je typickým příkladem, který se pod tohle ustanovení řadí. Dotčený člověk má právo na lidský zásah, na vyjádření svého stanoviska a na napadení rozhodnutí.
Obě pravidla míří na stejnou věc z jiné strany. AI Act řeší, jak má být takový systém navržený a doložený. GDPR řeší práva konkrétního uchazeče vůči rozhodnutí, které ho zamítlo. Firmě, která nábor jen chce zrychlit, stačí zapamatovat si jedno: rozhodnutí musí zůstat na člověku.
Rychlá orientace
| Úkon | Kdo rozhoduje | Riziko |
|---|---|---|
| Shrnutí životopisu do přehledné podoby | Personalista | Nízké, je to jen zpracování textu |
| Srovnání s požadavky pozice | Personalista | Nízké, výstup se dá ověřit proti inzerátu |
| Příprava otázek na pohovor | Personalista | Nízké |
| Automatické skórování uchazečů bez kontroly | Systém | Vysoké, patří do přílohy III a pod GDPR čl. 22 |
| Automatické odeslání zamítnutí bez lidského čtení | Systém | Vysoké, ze stejného důvodu |
Jak to vypadá v praxi
Personalistka menší firmy dostane na pozici účetní třicet životopisů. Bezpečný postup vypadá takhle: každý životopis vloží modelu spolu s popisem pozice a nechá si vypsat, co uchazeč splňuje, co ne, a jaké otázky by u něj na pohovoru dávaly smysl vzhledem k tomu, co v životopise chybí nebo je nejasné.
Výstup je pro každého uchazeče jedna přehledná stránka. Personalistka je pak čte a sama rozhoduje, koho pozve. U dvou uchazečů se stejně dobrým shrnutím může rozhodnout jinak, než by napovídalo strojové srovnání, třeba proto, že jeden z nich má zkušenost s podobně velkou firmou, což model nemusí vyhodnotit stejně důležitě jako ona.
Rozdíl proti rizikové variantě je v tom, že tohle rozhodnutí padlo u konkrétního člověka nad konkrétním čtením, ne automaticky podle skóre, které by třicet uchazečů seřadilo a personalistce poslalo jen prvních pět.
Kde to dál selhává, i v té bezpečné variantě
Vymyšlené hodnocení. Model může životopis ohodnotit jistě znějícím číslem nebo procentem shody, které nemá oporu v ničem měřitelném. Berte takové skóre jako dojem, ne jako fakt, a nikdy ho neposílejte dál jako jediný důvod rozhodnutí.
Nekontrolovatelná tvrzení v životopise. Model neověří, jestli uchazeč skutečně uměl to, co napsal. Ověření patří na pohovor a do reference, ne do prvního čtení strojem.
Jazyk a formát životopisu. Neobvykle formátovaný dokument nebo životopis v cizím jazyce může model vyhodnotit hůř, ne proto, že by uchazeč byl slabší, ale proto, že se ho hůř parsuje. Stojí za to to vědět a u nejasných případů se podívat na originál.
Nerovnoměrné hodnocení podobných uchazečů. Model se učí z běžných vzorců toho, jak životopisy obvykle vypadají, a tyhle vzorce nemusí být neutrální vůči tomu, jak je životopis napsaný, ne vůči tomu, co uchazeč skutečně umí. Dva lidé se stejnou zkušeností, ale jinak sebevědomě popsanou, mohou dostat jiné hodnocení. Proto se nedoporučuje brát skóre jako jediné měřítko a je dobré si u hraničních případů životopis přečíst i bez modelu.
Osobní údaje v konverzaci. Životopisy obsahují jména, kontakty a někdy i citlivé údaje, třeba zdravotní omezení uvedená dobrovolně. Co do veřejné verze nástroje nepatří, jsme popsali v článku o tom, co do ChatGPT nepatří. Pro nábor to platí obzvlášť, protože jde o citlivější údaje než u běžné korespondence.
Praktické nastavení, které funguje
- Nechte model připravit podklad, ne rozhodnutí. Shrnutí, srovnání s pozicí, návrh otázek. Ne skóre, podle kterého se automaticky vyřazuje.
- Určete, kdo se na výstup skutečně podívá. Ne jen podepíše, ale přečte, u každého uchazeče zvlášť.
- Uchovejte doklad, že se tak stalo. U náboru se to jednou může hodit, ať už kvůli uchazeči, který se zeptá, nebo kvůli kontrole.
- Nepoužívejte veřejnou bezplatnou verzi na citlivější údaje z životopisů. Firemní varianty s odpovídající ochranou dat jsou tu na místě.
- Sledujte, jestli výběr systematicky nezvýhodňuje nebo neznevýhodňuje určitou skupinu uchazečů. Model se učí z běžných vzorců v datech a ty nemusí být neutrální.
Co dělat, když už automatický nástroj máte
Řada firem tohle riziko nezavádí vědomě. Koupí si náborový systém, který mezi funkcemi nabízí automatické skórování nebo řazení uchazečů podle vhodnosti, a teprve později zjistí, že se tahle funkce reálně používá jako filtr, ne jako pomůcka.
Pokud tohle je i váš případ, nemusí to znamenat vyhazovat nástroj. Znamená to ověřit dvě věci. První: kdo se skutečně dívá na životopisy uchazečů, kteří skórem propadli, tedy jestli je někdo aspoň namátkově kontroluje, nebo jestli jdou rovnou do koše bez dalšího čtení. Druhá: jestli má uchazeč reálnou možnost požádat o lidské posouzení a jestli o téhle možnosti vůbec ví. Obojí je levnější napravit teď než čekat, až se to řeší jako stížnost nebo kontrola.
Kde v tom stojíme my
Nábor za firmy neděláme a nenastavujeme HR systémy. Učíme personalisty a jednatele, jak si předvýběr postavit tak, aby ušetřil čas a zůstal na straně pomoci, ne rozhodování, které patří člověku.
V padesátihodinovém kurzu AI pro zaměstnance má práce s uchazeči vlastní cvičení na anonymizovaných životopisech a probírá se v něm i to, co z týhle práce nepatří do veřejného nástroje.
Při schválené žádosti kurz hradí program Úřadu práce. Kolik z ceny pokryje ve vašem případě, spočítáme písemně dopředu.
Zdroje
- Nařízení (EU) 2024/1689 o umělé inteligenci, příloha III, EUR-Lex
- Nařízení (EU) 2026/1744, digitální omnibus na umělou inteligenci, odklad termínů přílohy III, EUR-Lex
- Obecné nařízení o ochraně osobních údajů (GDPR), článek 22, gdpr-info.eu
Časté dotazy
Smíme použít AI na třídění životopisů?
Na přípravu podkladu ano. Na to, aby o pozvání nebo zamítnutí uchazeče rozhodovala sama, ne bez rizika. Nábor a výběr uchazečů patří podle evropského nařízení o umělé inteligenci mezi vysoce rizikové oblasti v příloze III, a GDPR navíc omezuje rozhodnutí založené výhradně na automatizovaném zpracování s významným dopadem na člověka. Bezpečná praxe je nechat model připravit shrnutí a srovnání, rozhodnutí ale vždy patří konkrétnímu člověku.
Znamená to, že nábor pomocí AI je teď zakázaný?
Ne. Povinnosti pro vysoce rizikové systémy podle přílohy III se odsunuly z 2. srpna 2026 na 2. prosince 2027, takže do té doby ještě neplatí v plném rozsahu. Znamená to ale, že kdo dnes zavádí nástroj, který automaticky třídí nebo odmítá uchazeče, zavádí si systém, na který se od prosince 2027 začnou vztahovat přísnější požadavky, a stojí za to to vědět dřív, než se koupí.
Jaký je rozdíl mezi shrnutím životopisu a rizikovým tříděním?
Rozhoduje, jestli na konci rozhoduje člověk nad konkrétním případem. Když model shrne životopis, porovná ho s popisem pozice a personalista se na to podívá a rozhodne, je to podklad pro rozhodnutí. Když systém sám bez lidského zásahu odešle část uchazečů rovnou do koše a jiné pozve, je to automatizované rozhodování s dopadem na člověka, a to je jiná kategorie odpovědnosti.
Může uchazeč žádat, aby jeho žádost posoudil člověk?
Podle GDPR má právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, které ho významně ovlivňuje, a má právo na lidský zásah, na vyjádření svého stanoviska a na napadení rozhodnutí. Prakticky to znamená, že firma musí umět ukázat, že se na jeho žádost skutečně podíval člověk, ne že jen odklepl výstup nástroje.
Co s tím dělat prakticky už teď?
Určit, kde v náboru model pomáhá a kde rozhoduje. Pomáhá tam, kde výstup čte a schvaluje personalista. Rozhoduje tam, kde se výstup posílá dál bez kontroly. Pokud se u vás děje to druhé, je čas to změnit dřív, než se z toho stane povinnost s termínem.