Vinu nese firma, ne nástroj
Věta, kterou na školeních slýcháme nejčastěji, zní nějak takto: „Vždyť to nenapsal on, napsala to AI.“ Řekne ji obchodník, který poslal klientovi špatnou cenu, nebo personalistka, která nechala nástroj předtřídit uchazeče a jeden dobrý životopis vypadl. Otázka, kdo za to nese odpovědnost, se pak řeší, jako by šlo o novou právní kategorii. Není.
Odpovědnost za škodu způsobenou při podnikání dnes řeší stejné právo jako před deseti lety, kdy se chyba stala v tabulce nebo v dopise napsaném ručně. Nástroj, kterým firma pracuje, není subjekt práva a nemůže sám za nic odpovídat. Odpovídá ten, kdo ho použil, respektive firma, v jejíž prospěch a jejím jménem se to stalo.
Co v tom AI Act neřeší
Je to první nedorozumění, se kterým se na školeních setkáváme. Evropské nařízení o umělé inteligenci, rozebrané v samostatném článku, je hlavně předpis o bezpečnosti produktu a o povinnostech těch, kdo AI systémy vyvíjejí, uvádějí na trh nebo je používají. Neupravuje, kdo a jak zaplatí škodu, kterou AI nástroj způsobil třetí osobě. Sankce podle AI Actu jdou příslušnému dozorovému úřadu, ne poškozenému zákazníkovi.
Kdo tedy hledá v nařízení odpověď na otázku, kdo mu zaplatí škodu způsobenou chatbotem na cizím webu, hledá na špatném místě.
Zákon, který měl tohle vyřešit, a nepřišel
Evropská komise si mezeru uvědomovala. V roce 2022, dva roky před dokončením samotného AI Actu, navrhla zvláštní směrnici o odpovědnosti za umělou inteligenci. Měla poškozeným usnadnit dokazování v případech, kdy je těžké prokázat, co přesně uvnitř AI systému selhalo.
Návrh se ale roky nehnul z místa. V únoru 2025 Evropská komise oznámila, že o něm dál nepočítá jednat, a formálně ho z legislativního procesu stáhla v říjnu 2025. Proti návrhu se postavila i průmyslová sdružení, včetně zástupců zdravotnických technologií, s tím, že by přinesl další právní nejistotu. Komise zatím neoznámila, jestli přijde s jinou verzí.
Výsledek: zvláštní evropský zákon, který by odpovědnost za škodu způsobenou umělou inteligencí řešil napříč unií, neexistuje. Otázku dál řeší obecné právo každého členského státu, v Česku občanský zákoník.
Kdo tedy odpovídá podle českého práva
Základní pravidlo je jednoduché a nemění ho žádná umělá inteligence: kdo při své činnosti způsobí jinému škodu, odpovídá za ni. Firma, která nástroj vybrala, nasadila a jeho výstup pustila ven bez kontroly, jedná stejně, jako by tu chybu udělal člověk. Vůči zákazníkovi, dodavateli nebo úřadu odpovídá firma jako celek, ne konkrétní zaměstnanec, který text napsal nebo ho z nástroje jen zkopíroval.
Tohle bývá překvapení. Řada lidí si myslí, že použití nástroje odpovědnost nějak rozmělní nebo přenese na jeho výrobce. Neudělá ani jedno. Naopak, použití nástroje bez ověření výstupu může být samo o sobě součástí nedbalosti, kterou firmě bude soud nebo protistrana vyčítat.
Zaměstnanec, firma, nebo obojí
Uvnitř firmy je to jiná otázka, protože tam existuje pracovněprávní vztah. Vůči zákazníkovi nebo obchodnímu partnerovi odpovídá firma, protože zaměstnanec jednal jejím jménem. Uvnitř firmy ale zaměstnavatel může po zaměstnanci chtít náhradu škody, kterou způsobil.
Zákoník práce tuhle odpovědnost omezuje. U škody způsobené z nedbalosti je horní hranice čtyřapůlnásobek průměrného měsíčního výdělku zaměstnance. U úmyslného jednání nebo pod vlivem alkoholu či jiné návykové látky limit neplatí. V praxi to znamená, že hledat viníka mezi zaměstnanci vůči zákazníkovi nic neřeší. Důležitější otázka zní, jestli firma měla nastavenou kontrolu, která podobné chybě měla zabránit.
Když se software počítá jako výrobek
Zvláštní kapitola se týká dodavatelů a výrobců AI nástrojů, ne firem, které je jen používají. Revidovaná směrnice o odpovědnosti za vadné výrobky, nařízení (EU) 2024/2853, poprvé výslovně počítá se softwarem a umělou inteligencí jako s výrobkem. Přijata byla v říjnu 2024, členské státy ji musí promítnout do svého práva do 9. prosince 2026 a vztahuje se na výrobky uvedené na trh po tomto datu.
Jde o takzvanou objektivní odpovědnost, tedy odpovědnost bez ohledu na zavinění, kterou nese výrobce nebo dodavatel vadného produktu. Firmu, která si hotový nástroj koupila a používá ho ve své práci, se tohle týká jen výjimečně, typicky pokud by sama AI systém vyvíjela, podstatně upravovala nebo uváděla pod vlastní značkou. Pro naprostou většinu firem zůstává dodavatelem a tedy nositelem téhle odpovědnosti ten, od koho nástroj koupily.
Co (ne)zachrání smluvní podmínky
Poslední místo, kam se firmy někdy dívají, jsou obchodní podmínky dodavatele nástroje. Tady čeká zklamání. Velcí poskytovatelé jazykových modelů v podmínkách typicky odpovědnost za obsah a správnost odpovědí vylučují a riziko přenášejí na uživatele. Jinými slovy, dodavatel dá firmě nástroj, ale nezaručí, že odpověď je pravdivá, a odpovědnost za to, jak s odpovědí naloží, leží na firmě.
U běžného předplatného tohle nejde vyjednat. U větších firemních nasazení, kde jde o citlivá rozhodnutí nebo osobní údaje, má smysl smluvní podmínky projít s právníkem, protože u dat, která do nástroje vkládáte, se navíc přidává otázka ochrany osobních údajů podle GDPR. Tam má poškozený nárok na náhradu škody přímo vůči tomu, kdo únik nebo zneužití způsobil.
Pojištění, na které se zapomíná
Firmy si běžnou profesní odpovědnost pojišťují už dnes, ať jde o účetní chybu, špatnou radu nebo vadnou dodávku. Pojistné podmínky ale bývaly psané v době, kdy jazykové modely nikdo v kanceláři nepoužíval, a ne každá pojistka pokrývá škodu, ke které přispělo použití AI nástroje stejně jako chybu člověka.
Stojí za to zavolat pojišťovně a zeptat se na dvě věci. Za prvé, jestli se odpovědnost vztahuje i na škodu způsobenou s pomocí nástrojů umělé inteligence, ne jen na chybu člověka. Za druhé, jestli pojišťovna nevyžaduje, aby firma prokázala, jak výstup před odesláním kontrolovala. Odpověď na obojí bývá jiná firma od firmy a jiná pojišťovna od pojišťovny, a je lepší to vědět předem, ne až ve chvíli, kdy se něco stane.
Kdo za co odpovídá: přehled
| Situace | Kdo obvykle odpovídá |
|---|---|
| Firma pošle zákazníkovi chybný výstup z AI nástroje | Firma, podle obecné odpovědnosti za škodu |
| Zaměstnanec chybu způsobil z nedbalosti | Firma navenek, zaměstnanec omezeně uvnitř firmy |
| Nástroj samotný je vadný a způsobí škodu | Výrobce nebo dodavatel nástroje podle úpravy odpovědnosti za výrobek |
| Únik nebo zneužití osobních údajů přes AI nástroj | Ten, kdo údaje zpracovával v rozporu s GDPR, typicky firma jako správce |
| Chybný výstup vznikl podle podmínek dodavatele „na vlastní riziko“ | Uživatel, tedy firma, která výstup nekontrolovala |
Co s tím prakticky
Tři kroky, které firmám na školeních doporučujeme a které nemají nic společného s hledáním viníka:
- Určete, kdo výstup před odesláním kontroluje. Ne obecně, konkrétně: u nabídky obchodník, u mzdové agendy mzdová účetní. Bez určeného kontrolora se dokazuje běžná péče hůř.
- Zapisujte, co se kontroluje. Stačí jednoduché pravidlo, třeba součet položek u faktury nebo srovnání se smlouvou. Záznam, že kontrola proběhla, je v případě sporu víc než tvrzení, že se to jinak nikdy nekontroluje.
- Projděte podmínky dodavatele u citlivých nasazení. Většina firem nikdy nečetla, co si o odpovědnosti myslí dodavatel jejich chatbota. U běžné kancelářské práce to nevadí. U nasazení nad osobními nebo finančními údaji ano.
Kde v tom stojíme my
Právní posouzení konkrétního případu neděláme, na to jsou advokáti. Co učíme, je ta část, která odpovědnosti reálně předchází: jak poznat, že výstup nesedí, a kdo ho má ve firmě zkontrolovat dřív, než odejde ven.
V padesátihodinovém kurzu AI pro zaměstnance je ověřování výstupu samostatné téma a cvičí se na práci konkrétní firmy, ne na vzorových příkladech. Při schválené žádosti kurz hradí program Úřadu práce, kolik z ceny pokryje ve vašem případě, spočítáme písemně dopředu.
Zdroje
- European Commission withdraws AI Liability Directive from consideration, IAPP
- AI liability directive, Legislative Train Schedule, europarl.europa.eu
- Směrnice (EU) 2024/2853 o odpovědnosti za vadné výrobky, EUR-Lex
- Zákoník práce, odpovědnost zaměstnance za škodu, zakonyprolidi.cz
Časté dotazy
Může se firma zbavit odpovědnosti tím, že chybu udělala AI?
Ne. Nástroj není právnická ani fyzická osoba a nemůže sám nést odpovědnost. Za škodu způsobenou při podnikání odpovídá firma podle občanského zákoníku bez ohledu na to, jestli text napsal člověk, nebo jazykový model. Ověření výstupu před odesláním je součástí běžné péče, kterou se po firmě žádá.
Existuje evropský zákon, který přímo řeší odpovědnost za AI?
Ne v podobě, v jaké se plánoval. Evropská komise navrhla směrnici o odpovědnosti za AI už v roce 2022, ale v únoru 2025 oznámila, že ji stahuje, a formálně ji z legislativního procesu vyřadila v říjnu 2025. Neshodla se na tom, jak poškozenému usnadnit dokazování. Odpovědnost za škodu tak dál řeší obecné právo jednotlivých členských států.
Odpovídá zaměstnanec, který použil AI špatně?
Vůči zákazníkovi nebo obchodnímu partnerovi odpovídá firma, protože zaměstnanec jednal jejím jménem. Vůči zaměstnavateli může zaměstnanec nést odpovědnost za škodu, kterou způsobil, ale zákoník práce ji u nedbalostního jednání omezuje na čtyřapůlnásobek průměrného výdělku. U úmyslu nebo jednání pod vlivem alkoholu limit neplatí. V praxi jde spíš o to, jestli firma měla nastavenou kontrolu, která chybě měla zabránit.
Co znamená, že se software počítá jako výrobek?
Revidovaná směrnice o odpovědnosti za vadné výrobky, nařízení (EU) 2024/2853, od prosince 2026 rozšiřuje pojem výrobek i na software a AI systémy. Znamená to, že za vadný AI systém může nést objektivní odpovědnost jeho výrobce nebo dodavatel, podobně jako dnes výrobce vadného přístroje. Firmu, která si nástroj jen koupila a používá ho k vlastní práci, se to týká jen výjimečně, typicky pokud by sama takový systém vyvíjela nebo podstatně upravovala a uváděla pod vlastní značkou.
Pomůže nám, když si to ošetříme ve smlouvě s dodavatelem AI nástroje?
Podmínky dodavatelů jdou obvykle opačným směrem: odpovědnost za obsah a správnost odpovědí vylučují a riziko přenášejí na uživatele. U větších nasazení, kde jde o citlivá rozhodnutí nebo osobní údaje, má smysl smluvní podmínky projít s právníkem, běžná licence ale prostor k vyjednávání nedává.
Kde je hranice mezi chybou nástroje a chybou člověka?
Právně žádná zvláštní hranice neexistuje, protože odpovídá firma, ne nástroj. Prakticky ale hranice existuje v tom, jak firma nastavila kontrolu výstupu. Firma, která má určeno, kdo výstup před odesláním ověřuje, má víc důkazů, že škodě předcházela s běžnou péčí, než firma bez takového pravidla.