Zapnout chatbota je jednodušší než ho provozovat podle pravidel
Instalace chatbota na web dnes zabere odpoledne. Napojení na znalostní bázi, pár testovacích otázek, a je hotovo. Právní a provozní stránka věci se ale neřeší instalací, řeší se předtím, a právě tahle část se často přeskočí.
Tenhle text projde čtyři oblasti, které se u chatbota na webu potkávají: označení, že jde o stroj, ochranu osobních údajů, hranice automatizovaného rozhodování a otázku, kdo za špatnou odpověď chatbota odpovídá.
Musí být poznat, že mluvíte se strojem
Základní pravidlo stanoví článek 50 evropského nařízení o umělé inteligenci, kterému jsme se podrobně věnovali v textu o pravidlech platných po 2. srpnu 2026. Systémy určené k přímé interakci s lidmi musí být navržené tak, aby dotčený člověk věděl, že komunikuje s umělou inteligencí, ne s člověkem.
Výjimka existuje pro případy, kdy je to z okolností a kontextu použití zřejmé rozumně informovanému člověku. Jenže co je „zřejmé“, je věc výkladu, a spoléhat se na ni je riziko. Bezpečnější je napsat to vždy, a to hned na začátku konverzace, ne schované v dlouhých podmínkách používání, které stejně nikdo nečte.
Povinnost formálně leží na poskytovateli, tedy na dodavateli nástroje, který systém vyvíjí. To ale provozovatele webu nezachrání před zákazníkem, který půl hodiny psal s robotem v domnění, že píše s člověkem. Než chatbota spustíte, ověřte u dodavatele, že jeho výchozí nastavení tohle přiznává, a pokud ne, doplňte to sami v úvodní zprávě.
Jak to vypadá v praxi
Funguje kterákoli z těchto variant, hlavní je, že se objeví hned na začátku, ne až po pěti výměnách zpráv:
- krátká věta typu „Odpovídá vám automatický asistent, pro živého člověka napište kolegyně“
- jméno chatbota, ze kterého je jasné, že nejde o osobu, třeba „AI asistent“ místo jména a příjmení
- ikona nebo popisek vedle okna chatu, který stroj odlišuje od živého chatu s operátorem
Proč se vyplatí uchovávat záznam konverzace
Zdánlivě protichůdná rada k tomu, co je psáno výše o mazání dat: krátkodobé uchování historie konverzace firmě pomáhá, dlouhodobé jí škodí. Rozumná praxe je záznam držet po dobu, po kterou má smysl řešit reklamaci nebo spor o to, co chatbot zákazníkovi řekl, a pak ho smazat.
Bez záznamu se firma dostává do nevýhodné pozice ve chvíli, kdy zákazník tvrdí, že mu chatbot slíbil něco, co server ve skutečnosti nenabízí. Se záznamem lze snadno ověřit, co se skutečně stalo, a firma tak zároveň chrání sama sebe. Tahle praktická výhoda bývá silnějším důvodem k řádnému nastavení logování než samotná litera zákona.
Osobní údaje v historii konverzace
Chatbot, který si pamatuje předchozí zprávy nebo z konverzace vyplyne jméno, e-mail, telefon nebo číslo objednávky, zpracovává osobní údaje. Platí na něj běžná pravidla GDPR jako na kterýkoli jiný formulář nebo přihlašovací systém na webu.
V praxi to znamená tři věci. Firma jako správce musí návštěvníka informovat, k čemu se historie konverzace používá a jak dlouho se uchovává, obvykle stačí doplnit sekci do existujících zásad ochrany osobních údajů. Data by se měla mazat po přiměřené době, ne držet donekonečna jen proto, že úložiště nic nestojí. A pokud chatbot posílá data třetí straně, typicky provozovateli jazykového modelu mimo Evropskou unii, patří to do zásad zpracování zmíněné jako kategorie příjemce, podobně jako popisujeme u dat vkládaných do jazykových modelů obecně.
Kdy chatbot rozhoduje, a ne jen odpovídá
Rozdíl mezi „chatbot odpoví na dotaz“ a „chatbot rozhodne o věci“ je v praxi tenký, ale právně důležitý. Pokud chatbot čistě automatizovaně zamítne reklamaci, odmítne vrácení peněz nebo jinak rozhodne o něčem s právním nebo podobně významným dopadem na zákazníka, dostává se do dosahu článku 22 GDPR. Ten za určitých podmínek omezuje čistě automatizované rozhodování a dává dotčené osobě právo žádat lidský zásah a vyjádřit svůj názor.
Bezpečnější nastavení, které firmám na školeních doporučujeme, je nechat chatbota připravit odpověď nebo doporučení a člověka, aby zamítavé nebo sporné případy potvrdil. U jednoduchých a pro zákazníka příznivých odpovědí, třeba potvrzení objednávky, tohle riziko prakticky nehrozí.
Přehled: co u chatbota zkontrolovat před spuštěním
| Oblast | Co ověřit | Kdo to řeší |
|---|---|---|
| Označení stroje | Je z první zprávy jasné, že jde o AI | Nastavení u dodavatele, doplnění provozovatelem |
| Osobní údaje | Zásady ochrany údajů zmiňují chatbota a dobu uchování | Provozovatel webu |
| Automatizované rozhodování | Zamítavé odpovědi potvrzuje člověk | Provozovatel webu |
| Přepojení na člověka | Existuje cesta, jak se dostat k živé osobě | Provozovatel webu |
| Obsah odpovědí | Kdo kontroluje, že chatbot neslibuje, co firma nesplní | Provozovatel webu |
Druhá právní vrstva: klamavá obchodní praktika
Vedle evropského nařízení o umělé inteligenci na chatbota dopadá i starší, obecnější pravidlo. Český zákon o ochraně spotřebitele zakazuje nekalé obchodní praktiky, mezi které patří i praktika klamavá, tedy jednání, které spotřebitele uvede v omyl nebo mu zatají podstatnou informaci.
Přímá povinnost přiznat použití umělé inteligence v obecném spotřebitelském právu výslovně napsaná není. Pokud by ale firma o použití chatbota aktivně tvrdila nepravdu, nebo zatajila informaci, která by rozhodnutí zákazníka mohla ovlivnit, dá se to podle okolností posoudit jako klamavou praktiku bez ohledu na to, co říká nařízení o umělé inteligenci. Obě roviny se tedy sbíhají ke stejnému praktickému závěru: transparentnost se vyplatí i tam, kde konkrétní paragraf mlčí.
Kdy dává smysl přepojit na člověka
Ne každý chatbot potřebuje cestu k živému operátorovi, ale u dvou situací se bez ní firmy dostávají do potíží. První je stížnost nebo reklamace, kde zákazník cítí křivdu a automatická odpověď situaci spíš přiživí, než uklidní. Druhá je dotaz, na který chatbot z povahy věci nemá odpověď, a přesto se snaží něco vymyslet, protože je navržený tak, aby vždy nějakou odpověď vrátil.
Řešení není drahé. Stačí pravidlo, po kterém počtu neúspěšných pokusů nebo u jakých klíčových slov, třeba „reklamace“ nebo „stížnost“, se konverzace automaticky nabídne k přepojení na člověka nebo na e-mailový kontakt.
Co se v tom nejčastěji plete
Na školeních narazíme na dvě opakující se představy, obě mylné. První, že stačí mít v patičce webu obecnou zmínku o použití umělé inteligence, a to pokryje i chatbota. Nepokryje, protože nařízení míří na okamžik interakce, ne na obecné prohlášení schované jinde na webu.
Druhá představa je opačná: že se chatbota kvůli všem těmto povinnostem nevyplatí vůbec nasazovat. To taky neplatí. Splnění výše uvedeného přehledu zabere jedno odpoledne a týká se hlavně formulace a nastavení, ne technického přebudování nástroje.
Kde v tom stojíme my
Chatboty nestavíme ani neprodáváme. Co učíme, je to, jak s podobnými nástroji ve firmě pracovat, aby výsledek nepoškodil důvěru zákazníků, a jak nastavit kontrolu nad tím, co automatizovaná komunikace jménem firmy vlastně říká.
V padesátihodinovém kurzu AI pro zaměstnance má práce s automatizovanou komunikací vlastní modul, včetně toho, jak nastavit hranice mezi tím, co může odpovědět stroj, a co musí potvrdit člověk. Při schválené žádosti kurz hradí program Úřadu práce, kolik z ceny pokryje ve vašem případě, spočítáme písemně dopředu.
Zdroje
- Nařízení (EU) 2024/1689 o umělé inteligenci, článek 50, EUR-Lex
- Obecné nařízení o ochraně osobních údajů (GDPR), článek 22, EUR-Lex
- Zákon o ochraně spotřebitele č. 634/1992 Sb., nekalé obchodní praktiky, zakonyprolidi.cz
Časté dotazy
O autorovi
Lektor firemních kurzů AI
Bývalý pedagog, dnes vývojář a expert Inovačního centra Ústeckého kraje. Proškolil stovky pedagogů a stovky zaměstnanců firem.
- AI automatizace
- Interní nástroje
- Digitální gramotnost