Nejzáludnější chyba AI není obrázek s šesti prsty. Mnohem horší je odpověď, která zní klidně, chytře a přesvědčivě, ale její hlavní informace je úplně vedle. Po předchozích dílech už máme představu, co chatbot umí; teď bych ráda přidala několik zábran, aby nám tahle pomocnice nezpůsobila víc práce než užitku.
Model nelže, ale umí si velmi plynule vymýšlet
Halucinace je situace, v níž AI vytvoří nepravdivou informaci, jako by byla skutečná. Může si vymyslet knihu, soudní rozsudek, citaci odborníka, odkaz na web nebo třeba funkci v programu. Slovo halucinace zní trochu dramaticky, ale nejde o to, že by počítač něco „viděl“. Jazykový model hlavně dopočítává, jaká slova nejspíš patří za sebe. Pravda není automatická součást téhle hry.
Model přitom nemá úmysl vás oklamat. Nemá ani vnitřní kontrolku, která by spolehlivě hlásila: tady už jen hádám. Na otázku s mezerou v jeho znalostech často raději sestaví věrohodně znějící odpověď, než aby poctivě řekl „nevím“. Upřímně, občas bych takovou sebedůvěru potřebovala při odpovídání na pracovní e-maily. Jenže u faktů je to přesně vlastnost, kterou nechceme.
Opatrnost patří hlavně k aktuálním zprávám, číslům, právu, zdraví, financím a citacím. Podezřelý je i zdroj, který nejde otevřít, nebo velmi konkrétní tvrzení bez odkazu. Požádat chat o zdroje může pomoci, ale není to důkaz: AI zvládne vymyslet i zdroj. Důležitý údaj je potřeba dohledat v původním článku, na webu instituce nebo u člověka, který za něj skutečně ručí.
Neutrální tón neznamená neutrální odpověď
Zaujatost neboli bias znamená systematické zkreslení: některé lidi, názory nebo situace může systém posuzovat jinak než jiné. Modely se učí z velkého množství lidského textu a obrázků. Internet ale není sbírka dokonale vyvážených a spravedlivých poznámek z učebnice. Jsou v něm stereotypy, předsudky, hlasité menšiny i prosté nesmysly.
Problém se může objevit třeba ve výběru životopisů, popisu profesí, doporučení lidí pro práci nebo v generovaných obrázcích. Zadání „nakresli manažera“ může opakovat stereotypní představu o tom, kdo manažer bývá. Odpověď navíc někdy zní uhlazeněji, než odpovídá jejím předpokladům.
Mně osobně přijde užitečné položit doplňující otázku: „Z čeho tento závěr vychází a jaké má limity?“ U rozhodnutí, která dopadají na konkrétního člověka, by AI neměla být jediným soudcem. Pomůže s tříděním nebo prvním návrhem, ale člověk musí rozumět pravidlům, zkontrolovat výsledek a mít možnost chybu opravit.
Co do chatu raději nepatří
Text vložený do AI služby není automaticky soukromý zápisník. Pravidla se liší podle konkrétní služby, účtu i nastavení: někde lze zakázat využití konverzací pro zlepšování modelu, jinde se data mohou určitou dobu ukládat kvůli bezpečnosti. Než nahrajete soubor, vyplatí se podívat do nastavení a podmínek. Ani to ale není pozvánka poslat všechno.
Do veřejného chatu bych nevkládala hesla, čísla dokladů, údaje z platební karty, zdravotní zprávy, neveřejné smlouvy ani osobní data cizích lidí. Pozor také na screenshoty: drobným písmem na nich často zůstává e-mail, telefon, adresa nebo interní informace. Pro vysvětlení problému obvykle stačí data nahradit zástupnými hodnotami. Místo skutečného rodného čísla prostě napište „[rodné číslo]“; chatbot se neurazí.
Firemní dokumenty mají ještě jednu vrstvu navíc. I zdánlivě nevinný seznam zákazníků nebo interní plán může být důvěrný. Bez souhlasu organizace a vhodně nastaveného pracovního nástroje bych takové podklady do běžné AI služby neposílala.
Hlas a obraz už nejsou samy o sobě důkaz
Generování obrazu a klonování hlasu umožňují vytvořit přesvědčivou nahrávku člověka, který nic neřekl, nebo fotografii události, která se nestala. Takovým podvrhům se často říká deepfake. Ne každý upravený obrázek je podvod; problém nastává ve chvíli, kdy má někoho oklamat, poškodit nebo vylákat peníze.
Nejspolehlivější obrana není lovit každý divný stín či mrknutí. Technika se zlepšuje a podobné „poznávací znaky“ rychle stárnou. Lepší je ověřit původ: kdo materiál zveřejnil, existuje i důvěryhodné potvrzení odjinud a sedí čas, místo i souvislosti? Naléhavá zpráva od příbuzného s prosbou o peníze si zaslouží zavolat na známé číslo nebo ověřit domluvené heslo. Neodpovídejte jen do stejného chatu, který může ovládat podvodník.
Moje krátké pravidlo zní: AI beru jako rychlý první návrh, ne jako poslední instanci. U běžného receptu je omyl nepříjemný. U smlouvy, diagnózy, platby nebo obvinění může být drahý. Právě tam se vyplatí zpomalit, otevřít zdroj a zapojit člověka.
AI nemusíme ani slepě věřit, ani se jí bát. Stačí jí nepřisuzovat schopnosti, které nemá: ověřovat důležité věci, chránit data a nenechat se přesvědčit jen proto, že odpověď zní sebejistě.
