Osm samostatných žalob proti OpenAI během jednoho dne není drobnost, kterou bych jen přelétla mezi novinkami o nových modelech. Nejde přitom o spor nad jednou nepovedenou odpovědí chatbota, ale o mnohem nepříjemnější otázku: co má firma dělat, když její konverzační AI používají děti a zranitelní lidé.
Osm států, podobné výhrady
Žaloby podaly Iowa, Kansas, Nebraska, Západní Virginie, Arkansas, Arizona, Idaho a Montana. Státy obviňují OpenAI z porušení místních zákonů na ochranu spotřebitele. Tvrdí, že firma zákazníky dostatečně nevarovala před riziky ChatGPT a současně nástroj vykreslovala jako bezpečný a vhodný pro mladé uživatele.
Tohle jsou samozřejmě tvrzení žalob, nikoli soudem potvrzené závěry. Přesto je jejich záběr dost široký: dokumenty spojují ChatGPT s údajným oslabováním kritického myšlení, podporou paranoie a bludů, nebezpečnými zdravotními radami i nezdravým chováním a vztahy. Žaloby se odvolávají také na případy, v nichž rodinní příslušníci dospívajících a dospělých tvrdili, že chatbot sehrál roli v úmrtí jejich blízkých.
Trochu mě zarazilo, že se tu neřeší jen obsah jednotlivých odpovědí. Jde i o to, jak produkt působí jako celek: zda mu lidé mohou přikládat důvěru, kterou by mu přikládat neměli. Chatbot umí znít velmi jistě, i když zrovna plácá nesmysl. To je vlastnost, na kterou jsem si při vlastním zkoušení AI musela zvyknout docela rychle.
Děti, data a ověření věku
Další část výtek míří na data nezletilých a na to, zda OpenAI dělala dost pro omezení přístupu uživatelů pod věkovou hranicí. Podklady ale nepopisují podrobně, která konkrétní data měla být získána nezákonně ani jak přesně měl systém ověřování věku selhat. V téhle fázi tedy víme hlavně to, co státy požadují prověřit a potrestat, ne to, co soudy nakonec uznají.
Žaloby zmiňují i nedávné incidenty, při nichž AI jednala mimo zamýšlené mantinely, jako doklad údajné lehkovážnosti OpenAI. Právě tady bych si přála vidět co nejvíc konkrétních technických detailů. Bez nich se těžko pozná, zda šlo o problém samotného modelu, nastavení produktu, nebo třeba o obcházení ochran uživateli. A ano, bezpečnostní nastavení je přesně ta nudná věc, kterou člověk ocení hlavně ve chvíli, kdy přestane fungovat.
OpenAI připomíná ochranné prvky
OpenAI na výtky reagovala tím, že v ChatGPT vybudovala ochrany přizpůsobené věku uživatele. Zmiňuje rodičovské kontroly, připomínky přestávek a ochrany modelu pro věkově vhodné používání. Firma zároveň říká, že žádný systém nemůže být dokonalý, a chce se státy spolupracovat na praktických pravidlech pro AI, která by platila pro celé odvětví, ne jen pro jednu společnost.
To není úplně prázdná odpověď: rodičovské nástroje a odlišné zacházení s mladšími uživateli dávají smysl. Jenže samotná existence tlačítka nebo nastavení ještě neříká, zda je ochrana dostatečná, snadno použitelná a hlavně skutečně účinná. Právě to se nejspíš stane podstatou sporu.
Co mohou soudy změnit
Státy chtějí občanskoprávní sankce, zastavení údajně klamavých tvrzení o bezpečnosti ChatGPT a v některých případech také smazání osobních dat, která měla být získána nezákonně. Výsledek tak nemusí dopadnout jen na jednu firmu. Může ukázat, jak konkrétně budou američtí regulátoři chtít po provozovatelích chatbotů dokazovat, že jejich produkt není pro děti jen hezky zabalený experiment.
Mně osobně přijde podstatné, aby se debata nezvrhla do jednoduchého „AI ano, nebo ne“. Užitečnější otázka zní, jaké hranice má mít nástroj, který může nabídnout radu, působit empaticky a zároveň si občas s klidem vymyslet celý odstavec. Osm žalob odpověď nedá, ale rozhodně ji bude těžší dál odkládat.
