Tahle zpráva se nečte lehce, ale stojí za pozornost. OpenAI a její šéf Sam Altman čelí 30 novým žalobám souvisejícím se střelbou ve škole v kanadském Tumbler Ridge. Nejde přitom o obecnou debatu, zda jsou chatboty „nebezpečné“, nýbrž o velmi konkrétní otázku: co má firma udělat, když její systémy zaznamenají konverzace o možném násilí.
Žaloby staví na údajně přehlédnutém varování
Novou sérii žalob podali ve federálním soudu v Kalifornii studenti, učitelé a tehdejší ředitel školy. Tvrdí, že OpenAI poskytla podezřelému „podstatnou pomoc a podporu“ tím, že mu ponechala přístup k ChatGPT.
Podstatou obvinění je, že automatický kontrolní systém OpenAI označil konverzace podezřelého o střelném násilí. Bezpečnostní tým měl následně doporučit kontaktovat kanadské úřady. Žaloby ale tvrdí, že se firma rozhodla mlčet, údajně také z obavy o svou pověst a finance. To jsou zatím tvrzení žalujících, ne soudem potvrzené závěry, a je dobré tu hranici nepřeskakovat ani o pixel.
Podobné žaloby už dříve podaly rodiny obětí. Teď se okruh žalobců výrazně rozšířil o lidi, kteří byli ve škole v době útoku.
Deaktivace účtu prý nestačila
Nejvíc mě zarazil detail kolem účtu. Žaloby uvádějí, že OpenAI účet podezřelého jen „deaktivovala“, místo aby mu zablokovala přístup napříč systémem. Podle žalujících se tak mohl k chatbotu vrátit s jinou e-mailovou adresou.
Technicky to zní jako banální rozdíl, ale ve skutečnosti není. Běžný online účet se váže hlavně na e-mail; plošný zákaz pro konkrétního člověka je mnohem těžší, protože služba musí nějak spolehlivě poznat, že nový účet zakládá tatáž osoba. A tady už člověk narazí na soukromí, falešně označené uživatele i na otázku, jaká identita se po internetové službě vůbec smí vyžadovat. Z podkladu neplyne, jaké konkrétní technické možnosti OpenAI v tomto případě měla.
Žalující nicméně tvrdí, že pokračující přístup k nástroji byl sám o sobě podstatnou pomocí při plánování a provedení útoku. Právě to bude nejspíš jedna z klíčových věcí, kterou bude muset soud posoudit: nejen zda firma zachytila rizikový obsah, ale také zda její následné kroky mohly mít právně významnou souvislost s útokem.
OpenAI obvinění odmítá
Jason Kwon, strategický ředitel OpenAI, na síti X označil tvrzení o bezpečnostních týmech za nepravdivá. Výslovně odmítl, že by lidé rozhodující v těchto těžkých situacích nestavěli bezpečnost na první místo nebo že by do jejich rozhodování vstupovaly politické či PR důvody.
Odpověď je pochopitelně stručná a z ní samotné se nedozvíme, co přesně systém označil, kdo co věděl a podle jakého postupu se rozhodovalo. To je možná frustrující, ale zároveň správně připomíná, že máme zatím popis sporu z jedné novinové zprávy, ne kompletní soudní spis.
Odpovědnost není jen filtr na špatná slova
Mně osobně na tom přijde důležité, že bezpečnost AI se tu nezužuje na otázku, zda chatbot přímo vygeneroval návod na škodu. Řeší se celý řetězec: detekce varovných signálů, lidské posouzení, případné kontaktování úřadů i to, zda má uživatel po zásahu stále snadnou cestu zpět.
OpenAI už navíc čelí také žalobě státu Florida, který firmu obviňuje z napomáhání pachatelům masových střeleb, včetně podezřelého z útoku na Florida State University. Soudy teprve ukážou, které argumenty obstojí. Debata kolem AI bezpečnosti ale tímhle dostává velmi nepříjemně konkrétní rozměr.
Technologie se ráda tváří jako neutrální nástroj, dokud se nezačne řešit, co přesně dělat ve chvíli, kdy nástroj zahlédne možné nebezpečí. A na takovou situaci bohužel neexistuje tlačítko „vrátit zpět“.
