Žaloba Britské Kolumbie na OpenAI mě zaujala hlavně tím, že se neptá jen na to, zda ChatGPT mohl selhat. Požaduje velmi konkrétní náhradu: peníze na obnovu malé komunity Tumbler Ridge, včetně nové školy, a zpřístupnění konverzací útočníka s chatbotem.
Číst o podobné věci je nepříjemné a žádná technologická debata by neměla přebít oběti. Zároveň ale právě tady dostává poměrně abstraktní řeč o „AI safety“ tvrdé obrysy: uzavřená škola, provizorní třídy, péče o lidi a účet, který někdo musí zaplatit.
Škola, do níž se nešlo vrátit
Střelba v únoru 2026 v Tumbler Ridge v Britské Kolumbii si vyžádala osm životů. V samotné škole zemřelo pět dětí a asistentka ve vzdělávání; útočník tam následně zemřel vlastní rukou. Tumbler Ridge má přitom zhruba 2 700 obyvatel, takže věta místního představitele „všichni známe oběti“ bohužel nepůsobí jako fráze.
Tumbler Ridge Secondary School se po útoku už neotevřela. Asi 160 žáků, učitelů a dalších pracovníků v ní tehdy strávilo hodiny ukrytých ve třídách a skříních. Budova se pro část komunity stala symbolem traumatu, a její demolice začala v srpnu. Výuka mezitím pokračuje v provizorním areálu, který nejdřív vznikl ze čtrnácti přívěsů ministerstva lesnictví a později se rozšířil o větší modulární učebny.
Žaloba proto nechce jen obecné odškodné. Provincie a místní školský obvod žádají, aby OpenAI a Sam Altman hradili demolici, náhradní školu na jiném místě, nouzové vzdělávací zajištění i další výdaje. Patří mezi ně dlouhodobá zdravotní a psychologická péče, služby pro oběti a budované wellness centrum. Mně osobně přijde důležité, že se tu náklady nepopisují jako běžný provoz státu. Malé město prostě nemá záložní školu ani zástup lidí, kteří by bez následků převzali práci za zavražděné či traumatizované kolegy.
Nejcitlivější důkaz zůstává neveřejný
Britská Kolumbie chce po soudu okamžité vydání záznamů chatů mezi útočníkem a ChatGPT. OpenAI je zatím poskytla jen kanadské jízdní policii RCMP, která prověřuje informace z online účtů. Veřejnost tak neví, co přesně si útočník s chatbotem psal, jak ChatGPT odpovídal ani zda systém někdy konverzaci ukončil.
Právě tady bych byla opatrná s velkými závěry. Bez logů nelze poctivě tvrdit, že chatbot útok naplánoval nebo že jeho zveřejnění samo o sobě vyřeší otázku odpovědnosti. Zveřejnění navíc může narážet na soukromí zemřelého i na potřeby vyšetřování. Na druhou stranu je těžké vést věcnou debatu o selhání pojistek, když klíčový materiál vidí jen policie a firma.
OpenAI se k samotné žalobě a navrženým opatřením přímo nevyjádřila. Uvedla, že jde o nevýslovnou tragédii, vyjádřila soustrast obětem a zdůraznila spolupráci s úřady i pokračující práci na bezpečnosti. Ars Technica také píše, že firma dříve vysvětlovala rozhodnutí nepředat chaty policii ochranou soukromí; nakonec je policii poskytla.
Co by měl chatbot udělat při násilné konverzaci
Žaloba žádá i soudní příkaz, aby OpenAI upravila ChatGPT tak, že automaticky ukončí násilné konverzace. To zní na první přečtení jednoduše, ale není to malý požadavek. Model musí rozlišit mezi reálným záměrem ublížit, třeba psaním románu, školní debatou o historii nebo člověkem, který hledá pomoc v krizi. A moje zkušenost s technologiemi říká, že podobné rozlišování bývá přesně ten moment, kdy se elegantní šipka v prezentaci promění v klubko kabelů pod stolem.
To ale není argument pro nečinnost. Britská Kolumbie tvrdí, že OpenAI v prosinci 2025 provedla pokus o blokování násilných chatů, který škodlivému využití ChatGPT nezabránil. Provincie také namítá, že se po několika střelbách objevuje opakující se vzorec násilného použití chatbotu. Soud teprve bude řešit, co z toho lze firmě právně přičíst. Už samotná žaloba však tlačí na konkrétnější otázky: Kdy má systém konverzaci zastavit? Kdy ji má posoudit člověk? A za jakých okolností má firma upozornit orgány?
Nejde jen o omluvu
Právní spor může skončit různě a z podkladů neplyne, zda soud požadavkům Britské Kolumbie vyhoví. Přijde mi ale podstatné, že provincie nepožaduje jen omluvu ani neurčité přísliby lepší bezpečnosti. Spojuje údajné chyby AI nástroje s následky, které komunita skutečně nese roky.
Pokud se mají chatboty používat ve stále citlivějších situacích, bezpečnost nesmí být jen odstavec v nápovědě. Tumbler Ridge bohužel ukazuje, proč se otázka odpovědnosti nedá odložit na dobu, až budou systémy „ještě o trochu chytřejší“.
