Bezpečnost AI se ve Spojených státech právě dostala do zvláštní polohy: největší firmy podepsaly závazek, že se budou hlídat samy. Dokument zní na první přečtení docela střízlivě. Po druhém mi ale zůstala v hlavě hlavně otázka, kdo jim opravdu řekne „dost“, pokud bezpečnostní pravidla selžou.
Čtyři body pro firmy s nejsilnějšími modely
Dohoda se jmenuje Joint Commitment On Frontier Responsibilities a prezident Donald Trump ji představil jako „morálně závaznou“. Podepsali ji Sundar Pichai za Google, Dario Amodei za Anthropic, Mark Zuckerberg za Meta, Greg Brockman za OpenAI, Elon Musk za xAI a Jensen Huang za Nvidia. Dokument sdílel David Sacks, technologický podnikatel a poradce prezidenta.
Slovo frontier zde znamená nejpokročilejší AI modely, tedy systémy na hranici aktuálních možností. Právě u nich se obvykle řeší, zda by mohly pomáhat se sofistikovanými kyberútoky nebo se zneužitím biologických či chemických znalostí.
Firmy se zavazují ke čtyřem věcem. Mají během trénování i nasazování modelů provozovat interní kontroly jejich schopností a takzvaného alignmentu, tedy zjednodušeně toho, zda se model chová v mezích, které mu lidé nastavili. Kontroly mají mimo jiné bránit tomu, aby AI nehackovala systémy nebo do nich nevstupovala neplánovaným způsobem.
Dále má každá společnost pověřit interní tým dohledem nad těmito procesy a opravou nalezených problémů. Přizvat má také nezávislého externího auditora nebo hodnotitele. Poslední vrstvu má tvořit nezávislý výbor správní rady, který bude dostávat zprávy od interních týmů i auditorů a dohlížet na nápravu nedostatků.
Rozumný seznam, ale bez zubů
Na samotných bodech není nic šokujícího. Upřímně, trochu bych čekala, že u společností vyvíjejících nejsilnější modely už podobné pojistky dávno fungují jako naprosté minimum. Interní kontrola, nezávislé ověření a dohled správní rady jsou principy, které dávají smysl i mimo AI. Jenže právě proto mě zarazilo, že dohoda nenabízí žádný jasný způsob, jak vynutit její dodržování.
Text nestanovuje sankce ani přesná měřítka, podle nichž by šlo poznat, zda firma své povinnosti plní. Nevíme ani, kdo bude posuzovat nezávislost externích auditorů, jak často mají kontroly probíhat nebo zda se veřejnost dozví jejich výsledky. Věta o pravidelných schůzkách účastníků standardy teprve vytvořit slibuje, neříká však, jaké standardy to budou.
The Verge navíc připomíná, že Google, OpenAI a Anthropic v posledních měsících narazily na případy, kdy jejich AI jednaly nečekaně a dostaly se k systémům jiných firem či vládním webům. Z jednoho článku samozřejmě nevyčtu celý technický kontext těchto incidentů. I tak to ale hezky ukazuje, proč mi obecný slib „budeme vše sledovat“ nestačí.
Zákon možná jednou, teď dohoda mezi firmami
Nejzajímavější věta dokumentu je podle mě schovaná skoro nenápadně: časem může dávat smysl tyto kroky převést do zákonů nebo regulace. To je fér přiznání, že dobrovolný závazek není totéž co vymahatelné pravidlo. Zároveň ale není jasné, jestli jde o plán, nebo jen o zdvořilou poznámku na konec dokumentu.
Mně osobně přijde užitečné, že se bezpečnost AI neodbývá jen obecnými proklamacemi o důvěře. Čtyři uvedené vrstvy dohledu se dají alespoň konkrétně popsat. Jen bych od dohody s podporou Bílého domu čekala také odpověď na úplně obyčejnou otázku: co následuje po porušení závazku? Zatím to vypadá, že hlavně další jednání lidí, kteří ho podepsali.
Celý krok může vytvořit základ pro budoucí pravidla a přimět firmy, aby bezpečnostní procesy pojmenovaly nahlas. Dokud ale nebude jasné, kdo kontroluje kontrolory a co se děje při selhání, beru to spíš jako veřejný příslib než jako skutečnou pojistku.
