Technologičtí šéfové se ve Washingtonu shodli, že AI má být bezpečná. To zní skoro až podezřele jednoduše. Mnohem zajímavější je, že nový plán administrativy prezidenta Donalda Trumpa podle dostupného popisu spoléhá hlavně na to, že si firmy pohlídají samy sebe.
Šest firem, jeden dobrovolný slib
Sundar Pichai z Googlu, Dario Amodei z Anthropicu, Mark Zuckerberg z Mety, Greg Brockman z OpenAI, Elon Musk z xAI a Jensen Huang z Nvidie podepsali dokument nazvaný Joint Commitment on Frontier Responsibilities. Frontier AI je označení pro nejvýkonnější modely na hraně současných možností; právě u nich se nejčastěji řeší nejen užitek, ale i potenciálně velké škody.
Závazek má firmám ukládat společné, rozumné zásady pro bezpečný vývoj a provoz jejich AI. Potíž je v tom, že jde o „morálně závazný“ slib, ne o zákon. Z textu podkladu také neplyne, jaké konkrétní následky by firmu čekaly, pokud pravidla poruší. A bez nezávislé kontroly je to trochu jako nechat studenty navrhnout pravidla zkoušky, opravit si ji a pak si ještě napsat omluvenku.
Bezpečnost ano, regulace zatím ne
Trump při setkání mluvil o AI nově jako o „Super Intelligence“ a tvrdil, že obavy o bezpečnost už nejsou demokratický „hoax“. Současně ale odmítal představu, že by vláda musela přidat výraznější ochranná opatření, protože americké společnosti podle něj dominují Číně. Dohled mají zajistit „nejchytřejší lidé na světě“, tedy lidé vedoucí firmy, jejichž produkty mají být dohlíženy.
Mně osobně na tom vadí hlavně kruhová logika. Šéfové velkých AI firem samozřejmě vědí o technologiích ohromně moc a jejich týmy bezpečnost opravdu řeší. Zároveň ale nesou odpovědnost investorům, soupeří o zákazníky, výpočetní výkon i talentované lidi. Nemusí to z nich dělat padouchy z kresleného seriálu; jen není moc rozumné předstírat, že obchodní zájem a veřejný dohled jsou totéž.
Vystoupení plné optimismu
Všichni přítomní manažeři plán chválili. Zuckerberg jej popsal jako začátek širší dohody v odvětví, která má lidem a zákazníkům dodat jistotu, že technologie funguje zamýšleným způsobem. Brockman mluvil o malých firmách, vědeckých objevech a vývoji léků. Huang zdůraznil, že mezi inovací a bezpečností nemusí být konflikt, a spojil rozvoj AI s budováním infrastruktury a pracovními místy v USA.
Pichai připomněl ekonomické přínosy AI a nutnost uvádět produkty bezpečně. Musk zase opravil vlastní výraz „AI“ na „SI“ a maloval budoucnost s lepší zdravotní péčí pro všechny díky robotům a superinteligenci. Na otázku, co lidé bez práce, odpověděl, že se pracovní role vždy proměňovaly. To je sice historicky pravda, ale samo o sobě to není plán pro člověka, kterému se práce promění rychleji než nájem na konci měsíce.
Nejstřízlivěji z vybraných citátů působí Amodei: vedle přínosů zdůraznil, že technologie má skutečná rizika a způsob, jak je řešit, se stále diskutuje. Právě to mi přijde jako podstatná věta celého setkání. Debata není uzavřená jen proto, že několik velmi mocných firem našlo společný podpis.
Co by stálo za dohledání
Samotný slib může být lepší než úplné ticho, zvlášť pokud firmy zveřejní konkrétní postupy testování a vyhodnocování rizik. Z dostupného textu ale nepoznám, jak přesně budou pravidla vypadat, kdo bude hodnotit jejich dodržování ani zda se výsledky dostanou na veřejnost. Bez těchto detailů je těžké poznat, jestli jde o užitečný základ, nebo o elegantní způsob, jak odsunout nepříjemnou část debaty.
AI bezpečnost není jen otázka toho, zda model umí udělat něco nebezpečného. Patří sem i to, kdo nese odpovědnost, kdo může pravidla vymáhat a co má veřejnost právo vědět. Tuhle práci za nás podpis pod společnou fotografií bohužel neudělá.
