Tenhle spor mě zaujal víc než obvyklé přetahování AI firem o benchmarky. Nejde v něm o to, zda Claude lépe píše kód, ale o velmi praktickou otázku: může stát potrestat dodavatele AI za to, že veřejně odmítne některé způsoby vojenského použití svého modelu?
Federální soudkyně Rita F. Lin nyní rozhodla, že Pentagon zašel příliš daleko. Označení Anthropicu za „supply chain risk“, tedy riziko v dodavatelském řetězci, bylo podle ní protiústavní a představovalo nezákonnou odvetu porušující první dodatek americké ústavy.
Dvě podmínky, které spustily velký konflikt
Příběh začal v zimě, kdy ministr obrany Pete Hegseth chtěl upravit smlouvy AI laboratoří s armádou. Pentagon měl získat možnost používat jejich systémy pro „jakékoli zákonné použití“. Většina laboratoří na nové podmínky přistoupila, Anthropic ale trval na dvou výjimkách.
Jeho AI neměla sloužit k hromadnému sledování Američanů ani k autonomním smrtícím zbraním. Druhý pojem znamená systém, který dokáže vybrat a zabít cíl bez lidského dohledu. Přiznávám, že mi nepřijde přehnané chtít u takové věci ruční brzdu. Spíš mě zaráží, že se o ní stále musí vyjednávat jako o nějakém luxusním příplatku.
Anthropic přitom neodmítal spolupráci s armádou úplně. CEO Dario Amodei tehdy uvedl, že firma nezpochybňovala jednotlivé vojenské operace ani se nesnažila omezovat použití technologie případ od případu. Mluvila o úzké skupině situací, v nichž by AI podle ní mohla demokratické hodnoty spíš oslabovat než chránit.
Nálepka bezpečnostního rizika jako trest
Po neúspěšném nátlaku Pentagon Anthropic označil za riziko v dodavatelském řetězci. Tato klasifikace se obvykle pojí s hrozbami pro národní bezpečnost, takže nejde o obyčejné „už s vámi nebudeme spolupracovat“. Ministerstvo pak uzavřelo dohody se sedmi dalšími AI laboratořemi, mezi nimiž byly Google, Microsoft, OpenAI a SpaceX.
Soudkyně Lin napsala, že ministerstvo si samozřejmě smí zvolit AI dodavatele podle svého. Problém nastal u širokých opatření proti Anthropicu: podle soudu byla nezákonná a bez podkladu. Z dřívějšího soudního rozhodnutí také vyplynulo, že úřad firmu označil za riziko kvůli jejímu „nepřátelskému vystupování v tisku“.
Tohle je podle mě nejméně technická, ale nejdůležitější část celého případu. Firma, která vyvíjí modely pro stát, nemá být automaticky nad kritikou. A stát nemá používat nálepku národního bezpečnostního rizika jako kladivo pokaždé, když se mu kritika nehodí.
Bezpečnost AI není jen filtr na chatbotu
Často se bezpečnost AI smrskne na otázku, zda chatbot řekne něco nevhodného, nebo zda model zvládne obejít ochrany. Tady jde o jinou vrstvu: kdo určuje přípustné použití modelu poté, co jej firma prodá veřejné instituci, a zda si dodavatel může některé hranice vůbec vyhradit.
Rozhodnutí neříká, že si soukromé firmy mohou diktovat vojenskou politiku. Říká ale, že vláda nemůže bezdůvodně trestat firmu za veřejný postoj. To je rozdíl, který v debatách o „bezpečné AI“ často zapadne, protože je méně efektní než demo robota nebo další číslo v benchmarku.
Anthropic verdikt uvítal a uvedl, že chce dál produktivně spolupracovat s vládou na využití AI pro národní bezpečnost. Z podkladu ale neplyne, co přesně bude následovat ve smluvních vztazích s Pentagonem ani zda se podmínky pro vojenské nasazení jeho modelů nějak změní.
Mně osobně z toho vychází hlavně připomínka, že pravidla AI se netvoří jen v laboratořích. Vznikají i u soudů, ve smlouvách a v dost nepříjemných sporech o to, kdo smí říct „tady už ne“.
