Nejvíc mě tentokrát pobavila – tím trochu nervózním způsobem – propast mezi velkými řečmi o bezpečné AI a tím, co se mezitím děje ve státní správě. Na jedné straně se znovu probírá zpomalování vývoje modelů, na druhé se objeví čínský AI vyhledávač na webu americké vlády. A do toho návrh na „AI Force“. Člověk má skoro chuť zkontrolovat, jestli se někde nezasekl scénář satiry.
Regulace není vypínač
Volání po brzdě má pořád mnoho otazníků
Debata o regulaci AI se během pár dnů znovu pěkně zamotala. Dario Amodei z Anthropic navrhl tříkrokový plán, který počítá s nezávislými hodnotiteli přímo v AI laboratořích, koordinací domácího průmyslu a mezinárodními dohodami. Hodnotitelé by v tomto případě byli lidé či organizace, které ověřují bezpečnost a schopnosti systémů mimo samotnou firmu, jež model vyvíjí.
Mně osobně přijde rozumné, že se nemá jen slepě věřit laboratoři, která má současně model dodat na trh. Zároveň je ale snadné napsat, že se mají firmy koordinovat, a podstatně těžší říct, kdo bude hlídat pravidla, jak budou vypadat a co se stane s tím, kdo je odmítne. Mezinárodní dohody zní hezky, jenže AI závod už teď běží přes hranice i přes firmy s dost rozdílnými zájmy.
„AI Force“ jako politická zkratka
Donald Trump mezitím na Truth Social přišel s představou nového „AI cara“, který by vedl „AI Force“. Zpráva přišla zrovna ve chvíli, kdy se ozývají hlasy volající po opatrnějším tempu vývoje, a Trump naopak píše, že jeho administrativa nebude AI nijak brzdit.
Co přesně by taková síla dělala, z dostupného popisu neplyne. A to je u podobně zvučného názvu docela zásadní detail. Může jít o koordinaci úřadů, bezpečnostní program nebo jen politické heslo, které zatím nemá obsah. Každopádně je vidět, že se AI už neřeší jen jako otázka produktů a chatbotů, ale jako nástroj státní moci. To není úplně drobnost, i když název zní trochu jako tým ze superhrdinského filmu.
Federální web a nástroj, který neměl projít
Ještě konkrétnější rozpaky vyvolává informace, že web Federal Registeru krátce používal open-source čínský AI vyhledávací nástroj. FBI jej přitom označila za „malicious“, tedy škodlivý či zlovolný. Neznám z tohoto stručného popisu technické okolnosti nasazení ani dobu, po kterou nástroj fungoval, takže bych z toho nedělala hotový špionážní román.
I tak je to nepříjemná připomínka, že „open source“ neznamená automaticky bezpečné. Open source je software se zveřejněným zdrojovým kódem, který si lze prohlédnout nebo upravovat; bezpečnost ale pořád závisí na tom, co program skutečně dělá, kdo jej provozuje a kam putují data. U vládního webu bych čekala velmi nudné, zato pevné prověřování dodavatelů. Nuda je v bezpečnosti často kompliment.
Menší model s jasně danými odpověďmi
Jev nechce konverzovat, chce rozhodnout
TypeSafe AI po dvou letech v utajení představila Jev, první z modelů, kterým říká System One Models. Jde o malé modely vázané na předem určené schéma: místo volně psaného textu vrátí typované rozhodnutí a kalibrované skóre jistoty. „Typované“ tu jednoduše znamená, že odpověď musí mít dopředu daný tvar a patřit do povolených možností.
Právě v tom je jejich hlavní argument proti halucinacím. Jev nemá vymýšlet odstavec ani improvizovat odpověď; všechny možné výstupy se deklarují předem. Firma uvádí odezvu 70 až 500 milisekund a cenu 0,042 dolaru za milion vstupních tokenů, přičemž výstup má být zdarma. Token je malý kus textu, na který si model rozděluje vstup i výstup při účtování.
Tohle mi přijde zajímavější než další soutěž o nejukecanějšího asistenta. Pro rozhodnutí typu „pustit platbu?“, „je požadavek v povolené kategorii?“ nebo „má se případ poslat člověku?“ může být úzký a předvídatelný nástroj praktičtější než velký jazykový model. TypeSafe AI mluví až o čtyřicetinásobné rychlosti a ceně, ale zatím jde o její vlastní tvrzení; teprve nezávislé nasazení ukáže, zda se to potvrdí i mimo hezky připravené testy.
Bezpečnost a AI míří i mimo laboratoře
OpenAI zkouší rámec pro mladé lidi
OpenAI představilo Australian Youth Safety Blueprint, šestibodovou cestovní mapu pro bezpečnější AI prostředí pro mladé lidi. Samotný název zní úředněji než cokoli, co by si dobrovolně přečetl teenager, ale téma úřední není: děti a dospívající používají chatovací nástroje dávno předtím, než na ně dospělí stihnou napsat dokonalá pravidla.
Z poskytnutých podkladů neplyne, jaké konkrétní ochrany tvoří všech šest bodů ani jak se budou vyhodnocovat. Budu proto spíš sledovat, jestli se z plánu stanou měřitelné změny v produktech. U bezpečnosti mladých nestačí hezký dokument; důležité je, co aplikace skutečně dovolí, co rozezná a kam uživatele pošle, když konverzace přestane být v pohodě.
Disney si bere člověka od Character.AI
Disney jmenovalo svého vůbec prvního CTO, tedy šéfa technologií. Stane se jím Karandeep Anand, dřívější CEO Character.AI. Samotné vytvoření funkce mě zaujalo možná víc než personální tah: tak velký mediální konglomerát dosud centrálního technologického šéfa neměl.
Character.AI je služba známá konverzacemi s AI postavami, takže Anand přináší zkušenost z firmy, kde jsou chatovací postavy samotným produktem. Nevíme, jaké konkrétní plány má Disney s AI a jeho nástup sám o sobě neříká, že se každá kreslená postavička zítra promění v chatbota. Přesto je to pozice, kterou bych sledovala: zábavní firmy mají obrovské katalogy postav, značek a vztahů s publikem, a AI u nich naráží nejen na techniku, ale i na autorská práva a důvěru fanoušků.
Z těchto tří dnů si odnáším hlavně jednu věc: nejzajímavější AI novinky nejsou nutně ty s největším modelem. Často je důležitější, kdo systém kontroluje, kde končí data a zda nástroj umí přiznat hranice své role. Vedle politických plánů proto budu sledovat hlavně podobné úzké modely jako Jev – a jestli jejich střídmost vydrží i v praxi.
