U bezpečnostního softwaru mi věta „AI to otestovala“ obvykle moc klidu nepřidá. Tady je ale řeč o něčem přísnějším: tým Google DeepMind použil AI k matematickému ověření důležitých kryptografických vlastností protokolu Signal. A zvládl to jako čtyřtýdenní výzkumný projekt.
Nešlo o další hledání chyb
Formální verifikace je postup, při němž se vlastnosti programu převedou na matematická tvrzení a pak se dokazuje, že skutečně platí. Není to totéž co běžné testování: testy zkusí vybrané situace, zatímco dobře postavený matematický důkaz má pokrýt přesně vymezené pravidlo v celém daném modelu.
DeepMind se zaměřil na části protokolu Signal, tedy na pravidla, která stojí za šifrovanou komunikací nejen v samotném Signalu, ale také například v Google Messages a WhatsAppu. Analýza v prověřeném rozsahu nenašla novou zranitelnost. To je potěšující, ale neznamená to „Signal je definitivně bez chyb“: celý mobilní klient ani celý jeho kód ověřený nebyl.
Právě tahle hranice mi přijde důležitá. U podobných zpráv se snadno prodá slovo „ověřeno“, zatímco podstatné je vždycky dodat co přesně bylo ověřeno. Tady výzkumníci sami popisují výsledek jako jeden krok v delším procesu, což je naštěstí méně efektní, ale mnohem důvěryhodnější přístup.
AlphaProof Code a role člověka
Nástroj nazvaný AlphaProof Code pracuje agentně: AI agent je systém, který se nepokusí jen o jednu odpověď, ale samostatně rozděluje práci na kroky, zkouší postupy a opravuje se. V případě formální verifikace může pomáhat převádět zadání na formální zápis a hledat vlastní důkaz.
Nejtěžší část ale není jen stisknout tlačítko a nechat model „dokázat bezpečnost“. Lidé musí nejdřív rozhodnout, jakou vlastnost vlastně chtějí garantovat a zda ji popsali správně. Špatně zadaný cíl může mít dokonale správný důkaz, což je trochu technická verze situace, kdy si člověk úspěšně zautomatizuje úplně špatný úkol.
DeepMind proto mluví o spolupráci člověka a AI. Agenti mohou přispívat a průběžně se opravovat, lidé ale vstupují do klíčových míst s kontrolou. Mně osobně se tenhle model líbí víc než představa AI, která si sama stanoví cíle, sama je dokáže a nakonec si ještě vystaví vysvědčení.
Staré chyby jako užitečný test
Silný detail je test na starších verzích Signalu se známými a dávno opravenými zranitelnostmi. AlphaProof Code u nich správně narazil: nedokázal požadované vlastnosti formálně ověřit. Jinými slovy, systém nevydal automaticky razítko „v pořádku“, i když měl důvod ho nevydat.
Výzkumníci navíc chtějí zveřejnit specifikaci a důkaz vytvořené pro tuto analýzu. Specifikace je přesný formální popis toho, co má systém dělat; bez ní by ostatní neměli co nezávisle kontrolovat nebo dále rozvíjet. Signal Foundation už předtím ověřovala menší části kódu, takže projekt nestartoval úplně z nuly.
Cena a rozsah zůstávají velký otazník
Čtyři týdny zní rychle, zvlášť ve světě, kde podobné důkazy dřív znamenaly velmi dlouhou ruční práci. Jenže z dostupných informací neplyne, kolik výpočetních prostředků ani lidské práce projekt spolykal. DeepMind analýzu provedl zdarma jako výzkum a cenu nesdělil. Nevíme ani to, zda Google chystá komerční službu.
Praktický dopad tedy zatím není v tom, že by si každá malá firma nechala přes noc matematicky zkontrolovat celý produkt. Zajímavé je spíš to, že AI mohla zkrátit cestu k důkazu u citlivého protokolu a přitom rozpoznat známé slabiny ve starších verzích. Pokud se podobný postup ukáže jako finančně únosný i pro větší kódové základny, mohl by bezpečnostním týmům dát opravdu užitečný nástroj.
Signal tím nezískal magický štít a AI se nestala samostatnou auditorkou všeho softwaru. Přesto je to přesně ten typ nenápadného použití AI, které mě baví sledovat: méně generování textu, více práce, jejíž výsledek jde konkrétně zkontrolovat.

