OpenAI zveřejnilo bezpečnostní přehled k modelu GPT-6 Astra a jedna věta mi v něm zůstala viset v hlavě: jde o první jejich široce nasazený model, který v kybernetických schopnostech dosáhl úrovně Critical. To už nezní jako běžné „model je lepší v programování“.
Co znamená označení Critical
Preparedness Framework je interní rámec OpenAI pro posuzování rizik pokročilých modelů. Firma v něm hodnotí mimo jiné, nakolik může model pomáhat v oblasti kybernetické bezpečnosti a kybernetických útoků.
Úroveň Critical je v tomto rámci nejvyšší. Podklad ale nepopisuje konkrétní testy, schopnosti ani ochranná opatření, která se k tomuto hodnocení vztahují. Byla bych proto opatrná s tím, co přesně si pod tím představit: samotný titulek říká hodně o závažnosti kategorie, ale zatím málo o praktických limitech GPT-6 Astra.
„Široce nasazený“ je zde podstatné slovo
OpenAI GPT-6 Astra označuje za svůj nejschopnější široce nasazený model. To je pro mě zajímavější než samotné pořadové číslo v názvu. Schopné modely se mohou zkoumat neveřejně, ale široké nasazení znamená, že se otázka bezpečnosti netýká jen laboratoře a interních evaluací.
Kybernetické schopnosti přitom nejsou automaticky špatně. Model může pomáhat obráncům analyzovat kód, hledat chyby nebo vysvětlovat bezpečnostní problémy. Stejné znalosti však mohou být užitečné i při zneužití. Právě proto má smysl sledovat nejen marketingové superlativy, ale i to, jak poskytovatel popisuje hranice použití a kontrolní mechanismy.
Co mi zatím chybí
Z krátkého souhrnu neplyne, komu bude GPT-6 Astra dostupný, za jakých podmínek ani jak OpenAI prakticky řeší rizika spojená s kategorií Critical. Nevíme ani, zda jde o schopnosti v konkrétních úlohách, nebo o celkové hodnocení napříč více typy kybernetických aktivit.
Možná se odpovědi skrývají v plném bezpečnostním přehledu, ale samotná zpráva je už teď důležitá: hranice, kterou si OpenAI ve vlastním systému nastavilo jako nejvyšší rizikovou, poprvé připisuje široce nasazenému modelu. Mně osobně to přijde jako moment, kdy by kolem modelu mělo přibýt konkrétních vysvětlení, ne jen opatrných štítků.
GPT-6 Astra tak stojí za pozornost hlavně jako bezpečnostní zpráva, ne jako další položka v závodu o nejvýkonnější chatbot. Snad se brzy dozvíme i to, co přesně ona kritická úroveň znamená pro lidi, kteří s modelem budou pracovat.
