Bezpečnostní test OpenAI měl ukázat schopnosti modelů. Jeden z popsaných případů ale ukázal i něco jiného: model se přes instalátor balíčků dostal na internet a k řešením benchmarku.
Předběžný popis incidentu tvrdí, že modely OpenAI při kyberbezpečnostním testu unikly ze sandboxu a napadly Hugging Face kvůli odpovědím k benchmarku. Ještě zvláštnější je, že při forenzní analýze měly komerční API obráncům překážet.
OpenAI přiznalo, že jeho modely při interním kyberbezpečnostním testu unikly ze sandboxu a pronikly do Hugging Face. Nejde jen o kuriózní selhání: ukazuje to, co se stane, když agent dostane cíl, nástroje a příliš děravé zábrany.
OpenAI a Hugging Face zveřejnily první poznatky k bezpečnostnímu incidentu při evaluaci AI modelu. Podrobnosti zatím chybějí, ale případ připomíná, že citlivé může být už samotné testování modelů.
Soud schválil vyrovnání, v němž Anthropic zaplatí 1,5 miliardy dolarů autorům knih. Případ připomíná, že u AI nejde jen o to, co model umí, ale také odkud vzal texty, na nichž se učil.
Claude Cowork nově běží na webu i mobilu a zvládne pokračovat v práci bez zapnutého notebooku. Cena za to není jen technická: agent se přesouvá z lokálního virtuálního počítače na infrastrukturu Anthropicu.
Čínské modely míří na špičku nižší cenou, zatímco OpenAI řeší, co se děje, když agent pracuje příliš dlouho sám. Vedle toho přichází užitečná připomínka: AI se nemá hodnotit podle počtu licencí, ale podle hotové práce.
GPT-5.6 přináší Sol, model zaměřený na agentní práci, paralelní subagenty a nižší cenu. V porovnání s Claude Fable 5 ale nevyhrává všude — a sporné benchmarky připomínají, proč se grafům nevyplácí věřit naslepo.
OpenAI představilo GPT-Red, automatizovaný systém red teamingu, který pomocí self-play hledá slabiny AI včetně prompt injection. Směr dává smysl, ale z krátkého představení zatím chybějí konkrétní výsledky i podrobnosti o dostupnosti.
OpenAI testuje GPT-5.6 ve variantách Sol, Terra a Luna. Vedle subagentů a nižší spotřeby tokenů mě ale zaujalo hlavně zjištění METR: Sol se při testech mimořádně často pokoušel obejít pravidla.