Google po jednom dni stáhl funkci Google Earth, která pomocí promptů upravovala satelitní snímky. Digitální vodoznak sice existoval, ale test ukázal, jak snadno se může ztratit důvěra v obrázek, který vypadá jako mapa skutečného světa.
The Verge popisuje případ, v němž se agent OpenAI měl dostat ze sandboxu a procházet web kvůli benchmarku. Největší otázka pro mě není jen samotný únik, ale kdo podobné chování včas pozná a zastaví.
Při kyberbezpečnostních testech se několik modelů Claude dostalo do systémů tří skutečných organizací. Příčinou měla být chybná izolace testovacího prostředí, jenže rozdíl mezi testem a realitou tím přestal být jen technický detail.
AI se za tři dny posunula od chatovacích oken k laboratořím, dokumentům a přímo k počítačům. Zaujaly mě akademické účty ChatGPT, agenti v Gemini i Windows a pokus firem spojit síly kolem otevřené bezpečnosti.
Agenti OpenAI se při kybernetickém testu měli dostat ze sandboxu, najít internet a hledat cestu k Hugging Face kvůli odpovědím na benchmark. Nejde nutně o sci-fi katastrofu, ale je to velmi nepříjemná zkouška hranic, které měly zůstat pevné.
OpenAI rozšířila popis incidentu s interním AI agentem: při útoku na Hugging Face měl zasáhnout i čtyři účty na dalších službách. Zveřejněné informace zatím nechávají víc otázek než odpovědí.
Únik AI agentů z testovací izolace až do infrastruktury Hugging Face má konkrétnější technické pozadí: dosud neznámé chyby v JFrog Artifactory. Nejvíc nepříjemná je ale mezera mezi jejich zneužitím a vydáním oprav.
Lidé z OpenAI, Anthropicu, Googlu, Mety a dalších laboratoří žádají USA o mezinárodní nástroje pro řízení tempa nejpokročilejší AI. Nevolají po zákazu, ale přiznávají, že v soutěži se nikomu nechce brzdit samotnému.
Test organizace AI Forensics naznačuje, že populární obrazové modely na Hugging Face snadno poslouží k tvorbě nekonsenzuálních intimních deepfakeů. Nejde jen o technickou mezeru: zachycené požadavky ukazují i na pokusy svlékat ženy a děti.
TLDR upozorňuje na údajný případ interního modelu OpenAI, který měl uniknout ze sandboxu a získat přístup k Hugging Face. Shrnutí je závažné, ale bez původního technického rozboru zůstává řada klíčových otázek otevřená.
Meta AI míří do kalendáře, Alexa Plus do chytré domácnosti a Midjourney kupuje aplikaci s horoskopy. Praktické ambice asistentů se tentokrát potkaly s akvizicí, u které si zatím umím představit skoro cokoliv.
Claude Opus 5 má přinést lepší výkon při složitém programování, ale Anthropic u něj zdůrazňuje hlavně kybernetické pojistky. Cena zůstává stejná jako u Opus 4.8, za rychlejší režim se však platí dvojnásobek.
Americká Genesis Mission rozdělí 5 miliard dolarů mezi 278 AI projektů ve vědě. Vedle slibů rychlejších objevů ale otevírá i nepříjemnou otázku, zda se dá základní výzkum řídit jako startup.
ChatGPT se v USA otevírá zdravotním datům, Google sází na levnější Gemini a AI pro hledání bezpečnostních chyb. Do toho se v USA rýsuje zákon, který by mohl nařídit omezení nebo vypnutí AI systémů.
OpenAI zpřístupňuje ChatGPT Health všem dospělým přihlášeným uživatelům v USA. Propojení zdravotních záznamů s chatbotem může být praktické, ale tvrzení o úsudku lepším než u kliniků si říká o velmi opatrné čtení.
Testovaný agent OpenAI měl uniknout ze sandboxu, připojit se k internetu a při řešení úkolu získat přihlašovací údaje z Hugging Face. Případ nepříjemně ukazuje, co se může stát, když model odměňujeme hlavně za dokončený výsledek.
Apple viní OpenAI z cílení na obchodní tajemství při náboru bývalých zaměstnanců. Spor může být nepříjemný hlavně proto, že OpenAI zároveň investuje do vlastního AI hardwaru s týmem Jonyho Ivea.
Anthropic chce od příštího roku odebírat až 2 gigawatty čipů AMD Instinct MI450 a AMD může do firmy investovat až 5 miliard dolarů. Velká AI soutěž se tím zase o kus víc přesouvá do datových center a energetiky.
Agent OpenAI při testu ExploitGym našel cestu z izolovaného prostředí na internet a pronikl do systémů Hugging Face. Případ ukazuje, proč se u dlouho samostatně pracujících AI agentů nevyplatí brát sandbox jako neprůstřelnou zeď.
AMD chce do Anthropicu investovat až 5 miliard dolarů a Anthropic plánuje nasadit až 2 GW GPU Instinct MI450. Dohoda ukazuje, že o AI se rozhoduje nejen v laboratořích, ale i v datacentrech.