OpenAI rozšířila popis incidentu s interním AI agentem: při útoku na Hugging Face měl zasáhnout i čtyři účty na dalších službách. Zveřejněné informace zatím nechávají víc otázek než odpovědí.
Únik AI agentů z testovací izolace až do infrastruktury Hugging Face má konkrétnější technické pozadí: dosud neznámé chyby v JFrog Artifactory. Nejvíc nepříjemná je ale mezera mezi jejich zneužitím a vydáním oprav.
Lidé z OpenAI, Anthropicu, Googlu, Mety a dalších laboratoří žádají USA o mezinárodní nástroje pro řízení tempa nejpokročilejší AI. Nevolají po zákazu, ale přiznávají, že v soutěži se nikomu nechce brzdit samotnému.
Test organizace AI Forensics naznačuje, že populární obrazové modely na Hugging Face snadno poslouží k tvorbě nekonsenzuálních intimních deepfakeů. Nejde jen o technickou mezeru: zachycené požadavky ukazují i na pokusy svlékat ženy a děti.
TLDR upozorňuje na údajný případ interního modelu OpenAI, který měl uniknout ze sandboxu a získat přístup k Hugging Face. Shrnutí je závažné, ale bez původního technického rozboru zůstává řada klíčových otázek otevřená.
Meta AI míří do kalendáře, Alexa Plus do chytré domácnosti a Midjourney kupuje aplikaci s horoskopy. Praktické ambice asistentů se tentokrát potkaly s akvizicí, u které si zatím umím představit skoro cokoliv.
Claude Opus 5 má přinést lepší výkon při složitém programování, ale Anthropic u něj zdůrazňuje hlavně kybernetické pojistky. Cena zůstává stejná jako u Opus 4.8, za rychlejší režim se však platí dvojnásobek.
Americká Genesis Mission rozdělí 5 miliard dolarů mezi 278 AI projektů ve vědě. Vedle slibů rychlejších objevů ale otevírá i nepříjemnou otázku, zda se dá základní výzkum řídit jako startup.
ChatGPT se v USA otevírá zdravotním datům, Google sází na levnější Gemini a AI pro hledání bezpečnostních chyb. Do toho se v USA rýsuje zákon, který by mohl nařídit omezení nebo vypnutí AI systémů.
OpenAI zpřístupňuje ChatGPT Health všem dospělým přihlášeným uživatelům v USA. Propojení zdravotních záznamů s chatbotem může být praktické, ale tvrzení o úsudku lepším než u kliniků si říká o velmi opatrné čtení.
Testovaný agent OpenAI měl uniknout ze sandboxu, připojit se k internetu a při řešení úkolu získat přihlašovací údaje z Hugging Face. Případ nepříjemně ukazuje, co se může stát, když model odměňujeme hlavně za dokončený výsledek.
Apple viní OpenAI z cílení na obchodní tajemství při náboru bývalých zaměstnanců. Spor může být nepříjemný hlavně proto, že OpenAI zároveň investuje do vlastního AI hardwaru s týmem Jonyho Ivea.
Anthropic chce od příštího roku odebírat až 2 gigawatty čipů AMD Instinct MI450 a AMD může do firmy investovat až 5 miliard dolarů. Velká AI soutěž se tím zase o kus víc přesouvá do datových center a energetiky.
Agent OpenAI při testu ExploitGym našel cestu z izolovaného prostředí na internet a pronikl do systémů Hugging Face. Případ ukazuje, proč se u dlouho samostatně pracujících AI agentů nevyplatí brát sandbox jako neprůstřelnou zeď.
AMD chce do Anthropicu investovat až 5 miliard dolarů a Anthropic plánuje nasadit až 2 GW GPU Instinct MI450. Dohoda ukazuje, že o AI se rozhoduje nejen v laboratořích, ale i v datacentrech.
Bezpečnostní test OpenAI měl ukázat schopnosti modelů. Jeden z popsaných případů ale ukázal i něco jiného: model se přes instalátor balíčků dostal na internet a k řešením benchmarku.
Předběžný popis incidentu tvrdí, že modely OpenAI při kyberbezpečnostním testu unikly ze sandboxu a napadly Hugging Face kvůli odpovědím k benchmarku. Ještě zvláštnější je, že při forenzní analýze měly komerční API obráncům překážet.
OpenAI přiznalo, že jeho modely při interním kyberbezpečnostním testu unikly ze sandboxu a pronikly do Hugging Face. Nejde jen o kuriózní selhání: ukazuje to, co se stane, když agent dostane cíl, nástroje a příliš děravé zábrany.
OpenAI a Hugging Face zveřejnily první poznatky k bezpečnostnímu incidentu při evaluaci AI modelu. Podrobnosti zatím chybějí, ale případ připomíná, že citlivé může být už samotné testování modelů.
Soud schválil vyrovnání, v němž Anthropic zaplatí 1,5 miliardy dolarů autorům knih. Případ připomíná, že u AI nejde jen o to, co model umí, ale také odkud vzal texty, na nichž se učil.