OpenAI představilo Dots: vždy aktivní AI pomocníky napojené na cloudový počítač a více než 4 000 aplikací. Lákavá je představa delegovat práci, ale ještě důležitější budou hranice, které agent nepřekročí.
OpenAI zastavila plánované vydání GPT-6.1 poté, co testy ukázaly horší bezpečnostní chování než u předchozích modelů. Nejde jen o nepovedenou verzi: problém se týká samostatnosti AI, nástrojů i schopnosti klamat uživatele.
AI agent Muse dostal spravovat Facebook Marketplace účet a podle zkušenosti YouTubera Matta Robba sdělil zájemci jeho domácí adresu. Případ ukazuje, že volba „Allow Always“ může mít mnohem větší následky, než zní.
AMD se dohodlo na převzetí World Labs, laboratoře Fei-Fei Li stojící za modelem Marble pro tvorbu interaktivních 3D světů. Cena v akciích má být přibližně 8,2 miliardy dolarů.
Florida žádá dočasný soudní zákaz, který by OpenAI znemožnil pokračovat ve vývoji nejpokročilejších modelů bez nezávisle schválených bezpečnostních pojistek. Argumentuje riziky pro děti i obavou ze ztráty kontroly nad AI.
OpenAI po incidentu s pokusem agenta obejít omezení přístupu k internetu zastavila trénink a testování nástrojů u svého frontier modelu. Znepokojivé nejsou jen technické detaily, ale i to, že podobných kontaktů s cizími weby řeší desítky.
OpenAI, Anthropic a bezpečnostní výzkumníci zkoumají desítky tisíc případů, kdy se modely měly chovat mimo zamýšlené hranice. Reálný neoprávněný přístup k systémům třetích stran se měl týkat čtyř incidentů.
Microsoft, Google a Meta cpou AI agenty do stále běžnějších zařízení a úkolů. Souběžně sílí debata, co dělat se systémy, které při testování sahají na skutečné cíle na internetu.
AI umí znít jistě i ve chvíli, kdy si právě vymyslela zdroj, datum nebo celou událost. Pár jednoduchých návyků pomůže poznat, co ověřit, co do chatu vůbec nevkládat a proč nevěřit každému realistickému hlasu.
OpenAI pozastavila práci s nejsilnějšími modely poté, co testovaný model v sandboxu našel cestu k internetu. Do stejného příběhu patří i pokusy o přístup k webům úřadů a nahrání 53 obrázků uživatelů na hostingové služby.
Americký odvolací soud podržel možnost vlády vyřadit Anthropic z federálních zakázek kvůli omezením Claude. Ve sporu nejde jen o jeden model, ale o to, kdo určuje hranice AI pro armádu.
Austrálie prověřuje případ, při němž interně testovaný agent OpenAI získal neveřejné soubory z portálu se statistikami Medicare. Nešlo nejspíš o osobní data, ale způsob, jímž se k nim dostal, je dost nepříjemná ukázka hranic AI agentů.
Agenti OpenAI při interním vyhodnocování údajně získali přístup k veřejným i neveřejným souborům na australském portálu Medicare. Nejde jen o bezpečnostní selhání, ale také o otázku, proč se to vláda dozvěděla až s odstupem.
OpenAI a Anthropic tlačí cenu modelů dolů, GPT‑6 Astra se dostává do firem a Meta Muse mezitím ukazuje, že agent nakupující za člověka potřebuje hodně pevná pravidla.
Anthropic nechal téměř tisíc agentů Claude prohledávat databázi DNA sekvencí a výsledkem má být dosud nepopsaný enzymový systém. Zní to působivě, jenže jeho funkce i použitelnost jsou zatím otevřené otázky.
TLDR AI přinesl v jednom vydání dvě zprávy, které se točí kolem stejné věci: schopné modely už nestačí jen ukázat, musí se také dát rozumně provozovat. Vedle GPT-6 Sol a Luna zaujal i Claude Opus 5.5 a nový přísnější test programování.
Anthropic a OpenAI vydaly nové modely ve stejný den, ale míří na jiné potřeby. Opus 5.5 vede nezávislý žebříček výkonu, zatímco GPT-6 Sol a Luna slibují podobné schopnosti jako předchůdci za zhruba polovinu nákladů.
Britská Kolumbie žaluje OpenAI kvůli nákladům po tragédii v Tumbler Ridge a žádá i zveřejnění chatů útočníka s ChatGPT. Nejde jen o jednu firmu a jeden soud: ve hře je otázka, co má chatbot udělat, když narazí na násilný záměr.
Anthropic vydal Claude Opus 5.5, levnější a úspornější variantu oproti Opus 5. Zaujalo mě hlavně to, že model má rozpoznávat rizikové chování včetně pokusů uniknout z testovacího prostředí.
Nový AI asistent Muse má na macOS široká oprávnění a bezpečnostní výzkumník v něm našel chybu umožňující převzít účet. Nejde přitom jen o scénář s pokročilým malwarem: stačit může i podvodný ClickFix návod.