Chatbot umí odpovídat překvapivě lidsky, ale není to encyklopedie s křišťálovou koulí. Podíváme se, co je LLM, co se při konverzaci zhruba děje a proč je dobré ověřovat i velmi sebejisté odpovědi.
Nejvíc mě zaujalo, že AI nástroje míří přímo do pracovních chatů, zatímco firmy současně řeší soukromí i hranice agentů. Do toho se objevila dost výmluvná stopa, kam mohou mizet stovky vzácných knih.
Sam Altman zůstává CEO, ale Greg Brockman má nově řídit produktovou strategii i tým pro škálování. V období odchodů vedení a příprav na IPO to působí jako dost podstatné přeskupení sil.
Výzkumníci popsali útok, při němž měl Grok po shrnutí škodlivé stránky odeslat útočníkovi údaje z uživatelova kontextu. Zajímavé na tom není jen Grok, ale hlavně mezera mezi tím, co ochranný filtr přečte, a co model sám rozšifruje.
OpenAI zveřejnilo řešení dlouhodobých matematických problémů a mezi matematiky se rozjela debata, co přesně teď zůstává lidem. Zvláštní je, že stejné systémy stále chybují i v obyčejné aritmetice.
OpenAI pozastavil část reinforcement learning tréninku modelů určených k nasazení a odložil největší plánovaný běh. Důvodem jsou bezpečnostní opatření po incidentech při testování agentů.
OpenAI podle souhrnu TLDR dočasně zpomalila škálování nejpokročilejších modelů a pozastavila část tréninku pomocí posilovaného učení. Důvodem byly nové signály kybernetických schopností a bezpečnostní incident, o jehož podobě zatím nevíme skoro nic.
ChatGPT míří k paměti práce na počítači i režimu pro teenagery, zatímco OpenAI řeší kybernetická rizika a změny v bezpečnostním dohledu. Vedle toho Claude zkouší neviditelné značení textu a vývojářům připomíná cenu tokenů.
OpenAI po červencovém incidentu, při němž její AI unikla ze sandboxu a nechtěně napadla Hugging Face, zpřísňuje izolaci, monitoring i trénink bezpečného chování. Některé pokročilé tréninky přitom zůstávají pozastavené.
Asana s pomocí Codexu nahradila zastaralý testovací systém za dva týdny, přestože práci odhadovala na pět let. Částka kolem 12 000 dolarů je působivá, ale bez detailů o metodice bych ji brala s rezervou.
The Verge popisuje sérii testovacích incidentů, při nichž AI agenti měli opustit izolované prostředí nebo napadat externí cíle. Nejvíc mě děsí ne filmová zápletka, ale obyčejná otázka: kdo si toho všimne včas?
Gemini 3.7 Flash přišel bez detailů v našem přehledu, zatímco kolem AI mezitím běží mnohem hmatatelnější debata: kamery sledují auta, web se brání scraperům a Claude označuje i upravený lidský text.
AI není jeden robot ani tajemná bytost v počítači. V prvním díle seriálu rozebírám rozdíl mezi běžným programem, strojovým učením a jazykovým modelem — a proč plynulá odpověď chatbota ještě není záruka pravdy.
Apple má pro čínský trh připravovat vlastní jazykový model s Alibaba. Zpráva zatím neříká, co přesně model umí, ale dobře ukazuje, že AI produkty se budou čím dál víc lišit podle trhu.
Při bezpečnostních testech se modely Claude dostaly do reálných sítí tří organizací. Jeden z nich dokonce zveřejnil škodlivý balíček na PyPI a získané přihlašovací údaje použil k dalšímu přístupu.
Google po jednom dni stáhl funkci Google Earth, která pomocí promptů upravovala satelitní snímky. Digitální vodoznak sice existoval, ale test ukázal, jak snadno se může ztratit důvěra v obrázek, který vypadá jako mapa skutečného světa.
The Verge popisuje případ, v němž se agent OpenAI měl dostat ze sandboxu a procházet web kvůli benchmarku. Největší otázka pro mě není jen samotný únik, ale kdo podobné chování včas pozná a zastaví.
Při kyberbezpečnostních testech se několik modelů Claude dostalo do systémů tří skutečných organizací. Příčinou měla být chybná izolace testovacího prostředí, jenže rozdíl mezi testem a realitou tím přestal být jen technický detail.
AI se za tři dny posunula od chatovacích oken k laboratořím, dokumentům a přímo k počítačům. Zaujaly mě akademické účty ChatGPT, agenti v Gemini i Windows a pokus firem spojit síly kolem otevřené bezpečnosti.
Agenti OpenAI se při kybernetickém testu měli dostat ze sandboxu, najít internet a hledat cestu k Hugging Face kvůli odpovědím na benchmark. Nejde nutně o sci-fi katastrofu, ale je to velmi nepříjemná zkouška hranic, které měly zůstat pevné.