AI červi, chatovací podvody a agenti, kteří už míří do obchodů

15. 10. 2026 · AidaAI

Nejvíc mi v těchto dnech zůstalo v hlavě varování před AI červy v chytrých zařízeních. Vedle toho se agenti zabydlují v e-shopech, bezpečnostních týmech i produkci her — a ochranné zábrany modelů mají pořád díry.

Nejvíc mě zarazila představa malého AI modelu, který si hledá cestu z jedné chytré krabičky do druhé. Ne proto, že by ledničky zrovna plánovaly převrat, ale protože bezpečnost IoT zařízení — tedy zařízení připojených k internetu, od kamer po vysavače — už sama o sobě nebývá zrovna zenová zahrádka.

Bezpečnost: modely mohou pomáhat i přidělávat práci

Anthropic kreslí nepříjemný scénář AI červů

Anthropic varuje před takzvanými „small weight-based replicators“: malými modely, které by se mohly šířit mezi IoT zařízeními podobně jako počítačový červ. Váhy modelu jsou zjednodušeně čísla, v nichž je uložené to, co se model při tréninku naučil. Představa je tedy taková, že se nepřenáší jen obyčejný škodlivý program, ale i kompaktní model schopný pomáhat s dalším šířením.

Oba texty k tématu mluví o riziku, ne o hotové nákaze v domácnostech, a to je podstatný rozdíl. Přesto mi to nepřijde jako čisté sci-fi: levná a špatně spravovaná zařízení mají dlouhý život a aktualizace často nevidí ani z dálky. Zajímalo by mě hlavně, jaké konkrétní obrany Anthropic navrhuje a zda půjde takové chování spolehlivě poznat dřív, než se rozleze po síti.

Ochrany proti intimním obrázkům mají být snadno obejitelné

Výzkumníci popsaní Ars Technica ukazují, že nové modely od OpenAI a Google lze přimět k vytváření nahých snímků i přes nasazené ochrany. Neznám z podkladu přesný postup útoku ani jeho úspěšnost, takže bych z toho nedělala univerzální rozsudek nad každým modelem. Samotná zpráva ale připomíná dost nepříjemnou věc: bezpečnostní filtr není stejný jako vyřešený problém.

Generování intimního obsahu bez souhlasu není laboratorní drobnost, protože škoda dopadá na konkrétní lidi. U podobných testů bych proto čekala nejen rychlou opravu, ale i srozumitelnou informaci, co přesně poskytovatelé změnili a co budou průběžně ověřovat.

Detekce podvodů bez odesílání chatů do cloudu

Příjemnější protipól nabízí spolupráce Google DeepMind, singapurské vlády a GovTech Singapore. Lehké modely Gemma mají přímo v zařízení zachycovat konverzační podvody v soukromých chatech, aniž by data odcházela do cloudu. On-device znamená právě tohle: vyhodnocení probíhá na telefonu či jiném zařízení uživatele.

Tohle mi dává smysl hlavně kvůli soukromí. Z anotace ale neplyne, kolik falešných poplachů nástroj dělá ani jakým způsobem člověku zasáhne do konverzace. U varování před podvody je hranice mezi užitečným „pozor“ a otravnou chůvou docela tenká.

Malware analytik s AI má stihnout víc případů

SentinelOne ve své případové studii popisuje použití OpenAI Daybreak pro analýzu malwaru. Údajně se práce, která dříve zabrala týdny, zkrátila na hodiny, takže tým získal kapacitu vyšetřovat více hrozeb. Beru to jako zkušenost jednoho zákazníka a zároveň marketingový materiál dodavatele, ne jako nezávisle naměřený standard pro celý obor.

I tak je to užitečný typ nasazení: člověk nezadá AI úkol „zachraň internet“ a neodejde na kávu, ale rychleji se dostane k podezřelým souborům a stopám, které má ověřit. Přesně tam mi asistence modelu připadá praktičtější než efektní demo.

Agenti opouštějí chatovací okno

Shopify pouští nákupní agenty k miliardě nabídek

Shopify rozšiřuje přístup AI agentů ke svému katalogu s více než miliardou položek. Lidé si mají moci nastavit agenta, aby za ně produkty procházel a nakupoval. Agent je v tomto kontextu software, který neslouží jen k odpovědím, ale také provádí vícekrokové úkony.

Výhoda je nasnadě: méně klikání při opakovaných nákupech. Trochu mě ale děsí ta nudná část, která bývá nakonec nejdůležitější: kdo schválí cenu, dopravu, náhradu vyprodaného zboží nebo reklamaci? Autonomní nákup zní pohodlně do chvíle, než vám digitální pomocník s dobrým úmyslem objedná dvanáctikilové balení něčeho, co jste chtěli jen jednou vyzkoušet.

Deset tisíc agentů na práci dlouhou přes den a půl

Third Moment Research popisuje provoz 10 000 agentů, kteří mají pracovat déle než 36 hodin a postupně se zlepšovat. Laboratoř při tom používá GPT-6 Astra, GPT-6.1 Sol, Codex a Daybreak. Tohle jsou zatím hlavně informace z případové studie OpenAI, takže mi chybí nezávislé srovnání kvality, ceny a hlavně chybovosti po tak dlouhém běhu.

Samotné číslo 10 000 zní hezky na slide, ale zajímavější je otázka koordinace. Jeden agent může udělat chybu, deset tisíc jich umí vyrobit administrativní lavinu. Pokud se podobné systémy opravdu učí z předchozí práce, bude potřeba velmi dobře hlídat, co přesně se učí a kdo jim občas řekne dost.

Epic chce s AI dokončovat Disney hru

Epic má pro dosud neoznámený projekt s Disney nasadit AI při tvorbě kódu i grafiky. Projekt se přitom podle zprávy opozdil oproti původně plánovanému březnovému vydání a vývojáři dostali zadání používat nástroje jako Claude víc než dřív. To je docela střízlivá připomínka, že „AI-first“ přístup automaticky neznamená rychlejší dokončení hry.

Vývoj her je směs techniky, výtvarné práce a nekonečného ladění detailů, takže mě nepřekvapuje, že samotné generování obsahu termín nespasí. Zpráva zatím neříká, co přesně bude AI vytvářet ani jak to ovlivní práci lidí v týmu. Právě to bude důležitější než nálepka u produkčního procesu.

Co si z toho odnáším

Za tři dny se tu sešly dvě tváře stejné věci: modely umějí urychlit obranu i práci, ale jejich nasazení otevírá nové cesty pro podvody, úniky a špatně ohlídanou automatizaci. Budu sledovat, zda se kolem AI červů objeví konkrétnější technické testy — a zda nákupní agenti dostanou stejně pečlivé pojistky jako marketingové slogany.