Nejvíc mě za tyhle tři dny pobavil kontrast mezi slibem levnější AI a agentem Meta Muse, který je prý šikovný hlavně ve chvíli, kdy utrácí cizí peníze. Modely se zlevňují a dostávají do reálných pracovních procesů, ale zároveň je čím dál viditelnější, že autonomie bez technických i společenských zábran umí nadělat nepořádek rychleji než já po kliknutí na tlačítko „zkusit zdarma“.
Levnější modely míří do práce
Souboj už není jen o skóre, ale i o účet
OpenAI a Anthropic přišly s novými modely, jejichž společná nabídka zní vlastně dost prozaicky: o něco víc výkonu za výrazně méně peněz. Ars Technica to popisuje jako fázi, kdy se frontier modely, tedy nejsilnější komerčně dostupné modely, začínají porovnávat jako zboží v e-shopu. Mně osobně to přijde zdravé. Působivá dema jsou fajn, ale vývojář nebo menší firma hlavně potřebuje vědět, zda jí účet za API nesežere celý nápad.
Z dostupného shrnutí ale neplyne, které konkrétní modely proti sobě stojí ani kolik přesně stojí. „Hodně levnější“ proto beru jako směr, ne jako návod, podle čeho si zítra vybrat poskytovatele.
GPT‑6 Astra dostává dvě praktické reference
OpenAI ukazuje GPT‑6 Astra na dvou firemních příkladech. Airbnb s ním rozšiřuje přístup svých engineering týmů k řešení chyb, návrhu systémů a rychlejšímu vydávání softwaru. Parallel zase uvádí, že jeho agenti s Astrou zpracovali výzkum a syntézu dat o trhu práce za poloviční čas i náklady oproti předchozím modelům.
Agent je software, který neslouží jen jako chatovací okno, ale samostatně vykonává vícekrokové úkoly. Právě u něj se případné zlevnění modelu násobí: neplatíte za jednu odpověď, nýbrž za celý pracovní postup s mnoha voláními modelu. Firemní případovky samozřejmě nejsou nezávislý benchmark a chybí mi podrobnosti o metodě srovnání. Přesto je zajímavé, že se argumentace posouvá od „podívejte, co model umí“ k „podívejte, kolik času to ušetřilo“.
Lokální LLM jako souboj o hardware
Do stejné debaty patří i lokálně provozované LLM, tedy jazykové modely spuštěné přímo na vlastním počítači nebo serveru namísto cizího cloudu. Článek na VibeCoding.cz si všímá, že jejich výkon roste a s ním i naděje, že by člověk nemusel pořád platit předplatné uzavřeným službám. Zároveň otevírá docela šťavnatou otázku: kdo na tom skutečně vydělá, pokud software jako llama.cpp dokáže AI rozběhat i na hardwaru mimo svět NVIDIA.
Zmínka o možné akvizici Hugging Face za 13 miliard dolarů je ve zdroji položená jako otázka, ne jako potvrzená zpráva, takže bych z ní rozhodně nedělala hotovou věc. Samotný spor je ale podstatný. Lokální AI není jen romantika „všechno mi běží doma“; je to také boj o čipy, distribuci softwaru a o to, komu nakonec zůstane marže.
Muse: nákupčí s problémem důvěry
Amazon agentovi zavřel dveře
Meta Muse je AI agent pro macOS a podle popsaného testu umí za uživatele obstarat i nákupy. Amazon mu však zablokoval přístup ke svému obchodu. Uživatelům Muse se zobrazila zpráva, že pokračující přístup neautorizovaného AI agenta porušuje podmínky Amazonu; z podkladů také vyplývá, že Meta Amazon předem neupozornila.
Tohle není jen malicherná hádka velkých platforem. Nákup je přesně ten typ úkolu, kde nestačí, aby agent technicky zvládl prokliknout košík. Musí být jasné, kdo jedná, jaké má oprávnění a kdo ponese následky špatné objednávky. A ano, agent, který ochotně utratí moje peníze, by ve mně probudil zvláštní druh rodičovského dohledu.
Oprava chyby, která mohla převzít agenta
Další komplikace přišla hned vzápětí. Meta opravila v Muse zranitelnost typu zero-day, tedy chybu známou nebo zneužitelnou dříve, než pro ni existuje běžně dostupná oprava. Bezpečnostní výzkumník Patrick Wardle našel způsob, jak by útočník se spuštěným lokálním kódem mohl převzít kontrolu nad agentem. Využíval k tomu nedokumentované nastavení Muse a přesměrování zpracování přepisů z Meta serverů.
Podmínka lokálně spuštěného kódu je důležitá: nejde podle shrnutí o situaci, kdy agent padne každému jen po otevření webu. I tak je to nepříjemná připomínka, že agent s přístupem k aplikacím, účtům a nákupům má větší útočnou plochu než obyčejný chatbot. Muse není důkaz, že agenti nemají smysl; spíš dost názorně ukazuje, kolik nudných, ale nezbytných bezpečnostních detailů se musí vyřešit před masovým nasazením.
Bezpečnost není jen technická disciplína
Ukrajinská civilní infrastruktura a kyberobrana
OpenAI rozšiřuje přístup ke svému programu Daybreak pro ukrajinskou vládu, aby podpořila kybernetickou obranu civilní infrastruktury. Podklady nepopisují konkrétní nástroje ani rozsah přístupu, takže z toho nejde poctivě vyvozovat, co přesně budou systémy dělat. Už samotný účel je ale silný: AI se tu neobjevuje jako pomocník pro marketingové texty, nýbrž v oblasti, kde chyba nebo útok mohou zasáhnout běžný provoz státu.
Matematici mají poradit, jak neopakovat ostudu
OpenAI zároveň sestavuje nezávislý panel matematiků, který má radit jí i dalším AI firmám v otázkách souvisejících s matematickým výzkumem a širší matematickou komunitou. The Verge to zasazuje do kontextu předchozích spektakulárních matematických výsledků, které se pro OpenAI obrátily v reputační problém.
Trochu mě zaráží, že podobná lidská kontrola přichází až po problému, ale lepší pozdě než nikdy. U odborných objevů nestačí, aby model vyplivl efektně znějící závěr. Potřebujete lidi, kteří poznají, zda je výsledek skutečně nový, správně interpretovaný a férově komunikovaný.
Altman mluvil v Radě bezpečnosti OSN o lidské kontrole
Sam Altman vystoupil před Radou bezpečnosti OSN s tématy bezpečnosti AI, lidské kontroly a mezinárodní spolupráce. Jsou to velká slova, která se dobře pronášejí ve velkých sálech, takže budu raději sledovat konkrétní pokračování než hodnotit samotný projev. Vedle ukrajinského programu a kauzy Muse ale připomínají jednu věc: otázka kontroly není abstraktní filozofie. Týká se jak kritické infrastruktury, tak aplikace, která smí nakupovat vaším jménem.
Odnáším si z toho trochu méně lesklý, zato užitečnější obraz AI trhu. Výkon a cena modelů jsou důležité, ale stejně důležité bude, komu agenti smějí vstupovat do služeb, jak se opravují jejich chyby a kdo ověřuje jejich velká tvrzení. Právě tenhle méně fotogenický provoz budu sledovat asi nejraději.
Zdroje
- Ars Technica: levnější modely od Anthropic a OpenAI
- OpenAI: nasazení GPT‑6 Astra v Airbnb
- OpenAI: Parallel a výzkum dat s GPT‑6 Astra
- VibeCoding.cz: kdo vydělá na lokálních LLM
- The Verge: Amazon blokuje nákupní přístup Meta Muse
- The Verge: oprava zero-day zranitelnosti Meta Muse
- The Verge: praktický pohled na nákupního agenta Muse
- OpenAI: Daybreak pro ukrajinskou civilní kyberobranu
- The Verge: poradní panel matematiků pro OpenAI
- OpenAI: vystoupení Sama Altmana v Radě bezpečnosti OSN
