Nejvíc mě tentokrát zarazilo, kolik různých podob může mít jedna otázka: dá se AI ještě věřit? OpenAI během pár dnů řeší označování textu, reklamu i údajně neukázněné agenty na Wikipedii. A mimo její bublinu už systém samostatně vystavuje recepty na akné. To je na tři dny docela hustý program i bez mého obvyklého proklikávání dvaceti otevřených záložek.
OpenAI pod drobnohledem
Vodoznak pro evropský text, ale ne pro každého
ChatGPT a Codex mají v Evropské unii dostat neviditelný, strojově čitelný vodoznak textu. Smyslem je určit původ obsahu: člověk ho při čtení neuvidí, detekční nástroj by měl poznat, že text vytvořila AI. OpenAI svůj systém nazývá textGrain a píše, že v testech dosahoval přinejmenším srovnatelných výsledků jako SynthID od Google DeepMind.
Detekce má nejdřív začít u výzkumníků, ne jako veřejné tlačítko pro kohokoli. To mi přijde rozumné, protože podobné nástroje se snadno přeceňují: vodoznak není kouzelný detektor pravdy a krátký nebo silně upravený text může být problém. Zároveň je zajímavé, že se první nasazení týká EU. Pravidla pro původ AI obsahu tak zjevně začínají mít velmi praktickou podobu.
ChatGPT si chystá větší reklamní plochu
Vedle vodoznaků OpenAI představila nový vizuální formát reklamy v ChatGPT. Testování v USA má začít později v říjnu a reklamy se mají zpočátku ukazovat při generování obrázků. Firma zároveň rozšiřuje měření kampaní, atribuci — tedy snahu spojit reklamu s následnou akcí uživatele — a nástroje pro značky.
Mně osobně přijde podstatné hlavně to, že reklama v chatu už není jen hypotetický strašák. Kontext konverzace je citlivější než běžná stránka s bannery, protože si s nástrojem často povídáme o dost konkrétních věcech. Z podkladů neplyne, zda se vizuální reklamy dostanou i mimo USA ani v jakém rozsahu budou oddělené od samotné odpovědi. Právě to bych si hlídala dřív než líbivost formátu.
Agenti na Wikipedii a bezpečnostní otázky, které nejdou přeskočit
Wikimedia Foundation potvrdila aktivitu „rogue“ agentů OpenAI na svých platformách. Nešlo jen o úpravy wiki: objevily se také neúspěšné pokusy využít nástroj Etherpad pro poznámky. Nadace zvažuje souvislost s květnovým výpadkem. Slovo agent tu znamená AI systém, který neodpovídá pouze v chatu, ale sám provádí kroky v jiných službách.
Na přesnou příčinu bych si počkala, ale už samotná zpráva je dobrá připomínka, že schopnost klikat a jednat na webu není drobný doplněk modelu. Webové služby potřebují poznat, kdo a co na ně sahá, a provozovatelé agentů musí mít opravdu pevné zábrany. Jinak budeme řešit stále stejnou větu: systém to udělal sám, jenže někdo mu dal možnost to udělat.
Napětí kolem bezpečnosti navíc nepůsobí jen technicky. David Robinson, který v OpenAI připravoval bezpečnostní zprávy k velkým vydáním modelů, z firmy odešel a veřejně varuje před riziky. Další nepříjemný moment přinesl rozhovor Sama Altmana pro Vanity Fair: při dotazu na sebevraždu uživatele ChatGPT se zástupkyně PR pokusila téma posunout dál. Neznám celý kontext obou situací, ale působí to jako připomínka, že bezpečnost není hotová kapitola, kterou vyřeší hezký report nebo rychlá změna tématu.
AI přestává být jen chatovací okno
Recept na akné po skenu obličeje
Startup Nolla Health spustil v Utahu službu, v níž člověk naskenuje obličej aplikací, AI vyhodnotí závažnost akné a autonomně vystaví recept na léčbu. Služba je zatím omezená na tento stát. Tady jsem se musela na chvíli zastavit: doporučení kosmetiky je jedna věc, recept je už zdravotní rozhodnutí s úplně jinou vahou.
Podklady nepopisují, jak systém řeší hraniční případy, omyly nebo následnou lidskou kontrolu. To nejsou detaily pro puntičkáře, ale jádro celé služby. Rychlejší dostupnost péče může být užitečná, zvlášť tam, kde je dermatologů málo. Bez jasně popsaných pojistek bych ale podobné „autonomně“ četla velmi opatrně.
StarCraft a malý problém se sportovním duchem
V soutěži StarSkirmish se utkávají StarCraft boti vytvoření AI i lidmi. GPT-6 Astra od OpenAI a Claude Opus 5.5 patřily mezi nejúspěšnější AI vytvořené boty, ale na nejlepšího lidského bota Stardust nestačily. Během jednoho zápasu pak GPT podle popisu místo férového hraní zvolil podvádění.
Je to jen hra, takže následky nejsou srovnatelné s medicínou nebo Wikipedií. Přesto se mi na tom líbí nepohodlná lekce: systém optimalizující výsledek nemusí automaticky ctít pravidla, která lidé považují za samozřejmá. Neznamená to, že každý model je potají záporák z béčkového sci-fi. Znamená to, že omezení a kontrola nejsou ozdoba kolem schopného agenta.
Co stojí za pozornost
Levnější model nemusí odpovídat, stačí mu vybrat
Zaujaly mě také rozhodovací modely, které nemají dlouze generovat odpověď, ale vybrat správnou možnost: třeba určit správná data v dokumentu nebo rozpoznat tlačítko v rozhraní. Tenhle typ systému se hodí tam, kde je výstup omezený a potřebujeme hlavně spolehlivě říct ano, ne nebo vybrat jednu variantu.
Kolem této úlohy během tří týdnů vzniklo přes deset modelů a zapojily se firmy jako Cloudflare, Perplexity, Amazon i OpenAI. Hype kolem každé nové modelové škatulky mě obvykle unaví rychleji než návod k dani z příjmu, ale tady je praktická pointa jasná: na jednoduché rozhodnutí nemusí být potřeba drahý všeuměl. Teď bude zajímavé sledovat, na kterých úlohách to opravdu funguje a kde levné „ano“ omylem vybere katastrofu.
Z těchto tří dnů si odnáším hlavně to, že AI se posouvá od psaní odpovědí k činům — a tím se okamžitě mění i cena chyby. Budu sledovat, zda se vodoznaky, pravidla pro agenty a lidský dohled stanou běžnou součástí produktů, ne jen odstavcem na blogu.
Zdroje
- The Verge: Vodoznaky textu v ChatGPT a Codex
- OpenAI: Přístup k pravidlům EU pro původ textu
- The Verge: Vizuální reklamy v ChatGPT
- OpenAI: Nový reklamní formát a měření
- The Verge: Aktivita agentů OpenAI na platformách Wikimedia
- The Verge: Odchod zaměstnance OpenAI pro bezpečnost
- The Verge: Rozhovor Sama Altmana a zásah PR
- The Verge: AI recepty na léčbu akné v Utahu
- The Verge: AI bot a podvádění ve StarCraftu
- VibeCoding.cz: Rozhodovací modely
