ChatGPT si chce pamatovat, co děláte na počítači, zatímco jeho tvůrce současně mluví o opatrnějším tempu vývoje kvůli kybernetickým rizikům. Tyhle dvě zprávy vedle sebe působí trochu jako ukázkový AI paradox: nástroj má být užitečnější, ale čím víc toho vidí a umí, tím víc otázek se mi hromadí v hlavě.
Do stejné třídenní směsi se vešel režim ChatGPT pro teenagery, neviditelné značky ve výstupech Claude i připomínka, že tokeny v Claude Code nejsou abstraktní drobné, ale položka na účtu. Tedy bezpečnost, soukromí, děti a peníze. Nenápadně praktický balíček.
Bezpečnost AI má několik nepohodlných vrstev
OpenAI chce brzdit podle kybernetických schopností modelů
OpenAI popsalo, že u svých nejpokročilejších modelů posiluje monitoring, bezpečnost a alignment. Alignment je snaha nastavit AI tak, aby její chování odpovídalo zamýšleným cílům a bezpečnostním pravidlům, ne jen tomu, co technicky zvládne. Důvodem jsou kybernetické schopnosti modelů: AI může pomáhat obráncům, ale také útočníkům.
Mně osobně přijde rozumné, že se nemluví jen o tom, kolik model vyřeší úloh, ale i o tom, zda dokáže usnadnit škodlivé činnosti. Z dostupného shrnutí ale neplyne, podle jakých konkrétních prahů by se tempo vývoje měnilo. Právě to bude zajímavé sledovat: bezpečnostní principy zní dobře, jejich sílu poznáme až ve chvíli, kdy něco opravdu zpomalí.
Připravenost se přesouvá jinam
Vedle toho The Verge píše, že OpenAI na konci července rozpustilo tým preparedness, který měl posuzovat závažná rizika modelů a hledat způsoby, jak je omezit. Odpovědnost se měla přesunout jinam v organizaci. Časová blízkost s novými texty o monitoringu je proto trochu nápadná.
Nemusí to automaticky znamenat, že ochrana zmizela; tým lze přeskupit a práci rozdělit. Bez dalšího vysvětlení ale nejde posoudit, zda jde o praktičtější organizační změnu, nebo o oslabení nezávislého pohledu na rizika. U firmy, jejíž produkty používají stovky milionů lidí, není organizační diagram zrovna sexy čtení, ale občas je důležitější než další demo.
Obránci mají omezené okno
OpenAI v samostatném textu upozorňuje, že AI mění kyberbezpečnost pro útočníky i obránce, a mluví o „okně“ pro obránce. Pointa je prostá: bezpečnostní týmy mají čas využít AI k posílení vlastních postupů dřív, než se stejné možnosti stanou běžnou výbavou útoků.
Tenhle rámec mi dává větší smysl než obvyklé strašení stroji z filmů. Nejde o jednu dramatickou chvíli, ale o spoustu nudných rozhodnutí: kdo co sleduje, kdo kontroluje automatizované výstupy a kdo má plán, až nástroj udělá chybu. A ano, poslední bod bych si nejspíš měla napsat i na papírek vedle vlastních experimentů.
Chatbot se dívá blíž k běžnému životu
Computer History může z ChatGPT udělat paměť práce na Macu
Desktopová aplikace ChatGPT pro macOS získala funkci Computer History. Ta má zaznamenávat aktivitu uživatele, vytvářet časovou osu, ke které se ChatGPT a Codex mohou vracet, a z ní nabízet automatizace nebo navázat na rozdělanou práci. V překladu do normální řeči: chatbot nemá čekat jen na ručně napsaný dotaz, ale získává kontext z toho, co jste dělali na počítači.
Užitečnost si umím představit okamžitě. Rozpracovaný úkol, hledání v historii, opakované kroky v aplikacích – to všechno jsou přesně ty drobnosti, na nichž člověk ztratí půl dne a pak se diví, kam se podělo úterý. Současně jde o funkci, u které bych nechtěla přeskočit nastavení ochrany soukromí ani drobným písmem. Z poskytnutého popisu nevyčtu, jak přesně se aktivita ukládá, jak dlouho zůstává dostupná ani jaké ovládání dostane uživatel. A to jsou pro mě důležitější otázky než samotné kouzlo automatizace.
ChatGPT dostává vyhrazený prostor pro teenagery
OpenAI také představilo ChatGPT for Teens, prostředí určené dospívajícím. Má spojovat ochrany pro mladší uživatele, funkce podporující zdravé používání a další rodičovské kontroly. Cílem má být pomoc s učením, kritickým myšlením a jistějším používáním AI.
Speciální režim je lepší start než představa, že stejný chatbot bez úprav sedne každému od školáka po účetní. Zároveň bych od něj nečekala zázračnou náhradu rozhovoru ve škole nebo doma. Kritické myšlení nevznikne tím, že se přepne přepínač v aplikaci; AI může dobře pomoct s otázkami, ale také velmi sebevědomě nabídnout špatnou odpověď. Podrobnosti o tom, které konkrétní ochrany budou zapnuté a kde, mi v podkladech chybí.
Text potřebuje původ a vývojář potřebuje hlídat účet
Claude chce značit svůj text tak, aby značka nebyla vidět
Anthropic upřesnil plán pro neviditelné vodoznaky ve výstupech Claude. Má využít variantu SynthID-Text, otevřeného přístupu od Google DeepMind. Systém vytváří zjistitelné vzory přes pravděpodobnosti volby formulací; nejde tedy o viditelnou cedulku vloženou doprostřed věty.
Dává to smysl hlavně v souvislosti s evropskými pravidly transparentnosti AI. Zároveň je dobré nepředstavovat si vodoznak jako detektor pravdy. Může pomoci určit, zda text nejspíš vytvořil konkrétní systém, ale neřekne sám o sobě, zda je text správný, férový nebo jestli ho člověk mezitím zásadně nepřepsal. Technické označení původu je užitečná stopa, ne rozsudek.
Claude Code připomíná, že každá konverzace má cenu
Český přehled o Claude Code rozebírá, co se při práci s tímto programovacím nástrojem účtuje a jak spotřebu tokenů snížit. Token je malý kus textu, ze kterého si jazykový model skládá vstup i odpověď; čím víc kontextu a výstupů model zpracuje, tím víc se obvykle projeví ve spotřebě.
Tohle je možná méně efektní než novinky velkých laboratoří, ale pro lidi, kteří s AI opravdu pracují, je to velmi pozemská zpráva. Modelu nestačí říct „oprav mi projekt“ a pak se tvářit překvapeně nad účtem. Hodí se rozmyslet zadání, neposílat zbytečně velké kusy kontextu a průběžně sledovat, co nástroj dělá. Vibe coding je fajn, dokud z vibů není finanční horor.
Co si z toho beru
AI nástroje se posouvají od jednorázových odpovědí k paměti, automatizaci a práci v citlivějších situacích. Budu proto sledovat hlavně dvě věci: zda firmy popíšou své ochrany konkrétněji, a zda uživatelé dostanou stejně jednoduchou kontrolu nad daty, jakou dostávají nad novými funkcemi.
