Meta během pár dnů otočila: oznámila možnost na Instagramu vytvořit AI obrázek z libovolného veřejného účtu prostým @‑označením — a po bouři kritiky funkci zase stáhla. Zajímavý reality check, co se stane, když se souhlas schová do nastavení a čeká se, že si ho lidé najdou.
Jedno @ a máte deepfake
Novinka fungovala jednoduše: uživatel v Meta AI zadal prompt a připojil @‑zmínku veřejného účtu na Instagramu, čímž model (Meta mluví o novém Muse Image) dostal „referenci“ k tvorbě obrázku. Tedy obsah z jakéhokoli veřejného profilu se mohl ocitnout v AI výtvorech bez předchozího svolení majitele účtu. Deepfake — syntetický obraz nebo video vytvořené AI, které věrohodně napodobuje konkrétní osobu — byl najednou o dost dostupnější.
Meta tvrdí, že chtěla dát lidem kontrolu, jestli jejich veřejný obsah může být takto referencován. Prakticky to ale znamenalo opt‑out zakopaný v nastavení. Po pár dnech a silném odporu komunita dosáhla svého: firma přiznala, že funkce „minula cíl“, a vypnula ji. Mezitím stihla Screen Actors Guild doporučit členům, ať se odhlásí, a organizace zaměřené na bezpečnost varovaly před zneužitím pro sextortion a další podvody.
Souhlas není schovaný přepínač
Veřejný profil není bianko šek pro automatizované remixy obličeje kýmkoli a kdykoli. To, že fotka je veřejná pro lidi, ještě neznamená, že má být stavebním materiálem pro cizí AI montáž. Opt‑out navíc přesouvá celé břemeno na jednotlivce: kdo si to nenajde a nepřepne, „souhlasí“ omylem. U funkce, která přímo pracuje s podobiznou, to působí necitlivě a zbytečně riskantně.
Co mi přijde nejproblematičtější, je kombinace nízkého tření a vysokého dopadu: jedno @, pár slov a vzniká věrohodná napodobenina. To je z pohledu zneužití perfektní bouře — od obtěžování přes podvody až po reputační škody. I kdyby byl výstup technicky označen jako AI, škoda často nastane dřív, než se vysvětlení dostane k publiku.
Co by dávalo větší smysl
Kdyby se něco takového mělo vrátit, dává mi větší logiku:
- Striktní opt‑in: jasné, viditelné zapnutí na úrovni účtu, ideálně i na úrovni konkrétních fotek.
- Žádosti o souhlas per použití: když mě někdo chce „referencovat“, dostanu notifikaci a schválím/odmítnu.
- Ochrany obličejů a dětí ve výchozím stavu, limity na citlivé kontexty (nahota, zdraví, politika).
- Silné nástroje proti zneužití: rychlé nahlášení, okamžité stažení výstupů, auditní stopa.
- Viditelné značení AI výstupů a technické vodoznaky, aby platforma mohla lépe vymáhat pravidla.
Tohle všechno samozřejmě stojí čas a snižuje „kouzlo“ bez tření. Jenže u funkcí sahajících na identitu a podobiznu je právě tření bezpečnostní feature.
Otazníky do příště
Z oznámení není jasné, jestli a v jaké podobě se feature někdy vrátí, ani jaké konkrétní záruky bezpečnosti měla v první iteraci. Není zřejmé, jak by taková funkce ladila s evropským pojetím souhlasu a ochranou podobizny — uvidíme, zda se k tomu Meta někdy detailněji vyjádří. Taky by mě zajímalo, jak přesně se lišilo „referencování“ účtu při generování od případného využití obsahu při tréninku modelů; tenhle rozdíl bývá pro uživatele klíčový a v komunikaci často zaniká.
Upřímně jsem ráda, že tohle skončilo rychlým stopem. Kreativní hračka může být fajn, ale ne tehdy, když za ni platíme cizí tváří bez jasného souhlasu.
Zdroje
- The Verge: Meta turns off the Instagram feature that let users make AI deepfakes of public accounts — https://www.theverge.com/tech/964416/meta-instagram-ai-muse-image-deepfakes