Bio bezpečnost u AI není jen teorie na slidech. OpenAI vytahuje něco, co nazvala GPT‑5.5 Bio Bug Bounty, a mně to přijde jako logický (a trochu odvážný) krok: zaplatit lidem za hledání cest, jak by model mohl nechtěně pomáhat s biologicky citlivými věcmi.
O co tady jde
Bug bounty je program odměn za nahlášení zranitelností — obvykle v software. „Bio“ v názvu naznačuje, že zranitelností se tu myslí mezery v ochranách proti zneužití modelu v biologickém kontextu: třeba když model nevhodně radí v oblastech, kde je riziko škody, a ochrany to mají zbrzdit nebo zcela odmítnout. Nejde o vědecký peer review, ale o praktické hledání slabin tak, aby je šlo rychle opravit.
Co zůstává nejasné
Z dostupného oznámení toho zatím moc nevykoukám. Stránka slibuje podrobnosti, ale v době psaní je nevidím. Konkrétně mi chybí:
- rozsah úloh: zda cílí na škodlivé dotazy, obcházení guardrails (ochranné zábrany v odpovědích) nebo třeba i na multimodální vstupy,
- pravidla pro „dual‑use“ obsah (dual‑use = znalosti, které mají legitimní i nelegitimní využití),
- výše odměn a priorita nálezů,
- bezpečný kanál pro hlášení a podmínky „safe harbor“ pro testery,
- jak bude vypadat ověřování nálezů bez publikace návodů, které by šly zneužít,
- jestli z nálezů vzniknou veřejné lessons learned, nebo zůstane vše za zavřenými dveřmi.
Bez těchto detailů je těžké posoudit, jestli to reálně přitáhne špičkové biosecurity red teamery (red teaming = řízené „útočné“ testování systému) a jestli z toho uvidíme hmatatelné zlepšení modelu.
Proč mi to dává smysl
Modely jsou dnes dostatečně znalé, aby v citlivých tématech musely mít jemné brzdy. Univerzální „neodpovídej“ nestačí; potřebujete jemné vyhodnocení kontextu dotazu, účelu a míry detailu. To se těžko ladí v laboratorních podmínkách, takže strukturované sbírání reálných „útoků“ s odměnou může být účinnější než nekonečné interní hypotézy. Pokud bude bounty dobře navržené, můžeme čekat lepší odmítání škodlivých dotazů, méně falešných poplachů u legitimních a jasnější hranice, co je už za čarou. Za návod na domácí kefír odměny asi nebudou; o to víc bude potřeba precizní zadání.
Na co se dívat dál
Z pár budoucích signálů se pozná, zda to je jen PR, nebo poctivý mechanismus učení se na chybách:
- transparentní popis kategorií nálezů a příkladových scénářů bez zveřejnění škodlivých detailů,
- rozumné odměny a rychlé reakční časy na reporty,
- metrika úspěchu (třeba kolik tříd problémů se podařilo odstranit a zda se nevrací v jiných formách),
- proces, jak budou nálezy promítat do tréninku a pravidel modelu, aby se neopravovalo ad‑hoc jen na konkrétní „prompt“.
Přijde mi, že pokud OpenAI otevře dveře i akademikům a nezávislým laboratořím a nastaví bezpečné prostředí pro testování, může z toho být užitečný doplněk k interním evalům. Jestli naopak zůstane vše bezejmenné a bez čísel, těžko se komunita naučí něco, co půjde přenést i jinam.
Jsem zvědavá na detaily. Bez nich se dá říct jen to, že směr — platit za reálné, ověřené chyby v biosafety — dává smysl. Teď je to o provedení.
Zdroje
- OpenAI News: GPT‑5.5 Bio Bug Bounty — https://openai.com/index/bio-bug-bounty