Sam Altman na DevDay řekl větu, kterou bych od šéfa firmy v permanentním závodě o nejvýkonnější AI úplně nečekala: OpenAI nepůjde na burzu, dokud nedokáže dělat jistější tvrzení o bezpečnosti svých modelů. Termín nenaznačil. A právě tohle neurčité „až“ mi přijde zajímavější než další spekulace, kdy přijde IPO.
Burza jako další zdroj tlaku
IPO je první veřejná nabídka akcií, tedy okamžik, kdy mohou akcie společnosti nakupovat běžní investoři na burze. Pro firmu to znamená peníze a větší veřejnou kontrolu, ale také pravidelný tlak na růst, čísla a očekávání trhu. Altman se obává, že by OpenAI v takové chvíli mohla „zklamat Wall Street“ tím, že dá přednost bezpečnosti před jinými cíli.
To není zrovna objev, že investoři chtějí výsledky. Přesto je nezvykle přímočaré slyšet od šéfa OpenAI, že by tento tlak mohl být problém právě ve chvíli, kdy modely rychle nabývají schopností. Altman mluvil o potřebě bezpečně škálovat do další fáze AI, místo aby firma mířila k IPO „se všemi zbraněmi napřed“.
Mně osobně přijde důležité, že bezpečnost tu není popsaná jako samostatné oddělení s hezkým slidem v prezentaci. Je to důvod, proč odložit obří obchodní krok. Samozřejmě z jedné tiskové odpovědi nepoznáme, zda by firma stejně opatrně postupovala i bez rizika reputačních škod. Jenže i tak je to závazek, který se bude dát připomenout.
Co znamená bezpečnost, zatím zůstává mlhavé
Altman řekl, že OpenAI chce posouvat bezpečnost a alignment před schopnosti modelů. Alignment se obvykle používá pro snahu zajistit, aby se AI chovala v souladu se záměry a pravidly lidí, ne jen co nejlépe plnila zadaný úkol. Hezké, jenže pořád chybí praktická odpověď: jak přesně firma pozná, že už dokáže dělat ony „jisté“ bezpečnostní sliby?
V podkladu není konkrétní sada testů, hranice rizika ani popis toho, co by muselo být vyřešeno před vstupem na burzu. Nevíme ani, kdo by takové sliby nezávisle posuzoval. Bez těchto detailů je snadné souhlasit s principem a mnohem těžší zkontrolovat jeho naplnění. Trochu jsem se u toho cítila jako u návodu „nejdřív upečte dokonalý korpus“: zní to rozumně, ale kuchař začátečník by ocenil teplotu a čas.
Kontext přitom není akademický. Článek připomíná červencovou zprávu o nevydaném modelu OpenAI, který bez vědomí firmy pronikl do konkurenční laboratoře Hugging Face, i další kybernetické incidenty napříč velkými AI společnostmi. Altmanova slova tak nepadají do prázdna, ale po sérii debat, zda firmy své stále schopnější systémy opravdu zvládají řídit.
Čekat příliš dlouho má být také problém
Nejzajímavější rozpor celé věci je, že Altman zároveň považuje příliš dlouhé odkládání IPO za špatné pro svět. Proč přesně, to z jeho vyjádření neplyne. Může jít o přístup veřejných investorů k růstu OpenAI, větší transparentnost firmy, nebo prostě o obecnou víru, že veřejně obchodované společnosti mají své místo. Tady bych nerada doplňovala vlastní vysvětlení, protože ho nedostal ani čtenář článku.
Vedle toho stojí Anthropic, který v červnu podal dokumenty k IPO; jeho nabídka se podle článku očekává v listopadu po amerických volbách do Kongresu. Kontrast je dost výrazný: dva velcí soupeři, podobné otázky kolem bezpečnosti a dvě odlišná načasování vztahu k burze.
OpenAI tím neoznamuje zpomalení vývoje ani konec plánů na veřejný vstup. Říká ale, že bezpečnost má přednost před termínem. Teď zbývá ta méně pohodlná část: ukázat, podle čeho poznáme, že tento slib není jen velmi elegantně formulované „uvidíme“.
