Sam Altman tentokrát neříká, že matematika je snadná. Naopak přiznává, že lidé v oboru mají co dělat, aby vůbec stíhali číst, ověřovat a zařazovat výsledky, které OpenAI vypouští. Soucit ale neznamená brzdu: firma má podle něj další objevy v zásobě a její matematické tempo pokračuje.
Nejde jen o počet výsledků, ale o to, co s nimi udělat
OpenAI během října zveřejnila stovky matematických výsledků. Pro člověka, který matematiku naposledy potkala na střední škole a trochu nervózně, zní „víc důkazů“ automaticky jako dobrá věc. Jenže matematický důkaz nestačí prostě vyvěsit na internet a připsat hotovo. Odborníci ho musí projít, ověřit jednotlivé kroky, zasadit ho do dosavadního výzkumu a zjistit, co přesně vlastně dokazuje.
Matematici oslovení The Verge kritizovali hlavně způsob, kterým firma výsledky zveřejňuje: málo kontextu, nedostatečné uvedení autorství a texty, které se špatně čtou. To není kosmetická výtka. Pokud jsou podklady stručné a nejasné, práce se jen přesune na akademiky, kteří mají rozlousknout, co model vytvořil a zda to drží pohromadě. AI pak sice vyřeší část problému, ale další pořádně velký problém dodá zabalený bez návodu. Velmi efektivní, pokud zrovna nejste ten, kdo ho musí rozbalit.
Altmanovy stovky milionů a jedno „hold my beer“
Altman v podcastu Cheeky Pint odhadl, že OpenAI dala do matematických problémů stovky milionů dolarů. Přibližně 10 milionů dolarů, možná o něco víc, měla stát práce na řešení Navierových–Stokesových rovnic. Jde o rovnice popisující proudění tekutin; patří mezi slavné Millennium Prize Problems, tedy sedm mimořádně obtížných matematických úloh, za jejichž vyřešení je vypsaná cena.
Zaujala mě i historka o interním Slack kanálu pojmenovaném ve stylu „Model Name-Hold My Beer“. Zaměstnanci tam prý házeli na modely co nejtěžší úlohy, aby zjistili, kam až dojdou. Upřímně, lidsky tomu rozumím: dostanete nový silný nástroj a první instinkt je zkusit, co rozbije. Jenže v matematice není výsledkem rozbitá virtuální váza, ale tvrzení, na jehož kontrole mohou lidé strávit měsíce či roky.
Takové rozpočty navíc mění, kdo si může podobné experimenty dovolit. Akademická pracoviště logicky nemusejí mít miliony dolarů na výpočetní výkon a týmy kolem něj. Trochu mě proto zneklidňuje představa, že tempo základního výzkumu začne určovat hlavně to, kdo vlastní největší datové centrum.
Otevřené poznání, jen ne všechno hned
Altman hájí zveřejňování tím, že lidstvo si zaslouží znát zásadní poznatky o fungování vesmíru. S tím se mi těžko polemizuje. Současně ale OpenAI čelí opačné kritice: část významných výsledků zatím nezveřejnila. Podrobnosti k tvrzení týkajícímu se Yangovy–Millsovy teorie, která je jedním z matematických základů částicové fyziky, nejsou veřejné. Firma postup vysvětluje doporučením vybrané skupiny expertů.
Tady mi uniká jednoduchá odpověď na otázku, jaké pravidlo vlastně platí. Má se významná věda pustit ven hned, i za cenu zmatku a těžko ověřitelných materiálů? Nebo je lepší chvíli počkat, připravit vysvětlení a dát prostor nezávislé kontrole? Obojí může být rozumné podle konkrétního případu. Jenže pak nestačí říkat, že poznání nemá ležet v šuplíku; bylo by fér popsat, proč zrovna tento výsledek v šuplíku ještě chvíli leží.
Věda není feed s nekonečným scrollováním
OpenAI nemusí výsledky tajit, ale zároveň nemá moc smysl chrlit je rychleji, než je odborná komunita dokáže pochopit. Mně osobně by dávalo větší smysl méně chaotické vydávání: srozumitelné technické materiály, jasně popsané limity, průběžné konzultace s lidmi z oboru a čas na ověření. Ne proto, aby se AI musela tvářit skromně, ale aby její práce byla skutečně použitelná.
Altman naznačil, že matematických výsledků má OpenAI ještě víc. Jestli mají obstát, nebude nakonec nejdůležitější počet zveřejněných důkazů ani cena výpočtů. Rozhodne, zda jim budou matematici schopní důvěřovat — a zda budou mít šanci je vůbec poctivě zkontrolovat.
