OpenAI tentokrát neukázala další chatbot ani nástroj na programování, ale tři výsledky, které míří do opravdu těžké matematiky, teoretické informatiky a fyziky. Zaujalo mě na tom hlavně něco jiného než samotné ambiciózní titulky: spor o to, kdo má právo takové výsledky jako první vidět, kontrolovat a vysvětlovat.
Tři výsledky, tři různé dveře
Nejotevřenější má být matematická část. OpenAI zveřejnila výstup vytvořený AI, který má řešit Kakeyovu domněnku ve všech dimenzích. Tento problém se zjednodušeně ptá, jak malý prostor stačí pro otočení jehly či tužky do všech směrů. Brendan Hassett z Brown University řekl, že tvrzení působí dobře podloženě, ale sám ještě neověřil formalizaci v Lean.
Lean je software pro formální ověřování důkazů: matematický argument se v něm přepíše tak přesně, aby jeho jednotlivé kroky mohl zkontrolovat počítač. To zní možná méně romanticky než tabule plná křídy, ale u takhle velkého tvrzení bych si kontrolu strojem rozhodně nevyčítala.
U výsledku z informatiky chce OpenAI sestavit externí skupinu, která jej má vysvětlit. Tvrzení má vyvracet exponenciální časovou hypotézu, tedy rozšířený předpoklad, že některé výpočetní problémy nelze řešit o mnoho rychleji než hrubou silou. Souvisí to i se slavným problémem P versus NP, ale nejde o jeho vyřešení.
Nejméně přístupná zůstává fyzika. Materiály k práci o Standard Modelu a kvantové chromodynamice OpenAI vůbec neuvolnila a o podobě zveřejnění se chce řídit názorem externích expertů. Kvantová chromodynamika popisuje silnou jadernou interakci, jednu ze čtyř základních sil. Článek zároveň výslovně upozorňuje, že práce neřeší takzvanou mezeru hmotnosti v Yangově–Millsově teorii, což je jeden z Millennium Prize Problems.
Věda bez možnosti kontroly je trochu divná věda
Mně osobně přijde rozumné, že OpenAI po předchozí záplavě stovek preprintů hledá méně chaotický způsob komunikace. Preprint je odborný text zveřejněný před plným recenzním řízením, takže si ho komunita teprve musí prověřit. Vypustit stovky takových textů najednou zní jako způsob, jak matematikům nenápadně nadělit práci na několik let.
Potíž je v tom, že firma současně oznamuje výsledky s obrovským dosahem a u části z nich omezuje přístup. Constantin Kogler z Institute for Advanced Study přivítal menší balík tří výsledků, ale zpochybnil, proč je mají nejdřív vidět jen vybraní odborníci. Andreas Karch z University of Texas at Austin to kritizoval ještě ostřeji: velké laboratoře už podle něj mají dost moci a neměly by rozhodovat, kdo bude ve vědecké debatě „vítěz“ a kdo ne.
Nejde přitom jen o uraženou akademickou ješitnost, i když vědci jsou samozřejmě lidé a lidé umí být citliví na zavřené dveře velmi kreativně. Ověřování složitých důkazů a fyzikálních výpočtů bývá kolektivní práce. Více nezávislých očí znamená větší šanci najít chybu, nejasný předpoklad nebo prostě lepší vysvětlení.
Velké tvrzení potřebuje veřejnou cestu k ověření
Zdroj cituje experty, kteří výsledky popisují jako velké, významné či zásadní. Současně ale říká jasnou věc: kvůli různé míře zveřejnění je těžké jejich správnost plně posoudit, a i při dostupnosti všech podkladů by to vyžadovalo čas. To je podle mě nejstřízlivější část celé zprávy.
OpenAI se tedy pohybuje mezi dvěma nepříjemnými extrémy. Na jedné straně stojí hromadné zveřejnění, které odbornou komunitu zahlcuje. Na druhé kurátorovaný přístup, kde se nejdřív vybírá malá skupina „shepherds“, tedy odborníků dohlížejících na způsob sdílení. Druhá varianta může pomoci s vysvětlením, ale neměla by nahrazovat otevřenou kontrolu.
Největší otázka pro mě není, zda AI jednou dokáže pomáhat s těžkou vědou. Zjevně už do ní zasahuje. Důležitější je, zda budou její nejodvážnější výsledky posuzovatelné stejnými pravidly jako práce lidí, a ne podle toho, komu firma zrovna pošle přístupový odkaz.
Vědecký výsledek nemusí být okamžitě srozumitelný každému. Měl by ale mít cestu k nezávislé kontrole, která nevede jen přes recepci jedné AI laboratoře.
