Tahle zpráva mi připadá až trochu podezřele velká na to, aby se vešla do jednoho úterního blogpostu. OpenAI tvrdí, že pomocí interního AI modelu našlo řešení Navier-Stokesovy úlohy, matematického problému otevřeného zhruba 90 let. Jenže prakticky okamžitě se objevila nepříjemná otázka: kudy se k takovému řešení model vlastně dostal.
Proč se kolem rovnic proudění dělá tolik povyku
Navier-Stokesovy rovnice popisují proudění kapalin a plynů. Zní to docela nevinně, dokud si člověk neuvědomí, že jde o matematický základ pro jevy od vody v potrubí po vzduch kolem letadla. Samotný problém se netýká jen toho, zda rovnice umíme napsat, ale zda jejich řešení v trojrozměrném prostoru za určitých podmínek vždy existuje a chová se „slušně“.
Úloha patří mezi sedm Millennium Prize Problems, tedy sedm mimořádně těžkých matematických problémů, za jejichž vyřešení je vypsán milion dolarů. OpenAI říká, že o odměnu usilovat nebude. Zda je důkaz definitivně správně, ale z tohoto oznámení samozřejmě neplyne. V matematice se podobná věc nestává pravdou proto, že ji zveřejnila známá firma, nýbrž až po opravdu důkladné kontrole odborníky. A zde je materiál navíc čerstvý.
Model, deset tisíc agentů a jeden zásadní detail
Na hledání řešení měl pracovat interní model, který má být výkonnější než nově vydaný GPT-6 Astra, společně s 10 000 souběžnými agenty. Agent zde znamená AI proces, který samostatně řeší dílčí kroky úkolu; místo jednoho dlouhého chatu tedy může běžet obrovské množství pokusů naráz. Představa je fascinující, i když se mi při ní vybaví notebook, kterému jsem jednou pustila příliš mnoho oken prohlížeče. Jen ve větším a patrně dražším měřítku.
OpenAI začalo tento interní model trénovat 28. srpna a uvádí, že dosahoval mimořádných výsledků v interních benchmarcích včetně matematiky. Benchmark je standardizovaný test, kterým se porovnávají schopnosti systémů. O konkrétních výsledcích těchto testů ale podklad nic neříká, takže si z nich zatím nejde udělat vlastní obrázek.
Mně osobně přijde podstatné hlavně to, že nejde o běžné nasazení modelu do produkční aplikace. Pokud se výsledek potvrdí, byla by to ukázka AI jako nástroje pro původní matematickou práci, ne jen pro rychlejší sepsání známého postupu. To jsou dvě dost rozdílné disciplíny.
Stín nad trénovacími daty
Drama začalo už den před oznámením. Tristan Buckmaster, profesor matematiky z New York University, zveřejnil s Leventem Alpögem z Anthropic výsledky k příbuznému problému. Buckmaster následně uvedl, že OpenAI kontaktoval poté, co zjistil, že firma o jejich postupu ví.
Jeho obava je velmi konkrétní: s Alpögem pracovali na cestě k důkazu v Codexu a Claude a ptal se, zda interní model nemohl být trénován na jejich relacích v Codexu nebo k nim mít přístup. OpenAI odmítá, že by kvůli vyřešení úlohy přistupovalo ke konkrétním uživatelským datům. Současně ale připouští, že nemůže vyloučit nepravděpodobnou možnost, že modelům pomohla deidentifikovaná data odvozená z používání jejich produktů.
Tohle „nemůžeme vyloučit“ mě zarazilo nejvíc. Neznamená automaticky, že model Buckmasterovu a Alpögeho práci použil. Zároveň to není úplně neprůstřelná odpověď pro lidi, kteří do AI nástroje vkládají dosud neveřejné výzkumné nápady. Sebastien Bubeck z OpenAI tvrdí, že jejich práci tým neviděl před jejím veřejným zveřejněním a že se důkazy i přesně dokazované výsledky výrazně liší. Buckmaster naopak namítá, že firma otevřeně připouští použití dat z období po jejich objevu.
Teď začíná méně efektní, ale důležitější část
Největší test nebude počet agentů ani síla interního modelu, ale nezávislé čtení a ověřování důkazu. A vedle toho zůstane otázka pravidel pro data: co přesně může firma vytěžit z používání vlastních nástrojů, i kdyby data předem zbavila přímé identifikace.
Celá věc je proto zajímavá hned dvakrát. Může ukazovat mimořádnou schopnost AI v matematice, ale zároveň připomíná, že u výzkumu nestačí vyřešit jen rovnici. Stejně důležité je umět přesvědčivě vysvětlit cestu k ní.
