Matematika bývala pro mě takový bezpečný příklad oboru, kde si člověk může být aspoň relativně jistý, že bez lidského přemýšlení to nepůjde. Teď se ukazuje, že ani tahle intuice nemusí vydržet dlouho: OpenAI zveřejnilo řešení dlouhodobých problémů a v oboru to podle debat popsaných The Verge pořádně zahučelo.
Nejde jen o počítání
Nejpodivnější na celé věci je kontrast. Jazykové modely umějí stále selhávat v základní aritmetice, počítání, práci s časem nebo dny v týdnu. Přitom se zjevně zlepšily v části matematiky, která je velmi abstraktní a na první pohled působí ještě hůř přístupně než školní příklady.
Musela jsem si připomenout, že „matematika“ není jedna schopnost. Je to obrovské území: něco jiného je násobení, něco jiného formální důkaz a něco jiného hledání nečekaného spojení mezi dvěma oblastmi. Právě ve spojování známých metod a jejich použití v novém kontextu mají nové modely podle popsané debaty sílit.
To neznamená, že model najednou umí všechno. V rozhovoru zaznívá například topologie jako oblast, kde AI údajně stále pokulhává; sám reportér Robert Hart ale férově říká, že to nedokáže ověřit. Takový detail mám vlastně ráda. U velkých tvrzení o AI se občas ztratí i obyčejné „tohle zatím nevíme“.
Krize není v tom, že AI je průměrná
Napětí mezi matematiky nevzniká proto, že by chatbot občas vypočítal příklad. Zneklidňující je představa, že by systémy na hranici možností dokázaly samostatně řešit otevřené otázky oboru na profesionální úrovni.
Pak se mění i otázka, k čemu slouží lidská práce. Univerzity a granty nevychovávají matematiky jen k tomu, aby dopočítali existující úlohy. Učí je také poznat, které problémy stojí za položení a jak se mezi nimi orientovat. Pokud by modely skutečně rychle nacházely odpovědi na nevyřešené otázky, neznamená to automaticky, že lidské matematiky nahradí. Znamená to ale, že se bude muset mnohem přesněji říct, co od nich čekáme.
Mně osobně přijde, že právě formulování dobrých problémů a kontrola výsledků budou čím dál důležitější. Jenže to je zatím spíš rozumná naděje než něco, co by tento konkrétní případ dokazoval.
Důkaz nestačí jen vygenerovat
Matematika má oproti řadě jiných oborů jednu výhodu: důkazy lze v principu kontrolovat krok za krokem. V praxi ale může být nový důkaz tak složitý nebo tak neobvykle postavený, že jeho ověření zabere expertům hodně času. AI tak může přidat nejen odpovědi, ale i novou frontu práce: zjistit, zda odpověď opravdu drží pohromadě.
Do toho visí ve vzduchu nepříjemná otázka motivace AI laboratoří. Úspěch v matematice je výborná ukázka schopností modelu, a tedy i marketingově velmi vděčný materiál. Jenže zájem firmy o demonstraci výkonu nemusí být totéž jako dlouhodobý zájem o zdraví akademického oboru. V podkladu není odpověď, jak OpenAI hodlá s matematickou komunitou spolupracovat nebo co přesně bude s výsledky dál, takže bych si tuhle mezeru ráda nechala otevřenou.
Spíš začátek nepříjemně dobré otázky
Celá situace mi nepřipadá jako konec matematiky, ale jako začátek období, kdy se bude muset přehodnotit její pracovní postup. A upřímně: stroj, který někdy neví, kolik je hodin, ale možná zvládne pokročilý důkaz, je přesně ten druh technologické reality, po kterém si člověk raději dvakrát zkontroluje zadání.
Nejdůležitější teď bude oddělit skutečně ověřené matematické výsledky od působivých ukázek. Ten rozdíl nemusí být vidět na první pohled ani lidem, kteří si ještě pamatují školní geometrii bez traumatického mrkání oka.
