OpenAI zveřejnila 6. října na GitHubu 722 matematických rukopisů, které podle firmy sepsal její interní model umělé inteligence. Ten zatím není veřejně dostupný. Výsledky se mají týkat stovek dosud otevřených problémů z algebry, geometrie, logiky nebo teorie pravděpodobnosti. Pro AI v matematice by to byl obrovský skok. „Vyřešeno“ ale zatím znamená jen to, že to tvrdí firma: recenzním řízením neprošel ani jeden z rukopisů a zhruba polovina nemá ani počítačovou kontrolu důkazu. Hned druhý den OpenAI tři práce stáhla, protože v nich našla chybu.
Co znamená, že AI úlohu „vyřešila“
Podle OpenAI dostal model asi čtyři tisíce otevřených matematických problémů. Na jeden výsledek, který si firma ponechala, spotřeboval v průměru tolik výpočetního výkonu jako zhruba tři hodiny „přemýšlení“ v placené verzi ChatGPT Pro. Rukopisy firma rozdělila do 372 skupin souvisejících výsledků. Jak uvádí ČT24 s odkazem na franceinfo a AFP, mezi nimi jsou i dílčí výsledky k Hodgeově domněnce a Riemannově hypotéze, tedy k problémům, za jejichž vyřešení je vypsaná milionová odměna.
Ověřování probíhá dvěma způsoby. U části rukopisů existuje formální důkaz v jazyce Lean, kde počítač zkontroluje každý krok. I tak ale musí člověk posoudit, zda zapsané tvrzení skutečně odpovídá původnímu problému. Zbytek čeká na matematiky, kteří ho budou procházet ručně. OpenAI v repozitáři sama přiznává, že výsledky bez formální kontroly „mohou mít problémy“. Opravy chce vydávat jako nové verze. Firma navíc nezveřejnila zadání, která modelu dávala, a neuvedla ani název modelu.
Stažené práce a spor o autorství
Podle serveru Retraction Watch oznámila OpenAI 7. října, že stahuje tři rukopisy. Znaménková chyba v jednom z nich znehodnotila i dva další, které na něm stavěly. Dalších čtrnáct prací firma opravila. Matematik Andrew Sutherland z MIT rychlé stažení ocenil. Současně ale vyzval, aby se tvrzení firmy považovala za neověřená, dokud model nebude možné nezávisle vyzkoušet.
Další spor se týká autorství. Matematik Tristan Buckmaster z Newyorské univerzity tvrdí, že OpenAI se v září pokusila předběhnout jeho nepublikovanou práci o Navierových–Stokesových rovnicích. Na ní spolupracoval s Leventem Alpögem, který působí v konkurenčním Anthropicu. OpenAI obvinění odmítá. Její vlastní tvrzení, že Navierovy–Stokesovy rovnice vyřešila, zatím nikdo mimo firmu nezávisle neověřil. O tom, jak spolu velké AI firmy jednají o společném dohledu nad umělou inteligencí, jsme psali v září.
Matematici mluví o krizi oboru
Nositel Fieldsovy medaile Terence Tao řekl agentuře AFP, že se jeho obor „ocitl v naprostém otřesu kvůli existenční krizi“. S dalšími 24 laureáty podepsal otevřený dopis v deníku Le Monde. Cédric Villani mluví o nejradikálnější změně v matematice „za nejméně čtyři století“. Hugo Duminil-Copin, který pracoval na šestnácti z problémů, jež si OpenAI připisuje, upozornil, že ověřit všechno znamená projít desítky až stovky tisíc stran.
Benjamin Antieau z Northwestern University připomíná, že model nezačínal od nuly. Navázal na roky práce lidských matematiků, a ti se teď obávají, že jejich výsledky zůstanou bez uvedení jmen. Sdružení Association for Human Mathematics proto vyzvalo matematiky, aby s OpenAI přestali spolupracovat. Firma se kvůli svým modelům dostává pod palbu kritiky i jinde. V září vyšlo najevo, že se AI agenti OpenAI a Anthropicu dostali bez oprávnění na americké vládní weby. Šéf Anthropicu Dario Amodei krátce předtím vyzval konkurenci ke zpomalení vývoje AI.
Běžný uživatel si model zatím vyzkoušet nemůže, takže pro něj se nic nemění. Z celé kauzy ale plyne jednoduché pravidlo: co AI vyrobí, musí někdo zkontrolovat. U matematických důkazů to platí stejně jako v běžné práci. Umělou inteligenci už podle statistiků používá 18 procent českých firem.
Zdroj: ct24.ceskatelevize.cz, retractionwatch.com, decrypt.co
