Udtalelsen
Association for Human Mathematics offentliggjorde 7. oktober en udtalelse, lagt op som gæsteindlæg på Terence Taos blog, hvor den beder matematikere om at stoppe samarbejdet med OpenAI.
Kernesætningen handler om mængde snarere end indhold. At udgive mere end 700 filer på én gang “er ikke en demonstration af lærdom, men en demonstration af magt”, skriver gruppen. Den tilføjer, at “matematikere ikke bad om, at dette arbejde blev udført”, afviser OpenAIs påstand om, at udgivelsen bringer faget fremad, og opfordrer “matematikere til at indstille deres arbejde med OpenAI”. Udtalelsen bemærker også, at OpenAI forsvarer sig mod sager om påstået plagiat, krænkelse af ophavsret og udvanding af varemærke.
Tao tilføjede ingen holdning. Hans eneste ord i opslaget er en redaktionel note om, at det er et gæsteindlæg, og at teksten er konverteret fra et andet filformat ved hjælp af AI.
Hvad OpenAI udgav, og hvad der røg
OpenAI offentliggjorde 6. oktober 722 fortryk i et GitHub-arkiv om påstået fremgang på 372 matematiske problemer inden for geometri, datalogi, algebra og andre felter, produceret af en intern model, selskabet ikke har frigivet.
Dagen efter trak det tre manuskripter tilbage på grund af en fortegnsfejl, skrev Retraction Watch. Fejlen ugyldiggjorde et argument i ét manuskript og den konstruktion, to afhængige artikler hvilede på. OpenAI reviderede også 14 andre manuskripter med reparerede beviser, rettede udsagn, klarere forudsætninger og afhængigheder samt én rettelse af en forældet henvisning. Kataloget står nu på 719.
Én fejl, tre artikler
Formen på svigtet er det, der er værd at bemærke. En enkelt fortegnsfejl blev ikke inde i ét dokument. Den bredte sig til to andre, der havde bygget på konstruktionen, og det er, hvad der sker, når en stor mængde arbejde produceres på én gang af et system, der genbruger sine egne mellemresultater.
Menneskelig matematik har samme afhængighedsstruktur. Hvad den normalt ikke har, er 722 dokumenter, der ankommer samme dag, uden at nogen bedømmer har læst et eneste af dem.
Ikke alle er enige
Advisory Group on Mathematics and Artificial Intelligence har en mere afdæmpet linje og behandler udgivelsen som et første skridt, hvis matematiske indhold først nu begynder at blive forstået. Cornell-matematikeren Alex Townsend sagde, at fejlene ikke var overraskende, og at han mistænker, at flere vil blive fundet, og mente, at OpenAI burde have annonceret de formelt verificerede manuskripter først.
Det er en indvending mod fremgangsmåden, ikke en boykot, og den peger på det samme: udgivelsen blev ordnet efter mængde, ikke efter tillid.
Det skal følges
Tilbagetrækningsraten. OpenAI har givet faget et offentligt, nummereret korpus og en offentlig rettelseslog, hvilket gør andelen af de 719, der overlever gennemgang, målbar på en måde, næsten ingen påstand i branchen er. Tre trukket og fjorten revideret på første dag er det første datapunkt, ikke det sidste.
