Uttalandet
Association for Human Mathematics publicerade den 7 oktober ett uttalande, som gästinlägg på Terence Taos blogg, där man uppmanar matematiker att sluta samarbeta med OpenAI.
Kärnmeningen handlar om mängd snarare än innehåll. Att släppa över 700 filer på en gång “är inte en uppvisning i lärdom, utan en uppvisning i makt”, skriver gruppen. Den tillägger att “matematiker inte bad om att det här arbetet skulle göras”, avvisar OpenAI:s påstående att publiceringen för ämnet framåt och uppmanar “matematiker att avbryta sitt arbete med OpenAI”. Uttalandet noterar också att OpenAI försvarar sig mot stämningar om påstått plagiat, upphovsrättsintrång och varumärkesurvattning.
Tao lade inte till någon egen åsikt. Hans enda ord i inlägget är en redaktionell notis om att det är ett gästinlägg och att texten konverterats från ett annat filformat med hjälp av AI.
Vad OpenAI släppte, och vad som togs bort
OpenAI publicerade den 6 oktober 722 preprints i ett GitHub-arkiv om påstådda framsteg på 372 matematikproblem inom geometri, datavetenskap, algebra och andra områden, framtagna av en intern modell som bolaget inte har släppt.
Dagen därpå drog man tillbaka tre manuskript på grund av ett teckenfel, rapporterade Retraction Watch. Felet ogiltigförklarade ett argument i ett manuskript och den konstruktion som två beroende arbeten vilade på. OpenAI reviderade också 14 andra manuskript med lagade bevis, korrigerade påståenden, tydligare antaganden och beroenden samt en rättelse av en föråldrad referens. Katalogen står nu på 719.
Ett fel, tre arbeten
Felets form är det som är värt att notera. Ett enda teckenfel stannade inte i ett dokument. Det spred sig till två andra som byggt på konstruktionen, vilket är vad som händer när en stor arbetsmassa produceras på en gång av ett system som återanvänder sina egna mellanresultat.
Mänsklig matematik har samma beroendestruktur. Vad den vanligtvis inte har är 722 dokument som kommer samma dag utan att någon granskare läst något av dem.
Alla håller inte med
Advisory Group on Mathematics and Artificial Intelligence har intagit en mer avvaktande hållning och behandlar publiceringen som ett första steg vars matematiska innehåll först nu börjar förstås. Cornell-matematikern Alex Townsend sade att felen inte var överraskande och att han misstänker att fler kommer att hittas, och menade att OpenAI borde ha presenterat de formellt verifierade manuskripten först.
Det är en invändning mot tillvägagångssättet snarare än en bojkott, och den pekar på samma sak: publiceringen ordnades efter kvantitet, inte efter tillförlitlighet.
Att hålla ögonen på
Takten i tillbakadragandena. OpenAI har gett fältet ett offentligt, numrerat korpus och en offentlig rättelselogg, vilket gör andelen av de 719 som överlever granskning mätbar på ett sätt nästan inget påstående i branschen är. Tre borttagna och fjorton reviderade på första dagen är den första datapunkten, inte den sista.
