Vad som meddelades
OpenAI meddelade den 21 september att bolaget bildat ett rådgivande organ för matematik och artificiell intelligens, med säte vid Institute for Advanced Study i Princeton. Det har nio grundande ledamöter: François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten och Melanie Matchett Wood.
Rådet finns på grund av ett påstående som OpenAI har gjort men ännu inte styrkt. Bolaget säger att en intern modell, vars träning inleddes den 28 augusti, har löst mer än hundra länge öppna problem inom de flesta områden av matematiken. Det kommer utöver det Navier–Stokes-resultat bolaget tidigare meddelat. Beskedet räknar inte upp problemen.
Det är rådets första uppgift. I sitt eget uttalande skrev det att det står inför “den mycket specifika utmaningen att råda OpenAI om hur man samordnar publiceringen av ett stort antal betydande matematiska resultat som de uppger har producerats av deras interna modell”.
Vad rådet kan och inte kan göra
Gränserna anges på förhand, vilket är ovanligt och förtjänar ett erkännande. Ledamöterna är oavlönade. De har ingen befogenhet över takten i OpenAI:s forskning, och bolaget kommer inte att rådfråga dem om den. Rådets egen formulering är att ansvaret för besluten ligger hos bolaget.
Vad de kan göra är att bedöma hur betydande resultaten är och samordna publiceringen så att matematikersamhället kan kontrollera dem som det kontrollerar allt annat. I den här volymen är det ingen liten uppgift. Hundra resultat som kommer på en gång, från en källa som inte kan förhöras om sitt resonemang, är först och främst ett granskningsproblem.
Brevet bakom
Rådet uppstod inte ur intet. Tjugofem Fieldsmedaljörer undertecknade ett öppet brev med titeln “En allvarlig felriktning av AI i matematiken”, som vände sig mot att behandla öppna problem som ett AI-mått. Av rådets nio ledamöter undertecknade bara De Lellis det brevet.
Den sammansättningen säger något om vad rådet är till för. Det är inte en panel av disciplinens mest skeptiska röster, och medlemskretsen är inte bred: nio forskare kan inte företräda ett helt fält. Vissa matematiker har läst det som ett konstruktivt första steg, andra har frågat vilket inflytande ett organ utan befogenhet över forskningstakten och utan röst i publiceringen faktiskt kan utöva.
Det som är värt att följa är inte rådets uttalanden utan dess produkt. Om den första omgången resultat släpps i en form som granskare kan arbeta med — fullständiga bevis, problemen namngivna, modellens roll angiven i vart och ett — då har arrangemanget uträttat något. Om resultaten kommer som ett pressmeddelande med en siffra vidhängande har rådet lånat ut sina namn. Matematikerna i det har möjlighet att kräva det förra, och brevet antyder att disciplinen kommer att märka vilket den får.
