Hva som ble kunngjort
OpenAI kunngjorde 21. september at selskapet har opprettet et rådgivende organ for matematikk og kunstig intelligens, med tilhold ved Institute for Advanced Study i Princeton. Det har ni grunnleggende medlemmer: François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten og Melanie Matchett Wood.
Rådet finnes på grunn av en påstand OpenAI har framsatt og ennå ikke underbygget. Selskapet sier at en intern modell, som begynte treningen 28. august, har løst mer enn hundre lenge åpne problemer innen de fleste områder av matematikken. Det kommer i tillegg til Navier–Stokes-resultatet selskapet kunngjorde tidligere. Kunngjøringen lister ikke opp problemene.
Det er rådets første oppgave. I sin egen lanseringsuttalelse skrev det at det står overfor «den svært spesifikke utfordringen å råde OpenAI om hvordan man samordner offentliggjøringen av et stort antall betydelige matematiske resultater som de oppgir er produsert av deres interne modell».
Hva rådet kan og ikke kan gjøre
Grensene oppgis på forhånd, noe som er uvanlig og fortjener anerkjennelse. Medlemmene er ulønnet. De har ingen myndighet over tempoet i OpenAIs forskning, og selskapet vil ikke rådføre seg med dem om det. Rådets egen formulering er at ansvaret for beslutningene ligger hos selskapet.
Det de kan gjøre, er å vurdere hvor betydelige resultatene er og samordne offentliggjøringen slik at matematikkmiljøet kan kontrollere dem slik det kontrollerer alt annet. I dette omfanget er det ingen liten oppgave. Hundre resultater som kommer på én gang, fra en kilde som ikke kan utspørres om resonnementet sitt, er først og fremst et fagfellevurderingsproblem.
Brevet bak
Rådet oppsto ikke i et tomrom. Tjuefem Fields-medaljører undertegnet et åpent brev med tittelen «En alvorlig feilretting av KI i matematikken», som vendte seg mot å behandle åpne problemer som et KI-mål. Av de ni medlemmene i det nye rådet undertegnet bare De Lellis dette brevet.
Sammensetningen sier noe om hva rådet er til for. Det er ikke et panel av de mest skeptiske stemmene i faget, og medlemskretsen er ikke bred: ni forskere kan ikke representere et helt felt. Noen matematikere har lest det som et konstruktivt første skritt, andre har spurt hvilken innflytelse et organ uten myndighet over forskningstempoet og uten stemme i publiseringen faktisk kan ha.
Det som er verdt å følge, er ikke rådets uttalelser, men det det leverer. Hvis den første bolken med resultater slippes i en form fagfeller kan arbeide med — fullstendige bevis, problemene navngitt, modellens rolle spesifisert i hvert enkelt — da har ordningen utrettet noe. Hvis resultatene kommer som en kunngjøring med et tall vedheftet, har rådet lånt ut navnene sine. Matematikerne i det er i posisjon til å kreve det første, og brevet tyder på at faget vil merke seg hvilket det får.
