Qué dijo Nadella
El consejero delegado de Microsoft, Satya Nadella, afirmó el domingo que la empresa acoge con agrado el «ritmo deliberado necesario para acertar con la alineación» y que Microsoft publicaría el lunes 14 de septiembre, para consulta pública, un código de conducta para sus modelos propios MAI. Lo anunció en una publicación en X, citada por Unite.AI y A News.
«Cualquier búsqueda de la superinteligencia tiene que basarse en el principio fundamental de que, si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no merece la pena», escribió Nadella.
También celebró la idea de los «evaluadores integrados», revisores de seguridad independientes que trabajan dentro de los laboratorios, una de las salvaguardas que propuso Dario Amodei, consejero delegado de Anthropic, en su ensayo en el que pide a los desarrolladores de frontera que frenen.
Un código para los modelos de Microsoft
Nadella describió el enfoque de Microsoft en tres partes: acceso amplio y capacidad de elección en cada capa de la tecnología de IA, control de las empresas sobre sus propios ciclos de aprendizaje y modelos, y el código de conducta que rige los modelos MAI de la compañía. «Para las empresas es imprescindible conservar el control total de su conocimiento único y tácito», escribió, según el Free Press Journal.
Unite.AI informó de que será la primera vez que Microsoft publique en un documento las normas de comportamiento de sus propios modelos. Microsoft no ha dicho cuánto durará la consulta ni cómo se recogerán las aportaciones, y al publicarse esta noticia, a primera hora del lunes en Europa, el documento todavía no había aparecido.
No en manos de unas pocas empresas
La publicación incluía también una advertencia. La gobernanza «no puede estar controlada por un puñado de entidades, sino que debe tener una representación amplia en todo el ecosistema, los países y los ámbitos, incluido el académico», escribió Nadella, que añadió que una frontera sana necesita «modelos tanto cerrados como de código abierto».
Llega el mismo fin de semana en que The Information informó de que Anthropic, OpenAI y Google celebran desde julio reuniones de un grupo de trabajo sobre un organismo de normas para la IA de frontera impulsado por la propia industria. Según el resumen de investingLive, Demis Hassabis, consejero delegado de Google DeepMind, propuso el 14 de julio un organismo estadounidense inspirado en FINRA, la entidad autorreguladora de los intermediarios bursátiles de EE. UU., y Sam Altman, consejero delegado de OpenAI, dijo a su plantilla que, sin respaldo del Gobierno, los grandes laboratorios tendrían que crearlo por su cuenta. Microsoft no figuraba entre los participantes citados.
En qué punto está el debate
El respaldo de Nadella llega después de que Altman dijera el sábado que OpenAI también se comprometerá a contar con evaluadores independientes con acceso equiparable al de un empleado. En Washington la acogida ha sido más fría: David Sacks, asesor de IA de la Casa Blanca, dijo que los laboratorios ya son libres de moderar el ritmo por motivos empresariales, y el presidente de la Cámara de Representantes, Mike Johnson, afirmó que el Congreso no liderará la legislación sobre seguridad de la IA.
La postura de Microsoft importa más allá de sus propios modelos. Es uno de los mayores inversores de OpenAI y, con sus modelos MAI, también desarrolla IA de frontera, de modo que un código que obligue a MAI dice algo al mercado sobre cómo piensa comportarse uno de los mayores compradores y fabricantes de IA.
Qué vigilar
El documento. Un código de conducta puede ser una lista de principios o un conjunto de compromisos verificables. Si el de Microsoft fija condiciones para lanzar modelos, umbrales de evaluación o revisores externos, y si la consulta da a terceros una voz real, mostrará hasta dónde llega su apoyo a un ritmo más pausado.
