Un laboratorio funda una publicación sobre su propio objetivo
Google DeepMind lanzó el 16 de septiembre el DeepMind Institute, al que describe como una plataforma para que investigadores de Google DeepMind, de Google y de la comunidad investigadora en general publiquen ideas sobre un mundo con inteligencia artificial general.
Sus tres directores son Shane Legg, cofundador y científico jefe de AGI de la empresa, que además ejerce de editor; Demis Hassabis, cofundador y presidente; y James Manyika, presidente de investigación, laboratorios, tecnología y sociedad de Google.
El planteamiento es deliberadamente abierto. El instituto se pregunta qué valorarán las personas, cómo cambia la AGI lo que significa ser humano y cómo construir y gobernar esos sistemas y las “comunidades de agentes” que formarán.
La advertencia es lo interesante
El instituto afirma que sus textos “pretenden servir como puntos de partida para la conversación, reflejan las ideas y la investigación de cada autor y no deben leerse como la postura oficial de Google”.
Esa frase cumple una función real. Permite que investigadores dentro de una empresa con intereses comerciales en la AGI defiendan posiciones —incluidas las restrictivas— sin que esos argumentos se conviertan en política corporativa ni en un compromiso regulatorio.
Qué sostienen los cuatro primeros ensayos
La colección inaugural aborda la política económica para gestionar la disrupción de la AGI, la conservación de un razonamiento del modelo legible por humanos, principios para el florecimiento humano y un marco para evaluar modelos de frontera.
“The case for reasoning transparency” es de Rohin Shah y Anca Dragan. “Economic policy for AGI”, de Jacobs e Imas, llega a ideas como el capital básico universal. “Principles for a new utopianism” es de Stephen Cave. Hassabis firma “A framework for frontier AI and the dawning of a new age”.
Dos propuestas destacan porque chocan con la posición habitual del sector: limitar cuánta opacidad se permite a los modelos y crear un organismo de normas para la IA de frontera, liderado por EE. UU., que los revisaría de forma voluntaria antes del despliegue.
Dónde se sitúa Legg
Legg dijo al Financial Times que la llamada de Dario Amodei a frenar el ritmo de los lanzamientos de frontera resultaba “interesante en su dirección” y merecía considerarse. Amodei publicó ese argumento el 12 de septiembre.
Legg también rebatió las afirmaciones recientes de directivos de Nvidia y OpenAI de que la AGI ya ha llegado, y sostuvo que es pronto para decirlo. Se reafirmó en su vieja previsión de un 50% de probabilidad de una AGI mínima para 2028.
Qué vigilar
Una plataforma de ensayos es barata. Un organismo de normas con autoridad sobre el despliegue no lo es, y Hassabis ya ha pedido uno en público dos veces en una semana: en la cumbre sobre IA que el rey Carlos convocó en Escocia y aquí.
La cuestión es si estos textos se quedarán en puntos de partida para la conversación o si Google DeepMind acabará adoptando alguno como una posición de la que se le pueda pedir cuentas.
