La dimisión
Robert O’Callahan, ingeniero de software radicado en Nueva Zelanda que trabajaba en herramientas de diseño de chips en Google DeepMind, publicó esta semana su correo de dimisión.
“El objetivo de mi equipo es, en última instancia, hacer la IA mucho más barata y de menor latencia, y no creo que eso sea bueno para la gente ahora mismo”, escribió. “Creo firmemente que el progreso de la IA es hoy demasiado rápido (y también tengo dudas sobre el destino)”.
Dijo que consideró cambiar de proyecto dentro de la empresa y concluyó que no podía: “Es prácticamente imposible que me mueva a otro proyecto de Google que no acelere la IA (en parte por mis lazos con Nueva Zelanda, donde Google prefiere no hacer ingeniería), así que tengo las manos atadas”. Sobre si un ingeniero cambia algo: “Hay millones de personas contribuyendo a la aceleración de la IA y levantar mi pie del acelerador tendrá un impacto muy pequeño… pero no nulo; algunas de mis habilidades son raras”.
Por qué merece la pena leer esta
O’Callahan no es investigador de seguridad ni se presenta como tal. Es el responsable de las herramientas de depuración rr y Pernosco, cristiano, anciano y predicador laico ocasional en Auckland, y se sitúa explícitamente fuera tanto de la burbuja del sector como de lo que llama la autodenominada comunidad racionalista.
Su postura sobre el riesgo está calibrada, no es apocalíptica. No cree que la catástrofe sea segura: “Creo que el riesgo es real pero incierto, ¡y eso ya de por sí es muy alarmante!”. De ahí: “lo más probable es que el riesgo sea lo bastante alto como para que buscar la superinteligencia artificial a corto plazo sea intrínsecamente irresponsable”. Enumera otras preocupaciones junto a esa —rendición cognitiva, psicosis y soledad inducidas por la IA, concentración de poder, disrupción económica, ciberseguridad, falta de rendición de cuentas— y dice que, si tuviera que apostar, apostaría a que hoy los perjuicios superan a los beneficios, añadiendo que también sobre eso tiene dudas.
La afirmación que va contra los escépticos
El párrafo que más peso soporta es el que habla de motivos, y apunta directamente al argumento de que las advertencias de los laboratorios son una estrategia de negocio.
“Estoy convencido de que las personas de los laboratorios de IA que están lanzando advertencias sobre la IA son en general sinceras”, escribió. “He hablado con mucha gente de Google DeepMind sobre estos asuntos y casi todos tienen preocupaciones sinceras y serias, las expresen o no en público. No he visto ninguna prueba sólida de que se esté inflando el riesgo de la IA como medio para subir la cotización de sus empresas o para regular a los competidores fuera del mercado”. Añade, entre paréntesis, que cree que la regulación nacional e internacional es desesperadamente necesaria.
Es un testimonio de primera mano desde dentro de la organización, ofrecido por alguien que se marcha y que no tiene ninguna cotización que defender. No es una prueba —es la lectura que una persona hace de sus colegas—, pero es el tipo de testimonio que el debate apenas ha tenido.
El momento, y qué hará ahora
Es explícito en que su salida no forma parte de una ola: “No tiene nada que ver con la reciente tanda de dimisiones virales o de advertencias sobre ‘frenar la IA’; es una coincidencia”. Tenía la fecha fijada por un viaje de mochila de diez días planeado desde hacía tiempo que empieza el lunes.
Seguirá manteniendo rr y Pernosco, y planea estudiar cómo depuran código los sistemas de IA y si las herramientas de depuración pueden ayudarles. “Quiero sin duda que mi trabajo futuro sea inequívocamente pro-humano”, escribió.
El detalle que conviene retener es aquel con el que empezó. No estaba construyendo modelos. Estaba abaratando el silicio que hay debajo, y concluyó que la distinción no sobrevivía al contacto con la finalidad del trabajo.
