Un crítico de la seguridad entra en el órgano que aprueba los lanzamientos
OpenAI anunció el 9 de septiembre que Paul Christiano se ha incorporado al consejo de la Fundación OpenAI, la entidad sin ánimo de lucro que controla la empresa, y a su Comité de Seguridad y Protección. También será observador sin voto en el consejo de OpenAI Group PBC, la sociedad de beneficio público en la que la Fundación tiene un 26 por ciento tras la recapitalización cerrada en octubre de 2025.
El comité lo preside Zico Kolter y supervisa las prácticas de seguridad en toda la compañía. TechCrunch informó de que tiene la última palabra sobre los lanzamientos de modelos. El nombramiento sitúa así a un investigador que lleva una década sosteniendo que los sistemas avanzados podrían escapar al control humano en el órgano capaz de detener un lanzamiento.
Uno de los arquitectos de la técnica que hay detrás de ChatGPT
Christiano trabajó en OpenAI entre 2017 y 2021, donde dirigió el equipo de alineamiento de modelos de lenguaje y contribuyó a desarrollar el aprendizaje por refuerzo con retroalimentación humana, el método de entrenamiento que convirtió los modelos de lenguaje en asistentes capaces de seguir instrucciones. Se marchó para fundar el Alignment Research Center en 2021 y hoy es asesor técnico sénior del Center for AI Standards and Innovation, el organismo de evaluación de modelos que depende del Departamento de Comercio de Estados Unidos.
“Paul ha ayudado a definir el campo del alineamiento de la IA con un trabajo riguroso y centrado en las preguntas más difíciles que plantean unos sistemas cada vez más capaces”, declaró Bret Taylor, que preside ambos consejos, en el anuncio de la compañía.
El nuevo consejero dice que el sector no va por buen camino
La declaración del propio Christiano fue menos amable. “Las capacidades de la IA han avanzado muy deprisa en el último año y el alineamiento sigue siendo un problema técnico difícil”, afirmó. En unas declaraciones recogidas por TechCrunch fue más lejos: dijo que ahora cree que “existe un riesgo real de que la rápida aceleración de las capacidades de la IA lleve a una pérdida de control catastrófica e irreversible a muy corto plazo” y que “el sector de la IA en general, incluida OpenAI, no va hoy camino de reducir ese riesgo a un nivel aceptable”. Señaló en particular la práctica de usar sistemas de IA para entrenar a sus sucesores.
Llega en una semana en la que dos investigadores de Anthropic han hecho pública la misma inquietud, y uno de ellos ha dimitido por ella. La diferencia es que Christiano plantea el argumento desde dentro de una sala de juntas y no al salir de una.
Un asesor del Gobierno dentro de la empresa que su agencia evalúa
Christiano conserva su puesto en el Center for AI Standards and Innovation y allí se abstendrá en todos los asuntos relacionados con OpenAI y en las evaluaciones de modelos. Aun así, la fórmula coloca a un asesor en activo del organismo de evaluación del Gobierno estadounidense en el consejo de una empresa cuyos modelos ese organismo examina, y TechCrunch informó de que el doble papel ha suscitado dudas sobre la influencia de la industria en la política pública de IA.
Lo que hay que vigilar es si esa autoridad declarada llega a ejercerse de forma visible. Christiano ha dicho en público que OpenAI no hace lo suficiente; la prueba será qué ocurre la primera vez que esa opinión choque con una fecha de lanzamiento.
