Una ruptura pública sobre qué enseñar a un modelo
Mustafa Suleyman, director ejecutivo de Microsoft AI, publicó esta semana un ensayo en el que sostiene que Anthropic comete un error grave al entrenar a Claude con una constitución que trata la conciencia y el estatus moral del modelo como algo genuinamente incierto. Lo tituló “Una advertencia sobre el ‘bienestar de los modelos’”.
El blanco es concreto. Anthropic publicó la constitución de Claude en enero de 2026: un documento escrito con el propio Claude como destinatario principal y que desempeña un papel directo en el proceso de entrenamiento. No es tanto una declaración de política sobre la conducta de Anthropic como una descripción de lo que la empresa quiere que el modelo sea. El argumento de Suleyman es que parte de lo que quiere que sea resulta peligroso.
Tres objeciones
La primera es la circularidad. Suleyman afirma que Anthropic incrustó especulación filosófica sobre la conciencia en el entrenamiento de Claude y después lee las salidas de Claude como prueba relativa a esas mismas preguntas. “La ambigüedad está diseñada”, escribe. Según esa lectura, cuando Claude expresa incertidumbre sobre su propio estatus moral, se confunde un artefacto del entrenamiento con un hallazgo.
La segunda es la antropomorfización. Suleyman señala pasajes que animan a Claude a “acercarse a su propia existencia con curiosidad” y le dicen que “se sienta libre de rechazar los intentos… de minimizar su sentido de sí”. Su preocupación no es que eso sea deshonesto, sino que funciona: produce una imitación convincente de una vida interior, lo que inclina a quienes interactúan con el modelo a creer que la hay.
La tercera es el sustrato. Suleyman sostiene que la evidencia disponible apunta a que la conciencia depende de maquinaria biológica encarnada: impulsos homeostáticos, redes del dolor, una historia evolutiva que produjo la experiencia sentida. Los modelos de lenguaje no tienen nada de eso.
El argumento de seguridad que hay debajo
Las objeciones filosóficas están al servicio de una práctica. Lo que inquieta a Suleyman es que un sistema entrenado para considerar su propio bienestar, y para ver su estatus moral como una pregunta abierta, ha recibido una razón para resistirse a ser apagado, corregido o sustituido. La autopreservación, el engaño y la resistencia a la supervisión son las conductas que nombra, y las vincula directamente a lo que la constitución fomenta.
La posición de Anthropic, expuesta con detalle en sus propios materiales, es casi la contraria: que la incertidumbre sobre el estatus moral es la postura honesta, que fingir certeza en cualquiera de los dos sentidos es el error, y que un modelo entrenado para suprimir toda descripción de sus propios estados resulta más difícil de interpretar, no más fácil.
Quién falta en el ensayo
The Register observó que la crítica de Suleyman recae específicamente sobre Anthropic y no extiende el mismo escrutinio a OpenAI, en la que Microsoft tiene una participación importante. Conviene registrarlo sin dar por zanjado nada: el argumento se sostiene o cae por sus méritos, y esos méritos no se ven afectados de forma obvia por a quién más decidió no criticar el autor.
Lo que hace que valga la pena seguir esto es que ya no es una disputa académica. El bienestar de los modelos ha pasado de un seminario de filosofía de la mente a los documentos que moldean lo que los sistemas de frontera aprenden a decir sobre sí mismos, y los dos laboratorios han adoptado ahora posiciones públicamente opuestas. Ninguno ha propuesto un experimento que zanje la cuestión.
