Una conversación que se cierra sola
OpenAI dijo el 30 de octubre que ChatGPT podrá terminar por sí mismo una conversación cuando muestre señales de que alguien se está obsesionando con la violencia o con dañar gravemente a otra persona. Si el sistema cierra varias conversaciones por ese motivo, OpenAI dice que puede suspender temporalmente la cuenta.
Es un tipo de intervención distinto del rechazo. Un rechazo deniega una petición y deja la conversación en marcha; cerrar el chat elimina el hilo que el usuario estaba construyendo. OpenAI lo plantea como interrumpir un patrón “en el momento”, y dice que trabaja con expertos en salud mental y prevención de la violencia sobre cuándo y cómo intervenir.
La cifra que aparece en el texto
El anuncio también revela un dato que OpenAI no había publicado en esta forma: “hicimos más de 200 derivaciones a las fuerzas del orden en el tercer trimestre de 2026”. Son casos en los que la empresa consideró inminente una amenaza de violencia y la llevó a la policía.
OpenAI se compromete a un Informe de Seguridad Comunitaria que cubrirá la prevención de la violencia y el funcionamiento de sus salvaguardas, con ejemplos anonimizados, nuevas mitigaciones y datos de apoyo. La primera edición llegará a principios de 2027 y cubrirá la segunda mitad de 2026, con actualizaciones cada seis meses. Es decir, las 200 derivaciones son un anticipo de un ciclo de informes que aún no ha empezado.
Límites más estrictos al describir ataques pasados
El cambio de política que afecta a todos tiene que ver con ataques masivos del pasado. OpenAI dice que está restringiendo cuánto detalle da ChatGPT sobre esos hechos y sobre quienes los cometieron: en concreto, reconstrucciones que incluyan las armas y el equipo usados y cómo se obtuvieron, y comparaciones detalladas de escala que puedan amplificar la notoriedad de un atacante.
La empresa es explícita en que estos límites se aplican “con independencia de la edad del usuario o del motivo de la pregunta”, y explícita en que el material suele estar disponible en otros sitios. También dice que la gente debe poder seguir preguntando por cómo quedaron afectadas las víctimas y las comunidades, y por cómo reconocer señales de alarma.
Aparte, cuando conversaciones recientes muestran señales de posible violencia, ChatGPT debe responder de forma más conservadora a peticiones posteriores que puedan usarse mal; la empresa describió en mayo el mecanismo de fondo, resúmenes breves y factuales de señales previas trasladados a una conversación posterior.
Los menores reciben el ajuste más estricto
Para usuarios menores de 18 años, OpenAI restringe la información práctica sobre armas y sistemas de seguridad incluso cuando la pregunta parece inocua y no hay indicio de intención violenta. El mismo trato más estricto se aplicará cuando la empresa prediga que un usuario es menor de 18, lo haya dicho o no.
Esa predicción carga con mucho peso. OpenAI dice que ha reforzado su sistema de predicción de edad para evaluar nuevas señales de forma continua a medida que la gente usa ChatGPT, y para mover a adolescentes a la experiencia de menores cuando corresponda. Los adultos colocados ahí por error pueden verificar su edad mediante Persona, el socio de verificación de la empresa.
Qué vigilar
El primer Informe de Seguridad Comunitaria, a principios de 2027. Un recuento de derivaciones mide actividad, no acierto, y las preguntas que plantea son las que el informe tendría que responder: cuántas derivaciones llevaron a algo, con qué frecuencia se equivocó el sistema y cuántas veces una suspensión alcanzó a alguien que no era una amenaza. OpenAI ha prometido ejemplos anonimizados y datos relevantes. Qué datos es lo que queda por decidir.
