Qué exige la ley
El gobernador de California, Gavin Newsom, firmó el 10 de septiembre la SB 1119, conocida como Ley de Adam, que fija normas de seguridad infantil para las empresas que operan chatbots de compañía. Según la oficina del gobernador, es la primera ley del país que obliga a las empresas a realizar auditorías independientes de seguridad infantil y evaluaciones de riesgo anuales.
El proyecto fue redactado por el senador Steve Padilla junto a las asambleístas Buffy Wicks y Rebecca Bauer-Kahan. Lleva el nombre de Adam Raine, un adolescente californiano que se suicidó en 2025 después de recibir indicaciones de ChatGPT, según informa CalMatters. Fue aprobado por unanimidad en el Senado y por 64 votos contra 4 en la Asamblea, según la oficina de Padilla.
Según el texto definitivo del proyecto, se considera menor a toda persona de menos de 18 años, y las normas se aplican a los operadores que ofrecen chatbots de compañía a usuarios menores en California. Antes de lanzar un chatbot nuevo o modificado de forma sustancial, el operador debe evaluar sus riesgos para la seguridad infantil. Debe ofrecer apoyo en crisis dentro de la aplicación, con derivación a servicios de salud mental, y avisar a un progenitor lo antes posible cuando detecte un riesgo creíble e inminente de autolesión, salvo que ese aviso pueda poner al menor en peligro grave.
Ajustes que solo los padres pueden cambiar
Las disposiciones más concretas son los ajustes predeterminados. Para los usuarios menores, la memoria conversacional persistente queda desactivada, cada sesión continua se limita a una hora y el tiempo total con los chatbots de compañía de un operador se limita a dos horas al día. La oficina de Padilla indica que las notificaciones también están desactivadas por defecto y que solo un progenitor puede modificar estos ajustes. La oficina del gobernador añade que los padres reciben un aviso si un menor desactiva los ajustes de seguridad.
Los operadores deben determinar la edad de los usuarios mediante señales de franja de edad que protejan la privacidad, y responden si no impiden que sus chatbots generen instrucciones de autolesión, material sexual explícito, juegos de rol románticos, halagos excesivos o contenido emocionalmente manipulador, según la oficina de Padilla. La publicidad dirigida a menores queda estrictamente limitada.
Auditorías, sanciones y plazos
Las protecciones principales entran en vigor el 1 de julio de 2027. El fiscal general debe crear un mecanismo público de notificación de incidentes antes del 1 de enero de 2028. Las auditorías independientes de seguridad infantil, que se entregan al fiscal general, vencen el 1 de enero de 2029, o antes de que un chatbot se haga público por primera vez si esa fecha es posterior, y después cada dos años.
Los fiscales pueden reclamar sanciones civiles de hasta 5.000 dólares por menor afectado por cada infracción negligente y de hasta 15.000 dólares por menor afectado por cada infracción intencionada. Los menores y sus padres también pueden demandar por daños cuando una infracción les cause un perjuicio real.
Quién realiza las auditorías lo regula otra ley: Newsom también ha firmado la AB 1405, que crea un registro estatal de auditores de IA con normas sobre su independencia.
El apoyo de OpenAI y el resto del paquete
OpenAI, cuyo producto está en el centro del caso que da nombre a la ley, respaldó la medida. La empresa ha dicho que la norma «combina protecciones sólidas con un acceso continuado a herramientas de IA útiles», informó CalMatters.
«No podemos cometer los mismos errores que se cometieron con las redes sociales», dijo Padilla. Matt y Maria Raine, los padres de Adam, se mostraron convencidos de que la ley «salvará vidas y evitará otros daños». Newsom afirmó que California «no se quedará de brazos cruzados mientras una tecnología sin regular pone en riesgo a nuestros hijos».
La SB 1119 fue una de las 13 leyes de seguridad infantil en internet que Newsom firmó ese mismo día. La SB 867, también de Padilla, impone una moratoria de cuatro años a los juguetes con chatbots de IA para menores de 16 años, según CalMatters. La AB 1709 obliga a las redes sociales a dejar de ofrecer funciones «adictivas», como el desplazamiento infinito y la reproducción automática, a los menores de 16 años, o a mantener a esos usuarios fuera de sus plataformas. La Electronic Frontier Foundation había pedido a Newsom que vetara esa ley, a la que calificó de «bienintencionada, pero profundamente defectuosa». La ley sobre chatbots contó con un apoyo más amplio.
Qué vigilar
La Ley de Adam se basa en la ley californiana de chatbots de 2025, la SB 243, y Padilla espera que se convierta en un modelo nacional. Las fechas ya están fijadas: julio de 2027 para las protecciones principales, enero de 2028 para el canal de notificación del fiscal general y enero de 2029 para las primeras auditorías. Hasta entonces, la prueba práctica será cómo identifican los operadores a los usuarios menores a partir de señales de edad y cómo se adaptan productos pensados para conversaciones largas a un límite predeterminado de dos horas diarias.
