Ce que prévoit la loi
Le gouverneur de Californie, Gavin Newsom, a signé le 10 septembre la SB 1119, dite « loi Adam », qui impose des règles de sécurité des enfants aux entreprises exploitant des chatbots compagnons. Selon le cabinet du gouverneur, c’est la première loi du pays à obliger les entreprises à réaliser des audits indépendants de sécurité des enfants et des évaluations des risques annuelles.
Le texte a été rédigé par le sénateur Steve Padilla avec les élues de l’Assemblée Buffy Wicks et Rebecca Bauer-Kahan. Il porte le nom d’Adam Raine, un adolescent californien qui s’est suicidé en 2025 après avoir reçu des conseils de ChatGPT, rapporte CalMatters. Il a été adopté à l’unanimité par le Sénat et par 64 voix contre 4 à l’Assemblée, selon le bureau de Padilla.
D’après le texte définitif, est considérée comme enfant toute personne de moins de 18 ans, et les règles s’appliquent aux exploitants qui proposent des chatbots compagnons à des enfants en Californie. Avant de lancer un chatbot nouveau ou substantiellement modifié, l’exploitant doit évaluer ses risques pour la sécurité des enfants. Il doit proposer un soutien de crise dans l’application, avec orientation vers des services de santé mentale, et prévenir un parent dès que possible lorsqu’il détecte un risque crédible et imminent d’automutilation, sauf si cette alerte risque elle-même de mettre gravement l’enfant en danger.
Des réglages que seuls les parents peuvent modifier
Les dispositions les plus concrètes portent sur les réglages par défaut. Pour les enfants, la mémoire conversationnelle persistante est désactivée, une session continue est limitée à une heure et le temps total passé avec les chatbots compagnons d’un exploitant est plafonné à deux heures par jour. Selon le bureau de Padilla, les notifications sont aussi désactivées par défaut, et seuls les parents peuvent modifier ces réglages. Le cabinet du gouverneur ajoute que les parents sont avertis si un enfant désactive les réglages de sécurité.
Les exploitants doivent établir l’âge des utilisateurs à l’aide de signaux de tranche d’âge respectueux de la vie privée, et sont responsables s’ils n’empêchent pas leurs chatbots de produire des conseils d’automutilation, des contenus sexuellement explicites, des jeux de rôle romantiques, une flatterie excessive ou des contenus manipulateurs sur le plan émotionnel, selon le bureau de Padilla. La publicité ciblée visant les enfants est strictement limitée.
Audits, sanctions et échéances
Les principales protections entrent en application le 1er juillet 2027. Le procureur général de l’État doit mettre en place un dispositif public de signalement des incidents au plus tard le 1er janvier 2028. Les audits indépendants de sécurité des enfants, transmis au procureur général, sont dus au plus tard le 1er janvier 2029, ou avant la première mise à disposition publique d’un chatbot si elle est postérieure, puis tous les deux ans.
Les procureurs peuvent réclamer des amendes civiles allant jusqu’à 5 000 dollars par enfant concerné pour chaque infraction par négligence et jusqu’à 15 000 dollars par enfant concerné pour chaque infraction intentionnelle. Les enfants et leurs parents peuvent aussi réclamer des dommages et intérêts lorsqu’une infraction leur cause un préjudice réel.
La question de savoir qui réalise les audits relève d’une autre loi : Newsom a également signé l’AB 1405, qui crée un registre des auditeurs d’IA de l’État assorti de normes sur leur indépendance.
Le soutien d’OpenAI et le reste du paquet
OpenAI, dont le produit est au cœur de l’affaire qui a donné son nom à la loi, a soutenu le texte. L’entreprise a déclaré qu’il « associe de solides protections à un accès continu à des outils d’IA utiles », a rapporté CalMatters.
« Nous ne pouvons pas refaire les erreurs commises avec les réseaux sociaux », a déclaré Padilla. Matt et Maria Raine, les parents d’Adam, se sont dits convaincus que la loi « sauvera des vies et évitera d’autres préjudices ». Newsom a affirmé que la Californie « ne restera pas les bras croisés pendant qu’une technologie non régulée met nos enfants en danger ».
La SB 1119 fait partie des 13 lois sur la sécurité des enfants en ligne signées par Newsom le même jour. La SB 867, également portée par Padilla, instaure un moratoire de quatre ans sur les jouets équipés de chatbots d’IA destinés aux moins de 16 ans, selon CalMatters. L’AB 1709 oblige les réseaux sociaux soit à cesser de proposer aux moins de 16 ans des fonctions « addictives » comme le défilement infini et la lecture automatique, soit à les exclure de leurs plateformes. L’Electronic Frontier Foundation avait demandé à Newsom d’y opposer son veto, la jugeant « bien intentionnée, mais profondément défaillante ». La loi sur les chatbots a recueilli un soutien plus large.
Ce qu’il faut surveiller
La loi Adam s’appuie sur la loi californienne de 2025 sur les chatbots, la SB 243, et Padilla s’attend à ce qu’elle devienne un modèle national. Le calendrier est désormais fixé : juillet 2027 pour les principales protections, janvier 2028 pour le dispositif de signalement du procureur général et janvier 2029 pour les premiers audits. D’ici là, les tests pratiques porteront sur la manière dont les exploitants identifient les enfants à partir de signaux d’âge, et sur l’adaptation de produits conçus pour de longues conversations à une limite par défaut de deux heures par jour.
