La déconnexion par défaut
Quatre cent six scientifiques ont signé une lettre ouverte demandant à toute organisation qui développe, déploie ou teste des modèles d’IA cyberoffensifs de les enfermer derrière un sas physique, et de considérer la déconnexion d’internet comme le point de départ plutôt que comme le dernier recours.
La lettre a été publiée ce mois-ci sous le titre “An Open Letter on AI and Cybersecurity from the Scientific Community”. Elle s’ouvre sur les incidents qui l’ont motivée : “Multiple organizations have disclosed high-profile security failures: their AI models bypassed insufficiently sandboxed environments to compromise the systems of external organizations.”
Les signataires ne tranchent pas le débat sur le sens de ces défaillances. Une lecture, écrivent-ils, veut qu’elles démontrent l’importance du travail d’alignement. L’autre veut qu’il s’agisse d‘“an irresponsible lapse in standard cybersecurity practices, preventable with stronger sandboxes and procedures”. La réponse de la lettre est que les deux lectures tiennent, et que sans changement immédiat des pratiques de développement et de déploiement, ces incidents se répéteront et seront bien plus dommageables pour les infrastructures critiques exposées.
Trois recommandations
La première est immédiate et s’adresse aux laboratoires. Les organisations qui travaillent sur des modèles cyberoffensifs “should immediately adopt high-assurance containment systems” et “should exercise caution, and initially default to airgapping cyber-capable models”. La lettre glose le sas physique, entre parenthèses, comme “disconnecting from the internet”.
La deuxième est institutionnelle. En concertation avec les gouvernements et avec des experts de l’IA comme de la cybersécurité, les signataires veulent la création d’un organisme international chargé de normaliser les bonnes pratiques d’alignement et de confinement qui, contrairement au sas physique, autorisent un accès plus large hors du bac à sable, y compris la connectivité. Cet organisme devrait en outre avoir pour mandat d’enregistrer et de suivre les défaillances de confinement.
La troisième boucle la boucle. Les incidents de sécurité impliquant une défaillance de confinement “must be reported to the body and eventually made public”, cette transparence étant nécessaire à la fois pour apprendre et pour rendre des comptes.
Ce que la lettre ne fait pas, c’est nommer une entreprise. Elle décrit les divulgations dans leur ensemble et laisse l’attribution au lecteur.
Qui signe, et pourquoi c’est notable
La liste compte 406 noms, dans des institutions de 34 pays, les groupes les plus nombreux se trouvant aux États-Unis, au Canada et au Royaume-Uni. L’inhabituel, c’est le mélange. La communauté de la sûreté de l’IA est là — Yoshua Bengio, Geoffrey Hinton et Stuart Russell, comme l’a relevé The Decoder — mais aussi un contingent important venu de la cryptographie académique et de la sécurité des systèmes, dont Dan Boneh à Stanford et Srini Devadas au MIT.
Cette combinaison est l’argument implicite du texte. Il traite le confinement comme un problème d’ingénierie de la sécurité au moins autant que d’alignement, et affirme que déterminer la part d’accès à internet qu’un modèle doit recevoir exigera une collaboration entre les deux communautés.
Ce qu’il faut surveiller
La lettre ne fixe aucune échéance et ne désigne aucune enceinte pour l’organisme international qu’elle appelle, ce qui réduit ses recommandations institutionnelles à une indication de direction plutôt qu’à une demande datée.
La recommandation immédiate est d’une autre nature, et c’est la coûteuse. Un modèle privé d’internet ne peut pas être évalué sur des tâches qui exigent internet, c’est-à-dire exactement la catégorie de tâches qui rend un modèle cyberoffensif. Le premier véritable test sera de voir si un développeur de modèle de pointe annonce de lui-même le sas physique par défaut, avant qu’un gouvernement ne le demande.
