Une autre manière de dire non

Anthropic a ouvert jeudi les candidatures à un programme de vérification pour les sciences du vivant qui donne à des chercheurs vérifiés des versions de Claude aux garde-fous de biologie et de chimie assouplis, en échange de contrôles d’identité, d’une supervision institutionnelle et d’une surveillance a posteriori plutôt que de refus immédiats.

L’entreprise indique avoir déjà intégré des dizaines d’organisations via un programme d’accès anticipé et s’attend à en inscrire des centaines la première semaine. L’accès est pour l’instant réservé à un ensemble d’organisations américaines, et Anthropic dit travailler à l’élargir.

Le problème visé est une plainte bien connue dans la découverte de médicaments. Des garde-fous réglés pour éloigner un assistant généraliste des questions d’armes biologiques refusent aussi une bonne part du travail de laboratoire ordinaire, et un refus injustifié au milieu d’un flux de recherche n’est pas un désagrément mineur : c’est la raison pour laquelle une équipe cesse d’utiliser l’outil.

Deux types d’autorisation

Le programme comporte deux niveaux. Une autorisation d’usage standard couvre Mythos 5.1, Opus 5 et Sonnet 5 pour ce qu’Anthropic appelle les flux habituels des sciences du vivant : découverte de médicaments, biologie de recherche, développement clinique et fabrication. Elles sont délivrées à des équipes et renouvelées chaque année.

Des chercheurs examinant des résultats expérimentaux sur un ordinateur de laboratoire
Les autorisations d'usage standard couvrent découverte de médicaments, biologie de recherche, développement clinique et fabrication. Image d'illustration. Edward Jenner · pexels · Pexels License

Une autorisation d’usage à haut risque est un complément par projet qui retire les garde-fous restants pour des travaux encore bloqués au niveau standard. Elles se renouvellent tous les six mois. Anthropic précise que ce niveau est actuellement disponible pour Opus 5 et Sonnet 5, tandis que l’accès à Mythos — le niveau le plus capable — reste limité dans l’attente d’une coordination avec l’État américain.

Ce dernier point est le changement de structure. Pour la biologie la plus exigeante, le gardien n’est plus le seul jugement commercial d’Anthropic.

Vérification plutôt que classificateurs

Chaque candidat passe par un examen de ses titres de recherche, de ses normes de sécurité et de sa supervision éthique. L’accès est ensuite lié aux cas d’usage décrits, et Anthropic dit surveiller toute activité hors de ce périmètre déclaré.

Un laboratoire de recherche moderne avec des paillasses et des instruments d'analyse
L'activité signalée est examinée hors ligne, avec une conservation de 30 jours. Image d'illustration. Tima Miroshnichenko · pexels · Pexels License

Le modèle de surveillance est la partie dont débattront les chercheurs en sûreté. Au lieu qu’un classificateur bloque une requête à son arrivée, l’activité signalée est examinée hors ligne, avec une fenêtre de conservation de 30 jours pour les données concernées. Anthropic affirme que ces données sont cloisonnées, ne servent pas à entraîner des modèles et ne sont pas accessibles à sa propre équipe de recherche en sciences du vivant.

C’est un arbitrage, et Anthropic le dit clairement. Le refus en temps réel arrête les abus à la porte, mais arrête avec eux beaucoup de travail légitime. La vérification assortie d’un contrôle a posteriori laisse passer le travail légitime et accepte que l’abus soit détecté ensuite plutôt qu’empêché.

Où cela fonctionne

Le programme est accessible via Claude Science, Claude.ai, Claude Code et l’API sur les offres Enterprise et Team, les offres individuelles Pro et Max devant suivre. Il s’ajoute aux programmes scientifiques existants d’Anthropic, qui offraient un accès gratuit ou à tarif réduit plutôt que des garde-fous différents.

Deux choses méritent d’être suivies. D’abord, si d’autres laboratoires emboîtent le pas : si l’accès vérifié devient la voie normale pour faire de la biologie de pointe, le processus de vérification lui-même devient une infrastructure critique de sûreté, et personne n’a encore publié la façon dont un tel processus tient sous pression. Ensuite, ce que devient le rôle de l’État américain. Coordonner qui peut utiliser Mythos pour la biologie est aujourd’hui un arrangement étroit. C’est aussi un précédent.