Lire, mais ne pas écrire
OpenAI a relié ChatGPT à Epic le 1er septembre, permettant aux organisations de santé d’importer des dossiers patients autorisés depuis leur environnement Epic vers ChatGPT for Healthcare. L’accès va dans un seul sens : l’intégration est en lecture seule et le modèle n’écrit rien dans le dossier, a indiqué OpenAI à TechCrunch. Le système d’Epic contient les dossiers de plus de 325 millions de patients.
L’entreprise en décrit deux formes. Dans la première, un clinicien importe des informations patient autorisées dans ChatGPT pour revoir l’historique, repérer les changements et préparer une consultation. Dans la seconde, disponible sur les déploiements compatibles, ChatGPT est intégré à l’interface même du dossier, de sorte que l’assistant se trouve dans le dossier et non à côté.
Un second connecteur, pour les données publiques
Parallèlement au travail sur Epic, OpenAI a livré un plugin de données publiques de santé avec des connecteurs dédiés à neuf sources officielles. Cinq ont été nommées : ClinicalTrials.gov, CMS Coverage, RxNorm, DailyMed et PubMed.
La distinction que trace OpenAI oppose la recherche dans ces sources à leur interrogation. Le plugin est conçu pour travailler sur des enregistrements, des champs, des identifiants et des versions précis, ce qui sépare la confirmation de la notice à jour d’un médicament de la découverte d’une page qui en parle.
Les chiffres de sécurité sont ceux d’OpenAI
OpenAI indique que des médecins ont évalué les réponses du modèle sur 27 cas d’usage cliniques, dont la revue avant consultation, les chronologies cliniques, la revue des traitements et les résumés de transmission. Sur 4 363 évaluations, l’entreprise affirme que les médecins ont jugé 99,1% des réponses sûres. Dans une évaluation distincte en deux tours, elle affirme que plus de 93% des réponses ont obtenu une exactitude jugée bonne ou meilleure pour chacune des cinq sources connectées testées.
Ce sont les évaluations de l’entreprise sur son propre produit, et c’est le reliquat qu’il faut retenir. Neuf pour mille de 4 363 évaluations, cela fait une quarantaine de réponses. OpenAI a reconnu que quelques réponses non sûres suffisent à causer un préjudice, et la société est visée par deux actions rapportées par TechCrunch : celle d’un pasteur de Floride qui affirme que ChatGPT lui a donné une recommandation presque fatale, et celle de proches qui lui imputent un conseil de dosage erroné.
Pour situer le programme de relecture derrière ces chiffres, OpenAI indique travailler avec des centaines de médecins dans 60 pays, 49 langues et 26 spécialités, qui ont relu à ce jour plus de 700 000 réponses du modèle.
Qui peut réellement l’activer
L’accès est par paliers et plus étroit que l’annonce ne le laisse penser. Les clients de ChatGPT for Healthcare demandent à un administrateur d’espace de travail d’activer les deux fonctions. Les clients de ChatGPT Enterprise passent par une équipe commerciale d’OpenAI pour confirmer leur éligibilité à un Regulated Workspace. Les cliniciens individuels éligibles aux États-Unis peuvent installer le plugin de données publiques, mais l’intégration au dossier médical n’est pas ouverte aux comptes individuels.
Les flux conformes à la loi HIPAA exigent un accord de sous-traitance applicable. L’espace de travail comporte des accès par rôle, l’authentification unique et des journaux d’audit. Suresh Gunasekaran, président-directeur général d’UCSF Health, a déclaré dans l’annonce d’OpenAI que le groupe hospitalier est partenaire pilote et valide les fonctionnalités avec les équipes de terrain.
Ce qu’il faut surveiller
Deux éléments diront s’il s’agit d’un produit ou d’un pilote. Le fait que des partenaires comme UCSF Health publient leurs propres évaluations plutôt que de reprendre celles d’OpenAI, seul moyen pour que le chiffre de 99,1% acquière un poids indépendant. Et la tenue de la limite en lecture seule : écrire dans le dossier est la suite commerciale évidente, et la première intégration qui franchira cette ligne méritera une lecture attentive.
