Læse, men ikke skrive
OpenAI koblede ChatGPT til Epic den 1. september, så sundhedsorganisationer kan hente autoriserede patientjournaler fra deres Epic-miljø ind i ChatGPT for Healthcare. Adgangen går én vej: integrationen er skrivebeskyttet, og modellen skriver intet tilbage i journalen, oplyser OpenAI til TechCrunch. Epics system indeholder journaler for mere end 325 millioner patienter.
Selskabet beskriver to former. I den første henter en kliniker autoriseret patientinformation ind i ChatGPT for at gennemgå historik, opdage ændringer og forberede en konsultation. I den anden, som findes i understøttede installationer, er ChatGPT indlejret i selve journalgrænsefladen, så assistenten sidder inde i journalen frem for ved siden af den.
En anden forbindelse, til offentlige data
Ved siden af Epic-arbejdet udsendte OpenAI et plugin til offentlige sundhedsdata med dedikerede forbindelser til ni officielle kilder. Fem blev nævnt: ClinicalTrials.gov, CMS Coverage, RxNorm, DailyMed og PubMed.
Den skelnen, OpenAI trækker, går mellem at søge i disse kilder og at forespørge dem. Pluginet er bygget til at arbejde med bestemte poster, felter, identifikatorer og versioner, og det er dét, der adskiller bekræftelsen af et lægemiddels aktuelle produktresumé fra at finde en side, der omtaler det.
Sikkerhedstallene er OpenAI’s egne
OpenAI oplyser, at læger vurderede modellens svar inden for 27 kliniske anvendelser, heriblandt gennemgang før konsultation, kliniske tidslinjer, medicingennemgang og overleveringsresuméer. Ud af 4.363 vurderinger oplyser selskabet, at lægerne vurderede 99,1% af svarene som sikre. I en separat vurdering i to runder oplyser det, at over 93% af svarene fik god eller bedre præcision for hver af de fem tilkoblede datakilder, der blev testet.
Det er selskabets egne vurderinger af sit eget produkt, og det er resten, der er værd at holde fast i. Ni promille af 4.363 vurderinger er omkring fyrre svar. OpenAI har erkendt, at selv få usikre svar kan føre til skade, og selskabet er sagsøgt i to sager, TechCrunch har omtalt: én af en præst i Florida, der hævder, at ChatGPT gav ham en nærmest dødelig anbefaling, og én af pårørende, der bebrejder tjenesten forkert doseringsrådgivning.
Som mål for det gennemgangsprogram, der ligger bag tallene, oplyser OpenAI, at selskabet arbejder med hundredvis af læger i 60 lande, 49 sprog og 26 medicinske specialer, som hidtil har gennemgået mere end 700.000 modelsvar.
Hvem der reelt kan slå det til
Adgangen er trinvis og smallere, end meddelelsen antyder. Kunder hos ChatGPT for Healthcare beder en arbejdsområdeadministrator om at aktivere begge funktioner. Kunder hos ChatGPT Enterprise går gennem et kontoteam hos OpenAI for at få bekræftet adgang til et Regulated Workspace. Kvalificerede enkeltklinikere i USA kan installere pluginet til offentlige data, men journalintegrationen er slet ikke tilgængelig for personlige konti.
Arbejdsgange, der følger HIPAA, kræver en gældende databehandleraftale. Arbejdsområdet har rollebaseret adgang, single sign-on og revisionslogfiler. Suresh Gunasekaran, administrerende direktør for UCSF Health, sagde i OpenAI’s meddelelse, at sundhedsvæsenet er pilotpartner og validerer funktionerne sammen med medarbejdere i frontlinjen.
Hvad man bør holde øje med
To ting vil vise, om dette er et produkt eller et pilotprojekt. Om pilotpartnere som UCSF Health offentliggør deres egne vurderinger i stedet for at gentage OpenAI’s, hvilket er den eneste måde, tallet 99,1% kan få uafhængig vægt på. Og om grænsen for skrivebeskyttelse holder: at skrive tilbage i journalen er det åbenlyse kommercielle næste skridt, og den første integration, der krydser den linje, bliver den, man bør læse nøje.
