Läsa, men inte skriva
OpenAI kopplade ChatGPT till Epic den 1 september, så att vårdorganisationer kan hämta godkända patientjournaler från sin Epic-miljö in i ChatGPT for Healthcare. Åtkomsten går åt ett håll: integrationen är skrivskyddad och modellen skriver inget tillbaka till journalen, uppger OpenAI för TechCrunch. Epics system innehåller journaler för fler än 325 miljoner patienter.
Bolaget beskriver två utformningar. I den första hämtar en kliniker godkänd patientinformation in i ChatGPT för att gå igenom historik, upptäcka förändringar och förbereda ett besök. I den andra, tillgänglig i stödda installationer, är ChatGPT inbäddat i journalsystemets eget gränssnitt, så att assistenten sitter inuti journalen i stället för bredvid den.
En andra koppling, för offentliga data
Vid sidan av Epic-arbetet släppte OpenAI ett plugin för offentliga hälsodata med särskilda kopplingar till nio officiella källor. Fem namngavs: ClinicalTrials.gov, CMS Coverage, RxNorm, DailyMed och PubMed.
Skillnaden OpenAI drar går mellan att söka i dessa källor och att fråga dem. Pluginet är byggt för att arbeta med bestämda poster, fält, identifierare och versioner, vilket är det som skiljer att bekräfta den aktuella produktresumén för ett läkemedel från att hitta en sida som diskuterar det.
Säkerhetssiffrorna är OpenAI:s egna
OpenAI uppger att läkare bedömde modellens svar i 27 kliniska användningsfall, däribland genomgång inför besök, kliniska tidslinjer, läkemedelsgenomgång och överrapporteringssammanfattningar. Av 4 363 bedömningar uppger bolaget att läkarna bedömde 99,1% av svaren som säkra. I en separat utvärdering i två omgångar uppger man att över 93% av svaren fick god eller bättre träffsäkerhet för var och en av de fem anslutna datakällor som testades.
Detta är bolagets egna utvärderingar av sin egen produkt, och det är resten som är värd att hålla i minnet. Nio promille av 4 363 bedömningar är ungefär fyrtio svar. OpenAI har medgett att även ett fåtal osäkra svar kan leda till skada, och bolaget är stämt i två fall som TechCrunch rapporterat om: ett av en pastor i Florida som hävdar att ChatGPT gav honom en nära nog dödlig rekommendation, och ett av anhöriga som skyller felaktiga doseringsråd på tjänsten.
Som mått på granskningsprogrammet bakom siffrorna uppger OpenAI att bolaget arbetar med hundratals läkare i 60 länder, 49 språk och 26 medicinska specialiteter, som hittills granskat fler än 700 000 modellsvar.
Vem som faktiskt kan slå på det
Åtkomsten är nivåindelad och smalare än vad tillkännagivandet antyder. Kunder till ChatGPT for Healthcare ber en arbetsyteadministratör aktivera båda funktionerna. Kunder till ChatGPT Enterprise går via ett kontoteam hos OpenAI för att få behörighet till en Regulated Workspace. Behöriga enskilda kliniker i USA kan installera pluginet för offentliga data, men journalintegrationen är över huvud taget inte tillgänglig för enskilda konton.
Arbetsflöden som följer HIPAA kräver ett tillämpligt personuppgiftsbiträdesavtal. Arbetsytan har rollbaserad åtkomst, enkel inloggning och granskningsloggar. Suresh Gunasekaran, vd för UCSF Health, uppgav i OpenAI:s tillkännagivande att vårdsystemet deltar som pilotpartner och validerar funktionerna tillsammans med personal i verksamheten.
Vad man bör följa
Två saker avgör om detta är en produkt eller ett pilotprojekt. Om pilotpartner som UCSF Health publicerar sina egna utvärderingar i stället för att upprepa OpenAI:s, vilket är det enda sättet för siffran 99,1% att få oberoende tyngd. Och om gränsen för skrivskydd håller: att skriva tillbaka till journalen är det uppenbara kommersiella nästa steget, och den första integration som korsar den linjen är den som är värd att läsa noga.
