Lese, men ikke skrive
OpenAI koblet ChatGPT til Epic 1. september, slik at helseorganisasjoner kan hente autoriserte pasientjournaler fra sitt Epic-miljø inn i ChatGPT for Healthcare. Tilgangen går én vei: integrasjonen er skrivebeskyttet, og modellen skriver ingenting tilbake til journalen, opplyser OpenAI til TechCrunch. Epics system inneholder journaler for mer enn 325 millioner pasienter.
Selskapet beskriver to former. I den første henter en kliniker autorisert pasientinformasjon inn i ChatGPT for å gjennomgå historikk, oppdage endringer og forberede en konsultasjon. I den andre, tilgjengelig i støttede installasjoner, er ChatGPT bygget inn i selve journalgrensesnittet, slik at assistenten sitter inne i journalen og ikke ved siden av.
En andre kobling, for offentlige data
Ved siden av Epic-arbeidet lanserte OpenAI et tillegg for offentlige helsedata med egne koblinger til ni offisielle kilder. Fem ble navngitt: ClinicalTrials.gov, CMS Coverage, RxNorm, DailyMed og PubMed.
Skillet OpenAI trekker, går mellom å søke i disse kildene og å spørre dem. Tillegget er bygget for å arbeide med bestemte poster, felter, identifikatorer og versjoner, og det er dette som skiller det å bekrefte gjeldende preparatomtale for et legemiddel fra å finne en side som omtaler det.
Sikkerhetstallene er OpenAIs egne
OpenAI opplyser at leger vurderte modellens svar i 27 kliniske bruksområder, blant dem gjennomgang før konsultasjon, kliniske tidslinjer, legemiddelgjennomgang og overleveringssammendrag. Av 4 363 vurderinger opplyser selskapet at legene vurderte 99,1% av svarene som trygge. I en separat vurdering i to runder opplyser det at over 93% av svarene fikk god eller bedre treffsikkerhet for hver av de fem tilkoblede datakildene som ble testet.
Dette er selskapets egne vurderinger av sitt eget produkt, og det er resten som er verdt å merke seg. Ni promille av 4 363 vurderinger er om lag førti svar. OpenAI har erkjent at selv noen få utrygge svar kan gi skade, og selskapet er saksøkt i to saker TechCrunch har omtalt: én fra en pastor i Florida som hevder at ChatGPT ga ham en nesten dødelig anbefaling, og én fra pårørende som legger feil doseringsråd til grunn.
Som mål på gjennomgangsprogrammet bak tallene opplyser OpenAI at selskapet arbeider med hundrevis av leger i 60 land, 49 språk og 26 medisinske spesialiteter, som til nå har gjennomgått mer enn 700 000 modellsvar.
Hvem som faktisk kan slå det på
Tilgangen er trinnvis og smalere enn kunngjøringen antyder. Kunder av ChatGPT for Healthcare ber en arbeidsområdeadministrator slå på begge funksjonene. Kunder av ChatGPT Enterprise går via et kontoteam hos OpenAI for å få bekreftet tilgang til et Regulated Workspace. Kvalifiserte enkeltklinikere i USA kan installere tillegget for offentlige data, men journalintegrasjonen er ikke tilgjengelig for personlige kontoer i det hele tatt.
Arbeidsflyter som følger HIPAA, krever en gjeldende databehandleravtale. Arbeidsområdet har rollebasert tilgang, enkel pålogging og revisjonslogger. Suresh Gunasekaran, konsernsjef i UCSF Health, sa i OpenAIs kunngjøring at helseforetaket er pilotpartner og validerer funksjonene sammen med ansatte i førstelinjen.
Hva man bør følge med på
To ting vil vise om dette er et produkt eller et pilotprosjekt. Om pilotpartnere som UCSF Health publiserer sine egne vurderinger i stedet for å gjenta OpenAIs, som er den eneste måten tallet 99,1% kan få uavhengig vekt på. Og om grensen for skrivebeskyttelse holder: å skrive tilbake til journalen er det åpenbare kommersielle neste steget, og den første integrasjonen som krysser den linjen, blir den man bør lese nøye.
