Ler, mas não escrever
A OpenAI conectou o ChatGPT ao Epic em 1º de setembro, permitindo que organizações de saúde levem prontuários autorizados do seu ambiente Epic para o ChatGPT for Healthcare. O acesso vai em uma só direção: a integração é somente leitura e o modelo não escreve nada de volta no prontuário, informou a OpenAI ao TechCrunch. O sistema da Epic guarda registros de mais de 325 milhões de pacientes.
A empresa descreve dois formatos. No primeiro, o clínico traz informações autorizadas do paciente para o ChatGPT a fim de revisar o histórico, identificar mudanças e preparar uma consulta. No segundo, disponível em implantações compatíveis, o ChatGPT fica embutido na própria interface do prontuário, de modo que o assistente mora dentro do registro, e não ao lado dele.
Um segundo conector, para dados públicos
Junto ao trabalho com a Epic, a OpenAI lançou um plugin de dados públicos de saúde com conectores dedicados a nove fontes oficiais. Cinco foram citadas: ClinicalTrials.gov, CMS Coverage, RxNorm, DailyMed e PubMed.
A distinção que a OpenAI traça é entre pesquisar essas fontes e consultá-las. O plugin foi feito para trabalhar com registros, campos, identificadores e versões específicos, o que separa confirmar a bula atual de um medicamento de encontrar uma página que fale sobre ele.
Os números de segurança são da própria OpenAI
A OpenAI afirma que médicos avaliaram as respostas do modelo em 27 casos de uso clínico, entre eles a revisão pré-consulta, linhas do tempo clínicas, revisão de medicação e resumos de passagem de plantão. Em 4.363 avaliações, diz que os médicos classificaram 99,1% das respostas como seguras. Em uma avaliação separada, em duas rodadas, afirma que mais de 93% das respostas receberam precisão boa ou melhor para cada uma das cinco fontes de dados conectadas testadas.
São avaliações da própria empresa sobre o próprio produto, e o resíduo é o que vale guardar. Nove por mil de 4.363 avaliações dão cerca de quarenta respostas. A OpenAI já reconheceu que mesmo poucas respostas inseguras podem causar dano, e enfrenta duas ações relatadas pelo TechCrunch: uma de um pastor da Flórida que alega ter recebido do ChatGPT uma recomendação quase fatal, e outra de familiares que atribuem ao serviço uma orientação errada de dosagem.
Para dimensionar o programa de revisão por trás dos números, a OpenAI afirma trabalhar com centenas de médicos em 60 países, 49 idiomas e 26 especialidades, que já revisaram mais de 700 mil respostas do modelo.
Quem realmente pode ligar isso
O acesso é escalonado e mais estreito do que o anúncio sugere. Clientes do ChatGPT for Healthcare pedem a um administrador do espaço de trabalho que habilite os dois recursos. Clientes do ChatGPT Enterprise passam por uma equipe de conta da OpenAI para confirmar elegibilidade a um Regulated Workspace. Clínicos individuais elegíveis nos Estados Unidos podem instalar o plugin de dados públicos, mas a integração com o prontuário não está disponível para contas individuais.
Fluxos em conformidade com a HIPAA exigem o acordo de associado comercial aplicável. O espaço de trabalho traz acesso por papéis, login único e registros de auditoria. Suresh Gunasekaran, presidente e diretor-executivo da UCSF Health, afirmou no anúncio da OpenAI que a instituição é parceira-piloto e está validando os recursos com equipes de linha de frente.
O que observar
Duas coisas dirão se isto é um produto ou um piloto. Se parceiros como a UCSF Health publicarem as próprias avaliações em vez de repetir as da OpenAI, único caminho para que o número de 99,1% ganhe peso independente. E se o limite de somente leitura se mantém: escrever de volta no prontuário é o passo comercial óbvio, e a primeira integração que cruzar essa linha será a que merece leitura atenta.
