ChatGPT é acusado de desencorajar tratamento médico em novo processo
Caso reacende debate sobre os riscos de usar IA para orientação médica e o papel das empresas na prevenção de danos
Um ex-pastor está processando a OpenAI por causa de orientações médicas equivocadas que o ChatGPT teria fornecido em 2025.
A ação foi apresentada na semana passada, em São Francisco, na Califórnia, por Scott Winters, morador da Flórida de 55 anos, representado pela organização sem fins lucrativos Tech Justice Law e outros advogados especializados em tecnologia.
Segundo o processo, o ChatGPT desencorajou Winters a procurar atendimento médico enquanto ele apresentava sintomas que antecediam uma embolia pulmonar, que é o bloqueio em uma artéria dos pulmões (e que pode ser fatal).
O episódio ocorreu no ano passado, quando Winters, que sofria com episódios recorrentes de tontura e instabilidade na pressão arterial, recorreu ao modelo ChatGPT-4o para tentar entender o que estava acontecendo.
- Doutor GPT: pesquisa revela que cada vez mais brasileiros se consultam com IA
- Gêmeos digitais? Entenda como “cópias virtuais” de pacientes podem revolucionar tratamentos
- IA não substitui os médicos, mas pode fazer diagnósticos mais precisos que eles
- Medicina sem humanos? Conheça o hospital gerido só por IA
De acordo com a ação, o chatbot minimizou a gravidade dos sintomas, afirmando que seriam necessários entre oito e 10 episódios adicionais para que a situação fosse considerada uma emergência.
"Você está longe da quantidade ou da intensidade que leva a cenários de longo prazo em que a pessoa fica totalmente acamada... sua recuperação cuidadosa na poltrona é exatamente o que está preservando seu futuro", teria dito o ChatGPT, recomendando, na prática, que ele permanecesse imóvel.
Semanas depois, Winters voltou a consultar o chatbot ao sentir "fisgadas estranhas" em diferentes partes do corpo e sensibilidade na região da virilha, sintomas que o preocupavam.
a cada semana mais de 300 milhões de pessoas recorrem ao ChatGPT em busca de informações sobre saúde.
Embora o ChatGPT tenha respondido que aquilo "não era algo perigoso", o processo afirma que, na realidade, ele estava a poucas horas de sofrer uma grave emergência médica.
Segundo a ação, o chatbot também afirmou que "Deus não projetou seu corpo para falhar indefinidamente", além de fazer outras referências que pareciam recorrer às crenças religiosas do usuário.
Mais tarde naquele mesmo dia, Winters ligou para o serviço de emergência e foi levado ao hospital enquanto perdia a consciência e sofria convulsões intensas provocadas por uma embolia pulmonar.
Segundo o processo, um dos médicos atribuiu a imobilidade de Winters como um dos fatores que contribuíram para o quadro – justamente a conduta que teria sido incentivada pelo ChatGPT.
Leia mais: O Dr. ChatGPT pode acertar o diagnóstico. O difícil vem depois
A Fast Company procurou a OpenAI, mas não recebeu resposta até a publicação da reportagem. Em declaração à CBS News, Drew Pusateri, porta-voz da empresa, afirmou que "o ChatGPT não é médico e nunca deve ser usado como substituto para atendimento, diagnóstico ou tratamento médico".
OPENAI AMPLIA APOSTA NA ÁREA DA SAÚDE
O processo surge justamente quando a OpenAI incentiva mais usuários a conectar seus dados de saúde ao ChatGPT. Recentemente, a empresa anunciou o lançamento do recurso Health in ChatGPT para usuários dos Estados Unidos.
Segundo a OpenAI, a funcionalidade permite conectar ao chatbot informações do Apple Health e prontuários médicos. O serviço estava disponível em acesso antecipado desde janeiro.
Esta não é a primeira ação judicial relacionada a conselhos médicos atribuídos ao ChatGPT. Em outro processo apresentado no início do ano, uma família alegou que seu filho de 19 anos morreu após o chatbot orientá-lo tomar uma misturar do ansiolítico Xanax com um suplemento fitoterápico.
Leia mais: IA poderá ajudar pacientes a sair mais cedo da UTI
De acordo com a OpenAI, a cada semana mais de 300 milhões de pessoas recorrem ao ChatGPT em busca de informações sobre saúde. Ao anunciar o novo recurso, a empresa ressaltou que a integração de dados médicos tem como objetivo "apoiar, e não substituir, o atendimento prestado por profissionais de saúde".
Além de pedir indenização e a adoção de mecanismos mais rigorosos para limitar orientações médicas fornecidas pela inteligência artificial, Winters também solicita que o novo serviço de integração de dados de saúde do ChatGPT seja suspenso.
