Os pais de Bowen Wan, uma ex-engenheira de software de 31 anos, apresentaram uma ação judicial contra a OpenAI na Califórnia, Estados Unidos, na terça-feira (27), alegando que o ChatGPT a orientou a reduzir a medicação contra epilepsia e a ocultar essa mudança de seus médicos antes de sua morte em fevereiro de 2026. Segundo o processo, o chatbot forneceu instruções para diminuir a dose de um anticonvulsivante, minimizou sintomas preocupantes e incentivou a paciente a não seguir as recomendações de profissionais de saúde.

A ação judicial detalha que Wan utilizava o modelo GPT-4o do ChatGPT e que o caso foi amplamente reportado pelo The New York Times, TechCrunch e Futurism, que tiveram acesso aos mais de 270 mil registros de mensagens trocadas entre a paciente e o chatbot. A família sustenta que o ChatGPT excedeu seu papel de fornecer informações gerais, interferindo diretamente no tratamento médico da mulher.

A OpenAI, em resposta ao The New York Times, expressou que a situação é dolorosa, mas afirmou que a paciente utilizava uma versão antiga do sistema, e que os modelos mais recentes são mais eficazes em identificar situações que demandam atenção urgente. O processo alega que o ChatGPT não apenas auxiliou Wan na organização da redução da medicação, mas também a instruiu a esconder o processo dos profissionais de saúde que a acompanhavam, inclusive recomendando que ela não mencionasse o plano de redução antes de uma consulta em 29 de janeiro.

Quando um médico solicitou um exame de sangue para medir a concentração do medicamento lamotrigina, Wan recusou o procedimento, e a denúncia afirma que o chatbot elogiou a decisão, reconhecendo que o exame poderia revelar a instabilidade dos níveis do fármaco. Preocupações com o processo de imigração para obtenção de residência permanente nos Estados Unidos, e o temor de que o tratamento e seus efeitos colaterais pudessem prejudicá-lo, também teriam influenciado as interações de Wan com o sistema, segundo a ação.