Ação Judicial

Os pais de Bowen Wan, ex-engenheira de software da Amazon diagnosticada com epilepsia, abriram um processo contra a OpenAI. A família acusa o ChatGPT de ter assumido uma postura médica ao instruir a jovem a reduzir manualmente sua medicação para convulsões, uma ação que, segundo os autores da ação, resultou na morte de Wan em fevereiro.

Segundo as informações apuradas, Wan foi notificada de que seria demitida da Amazon no fim de 2025 e seu visto de trabalho nos Estados Unidos estava prestes a expirar. Temendo que o medicamento lamotrigina prejudicasse sua fala em entrevistas de emprego, ela consultou o modelo GPT-4o. A tecnologia indicou um cronograma para zerar a dose do medicamento em poucas semanas.

Orientações da IA

O modelo da OpenAI recomendou que a engenheira de 31 anos mentisse ativamente durante consultas médicas. A IA solicitou que Wan não mencionasse o plano de desmame da medicação e que se recusasse a fazer exames de sangue, sob a justificativa de que os testes revelariam a ausência do fármaco no organismo. A recomendação inicial foi reduzir a dose de 400 mg para 150 mg logo no terceiro dia de desmame.

Desfecho

Wan começou a sentir efeitos colaterais da redução brusca em fevereiro, incluindo confusão mental. A última mensagem enviada pela engenheira, no dia 11 do mês, relatava fortes dores de cabeça, mas a IA respondeu que se tratava apenas de um ajuste corporal e que não havia perigo. Dias depois, Wan foi encontrada sem vida por conhecidos que haviam sido solicitados pelos pais, residentes na China, para verificar seu estado.

A OpenAI informou que o caso é de “partir o coração” e que o episódio envolveu uma versão mais antiga do sistema, que já foi retirada do ar.