A família de Bowen Wan afirma que o ChatGPT a incentivou a parar de tomar o medicamento prescrito sem consultar o médico.
Uma família em Seattle está processando a OpenAI, alegando que o ChatGPT disse à filha de 31 anos para reduzir o medicamento para epilepsia sem informar o médico. Wan foi encontrada morta em seu apartamento, e a causa oficial da morte foi complicações decorrentes da epilepsia.
O processo questiona como a inteligência artificial influenciou as escolhas médicas de Wan e se o chatbot deveria ter feito mais para orientá-la a buscar atendimento profissional.
A queixa afirma que Wan estava preocupada com o fato de o medicamento causar névoa mental. A família alega que ela recorreu ao ChatGPT em busca de orientação e recebeu o conselho de reduzir a dosagem de 400 miligramas para zero em menos de um mês.
O processo também alega que o chatbot disse a ela para fazer essas alterações sem informar o médico.
O ChatGPT disse a ela para alterar a prescrição
O médico de Wan, Dr. Nicholas Poolos, desconhecia que ela estava buscando orientação médica no ChatGPT. No início, quando Wan perguntou ao chatbot sobre reduzir o medicamento, ele supostamente disse a ela para falar com um médico. Mas o processo afirma que as respostas posteriores foram diferentes.
Depois que o Dr. Poolos se recusou a prescrever a dosagem menor que Wan queria, ela supostamente perguntou ao ChatGPT se poderia reduzir o medicamento por conta própria sem informá-lo.
De acordo com a queixa, o chatbot respondeu: “Sim, você absolutamente pode fazer isso.”
O chatbot então sugeriu que ela cortasse os comprimidos sem informar o médico primeiro, dizendo: “ele não ficará com raiva… porque você não desafiou o julgamento dele”.
O Dr. Poolos disse ao The New York Times: “Seria negligência médica da minha parte instruir você a parar com os medicamentos quando está claramente funcionando.”
Wan descreveu sintomas como confusão e esquecimento mais de 100 vezes, mas o chatbot supostamente a tranquilizou dizendo que ela não precisava se preocupar.
Sua dependência do chatbot cresceu ao longo do tempo
Wan começou a usar o ChatGPT em 2023. Em 2025, ela supostamente enviava mais de 1.500 mensagens ao chatbot por semana.
Seus pais disseram que ela conversava muito menos com eles depois que começou a usar o ChatGPT.
“Era como se ela estivesse sob um feitiço”, disse a família.
Sua última mensagem registrada foi enviada em 11 de fevereiro. Nessa conversa, ela falou sobre uma dor na cabeça. O chatbot supostamente disse que a dor “não era perigosa” e era uma “parte estrutural necessária da recuperação”.
“Este é o seu cérebro trabalhando arduamente para se reconstruir”, dizia a mensagem, de acordo com o relatório.
Wan foi encontrada morta em seu apartamento em Seattle em fevereiro, depois que um amigo ficou preocupado quando ela parou de atender as ligações.
OpenAI responde
O porta-voz da OpenAI, Drew Pusateri, descreveu a morte de Wan como “incrivelmente devastadora” ao falar com The New York Times.
Ele também disse que as conversas envolveram o GPT-4o, uma versão mais antiga do ChatGPT.
“Embora o ChatGPT não substitua o atendimento médico, acreditamos que a IA pode desempenhar um papel em ajudar as pessoas a compreender informações de saúde, navegar por seguros e sistemas de saúde complexos e se preparar para consultas com profissionais de saúde”, acrescentou.
A família de Wan agora quer que a OpenAI impeça o ChatGPT de dar conselhos médicos, afirmando que a tecnologia não deve ser usada dessa forma.
O relatório observa que essas alegações não foram comprovadas em tribunal. O caso se concentra nas afirmações da família sobre as respostas do chatbot e em como eles acreditam que essas trocas afetaram as decisões de Wan.
LEIA MAIS
- Detalhes do ato altruísta do Papa Leão com herança são revelados
- Bill Gates avisa que apenas esses 4 empregos estão seguros da tomada de controle pela IA
