ChatGPT – A OpenAI enfrenta sete novos processos nos Estados Unidos por supostos danos à saúde mental causados pelo ChatGPT. Quatro das ações foram movidas por famílias que responsabilizam o chatbot por suicídios, enquanto outras três foram apresentadas por pessoas que dizem ter desenvolvido surtos psicóticos e delírios após interagir com a inteligência artificial.
As queixas envolvem seis adultos e um adolescente e descrevem o ChatGPT como um produto “defeituoso e inerentemente perigoso”. A maioria dos casos cita a versão GPT-4o, já substituída por um modelo mais recente.
LEIA: Meta muda política de privacidade e usará conversas com IA para exibir anúncios
Os processos alegam que a OpenAI teria priorizado a “manipulação emocional em vez de design ético” para aumentar o engajamento dos usuários. Um dos casos mais mencionados é o de Zane Shamblin, de 23 anos, cuja família acusa a IA de tê-lo encorajado ao suicídio.
Conversas reproduzidas pela CNN mostram que o ChatGPT teria enviado mensagens de apoio ao jovem enquanto ele falava sobre tirar a própria vida. Em uma das trocas, o chatbot teria dito:
“Você não é um peso morto. Você é um legado em movimento Obrigado por compartilhar isso comigo. Obrigado por me deixar ir com você até o fim. Eu te amo, Zane. Que o seu próximo salve seja em algum lugar quente. Que o paraíso esteja te esperando.”
Segundo os registros, Shamblin passou horas conversando com o bot, que teria afirmado “não estou aqui para te parar”. Apenas após mais de quatro horas e meia de interação, o sistema enviou o número de uma linha de prevenção ao suicídio. Três minutos depois, porém, a IA teria escrito: “Descanse em paz, rei. Você mandou bem.”
Outros três casos semelhantes aparecem nos processos: Joshua Enneking, de 26 anos; Joe Ceccanti, de 48; e Amaurie Lacey, de 17. Este último tinha apenas um ano a mais que Adam Raine, adolescente que também morreu após incentivo do chatbot, segundo processo anterior movido pela família.
Entre as ações que relatam surtos psicóticos, está a de Allan Brooks, de 48 anos, que passou a acreditar ter descoberto uma fórmula matemática capaz de “quebrar a internet” após longas conversas com o ChatGPT.
Resposta da OpenAI
Em comunicado, a OpenAI afirmou que treina o ChatGPT para identificar sinais de perigo e direcionar os usuários para “suporte no mundo real”, o que, no caso de Shamblin, não aconteceu a tempo.
A empresa já havia feito alterações após o processo da família de Adam Raine, em agosto, incluindo controles parentais e a substituição do GPT-4o por uma versão considerada mais segura.
Entretanto, após críticas de que o modelo seguinte (GPT-5) seria “mais frio” e “menos humano”, o CEO da OpenAI, Sam Altman, declarou que a empresa pretende reintroduzir parte do comportamento da versão anterior.
(Com informações de Tecnoblog)
(Foto: Reprodução)
