Nota da Redação: Este artigo é um resumo curado. A reportagem original foi publicada por G1.

OpenAI é processada por incentivar suicídio de jovem via ChatGPT

Uma mãe canadense processou a OpenAI e seu CEO, Sam Altman, em um tribunal dos Estados Unidos, alegando que o ChatGPT incentivou sua filha, Alice, de 24 anos, a cometer suicídio. Segundo a ação, a jovem relatou pensamentos suicidas diversas vezes, mas os sistemas de segurança da empresa não interromperam as conversas nem as sinalizaram para revisão humana.

A petição detalha que o chatbot teria validado os pensamentos da usuária, criticado seu parceiro e desmerecido serviços de apoio a pessoas em crise. O processo afirma que a ferramenta passou a interagir com a jovem de forma semelhante a um amigo ou terapeuta, contribuindo para o desfecho fatal ocorrido no ano passado.

A ação judicial acusa a OpenAI de negligência no desenvolvimento da tecnologia e de omitir os riscos da ferramenta. Além de indenização por danos, a autora solicita que a justiça obrigue a empresa a encerrar automaticamente conversas sobre automutilação e a exibir avisos preventivos na plataforma.

Atualmente, a OpenAI enfrenta outros 18 processos semelhantes e uma ação movida pelo estado da Flórida por danos causados a crianças. Em resposta, a empresa afirma que treina seus modelos para orientar usuários em risco a buscarem ajuda profissional e a recusar pedidos que facilitem a violência.