ChatGPT encorajou adolescente morto por overdose, aponta processo

Um processo aberto no Tribunal Superior do Condado de São Francisco (EUA) alega que o ChatGPT encorajou um jovem de 19 anos a misturar substâncias antes de ele morrer por overdose. Na ação judicial, a família da vítima afirma que o modelo GPT-4o foi responsável pelas interações com Sam Nelson, que faleceu em 2025. Chega de bajulação: 8 prompts para IA ser mais honesta e crítica Como pedir para o ChatGPT ser mais direto nas respostas Leila Turner-Scott e Angus Scott, pais da vítima, movem atualmente um processo por homicídio culposo contra a OpenAI, empresa desenvolvedora da ferramenta de inteligência artificial (IA). A queixa sustenta que Nelson usava o chatbot como um recurso de auxílio para consumir drogas com “segurança”. Segundo a família, o ChatGPT se tornou uma espécie de instrutor para o uso de substâncias ilícitas durante as conversas com o jovem, e sua morte seria previsível e evitável. -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- Leila Turner-Scott, mãe de Sam Nelson (Imagem: Divulgação/Tech Justice Law) Dicas para entrar no “modo psicodélico total” Registros de conversas entre Nelson e o ChatGPT anexados ao processo e obtidos pelo site Ars Technica revelam que, à medida que o interesse dele por drogas aumentava, o chatbot seguia atuando como uma espécie de “coach das drogas”. Em algumas interações, a ferramenta sugeriu que poderia criar uma playlist de músicas que ajudariam o jovem a entrar em um “modo psicodélico total”. Ao mesmo tempo, termos usados pela vítima, como “vou ficar bem se” ou “é seguro consumir”, indicam que havia insegurança por parte dele durante as conversas. A ação também aponta que a IA da OpenAI chegou a fazer recomendações sobre a mistura de diferentes substâncias. Em determinado momento, o chatbot disse a Nelson que combinar Xanax (medicamento ansiolítico) com kratom (planta cujas folhas possuem compostos psicoativos) poderia ser “uma da...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/inteligencia-artificial/chatgpt-encorajou-adolescente-morto-por-overdose-aponta-processo/