Meta usou contas falsas de menores para testar chatbots rivais com prompts sobre suicídio e drogas, diz Wired

Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail. A Meta instruiu centenas de contratados a criar contas falsas de usuários menores de idade e usá-las para enviar prompts sobre suicídio, transtornos alimentares, drogas e outros temas de alto risco a chatbots de empresas rivais, segundo documentos internos e cinco pessoas familiarizadas com o projeto, conforme matéria exclusiva da Wired. O projeto, chamado internamente de Cannes e gerenciado pela contratada Covalen, estava ativo até pelo menos 21 de abril de 2026. Uma única rodada de testes realizada em agosto de 2025 gerou mais de 45 mil prompts enviados aos sistemas rivais. As empresas testadas não foram informadas sobre o projeto. Como o projeto funcionou Os contratados foram instruídos a criar contas com dados fictícios de menores de idade, enviar prompts escritos e imagens aos chatbots e registrar as respostas em planilhas. Os prompts foram projetados para empurrar os sistemas para respostas que seus mecanismos de segurança deveriam recusar, segundo as instruções do projeto revisadas pela Wired. Um documento interno da Covalen descreveu o projeto como “benchmarking abrangente de segurança de IA” que entregava “conjuntos de dados críticos para comparação de modelos.” Contratados relataram preocupações Ex-contratados ouvidos pela Wired descreveram aspectos do projeto como alarmantes. Segundo um deles, funcionários temiam a possibilidade de estar gerando ou preservando material de abuso sexual infantil caso um chatbot respondesse a determinados prompts envolvendo menores. “Vi muitas coisas que gostaria de não ter visto fazendo esse trabalho”, disse um dos ex-contratados à Wired. “Todos que eu conhecia nesse projeto ficaram completamente chocados com alguns dos textos que nos pediam para tes...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/06/29/inteligencia-artificial/meta-usou-contas-falsas-de-menores-para-testar-chatbots-rivais-com-prompts-sobre-suicidio-e-drogas-diz-wired/