Meta passa a monitorar conversas de adolescentes com IA para alertar famílias sobre riscos

A Meta começou a monitorar conversas de adolescentes com sua inteligência artificial (IA) no Instagram, Facebook e Messenger para identificar possíveis riscos de suicídio e automutilação. A medida, anunciada nesta quinta-feira (29), permite que a empresa envie alertas aos pais e responsáveis quando o chatbot identificar sinais de que o jovem pode estar em perigo. A novidade também chegou ao Brasil e funciona para famílias que utilizam as ferramentas de supervisão parental da Meta. Além das conversas com a IA, o sistema poderá emitir notificações caso um adolescente pesquise repetidamente por conteúdos relacionados a suicídio ou automutilação no Facebook ou Instagram. Os alertas já estavam disponíveis para pesquisas no Instagram desde o primeiro semestre de 2026. Agora, a empresa ampliou o monitoramento para as buscas no Facebook e para interações com a Meta AI nas três plataformas. Segundo a Meta, as notificações não revelam o conteúdo das conversas nem os termos pesquisados pelos adolescentes. Os responsáveis recebem um aviso sobre o possível risco, acompanhado de orientações para abordar o assunto. Como a Meta monitora as conversas dos adolescentes? A empresa desenvolveu um sistema de inteligência artificial para identificar conversas nas quais adolescentes demonstram sinais de que podem estar pensando em suicídio ou automutilação. A ferramenta procura indícios de risco nas mensagens enviadas à Meta AI, incluindo referências indiretas à possibilidade de o jovem se machucar. Quando o sistema identifica uma interação preocupante, a conversa é encaminhada para uma análise humana. Segundo a Meta, todas as conversas sinalizadas pela IA passam por revisão manual antes do envio de uma notificação aos responsáveis. A companhia reconhece que o mecanismo pode gerar falsos alertas, principalmente quando as mensagens possuem interpretações ambíguas. Para as pesquisas realizadas no Facebook e Instagram, o funcionamento é diferente. O alerta será emitido quando o adolescente bu...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/apps/meta-passa-a-monitorar-conversas-de-adolescentes-com-ia-para-alertar-familias-sobre-riscos/