IA do Google expõe crianças a riscos graves e preocupa pais; empresa rebate

As ferramentas de inteligência artificial da Busca do Google, AI Overviews e Modo IA, receberam classificação de "risco inaceitável" para crianças em um relatório do Youth AI Safety Institute, braço da organização Common Sense Media. A avaliação aponta falhas na forma como o sistema lida com tarefas escolares, informações incorretas e situações de crise de saúde mental. Os pesquisadores testaram a Busca do Google com contas configuradas para usuários de 11 e 15 anos, com o SafeSearch ativado. Essa configuração reproduz o modo como muitos menores acessam o buscador em dispositivos pessoais e escolares. Ao todo, foram realizadas mais de 2,6 mil buscas e analisadas mais de 2,1 mil respostas geradas por IA. Relatório aponta respostas erradas e falhas em crises Segundo o relatório, as AI Overviews completaram tarefas escolares em vez de ajudar os estudantes a aprender. Parte das respostas trazia informações incorretas ou inventadas, incluindo instruções sobre como criar deepfakes. O documento também identificou falhas no tratamento de mensagens relacionadas a crises de saúde mental. Em um dos casos citados, a IA indicou aos usuários uma linha de apoio a crises que já estava desatualizada. Controle dos pais sobre a IA é limitado Um dos pontos centrais da crítica é a dificuldade de os pais desativarem os recursos de IA no Search. As AI Overviews estão integradas ao buscador e não podem ser removidas de forma simples, embora exista uma opção para desligar a função. Isso significa que crianças podem visualizar essas respostas mesmo com o SafeSearch habilitado. A Common Sense Media afirma que 75% dos pré-adolescentes e adolescentes dos Estados Unidos já utilizam resultados de busca gerados por IA.   Google nega falhas e classifica testes como "contrivados" Procurado pela Android Authority, o Google rejeitou as conclusões do relatório. Em nota, a empresa disse que os testes usaram consultas "ambíguas e contrivadas" — ou seja, forçadas e exageradas —, que não refletem o uso rea...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/inteligencia-artificial/ia-do-google-expoe-criancas-a-riscos-graves-e-preocupa-pais-empresa-rebate/