Meta corrige IA após ferramenta sugerir perguntas invasivas sobre crianças

Meta atualiza sugestões de IA em vídeos nos apps da empresa (ilustração: Vitor Pádua/Tecnoblog) Resumo Meta anunciou mudanças em seu assistente de IA após uma usuária relatar que a ferramenta sugeria perguntas invasivas sobre suas filhas. A IA cruzou dados de parentes e exibiu uma foto que havia sido apagada, reunindo dados sobre suas filhas, incluindo nomes, datas de aniversário e vídeos. A empresa admitiu que “errou o alvo” e que a tecnologia “jamais deveria ter sugerido perguntas como essas a um indivíduo”. Que as redes sociais expõem muito sobre alguém, todo mundo já sabe. Mas a IA parece estar facilitando o processo: a Meta anunciou mudanças no assistente integrado às suas plataformas depois que uma mulher descobriu que a ferramenta cruzava informações para sugerir perguntas invasivas sobre sua filha. Segundo Kalie Robins, a Meta AI perguntou “Quem é a criança?” em um vídeo que mostrava ela e a própria filha cantando dentro de um carro. A publicação foi compartilhada no Instagram e no Facebook. Ao clicar na sugestão, Robins afirma ter encontrado um “portfólio completo” de informações não apenas sobre a filha que aparecia no vídeo, mas também sobre sua outra filha, que não estava na cena. De acordo com o Futurism, isso teria acontecido porque a IA cruzou informações publicadas por outros integrantes da família, incluindo dados que não haviam sido compartilhados pela própria Robins. A porta-voz da Meta Dina El-Kassaby admitiu que a companhia “errou o alvo” e que a tecnologia “jamais deveria ter sugerido perguntas como essas a um indivíduo”. Segundo ela, a equipe já corrigiu o problema que permitia a geração de sugestões relacionadas a assuntos pessoais. No entanto, vale notar que a correção é para as sugestões. Isso não significa, necessariamente, que a plataforma impedirá o chatbot de fornecer essas informações caso um usuário faça uma pergunta diretamente. IA traz dados de publicações antigas IA sugeria perguntas invasivas sobre a criança no vídeo (imagem: repr...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/meta-corrige-ia-apos-ferramenta-sugerir-perguntas-invasivas-sobre-criancas/