Detector de IA da Meta falha ao identificar suas próprias imagens após recorte, diz agência

A ferramenta de detecção de imagens geradas por IA lançada pela Meta nesta semana falhou em identificar suas próprias criações quando submetidas a um recorte simples, segundo análise realizada pela Reuters. O teste usou 40 imagens geradas pelo Muse Image, novo modelo de geração de imagens da empresa. A ferramenta identificou corretamente todas as 40 originais. Mas, quando as mesmas imagens foram recortadas para aproximadamente um terço a metade do tamanho original, o detector falhou em 55% dos casos. Como o sistema funciona – e por que falha A Meta afirma que o sistema de detecção usa uma marca d’água invisível chamada Content Seal, embutida em cada imagem gerada pelo Muse Image. A tecnologia foi projetada para permitir que usuários verifiquem se uma imagem foi criada pelos modelos de IA da empresa – mesmo após edições comuns. Questionada sobre os resultados da análise da Reuters, a Meta lembrou que a ferramenta ainda está em fase de prévia. A empresa afirmou que a marca d’água é projetada para resistir a edições comuns, mas que o sinal pode ser perdido em recortes severos. O que dizem os especialistas Siwei Lyu, professor de ciência da computação da Universidade Estadual de Nova York em Buffalo e pesquisador de forense de imagens de IA, disse à Reuters que sistemas baseados em marca d’água têm limitações conhecidas. “Métodos baseados em marca d’água podem ser altamente eficazes quando a marca permanece intacta, mas qualquer modificação que remova ou enfraqueça o sinal embutido – como recorte, redimensionamento, compressão pesada ou edição – pode reduzir sua eficácia, dependendo de como a marca d’água foi projetada”, disse Lyu. Sarah Barrington, pesquisadora de IA e doutoranda na Escola de Informação da UC Berkeley, reconheceu as limitações, mas ponderou: “Como muitas medidas preventivas de cibersegurança ou segurança física, pode não ser totalmente à prova de falhas, mas mesmo que detectemos apenas 90% dos casos, ainda é um grande salto em relação a 0%.” Contexto e...

Fonte: Olhar Digital
Leia mais: https://olhardigital.com.br/2026/07/11/inteligencia-artificial/detector-de-ia-da-meta-falha-ao-identificar-suas-proprias-imagens-apos-recorte-diz-agencia/