Detector de IA da Meta falha em reconhecer suas próprias imagens

Uma nova ferramenta de detecção de conteúdo gerado por inteligência artificial da Meta, recém-lançada pela empresa, apresentou falhas ao não reconhecer suas próprias imagens após passarem por recortes simples. Segundo análise da Reuters, 55% das 40 imagens originais criadas pelo modelo Muse Image deixaram de ser identificadas pela ferramenta após terem seu tamanho reduzido para um terço ou metade.

A Meta afirma que o sistema utiliza uma marca d'água invisível chamada Content Seal, embutida nas imagens para verificar sua origem. No entanto, a empresa reconhece que o sinal pode ser perdido em edições mais severas, como recortes extensos, e que a ferramenta ainda está em fase preliminar.

As limitações da tecnologia surgem em um momento de crescente preocupação com a disseminação de deepfakes e conteúdo manipulado, especialmente em períodos eleitorais. Especialistas apontam que, embora não seja infalível, a detecção mesmo que parcial representa um avanço na segurança digital.