Pesquisadores comprovaram como é fácil apagar marca d’água digital de uma imagem (foto: CC0 Public Domain)
Talvez o aspecto mais assustador da IA seja sua capacidade de gerar falsificações magistrais. Agora também acontece que as marcas d’água digitais não são uma proteção confiável – elas podem ser facilmente superadas.
Mais recentemente, o ator Tom Hanks recorreu às redes sociais para denunciar um anúncio que usava uma imagem dele gerada por IA para promover um plano de saúde dentária. Foi demonstrado falsamente que um conhecido autor de vídeo estava oferecendo o iPhone 15 Pro por dois dólares cada.
Os cidadãos comuns também são visados. Cada vez mais rostos de pessoas aparecem em imagens de redes sociais sem o seu consentimento. O mais perturbador é o aumento da “pornografia de vingança”, em que amantes abandonados publicam imagens fabricadas dos seus ex-parceiros em cenas comprometedoras ou indecentes.
Uma abordagem importante para combater falsificações mestres é o uso de marcas d’água em conteúdo gerado por IA. Mas um artigo publicado em 29 de setembro no servidor de pré-impressão arXiv relata notícias preocupantes sobre a capacidade de conter o abuso digital.
Os professores da Universidade de Maryland realizaram testes demonstrando a facilidade de contornar as marcas d’água de segurança. “Atualmente, não temos uma marca d’água confiável”, disse Sohail Faizi, um dos autores do relatório “Resiliência a detectores de imagens artificiais: limitações fundamentais e ataques práticos”. Fazey destaca que sua equipe conseguiu “quebrar todo mundo”.
A equipe usou um processo chamado limpeza por difusão, que aplica ruído gaussiano à marca d’água e depois o remove. A imagem é apenas ligeiramente alterada, então a imagem passa pelos algoritmos de detecção. O resto da imagem é apenas minimamente alterado.
Ainda assim, Fazey compartilha algum otimismo. “Com base em nossos resultados, projetar uma marca d’água robusta é uma tarefa desafiadora, mas não necessariamente impossível”, disse ele.
Por enquanto, as pessoas devem fazer a devida diligência ao visualizar imagens que contenham conteúdo que possa ser importante para elas. É preciso vigilância, dupla verificação das fontes e uma boa dose de bom senso.
Teste Agora! 
