Além do Desempenho: Um Estudo da Confiabilidade de Detectores de Deepfakes

TL;DR

Este estudo aborda a limitação de avaliar detectores de deepfakes apenas por acurácia, propondo um framework de confiabilidade com quatro pilares ($T$, $R$, $I$, $E$) que é integrada em um escore global ($SCG$). Aplica o framework a cinco detectores do estado da arte, revelando progressos substanciais em transferibilidade e robustez, mas destacando lacunas críticas como a ausência de testes contra ataques adversariais e a falta de interpretabilidade integrada. A análise também evidencia trade-offs entre desempenho e custo computacional, sugerindo a necessidade de padrões de avaliação padronizados e reprodução de experimentos para orientar o desenvolvimento de detectores mais transparentes e práticos. Em termos práticos, o trabalho oferece um caminho claro para comparar métodos multidimensionalmente, promovendo soluções mais confiáveis e utilizáveis em cenários reais de detecção de deepfakes.

Abstract

Deepfakes are synthetic media generated by artificial intelligence, with positive applications in education and creativity, but also serious negative impacts such as fraud, misinformation, and privacy violations. Although detection techniques have advanced, comprehensive evaluation methods that go beyond classification performance remain lacking. This paper proposes a reliability assessment framework based on four pillars: transferability, robustness, interpretability, and computational efficiency. An analysis of five state-of-the-art methods revealed significant progress as well as critical limitations.

Figures (4)

• Figure 1: Esquema de uso de autoencoders para reencenação: (a) Treinamento com codificador compartilhado e decodificadores específicos por identidade; (b) Geração da face final, combinando a expressão da imagem de entrada com a identidade do alvo.
• Figure 2: Esquema de treinamento de uma GAN para geração de faces. O gerador cria imagens sintéticas enquanto o discriminador tenta distingui-las das reais, em um processo adversarial que leva à geração de faces mais realistas.
• Figure 3: Esquema de treinamento do DiffFace. Um codificador de identidade insere atributos no espaço latente da U-Net, que aprende a reconstruir rostos a partir de imagens ruidosas. As perdas de ruído e identidade orientam o ajuste dos pesos. Adaptado de kim:25.
• Figure 4: Comparação entre (a) a abordagem tradicional de avaliação de detectores de deepfakes, centrada apenas em métricas de desempenho e robustez, e (b) o framework proposto neste trabalho, que incorpora e quantifica os quatro pilares da confiabilidade.