Inteligência Artificial · inteligencia-artificial
Ferramenta alemã RealOrRender detecta deepfakes com até 91% de precisão e explica por que a imagem é falsa
Pesquisadores do instituto alemão Fraunhofer IOSB, em parceria com o BSI, desenvolveram a RealOrRender, ferramenta que identifica imagens sintéticas com 85% a 91% de precisão e usa IA explicável para mostrar exatamente por que classificou uma imagem como falsa.

Detectar deepfakes já é uma tarefa difícil. Explicar de forma clara por que uma determinada imagem é falsa é ainda mais complicado. Pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (IOSB), na Alemanha, desenvolveram uma ferramenta que faz as duas coisas, com uma taxa de detecção entre 85% e 91%, segundo comunicado divulgado pelo instituto e replicado pelo Olhar Digital em 2 de agosto de 2026.
A ferramenta se chama RealOrRender e foi criada em parceria com o Escritório Federal Alemão de Segurança da Informação (BSI, na sigla em alemão), agência que também financia o projeto, batizado internamente de RealOrRender. Segundo o Fraunhofer IOSB, o objetivo é mostrar como métodos inovadores de IA podem ser usados para distinguir de forma confiável e robusta deepfakes de imagens reais.
A abordagem é híbrida e, segundo os pesquisadores, inédita. Em vez de recorrer apenas a um classificador tradicional de aprendizado profundo, a RealOrRender combina dois métodos em sequência. Primeiro, um gerador de imagens de IA tenta reconstruir a imagem que está sendo analisada. Quanto mais bem-sucedida for essa reconstrução, maior a probabilidade de que a imagem original também tenha sido gerada por inteligência artificial — a lógica é que uma IA consegue replicar com mais facilidade aquilo que outra IA criou. Em seguida, um modelo de classificação calcula o erro dessa reconstrução e gera uma estimativa de autenticidade expressa em porcentagem.
"Primeiro, usamos um gerador de imagens de IA para reconstruir a imagem. Em seguida, um modelo de IA assume a classificação e realiza um cálculo híbrido do erro de reconstrução. Por fim, obtemos uma estimativa que exibe a precisão do reconhecimento em porcentagem", explicou Andreas Specker, cientista sênior do grupo de pesquisa de Sistemas de Segurança e Assistência por Vídeo do Fraunhofer IOSB, em comunicado. Segundo Specker, a taxa geral de detecção fica entre 85% e 91%, podendo ser ainda mais alta em casos individuais. A combinação das duas abordagens melhora significativamente a precisão em relação ao uso isolado de cada método.
O que diferencia a RealOrRender de outras ferramentas de detecção, porém, não é apenas a precisão, mas a capacidade de explicar suas conclusões. Simplesmente apontar uma falsificação não é suficiente para os pesquisadores; entender por que o método identificou uma imagem como deepfake é igualmente importante. Para isso, a equipe recorre a métodos de IA explicável (XAI, na sigla em inglês).
"Texturas distintivas ou padrões de frequência característicos podem indicar a origem sintética de uma imagem. O XAI ajuda a mostrar quais características o modelo usa em sua decisão", disse Nadia Burkart, chefe do grupo de IA Explicável Aplicada do Fraunhofer IOSB, em comunicado. Os pesquisadores classificam os métodos de XAI utilizados em duas categorias principais: abordagens baseadas em mapas de calor, que destacam as regiões da imagem que mais contribuíram para a decisão do modelo, indicando também o grau de influência de cada fator; e abordagens baseadas em segmentação, que analisam regiões contíguas e semânticas da imagem — como rosto, cabelo ou plano de fundo — para identificar quais delas denunciam a origem artificial.
Em testes com um grande conjunto de dados de imagens, os pesquisadores demonstraram que essa abordagem híbrida e orientada à explicabilidade supera métodos atuais de detecção. Segundo o Fraunhofer IOSB, o resultado é uma nova geração de sistemas inteligentes capazes de aprender e, ao mesmo tempo, permanecer transparentes e confiáveis — um ponto sensível especialmente para aplicações que exigem prestação de contas, como moderação de conteúdo e investigações forenses.
A pesquisa está sendo incorporada a um demonstrador que vai auxiliar inicialmente o BSI na detecção de deepfakes. O uso da ferramenta é simples: o usuário faz o upload de uma imagem e recebe o resultado da detecção, seguido de uma explicação visual e um resumo em texto. Os pesquisadores já publicaram dois relatórios sobre o projeto, e a tecnologia tem aplicação potencial não apenas para agências de segurança, mas também para plataformas de redes sociais, empresas de mídia e agências de fotografia que precisam justificar decisões de moderação ou verificação de conteúdo.
O contexto que dá urgência ao projeto é significativo: em 2025, fraudes envolvendo deepfakes ultrapassaram US$ 1,5 bilhão em prejuízos ao redor do mundo. Uma investigação de 2023 já havia encontrado 276.149 deepfakes de conteúdo sexual em um único site dedicado ao tema, dos quais 96% retratavam mulheres. Seres humanos, segundo os pesquisadores, têm enorme dificuldade em distinguir imagens autênticas de falsificações a olho nu, e as ferramentas automáticas existentes raramente explicam seus resultados — uma limitação que reduz sua utilidade prática para jornalistas, plataformas de redes sociais e agências de segurança que precisam justificar publicamente decisões de moderação de conteúdo.