O volume de deepfakes — conteúdos falsificados com recursos de inteligência artificial — cresce de forma acelerada na internet, enquanto pesquisadores e empresas correm para criar ferramentas capazes de distinguir material autêntico de produções geradas por algoritmos.
O que é deepfake e como a tecnologia evoluiu
O termo combina “deep learning” e “fake” para indicar fraudes criadas por redes neurais. A técnica permite fabricar fotos, vídeos e áudios quase idênticos aos originais, substituindo rostos, vozes ou até inventando cenas completas.
Com softwares acessíveis na web, qualquer usuário pode gerar conteúdo forjado. O recurso é explorado em golpes financeiros, manipulação política e anúncios não autorizados com celebridades.
Ferramentas para detectar imagens falsificadas
Deepfake-o-Meter reúne 16 algoritmos de código aberto
Pesquisadores da Universidade de Buffalo, nos Estados Unidos, lançaram o Deepfake-o-Meter, considerado o serviço mais abrangente para análise de fotos, vídeos e áudios. Basta cadastro por e-mail para receber 30 créditos, consumidos a cada verificação.
No teste com a imagem do Papa Francisco usando jaqueta acolchoada branca — criada no Midjourney — apenas dois dos dezesseis motores apontaram probabilidade superior a 50% de falsificação. Em outro experimento, sete detectores reconheceram como gerada por IA a foto de uma mulher produzida no Canva.
Sightengine oferece resposta rápida, mas resultados variáveis
A empresa francesa Sightengine processa arquivos em segundos. Para o retrato da mulher, indicou 99% de chance de ser artificial. Já na imagem do Papa, o sistema atribuiu apenas 53% de probabilidade, evidenciando incerteza semelhante à vista no Deepfake-o-Meter.
Falhas visuais ainda entregam deepfakes
Mesmo com avanços, detalhes anatômicos continuam vulneráveis. A renderização de mãos costuma mostrar número incorreto de dedos ou proporções estranhas. Braços e pernas podem surgir deslocados, cabelos apresentam fios sem direção natural e peças de roupa exibem botões e costuras inconsistentes.
Textos inseridos na cena surgem ilegíveis, sombras não seguem a fonte de luz e objetos podem ter dimensões incompatíveis. Esses indícios ainda permitem reconhecimento a olho nu em diversos casos.
Detectores específicos para vídeos gerados por IA
Comparativo entre Deepware.ai e Hive em filmes criados pelo Sora
A explosão de realismo nos vídeos ocorreu após o lançamento do gerador Sora, da OpenAI. Para avaliar dois serviços gratuitos, especialistas submeteram clipes do Sora ao Deepware.ai e ao detector da Hive.
O Deepware.ai não identificou nenhum arquivo como deepfake. Já o Hive sinalizou 99% de probabilidade de falsificação em todas as amostras, indicando desempenho mais consistente nessa rodada de testes.
Imagem: Jörn via pcworld.com
Textos sintéticos e a padronização estilística
Scribbr e Isgen.ai analisam características linguísticas
Chatbots como ChatGPT produzem textos gramaticalmente corretos, mas mantêm estrutura de frases homogênea e pouca variação rítmica. Plataformas como Scribbr avaliam esses padrões em inglês, francês, espanhol, alemão e holandês sem custo.
O Isgen.ai cobre dezenas de idiomas; contudo, a modalidade gratuita limita 12 000 palavras por mês em até 50 consultas. Ambos indicam percentuais de autoria humana ou artificial, embora sujeitos a imprecisões.
Clonagem de voz e soluções de verificação
Com software de clonagem em tempo real, criminosos reproduzem voz alheia usando gravações de poucos segundos. Estudos indicam que participantes reconhecem a fraude em dois terços dos casos, mas golpes telefônicos já ocorrem com sucesso.
A McAfee lançou detector de voz falso compatível com processadores Intel Core Ultra 200V. Outros serviços, como Resemble.ai, AI Voice Detector e a extensão Hiya, também classificam arquivos de áudio ou transmissões em tempo real.
Análise de mensagens potencialmente fraudulentas
Além de conteúdos multimídia, golpes via SMS e e-mail empregam urgências falsas para coletar dados pessoais. O fabricante de segurança Bitdefender criou o Scamio, que verifica links, textos e anexos com algoritmos de IA em busca de tentativa de phishing.
O sistema aceita qualquer formato de mensagem e apresenta resultadode risco em poucos segundos, ampliando o conjunto de barreiras contra ataques que utilizam material manipulado.
Panorama atual de acerto e erro na detecção de deepfakes
Os testes mostram que nenhum detector sozinho é capaz de apontar falsificações com total segurança. Ferramentas acadêmicas e comerciais variam na precisão conforme o tipo de arquivo, o algoritmo gerador e a complexidade da cena.
Enquanto a produção de deepfakes evolui, universidades, startups e empresas de cibersegurança ampliam pesquisas para acompanhar o ritmo das fraudes digitais, em busca de métodos mais confiáveis de autenticação de imagens, vídeos, áudios e textos.