Deepfakes: o que são e como identificar vídeos, fotos e áudios falsos

Deepfakes são imagens, áudios ou vídeos que criam cenários falsos com aparência real. Na maioria dos casos, colocam rostos e vozes de pessoas em situações que, na realidade, nunca existiram. São produtos criados com auxílio da inteligência artificial e, de modo geral, é muito difícil distingui-los de vídeos, cenas ou gravações de áudio reais.

O nome deepfake é formado pela união de “deep”, extraída da tecnologia “deep learning” (que significa aprendizado profundo), e fake, cuja tradução é “falso”. Não existe uma tradução livre para esse ternmo em português, mas pode-se dizer que são simplesmente “falsidades profundas”, criadas com alto grau de elaboração.

– Substituição de um rosto pelo outro (ou face swap, em inglês).
– Clonagem de voz, aparência e trejeitos (em que um ator é substituído pela vítima clonada)
– Adulteração da região da boca, para que o rosto acompanhe o áudio falso.

As deepfakes mais difíceis de se detectar são aquelas produzidas a partir de uma competição entre redes generativas adversárias. Enquanto uma recebe o comando para criar conteúdos falsos indetectáveis, outra recebe a ordem para descobrir e apontar falhas no primeiro. Esse processo resulta no contínuo aprimoramento do algoritmo.

Cheapfake é o nome que se dá para falsificações que não ficaram boas o suficiente para serem chamadas de deepfakes. A tradução livre é “falsificações baratas”.

As deepfakes podem nos fazer crer que alguém disse o que nunca diria, fez o que nunca faria ou esteve em alguma situação que jamais ocorreu. Várias situações podem decorrer disso, de golpes e fraudes diversas a tentativas de manipular a agenda pública e o debate democrático. Por exemplo, aqueles que as produzem podem nos enganar para obter informações pessoais sensíveis, como senhas bancárias e de contas de e-mail, ou mesmo para se fingir de parentes ou conhecidos para pedir empréstimos ou transferências financeiras.

A depender do tipo e técnica utilizada, a identificação de deepfakes pode ser muito difícil, mesmo para especialistas. Algumas deepfakes são tão sofisticadas que o desmascaramento exige uma análise profissional, com o apoio de técnicas e ferramentas de perícia.

Há algumas falhas comuns que, se bem observadas, denunciam a existência de um conteúdo fraudulento em formato de vídeo. São elas: 1) Diferenças entre o tom da pele do corpo e a tonalidade do rosto; 2) Anormalidades na movimentação dos olhos ou falta de naturalidade nas expressões; 3) Ausência de marca da pessoa, como uma pinta, tatuagem ou sinal; 4) Alterações, ainda que leves, no sotaque, na entonação ou na voz; 5) Falta de sincronia entre o movimento dos lábios e a fala; 6) Rigidez ou falta de naturalidade no movimento corporal; 7) mentos com aparência artificial, como o cenário, a iluminação, as cores e a própria expressão das pessoas reproduzidas no vídeo.

Há pistas que indicam que uma imagem ou foto é falsa, como a sombra apagada ao redor dos olhos, um fundo ou paisagem que não condiz com o local dos fatos, a ausência de brinco em uma das orelhas, a tonalidade de cor diferente entre as partes do corpo, detalhes estranhos no rosto, braços ou pernas desproporcionais, encaixe imperfeito entre cabeça e pesçoco, falhas na boca e língua, roupas estranhas. Para fazer uma análise mais precisa, abra em tela cheia no seu computador.

Confira se a voz, sotaque, entonação e vocabulário são compatíveis com os registros vocais e com o modo de ser da pessoa em questão; veja se, nos diálogos, há consistência entre o tempo de reação e resposta das pessoas envlvidas; analise se há diferença de volume ou equalização entre as falas de cada participante; observe se há interrupções abruptas de palavras, frases ou ideias, denunciando a presença de cortes ou edições.

É possível testar suas habilidades para descobrir deepfakes ando um site da Universidade de Northwestern: https://detectfakes. kellogg.northwestern.edu/

Em redes sociais e plataformas de vídeo, as falsidades profundas podem ser denunciadas por meio dos canais destinados ao envio de apontamentos sobre violação de regras de comunidade ou termos de uso.
Se as falsidades atentam contra a integridade das eleições, como no caso de deepfakes contra a urna eletrônica ou o trabalho realizado pela Justiça Eleitoral, as denúncias podem ser feitas no seguinte endereço: https://www.tse.jus.br/eleicoes/sistema-de-alertas
Notícias sobre a desinformação sobre o processo eleitoral em redes sociais também podem ser encaminhadas ao Tribunal Superior Eleitoral por telefone, por meio do disque-denúncia SOS Voto, através do número 1491.
O SOS Voto funciona de segunda a sexta, das 8h às 20h, e no sábado das 9h às 17h, tendo capacidade para receber até mil ligações diárias. Por fim, se as deepfakes envolverem a possibilidade de crime, como usurpação de identidade, golpes ou atentados contra a honra ou a imagem das pessoas, é possível reportá-las pelo telefone, ando o Disque Denúncia (181).

Sim. Prova disso foi a operação realizada pela Polícia Civil de Goiás no dia 11 de junho de 2024, que resultou no cumprimento de três mandados de prisão. Apurou-se que os investigados tentaram ar por mais de 700 vezes, de forma fraudulenta, 259 contas bancárias de um banco digital. Para isso, os criminosos utilizaram programas de inteligência artificial na tentativa de burlar o reconhecimento facial para abrir o aplicativo bancário dos correntistas, não logrando êxito em razão da eficiente atuação do Setor de Detecção e Prevenção a Fraudes do Banco. Caso tivessem ado as contas, os investigados teriam provocado um prejuízo de aproximadamente R$ 1,2 milhão.

Sim. A Polícia do Distrito Federal (PCDF) prendeu, em Santa Helena de Goiás, um homem de 24 anos suspeito de participar de grupo criminoso que manipulava vídeos com deepfake da imagem e voz do apresentador Marcos Mion para aplicar golpes. Trata-se da segunda fase da Operação Voice Over, deflagrada nesta sexta-feira (9).
Conforme a PCDF, a investigação começou em janeiro e segue para identificar outros possíveis envolvidos e vítimas do esquema criminoso. Para enganar as pessoas, o grupo usava vídeos manipulados com imagem e voz de Mion, e promovia promoções falsas de uma rede de restaurantes. Para isso, direcionavam as vítimas para sites fraudulentos desenvolvidos por eles que simulavam portais verdadeiros. Nesses sítios, ocorriam os pagamentos pelos descontos que não existiam.

Sim, em novembro de 2024 um homem foi preso por usar identidades e imagens falsas para alugar imóveis mobiliados, furtar objetos e seguir para os imóveis seguintes, sucessivamente. A prisão ocorreu após uma operação da Polícia Militar, que utilizou serviços de inteligência para identificar o autor. O homem confessou, durante interrogatório, a participação no esquema e detalhou seu papel na criação e manutenção dos sites clones (idênticos aos verdadeiros) para enganar as vítimas. Além da prisão, a polícia também cumpriu mandados de busca e apreensão, com a coleta de equipamentos eletrônicos e documentos que servirão como elementos probatórios. A Justiça também determinou bloqueios de contas bancárias vinculadas ao acusado.