Deepfake

Deepfake Definição: Deepfake é um tipo de mídia sintética [imagem, vídeo, áudio ou texto] manipulada ou criada por meio de inteligência artificial, especialmente com técnicas de aprendizado profundo [deep learning], para reproduzir de forma realista a aparência, a voz, os gestos ou o comportamento de uma pessoa que não realizou aquela ação ou fala, com riscos associados à prática de condutas ilegais e em desconformidade com as normas de proteção de dados. Atributos:

Realismo elevado: reprodução fidedigna de detalhes visuais e sonoros.
Manipulação multimodal: pode envolver elementos visuais, sonoros e até comportamentais.
Dificuldade de detecção: quanto mais sofisticada a técnica, mais difícil identificar a falsificação.
Escalabilidade: criação facilitada por softwares acessíveis e modelos pré-treinados.
Potencial de uso legítimo e malicioso: variando de entretenimento e educação a fraude e desinformação .

Tipos:

Deepfake de vídeo: substituição de rostos ou manipulação de movimentos e expressões em filmagens.
Deepfake de áudio (voice cloning): imitação de vozes por meio de síntese de fala e adaptação de timbre e entonação.
Deepfake de imagem: criação ou alteração de fotografias para inserir rostos ou modificar atributos.
Textos sintéticos: geração automática de trechos com estilos e vocabulários específicos.
Deepfake 3D e de corpo inteiro: alteração de postura, corpo e aparência em ambiente tridimensional.
Deepfakes em tempo real: modificação instantânea durante transmissões ao vivo .

Classificações:

Maliciosos: usados para desinformação, fraude, difamação, extorsão, pornografia não consentida e manipulação política.
Não maliciosos: empregados em filmes, jogos, dublagens, publicidade, preservação cultural, educação assistida e acessibilidade .

Especificações Técnicas:

Tecnologias-chave: Redes Adversárias Generativas (GANs), autoencoders, modelos de difusão e transformers.
Requisitos: grandes volumes de dados de treino do alvo, capacidade de processamento gráfico (GPUs) e algoritmos de detecção e ajuste fino (fine-tuning).
Processo: coleta e pré-processamento de dados → treinamento do modelo → geração e ajuste do conteúdo → pós-processamento para integração realista .

Exemplos:

Vídeo falso de Barack Obama criado como alerta sobre desinformação (BuzzFeed/Jordan Peele).
Voice deepfake usado para enganar um CEO e autorizar transferência de €220 mil.
Vídeo manipulado de Nancy Pelosi para parecer embriagada.
Deepfake de Volodymyr Zelensky pedindo rendição a tropas ucranianas.
Conteúdos de marketing e dublagem de filmes usando substituição facial.

Glossário de Termos:

GAN (Generative Adversarial Network): estrutura de IA com um gerador e um discriminador que competem para criar outputs cada vez mais realistas.
Autoencoder: rede neural que aprende representações comprimidas e reconstrói a entrada, usada para mapear rostos .
Voice Cloning: clonagem de voz por IA a partir de amostras gravadas.
Liveness Detection: técnica para verificar se o conteúdo é de uma pessoa real presente, usada contra spoofing e deepfakes.
Media Forensics: análise técnica para identificar manipulações e estabelecer a autenticidade de conteúdos digitais .
Difusão (Diffusion Models): modelos gerativos que criam mídias a partir de ruído, permitindo maior controle sobre o resultado.