A IA pode nos levar para uma "Alice no País das Maravilhas"?

 

Por Giovanni La Porta, CEO da vortice.ai

Imagem Ilustrativa. (Crédito: Divulgação)

A possibilidade de criar ou falsear imagens, sons e vídeos utilizando Inteligência Artificial não é mais ficção científica. Hoje, diferentes técnicas permitem gerar ou manipular conteúdos digitais com um nível de realismo impressionante. Embora isso abra oportunidades criativas importantes, também levanta discussões sérias sobre uso indevido da tecnologia.

 

Uma das técnicas mais conhecidas é o deepfake ou modelos generativos mais recentes. Nesses sistemas, uma rede neural aprende a reproduzir o rosto de uma pessoa analisando milhares de imagens ou vídeos dela. Depois disso, o modelo consegue sobrepor esse rosto em outro vídeo, sincronizando expressões faciais e movimentos labiais. É assim que se produzem vídeos aparentemente reais de alguém dizendo algo que nunca disse.

 

Outra técnica comum é a síntese de voz por IA. Modelos de voice cloning conseguem aprender o timbre, ritmo e entonação da voz de uma pessoa a partir de alguns minutos de áudio. A partir desse aprendizado, é possível gerar novas falas com aquela mesma voz.

 

No caso de imagens, modelos de difusão generativa conseguem criar fotografias extremamente realistas a partir de descrições em texto. Com técnicas de inpainting e face swapping, é possível modificar uma imagem real de uma pessoa ou mesmo falsear imagens de documentos.
 

Diante disso, surge uma pergunta natural: se a tecnologia permite criar conteúdos tão convincentes, como saber o que é real? A resposta importante é que quase todos esses processos deixam rastros digitais. Modelos generativos produzem padrões matemáticos nas imagens, chamados de artefatos estatísticos, que podem ser detectados por ferramentas forenses, junto com metadados, assinaturas criptográficas, inconsistências de iluminação, padrões de compressão e até microdetalhes nos pixels.

 

Uma comparação simples ajuda a entender, criar um deepfake pode parecer como produzir uma nota falsa muito bem impressa, mas assim como no dinheiro falsificado, sempre existem pequenas diferenças no papel, na tinta ou nos padrões que permitem que especialistas identifiquem a falsificação. Aos olhos do usuário é apenas mais uma nota, mas para o perito não há dúvidas que é uma fraude.

 

Por isso, ao mesmo tempo em que a IA amplia a capacidade de criação humana, ela também está impulsionando o desenvolvimento de tecnologias de verificação e autenticação de conteúdo, como assinaturas digitais, sistemas de proveniência de mídia e mecanismos de rastreabilidade.

 

No final, a questão não é apenas o que a tecnologia permite fazer, mas como escolhemos utilizá-la. Acredito que a IA é uma ferramenta poderosa, capaz de educar, criar, inovar e resolver problemas complexos. Mas como qualquer tecnologia ao longo da história, tudo dependerá do uso que fazemos dela. 

 

Giovanni La Porta - CEO e co-fundador

Empreendedor, especialista em tecnologia com mais de 25 anos de experiência. Formado em Ciências da Computação pela UFMG com especialização do Oxford Artificial Intelligence Programme e extensão em Artificial Intelligence Business Strategy pela MIT. Atualmente, é CEO, co-fundador e pesquisador da Vortice.ai.