Ainda abordando o receio do público em relação à evolução da inteligência artificial, neste ensaio discutirei outro tópico bastante polêmico: o Face Swap. No ensaio anterior, falei sobre os modelos NSFW (Not Safe For Work) e sua capacidade de gerar conteúdos sensíveis. Entre essas capacidades, destaca-se o Face Swap, que é a tecnologia de aplicar o rosto de uma pessoa no lugar do rosto de outra em fotos ou vídeos. Essa inovação tem sido amplamente utilizada em aplicativos de edição de imagem, redes sociais e projetos de deepfake, gerando uma série de debates e preocupacões.
Embora fascinante, o Face Swap apresenta riscos significativos, principalmente no contexto de deepfakes. A tecnologia pode ser usada para criar vídeos falsos de figuras públicas ou privadas, colocando palavras ou ações que nunca aconteceram. Isso tem implicações graves, como disseminação de desinformacão, cyberbullying e até mesmo extorsão. Além disso, a facilidade de acesso a ferramentas de Face Swap torna a tecnologia acessível a qualquer pessoa, aumentando os riscos de uso indevido.
Recentemente, veio à tona o caso de uma designer de interiores francesa que foi vítima de um golpe sofisticado, levada a acreditar que estava em um relacionamento amoroso com o ator Brad Pitt. Um perfil falso do ator iniciou contato, enviando mensagens carinhosas e fotos manipuladas por inteligência artificial do tipo Face Swap, que mostravam Brad Pitt em um leito de hospital. O golpista, utilizando o perfil falso, alegou estar enfrentando problemas financeiros, o que levou a vítima a transferir aproximadamente €830.000 para a conta dos criminosos.
Além disso, o uso do Face Swap para a geração de material controverso representa um perigo significativo, especialmente quando se trata de criar deepfakes que inserem rostos de artistas ou pessoas comuns em conteúdos delicados. Essa prática viola grave
mente a privacidade, a dignidade e os direitos das vítimas, muitas vezes levando a consequências emocionais, sociais e profissionais devastadoras. Em adição, a facilidade com que essas tecnologias estão acessíveis nos próprios smartphones permite que qualquer pessoa com habilidades básicas manipule vídeos ou imagens, aumentando o risco de difamação e extorsão.
Para se proteger contra os perigos do Face Swap, algumas medidas são essenciais. Primeiro, é importante verificar a autenticidade de imagens e vídeos, especialmente em contextos sensíveis. Plataformas de redes sociais e organizações devem implementar tecnologias de detecção de deepfake, como o uso de assinaturas digitais em vídeos originais. Além disso, educar o público sobre os riscos e sinais de conteúdos manipulados é fundamental. Por fim, regular o uso dessa tecnologia, estabelecendo limites éticos e legais, é crucial para minimizar os impactos negativos.