A I que cria “falsificações realistas”
Luz e sombra do Deepfake, tudo sobre ele
Não se preocupe se você não entende muito sobre IA! Depois de ler este artigo, você vai entender perfeitamente o que é o famoso “deepfake” e como ele pode afetar a nossa vida.
O que você vai aprender neste artigo💡
Você já ouviu falar em “deepfake” nas notícias, mas não entende muito bem? Este artigo é para você! Ao terminar de ler, você vai ter clareza sobre os seguintes pontos:
- **Como são criados** vídeos e áudios falsos que parecem reais
- As aplicações de um **”bom deepfake”** que são úteis em filmes e na medicina
- As táticas assustadoras de um **”deepfake ruim”** que podem te enganar
- **Como podemos nos proteger** a partir de agora
1. O que é Deepfake? ~O espelho mágico criado pela IA~
Você já viu algum vídeo de celebridade super realista nas redes sociais ultimamente? Talvez fosse um “deepfake”. Em poucas palavras, deepfake é **”um vídeo ou áudio falso, mas muito parecido com o original, criado por inteligência artificial”**. É como um espelho mágico que pode trocar o rosto de uma pessoa pelo de outra, ou fazer com que alguém diga coisas que nunca disse.
No coração dessa tecnologia está o deep learning, um tipo de inteligência artificial. Em particular, um mecanismo chamado GANs (Redes Generativas Adversariais) é frequentemente usado. Pode parecer um termo complicado, mas o funcionamento é surpreendentemente simples.
Doutor IA
Podemos comparar os GANs a um “falsificador de notas” e um “detetive que as desmascara” competindo entre si.
Você
Um falsificador e um detetive? Parece interessante!
Doutor IA
O falsificador (IA Geradora) cria notas falsas (vídeos falsos) cada vez mais realistas para enganar o detetive (IA Discriminadora). O detetive se esforça para desmascarar as falsificações. Ao repetir essa competição milhões de vezes, o falsificador consegue criar notas falsas tão perfeitas que nem mesmo o detetive consegue distingui-las.
Você
Entendi! As IAs se aprimoram mutuamente, tornando-se cada vez mais realistas!
2. Usos incríveis do Deepfake! O lado bom✨
Embora a palavra “falso” possa ter uma conotação negativa, o deepfake também tem o potencial de enriquecer nossas vidas. Podemos chamá-lo de “deepfake bom”. Vamos ver alguns exemplos concretos!
Entretenimento
No filme ‘Star Wars’, foi possível ver um jovem Luke Skywalker, ou dublar filmes estrangeiros com a voz original dos atores em português. Também é possível trazer de volta atores falecidos para as telas, expandindo infinitamente o leque de expressões artísticas.
Saúde e Bem-estar
Pessoas que perderam a voz devido a doenças podem recuperá-la a partir de dados de áudio antigos e conversar com suas famílias. Essa possibilidade, que parecia um sonho, está se tornando realidade. Além disso, o deepfake está sendo usado para simulações realistas em treinamentos médicos.
Educação
Grandes figuras históricas, como Albert Einstein, poderiam nos ensinar física como se estivessem vivos hoje. Essa experiência de aprendizado interativa pode tornar os estudos muito mais divertidos.
Publicidade e Arte
É possível criar anúncios atraentes com personagens fictícios gerados por IA, sem a necessidade de contratar modelos ou celebridades. Isso reduz os custos de produção e permite a criação de arte e publicidade com uma ampla variedade de expressões.
3. Não se deixe enganar! As armadilhas assustadoras do Deepfake 👿
Assim como há luz, há sombra. O deepfake também tem um lado muito perigoso. Especialmente fraudes e disseminação de informações falsas através de “impersonificação” estão se tornando um problema social sério.
Caso 1: Fraude Financeira – R$200 milhões de prejuízo apenas com a “voz”
Este é um caso real. Em Hong Kong, o gerente financeiro de uma empresa participou de uma videoconferência. Lá, estavam o CFO e colegas da sede no Reino Unido. No entanto, todos, exceto o gerente financeiro, eram **deepfakes**.
Induzido por um e-mail falso
Recebeu um e-mail falso, se passando pelo chefe, pedindo para participar de uma reunião de vídeo urgente.
Reunião falsa que parecia real
Na reunião, o chefe e os colegas pareciam e soavam exatamente como os verdadeiros. Não percebeu que eram deepfakes.
Instrução de transferência secreta
O falso chefe pediu para transferir dinheiro para várias contas, dizendo que era uma “transação confidencial”.
Prejuízo massivo
Acreditando, o gerente transferiu um total de aproximadamente R$200 milhões. Mais tarde, ao verificar com a sede real, descobriu que era uma fraude.
Nesse incidente, quando a voz e o rosto são tão parecidos com os reais, fica difícil até mesmo desconfiar.
Caso 2: Desinformação e interferência eleitoral
Deepfakes também podem abalar a confiança da sociedade em sua base. Por exemplo, o que aconteceria se vídeos falsos de um candidato fazendo declarações extremas que nunca disse fossem espalhados durante um período eleitoral? Os eleitores não saberiam em quem confiar, e eleições justas não seriam possíveis. Isso pode se tornar uma ameaça à própria democracia.
Caso 3: Pornografia falsa – Seu rosto sendo usado em crimes
E, entre os usos indevidos mais graves do deepfake, que pisoteiam a dignidade individual, está a **”pornografia falsa”**. Trata-se de um ato extremamente malicioso em que fotos do rosto de uma pessoa são usadas sem permissão e sintetizadas em vídeos ou imagens obscenas.
Você pode pensar: “Isso só acontece com celebridades, certo?”. Mas isso é um grande engano. Hoje em dia, basta uma única foto do rosto postada nas redes sociais para que qualquer pessoa possa se tornar uma vítima. E, uma vez que se espalha pela internet, é quase impossível remover completamente, assombrando a vítima para sempre como uma “tatuagem digital”.
⚖️Isso não é “brincadeira”. É “crime”.
A criação e disseminação de pornografia falsa é uma violação imperdoável dos direitos humanos que fere profundamente o coração das vítimas.
No Brasil, a legislação para punir tais atos está avançando.
Leis como a LGPD e o Marco Civil da Internet, além de projetos de lei específicos para deepfakes, têm como objetivo coibir a criação, distribuição e armazenamento de deepfakes maliciosos. Um ato que parece inocente pode arruinar a sua vida. Nunca se esqueça disso.
4. O que podemos fazer? 🛡️ Dicas para sobreviver na era do Deepfake
Com uma tecnologia tão sofisticada, você deve estar se perguntando como podemos identificá-la. Não existe uma solução perfeita, mas há coisas que podemos fazer individualmente, e esforços estão sendo feitos em nível social.
① O que você pode fazer: Crie o hábito de “checar” as informações
Se algo parecer estranho, não acredite imediatamente. Essa pausa é importante. Tente “checar” as informações como se estivesse fazendo um exame de saúde. Veja os pontos a seguir:
🤔 Quiz do Deepfake 🤔
Este vídeo parece suspeito? Onde devo verificar?
※Clique no botão para verificar a resposta!
E o mais importante, esteja sempre ciente de **”de onde veio a informação?”**.
Acostume-se a verificar várias fontes, como órgãos oficiais e sites de grandes mídias confiáveis.
② Esforços da sociedade: Combatendo com tecnologia e leis
Além de nós individualmente, a sociedade como um todo também está avançando com medidas. Há duas abordagens principais: “tecnologia” e “legislação”.
| Abordagem | Conteúdo Específico |
|---|---|
| 💻 Medidas Tecnológicas | O desenvolvimento de “tecnologias de detecção” para identificar deepfakes usando IA está progredindo. Além disso, mecanismos como o C2PA, que registram “quando, onde, por quem e como” uma foto ou vídeo foi criado para comprovar sua autenticidade, como uma “certidão de nascimento digital”, estão começando a ser implementados. |
| ⚖️ Medidas Legais | Em vários países, a legislação para lidar com difamação e fraude usando deepfakes está avançando. Há um movimento ativo para proibir a criação e disseminação de informações falsas maliciosas, especialmente devido a preocupações com o impacto nas eleições. No Brasil, a criação de pornografia falsa já é ilegal. |
Além do avanço da tecnologia e da criação de regras, aumentar a alfabetização midiática (a capacidade de interpretar informações corretamente) por meio da educação escolar e outras iniciativas é uma questão importante que a sociedade como um todo precisa abordar.
Conclusão: Discernir com sabedoria, para um futuro de ferramentas úteis
E então, o que você achou da luz e da sombra do deepfake até agora?
O deepfake é como uma “espada de dois gumes”. Dependendo de como é usado, pode ser uma **”ferramenta do futuro”** que revoluciona o entretenimento e a medicina, ou uma **”arma perigosa”** que engana as pessoas e causa caos na sociedade.
O importante é que nós, como indivíduos, conheçamos essa tecnologia e tenhamos um espírito crítico saudável de **”isso talvez não seja real”**. E que nos habituemos a verificar a fonte de informações suspeitas, para não nos deixarmos enganar.
Nesta era em que a IA se tornará cada vez mais comum, espero que este artigo possa ser um pequeno passo para que você aprenda a lidar com essa nova tecnologia de forma inteligente.
