Mais sombrio que as Fake News, conheça o DEEP FAKE - A última fronteira tecnológica das notícias falsas
Softwares
capazes de substituir um rosto por outro rosto em um vídeo: a última fronteira
das informações falsas lança mão da AI (inteligência artificial). Em uma
mídia digital cada vez mais invadida pelas fake news (informações falsas), aqui
está a nova e tremenda ameaça à “realidade da informação”: o deep fake, os
vídeos falsificados.
As fake news? Elas poderão
em breve alcançar níveis olímpicos, cada vez mais sofisticados, com a
introdução do deep fake, ou seja, a substituição dos rostos em um vídeo já
existente graças a softwares extremamente avançados, guiados pela inteligência
artificial. Trata-se de uma técnica já experimentada com sucesso no mundo do cinema
pornô, onde fez várias vítimas entre as estrelas de Hollywood cujo rosto foi
sobreposto ao de pornoatrizes em ação. Que poderá trazer esta técnica aplicada,
por exemplo, ao debate político, para gerar vídeos de propaganda, incertezas,
temores, falsidades, calúnias?
O QUE É O DEEP FAKE?
Há poucos meses, o popular
site Mashable definiu o deep fake
(que também se escreve deepfake, sem
espaço) “a última crise moral da
internet”, oferecendo uma definição tecnológica bastante atual do fenômeno:
“Um novo tipo de vídeo com face-swap
(troca de rostos) realista”. Para resumir, o redator explica que se tratam
de elaborações baseadas em um software que busca um “terreno comum” entre dois
rostos para, em seguida, “colar” um sobre o outro, de maneira dinâmica. Não se
trata de uma fotomontagem, mas sim de um vídeo verdadeiro, e as imagens de base
são claras e de boa qualidade tornando a metamorfose artificial praticamente
perfeita. A tecnologia, relativamente fácil de usar, alimenta diversas
comunidades cujos membros podem ser tanto técnicos experientes quanto
aprendizes iniciantes. Eles dialogam, se confrontam, trocam experiências e
produzem vídeos falsos (algumas dessas comunidades, como a Reddit, já foram
banidas de diversas plataformas públicas, mas outras surgiram em todo o mundo,
e o número delas prolifera sempre).
NICHOLAS CAGE, UMA DAS VÍTIMAS
Um dos vídeos deep fake
mais famosos mostra o ator Nicholas Cage em papéis que ele nunca interpretou, e
em muitos casos é difícil perceber a sobreposição de imagens – sobretudo se a
pessoa não está ao corrente do que acontece. A qualidade dos resultados – pelo
menos naquilo que diz respeito ao FakeApp, o mais conhecido programa de deep
fake -, deve-se à boa qualidade desse software de inteligência artificial para
alinhar uma imagem sobre a outra e fundi-las. O computador, na prática, faz uma
análise de centenas de imagens tiradas de cenas de vídeos, identifica os
rostos, analisa como eles são iluminados, quais expressões faciais e gestuais
adotam, e outros detalhes. Quando ele “compreende” tudo aquilo que deve
aprender a respeito dos rostos com os quais está trabalhando, utiliza esses
conhecimentos para habilmente “costurar” um sobre o outro, sincronizando
movimentos, expressões faciais e dos lábios.
Nestes tempos que começam
a ser chamados de pós-verdade, repletos de lorotas, mentiras, fofocas e
manipulação da informação através das redes sociais, as novas possibilidades
oferecidas por esta tecnologia geram uma certa apreensão sobretudo nas áreas da
política. Um dos temores é, naturalmente, que os especialistas em “propaganda e
marketing” usem a tecnologia do deep fake para gerar vídeos comprometedores –
ou, ao contrário, de absolvição – para vários crimes ou atos de delinquência,
ou então para difundir mensagens que a vítima da vez certamente preferiria
manter escondidas.
Lorotas: é preciso criar uma vacina contra as fake
news
Há pouco tempo, o site
BuzzFeed conduziu um “experimento” mostrando o vídeo de um discurso nunca
pronunciado de Barack Obama. Em maio último, um partido belga produziu um vídeo
falso de Donald Trump que dizias coisas absurdas a respeito da política
climática da Bélgica. “Em ambos os casos
– escreveu um analista do jornal The Economist – o vídeo estava ligeiramente
desfocado e as vozes eram imitadas. Mas a tecnologia está melhorando
rapidamente, e existem pesquisadores no campo da inteligência artificial que
apostam no fato de que vídeo falsos possam ser exibidos nas redes sociais
durante as próximas campanhas eleitorais norte-americanas. ”
O que dá credibilidade a
essa visão do futuro imediato é exatamente o fato de que o deep fake usa
algoritmos de aprendizado automático combinados com softwares de mapeamento
facial, para a criação, a baixo custo (em termos de tempo de elaboração e de
dotação de competências tecnológicas), de vídeos que modificam a identidade. Na
prática, e dentro de certos limites, não é preciso ser um especialista para
produzir um vídeo falso que possa passar por algo real: o software se
encarregará de tudo, e de forma cada vez mais perfeita.
Em recente relatório, o
Belfer Center (Harvard Kennedy School) tornou evidentes as implicações que
essas falsas – e em geral o uso desregrado da inteligência artificial –
poderiam ter sobre a segurança nacional norte-americana com a difusão de vídeos
falsificados porém tão bem feitos que poderão passar por verdadeiros. “A
criação avançada de suportes de áudio e de vídeo passa por um processo de
rápido melhoramento quanto à qualidade e a redução dos custos: no futuro, os
falsos gerados pela inteligência artificial porão à prova a confiança em muitas
instituições”, diz o relatório.
COMO SE DEFENDER DAS FAKE NEWS?
Nos Estados Unidos, onde
ainda ecoa o impacto causado pelo caso Cambridge
Analytica (notícias falsas que teriam influenciado e distorcido as
próprias últimas eleições presidenciais), o debate permanece aberto. Hany
Farid, professor no Darthmouth College e pioneiro do sistema PhotoDNA (uma
tecnologia usada para bloquear a pedopornografia) adverte que “ainda estamos décadas distantes de termos
uma ‘tecnologia forense’ capaz de separar sem ambiguidades o verdadeiro do
falso”. Se a ciência é ainda impotente, já surgiram aqueles que propõem uma
intervenção legislativa com o objetivo de endurecer a legislação sobre
difamação. Porém, aplicá-la às plataformas sociais ou a atores que agem fora
dos limites geográficos interessados não parece coisa fácil.
A respeito, o site
Mashable tem uma posição bastante clara: “Como
acontece com muitas outras tecnologias emergentes, é possível que muitas das
coisas que nos esperam ainda não estejam bastante evidentes para nós. Quando o
Facebook entrou pela primeira vez nos campi universitários, poucos teriam
apostado na sua rápida transformação em um ‘Golias multimídia’ potencialmente
capaz de desestabilizar a democracia americana. Como as fake news que atingiram
muitos usuários do Facebook, o deep fake encarna uma nova possibilidade de
violar a realidade. A partir do momento em que qualquer clip vídeo pode ser um falso,
por que acreditar que alguma coisa seja real? ”
Do site Brasil 247
Comentários
Postar um comentário
O comentário não representa a opinião do blog; a responsabilidade é do autor da mensagem. Ofensas pessoais, mensagens preconceituosas, ou que incitem o ódio e a violência, ou ainda acusações levianas não serão aceitas. O objetivo do painel de comentários é promover o debate mais livre possível, respeitando o mínimo de bom senso e civilidade. O Redator-Chefe deste CORREIO poderá retirar, sem prévia notificação, comentários postados que não respeitem os critérios impostos neste aviso ou que estejam fora do tema proposto.