Deepfake de Richard Nixon. (Créditos da imagem: MIT Center for Advanced Virtuality).

Certo dia, há alguns anos, um deepfake muito bem trabalhado do Barack Obama viralizou na internet, mas mesmo sendo muito bom, não enganava olhos atentos – é muito fácil notar que se trata de um vídeo falso, pela movimentação da boca, principalmente, que não é tão realista. Entretanto, a tecnologia e o conhecimento evoluem rápido, e as mudanças nesse pequeno intervalo de 3 anos são assustadoras.

Compare os dois vídeos abaixo. O primeiro é do Barack Obama, feito em 2017 pela Universidade de Washington. O segundo, o ex-presidente dos Estados Unidos Richard Nixon, que morreu há 26 anos, mas foi ressuscitado em um vídeo feito pelo MIT com ajuda da inteligência artificial. Neste de Nixon, onde ele faz um discurso sobre um ‘desastre na Lua’, é bastante difícil encontrar elementos que indiquem para um vídeo falso.

Deepfake do presidente Barack Obama, por Universidade de Washington, 2017:

Deepfake do presidente Richard Nixon, por MIT (Instituto de Tecnologia de Massachusetts), 2020:

O vídeo sintético de Nixon foi feito pelas artistas midiáticas Francesca Panetta e Halsey Burgund, ambas do MIT em conjunto com duas empresas do ramo de inteligência artificial, Canny AI e Respeecher. O vídeo é baseado em um roteiro real, que remete à primeira ida à Lua.

Julho de 1969 foi quando a Apollo 11, primeira missão tripulada à Lua, foi lançada. Por ser a primeira, apesar dos ensaios, não era uma possibilidade muito pequena que um acidente ocorresse, e havia um “roteiro reserva”, que homenageava os astronautas mortos. O discurso, chamado “In event of Moon Disaster” (Em caso de desastre na Lua), foi escrito por William Safire, um dos redatores que preparava os discursos de Nixon.

“Esses bravos homens, Neil Armstrong e Edwin Aldrin, sabem que não há esperança para seu retorno Mas eles também sabem que há esperança para a humanidade em seu sacrifício”, diz um trecho do discurso, que pode ser encontrado transcrito em inglês neste link. “Todo ser humano que olhar para a lua nas noites que virão saberá que há algum canto de outro mundo que será para sempre a humanidade”, diz.

Felizmente nesta missão ninguém morreu. Em nenhuma missão Apollo que se seguiu houveram baixas. A única Apollo que causou mortes foi a Apollo 1, matando os três astronautas que faziam o primeiro vôo do ensaio que levaria o ser humano à Lua. Até hoje, foram 21 mortes de astronautas, a maioria das quais no momento do lançamento ou no retorno à Terra.

Interessante, mas perigoso

A tecnologia pode ser divertida e bastante útil, como para a restauração de vídeos, para a comédia, como faz o Bruno Sartori, para a imersão nas ficções e revivência de famosos já mortos, ou até mesmo reconstruir a voz de alguém que a perdeu por alguma doença, como o câncer. Entretanto, também há o lado ruim: se as fake news já causaram grandes polêmicas nas eleições, imagine o estrago que pode fazer um deepfake, encomendado por um candidato para comprometer o outro, por exemplo.

“Essa história alternativa mostra como as novas tecnologias podem ofuscar a verdade ao nosso redor, incentivando nosso público a pensar cuidadosamente sobre a mídia que eles encontram diariamente”, diz Panetta. uma das responsáveis pelo feito em um comunicado do portal de notícias do MIT. Elas levaram pouco mais de seis meses para chegar em um resultado tão convincente.

Além do problema político, há um lado já aplicado há bastante tempo, um dos piores males da sociedade, a pornografia. Estima-se que 96% dos deepfakes feitos são para a pornografia. Esse recurso é utilizado para, por exemplo, colocar o rosto de celebridades em atrizes pornô. Além de ser mais um ponto de contribuição para essa mídia superficial e prejudicial para a sociedade, mulheres e saúde mental de todos os gêneros, é extremamente imoral, por ser ofensivo para aquelas pessoas que não querem participar.

Os deepfakes não devem ser proibidos, é claro, mas deve haver alguma saída para barrar, ou pelo menos mitigar a utilização imoral desta tecnologia. Fox Harrell, do MIT, diz em um comunicado que “A desinformação na mídia é um fenômeno antigo, mas, exacerbada pelas tecnologias de deepfake e pela facilidade de disseminar o conteúdo online, tornou-se uma questão crucial de nossa época”.

“É nossa esperança que este projeto incentive o público a entender que a mídia manipulada desempenha um papel significativo em nosso cenário midiático e que, com mais compreensão e diligência, podemos todos reduzir a probabilidade de sermos indevidamente influenciado por isto”, diz Burgund, que atuou como co autor, junto à Panetta.

Referências:

  1. MIT News. “Tackling the misinformation epidemic with ‘In Event of Moon Disaster’”. Acesso em: 23 jul. 2020.
  2. Scientific American. “A Nixon Deepfake, a ‘Moon Disaster’ Speech and an Information Ecosystem at Risk”. Acesso em: 23 jul. 2020.
Avatar
Mais um insignificante humano habitando um pálido ponto azul no vasto oceano cósmico circundante. Com minha ilusória auto-importância, característica humana, me aventuro pela divulgação científica. Apaixonado pela ciência desde criança, sou uma das poucas pessoas que como diz Carl Sagan, “passam pelo sistema com sua admiração e entusiasmo intactos”. Atualmente curso Física na UFScar e escrevo para o Ciencianautas.