As deepfakes explodiram no ano passado, e ainda estamos aprendendo a lidar com elas. Os vídeos que modificam o rosto de uma pessoa com a ajuda da inteligência artificial podem ser utilizados das mais diferentes formas, e não são úteis apenas no universo do cinema pornô. Os políticos podem utilizar tal ferramenta, e dessa vez não é para disseminar fake news. É para fazer com que o seu discurso alcance a mais pessoas, com diferentes idiomas.
Foi exatamente isso o que um candidato às eleições na Índia fez!
Manoj Tiwari começou a usar as deepfakes no dia 7 de fevereiro para conseguir uma vaga na Assembléia Legislativa de Delhi. Um simples vídeo de 44 segundos se transformaram em outros três vídeos de 44 segundos, onde o político faz o seu discurso em idiomas que ele não está nem perto de dominar.
Abaixo, está o vídeo original.
A partir do vídeo acima (que, acredito eu, você acabou de ver, senão não faz sentido esse post existir), o político publicou mais dois, em inglês e no dialeto hindi Harayanvi, onde os dois últimos são idiomas que ele não domina. Isso foi possível porque uma Inteligência Artificial modificou o seu rosto para sincronizar os lábios de acordo com as palavras pronunciadas nos dois idiomas.
O partido desse candidato fechou uma parceria com a agência de comunicação The Ideaz Factory para criar o que eles chamam de “campanhas positivas” utilizando as deepfakes. O resultado parece ter sido um sucesso, pois os vídeos correram como pólvora no WhatsApp.
De forma consciente ou não, os vídeos permitiram a comunicação da mensagem no idioma nativo ou preferido dos eleitores, alcançando mais de 5.000 grupos de WhatsApp e aproximadamente 15 milhões de pessoas.
Tudo indica que foi utilizado um software desenvolvido na Índia que permite a tradução de vídeos para outros idiomas, ao mesmo tempo que permite a sincronização dos lábios. Fato é que, para quem olhar com atenção ou estar conscientes que o vídeo em questão é uma deepfake, é possível ver alguns pequenos erros, tanto do estúdio como da própria campanha política.
Mesmo assim… é complicado saber que alguém pode receber um vídeo sem conhecer o contexto do mesmo e, por conta disso, ser facilmente enganado por um truque da tecnologia moderna.
Uma ferramenta poderosa, porém, perigosa
As deepfakes ainda contam com uma péssima reputação e recusa por parte dos usuários (sem falar no sentimento de assombro que elas geram pelo elevado grau de qualidade das mesmas). Ou seja, são vídeos falsos que tem como objetivo enganar pessoas.
Uma das primeiras deepfakes a viralizar foi a do ex-presidente dos Estados Unidos Barack Obama dando um discurso falso. Porém, no caso do político indiano… alguém está sendo enganado? A campanha política traduziu a mesma mensagem em diferentes idiomas, e o engano não está na mensagem em si, mas sim no fato de dar a entender que o político fala idiomas que, na verdade, ele não conhece.
Por conta das preocupações que as deepfakes estão gerando, as leis regulatórias sobre a prática não param de aparecer. O estado da Califórnia decidiu tomar medidas sobre o assunto, o Facebook bloqueou esse tipo de vídeos e na China eles estão proibidos.
No Brasil? Até agora, nada.
Via Vice