Mais uma vez, o nome da cantora Taylor Swift está diretamente envolvido com alguma treta no mundo da tecnologia. E dessa vez, nem foi por algo que ela mesma provocou, como por exemplo a proibição da distribuição do seu conteúdo em plataformas digitais.
Não dá para dizer que o problema das deepfakes é algo completamente novo, pois não é. A humanidade está lidando com essa questão a algum tempo. Porém, quando quem está envolvida é a TayTay, seus fãs e a ineficiência do X em combater esse tipo de problema, tudo ganha uma escala muito maior.
Desde que Elon Musk entrou no Twitter com aquela pia de banheiro nas mãos, a plataforma virou uma terra sem lei. O novo X tem uma postura considerada permissiva em casos de contas com comportamento inadequado e criminoso.
E Musk fecha os olhos para tudo isso, em nome da “liberdade de expressão”. Ou do direito das pessoas cometerem crimes desse porte, mas sem sofrer qualquer tipo de consequência.
Uma avalanche de deepfakes de Taylor Swift
Na última quarta-feira (24), várias deepfakes com contexto adulto envolvendo a cantora Taylor Swift começaram a se proliferar em diversas contas da plataforma X.
Sei que (muito provavelmente) você já sabe disso, mas sempre temos uma audiência rotativa e composta por algumas pessoas com um menor conhecimento sobre o mundo da tecnologia. Logo, vale a pena colocar tudo isso em contexto para que todos possam entender a gravidade da situação.
Deepfakes são manipulações de fotos ou vídeos por meio de inteligência artificial. Neste caso, são imagens de contexto adulto com o rosto da cantora norte-americana adicionado artificialmente no corpo de outras mulheres.
Nem preciso me estender no que aconteceu neste caso: as imagens viralizaram rapidamente, e os fãs de Taylor tentaram alertar o X sobre o que estava acontecendo.
O problema é que a reação do X foi lenta e ineficiente, e mesmo alegando a remoção das imagens, os deepfakes seguiam se espalhando, alcançando mais de 45 milhões de visualizações em poucas horas.
Está mais do que evidente que o time de moderação do X (que está reduzido porque Elon Musk quis assim) não é eficiente para conter a disseminação de deepfakes na plataforma.
Mas Elon não parece dar muita importância para isso.
Medidas desesperadas (dos fãs, e do próprio X)
Diante do cenário apresentado, os fãs de Taylor Swift iniciaram uma campanha massiva para compartilhar conteúdo positivo da artista, visando “ocultar” as manipulações nas pesquisas.
E isso teria funcionado… se o X não tivesse tomado uma decisão estúpida diante do caos.
Já que o X foi incapaz de eliminar os deepfakes de forma efetiva, a plataforma bloqueou as pesquisas por Taylor Swift três dias após o início do problema. O responsável pelas operações comerciais da plataforma afirmou que essa é uma ação temporária e cautelosa, priorizando a segurança da plataforma (e, hipoteticamente, da imagem da cantora).
O X tenta passar uma imagem de uma plataforma consciente sobre os problemas de publicação de imagens não consentidas, enfatizando uma política de “tolerância zero” que, neste caso, tem um intervalo de três longos dias.
A plataforma afirma que está removendo as imagens identificadas e tomando as medidas contra as contas responsáveis. Mas é difícil acreditar nisso com a devida tranquilidade.
Ainda mais quando estamos falando da imagem de uma cantora extremamente popular como Taylor Swift, com uma base de fãs poderosa e muito proativa nas plataformas digitais.
Os especialistas que rastrearam a disseminação dos deepfakes afirmam que a origem da imagem manipulada está atrelada a um grupo no Telegram, e que tal material pode ser produzido por qualquer pessoa, com ferramentas gratuitas e acessíveis para todos.
E esse problema pode acontecer com qualquer pessoa. Não precisa ser uma Taylor Swift da vida para ser vítima de um deepfake.
Aí, Elon Musk… vou te dar um conselho que você deve ler com atenção… não mexe com os fãs da TayTay, pois eles vão pra cima de você com toda a força.