Press "Enter" to skip to content
Início » Inteligência Artificial » Tememos tanto os deepfakes, que passamos a desconfiar das fotos reais

Tememos tanto os deepfakes, que passamos a desconfiar das fotos reais

Compartilhe

A que ponto chegamos?

Por causa da massificação dos deepfakes (imagens e vídeos falsos gerados por modelos de Inteligência Artificial generativa), agora estamos começando a desconfiar das fotos reais. E esse parece ser um efeito de coletivo.

Muitas pessoas foram enganadas por imagens criadas de situações que nunca aconteceram. O outfit estiloso do Papa Francisco ou a prisão de Donald Trump (se bem que essa última eu sonho para que isso aconteça) são dois ótimos exemplos do potencial dos deepfakes para fazer os mais ingênuos de trouxas.

Agora, o ceticismo está fazendo com que comecemos a duvidar da realidade registrada em fotos e vídeos, e isso tem consequências alarmantes para o coletivo.

 

Estudando causas e consequências

Ficamos com tanto medo de acreditar em mentiras, que agora estamos duvidando das imagens reais. Na prática, a humanidade está entrando em um cenário de paranoia coletiva e desconfiança generalizada.

Elliot Higgins, um analista de OSINT e fundador da Bellingcat, está investigando esses eventos globais, alertando sobre o grande desafio que existe neste momento em enfrentar a desinformação quando a tecnologia de Inteligência Artificial é utilizada como arma para enganar as pessoas.

Neste momento, a IA está enganando quem acredita em mentiras, ao mesmo tempo que estimula que essas mesmas pessoas desacreditem em verdades. Um exemplo recente desse fenômeno aconteceu com uma imagem legítima que foi equivocadamente identificada como “gerada por uma IA” em um site de detecção de deepfakes.

Isso mostra como as plataformas que geram imagens estão extremamente avançadas no resultado final, e que os sistemas de detecção automática são falíveis ou não dão conta de todo esse avanço. Sem falar que a percepção humana não consegue distinguir o real do falso com tamanho fotorrealismo que plataformas como o Midjourney já alcançaram.

Pense no tamanho do problema, que é real e está acontecendo neste exato momento.

Agora, some isso aos vídeos falsos, que estão neste mesmo estágio avançado de realismo, com movimentos labiais impecavelmente sincronizados. E está mais comum do que você pode imaginar.

E a pior parte: não precisa ser uma celebridade mundialmente conhecida para ser envolvida em um deepfake de vídeo. Muitos influenciadores digitais e produtores de conteúdo já tiveram sua imagem alterada para promover produtos de terceiros e enganar a audiência online.

E ainda tem gente que defende que não precisamos de uma legislação ou regulamentação sobre o assunto.

 

Como combater o problema?

Deepfakes podem afetar de forma sensível a sociedade, indo da difamação de indivíduos até a manipulação da opinião pública para fins políticos. E eu nem preciso ir muito longe para que você perceba o potencial perigo da prática neste exato momento.

Eu realmente não sei por que existem algumas pessoas que acreditam que não precisamos combater a desinformação, e que basta publicar a correção ou retirar o conteúdo do ar que o problema está resolvido.

Isso está bem longe da realidade prática da internet. Uma vez que o conteúdo é publicado, dificilmente tem volta.

Verificar a autenticidade das informações e educar o coletivo sobre os perigos das deepfakes são tarefas árduas e que envolvem um tempo enorme de todos os envolvidos. E, infelizmente, a desinformação avança em alta velocidade.

O mundo ideal pede uma alfabetização digital e conscientização pública, mas infelizmente estamos bem longe do tal “ideal”. Mas não desistimos em tentar jogar luz na ignorância alheia.

Pode até parecer jogar pérolas aos porcos.

Ou talvez esteja na hora de jogar lavagem para uma galera.


Compartilhe
@oEduardoMoreira