Porque a humanidade, na sua esmagadora maioria, é composta por pessoas que já eram burras, mas que agora estão desprovidas da capacidade de raciocinar, já que um chatbot entrega tudo pronto.
A crescente fé nas inteligências artificiais transformou essas plataformas em oráculos modernos, capazes de responder a quase tudo, mesmo quando erram com convicção. E os resultados estão se tornando cada vez mais catastróficos.
O episódio do usuário intoxicado após seguir o conselho do ChatGPT simboliza como muitos substituem especialistas por algoritmos imprecisos, deixando de lado profissionais que podem efetivamente ajudar nos mais diferentes campos.
É isso o que acontece quando deixamos o senso crítico de lado para acreditar em qualquer coisa que encontramos como resposta.
Acontece com todo mundo
Eu mesmo me deparei com diferentes cenários de arrogância e prepotência das plataformas de inteligência artificial na hora de entregar respostas com convicção. Não que os chatbots tenham desenvolvido personalidade a tal ponto, mas os efeitos práticos são similares ao seu tio que garante que “no meu tempo, a Fórmula 1 era melhor”, sendo que as corridas eram chatíssimas.
Não foram poucas as vezes que encontrei informações erradas sobre dispositivos de tecnologia em plataformas como o ChatGPT e o Grok, principalmente para os lançamentos recentes, onde a carência de informações online resultam em alucinações nas respostas.
E esse é apenas um dos inúmeros exemplos de como pode ser perigoso tomar como verdade afirmações estatísticas que apenas simulam um comportamento confiável das plataformas. Nos cenários de cuidados de saúde, os efeitos colaterais dessa confiança cega podem ser devastadores.
E mesmo quando corrigida, a IA reincide nos mesmos erros, demonstrando que não há aprendizado real, mas apenas um ajuste numérico ou de dados para parecer mais confiável.
A repetição de padrão na suposta corrigenda (que não existe) deixa claro que as plataformas não estão prontas para gerenciar automaticamente a manutenção dos dados, mostrando de forma evidente que acreditar cegamente nos chatbots é confiar muito mais na probabilidade do que na verdade ou fatos objetivos.
O cenário só piora com as deepfakes
Imagens e vídeos falsos validados por sistemas automáticos completam o retrato da confusão das informações. Como as plataformas que geram conteúdo audiovisual alcançaram um nível de maturidade considerável, a verificação da veracidade desse conteúdo está cada vez mais complexa, inclusive para as melhores plataformas.
A IA, ao não distinguir real de falso, reproduz o caos das redes, gerando certezas imaginárias a partir de dados contaminados. Um simples vídeo manipulado que mostra um político dizendo algo que ele normalmente não falaria é o suficiente para contaminar a análise dos dados, transformando mentiras em verdades em questão de segundos.
O fascínio pela linguagem impecável das máquinas nos torna vulneráveis ao engano. Na verdade, o ser humano sempre foi propenso a ser enganado ao longo da história pela retórica elegante que disfarça a distorção de narrativa.
O que assusta nesse momento é que o advento de plataformas de inteligência artificial pode entregar como resultado prático uma sociedade hipnotizada pela aparência de saber quando, na verdade, fica cada vez mais burra, enquanto a inteligência artificial exibe mais confiança de discurso do que precisão nas informações.
Está cada vez mais difícil saber a verdade quando o contexto é desvirtuado por uma IA. E isso é bem mais perigoso do que você pode imaginar.