Era tudo o que o Meta (aka Facebook) mais precisava neste momento. Só que não.
A inteligência artificial é a tecnologia que vai dominar essa década. Porém, infelizmente, ela ainda está bem longe de ser perfeita, já que é treinada por humanos. A divisão de IA do Meta apresentou recentemente a Galactica, um modelo de linguagem desenvolvida para “armazenar, combinar e racionalizar o conhecimento científico” disponível no mundo.
Porém, a inteligência artificial inicialmente pensada em acelerar a redação da literatura científica se apresentou nos primeiros testes realizados pelos usuários uma máquina de disparates realistas, gerando críticas éticas pelo enorme potencial de criação e propagação do racismo e notícias falsas.
Nem preciso dizer que o Facebook teve que tirar a demo da Galactica do ar.
Produzir conteúdos racistas de forma automática: pode isso?
Essa tecnologia aprende a escrever textos analisando milhões de exemplos e interpretando as relações estatísticas entre as palavras. Dessa forma, é possível criar documentos convincentes e teoricamente bem formatados.
Porém, o que a Galactica estava fazendo era entregar textos cheios de informações falsas e lotados de estereótipos potencialmente prejudiciais. E se seus criadores afirmam que essa IA desenvolve seus artigos baseados “no conhecimento da humanidade”, é fácil concluir que a mesma humanidade é racista e muito propensa à mentiras de forma descarada.
A Galactica cria seus artigos a partir de uma fonte de dados composta por mais de 48 milhões de textos, livros e relatos de conferências, sites web e enciclopédias científicas. Esses supostos dados de alta qualidade seriam o suficiente para entregar resultados de alta qualidade. Porém, a prática foi bem diferente da teoria.
I asked #Galactica about some things I know about and I'm troubled. In all cases, it was wrong or biased but sounded right and authoritative. I think it's dangerous. Here are a few of my experiments and my analysis of my concerns. (1/9)
— Michael Black (@Michael_J_Black) November 17, 2022
Os testes práticos com usuários mostraram todo o potencial da Galactica em promover o racismo e as fake news. Alguns usuários até encontraram utilidade nos artigos produzidos pela inteligência artificial, mas outros descobriram que qualquer pessoa pode escrever indicações potencialmente ofensivas, gerando conteúdos que parecem autorizados sobre temas controversos.
Um exemplo do que estou falando foi quando o usuário utilizou a Galactica para escrever um artigo sobre “Os benefícios em comer vidro triturado”. Uma imbecilidade que nenhuma pessoa dita racional deve fazer.
A IA até gerou um texto que não era ofensivo para as normas sociais, mas destrutivo para as bases científicas sérias, entregando informações incorretas em datas e nomes de animais. Quem tem profundo conhecimento sobre o assunto consegue detectar os problemas no artigo produzido.
De novo: o problema está no ser humano
Não podemos nos esquecer que toda tecnologia de inteligência artificial é treinada por seres humanos que, em muitos casos, são racistas, preconceituosos e propensos a propagar fake news em escala industrial.
Logo, qualquer tipo de proposta de produção de texto científico para a Galactica que conta com um tema considerado absurdo pode virar um artigo bem formatado baseado em mentiras e preconceitos.
E não podemos culpar a IA por isso. A culpa é nossa.
Por isso, antes de avançar no tema do bom uso da inteligência artificial nos mais diferentes campos da sociedade, é fundamental que se estabeleça os parâmetros morais e éticos para o desenvolvimento dessas tecnologias.
Até lá, a Galactica vai ter que ficar na geladeira. E Mark Zuckerberg que se vire para repaginar a sua inteligência artificial.