Não é Black Mirror. É a vida real na China.
O novo sistema de ‘crédito social’ que pontua os cidadãos chineses em função do seu comportamento (oferecendo e retirando direitos em função disso, inclusive humilhando publicamente o indivíduo) já está em funcionamento, e já causa problemas. Não apenas pela implementação pontual da tecnologia, mas também pela natural ramificação de um sistema de desprestígio social.
Para recuperar os pontos, é preciso realizar trabalhos para a comunidade. Para perder os pontos, basta fumar em locais proibidos, sujar as ruas, comprar muitos videogames e publicar fake news. Ah, é o governo chinês quem define o que é ou não fake news.
Quando o sistema de inteligência artificial que determina tais regras de conduta falha, ele acaba publicando em um grande telão a foto do infrator, mas sem saber quando o rosto da pessoa é um anúncio em um ônibus. E isso aconteceu com o CEO de uma grande empresa de ar condicionado chinesa.
A foto do empresário aparece nos anúncios do ônibus. Quando um dos carros passou pelas câmeras do sistema, ele foi identificado como uma pessoa que cruzava com o sinal vermelho, e o seu rosto foi parar em uma grande tela.
Tal delito pode tirar pontos sociais de forma automática, e é preciso entender que sistemas informáticos são falhos. E esse é o tipo de falha que pode afetar diretamente a vida dos cidadãos.
E quem vai pagar a conta disso? O governo chinês?