Social Score - A política utópica próxima da realidade “black mirror”
O Governo chinês anunciou um projeto de lei de crédito social que oferece uma imagem mais precisa da realidade apresentada em 2014 pelo governo no Esboço de Planejamento para a Construção de um Sistema de Crédito Social.
O problema é, que quando este assunto vem à tona , surgem preocupações e comparações com realidades utópicas referenciando o universo de Orwell (A revolução dos bichos) ou a ficção baseada na sociedade de likes de Nosedive (Temp. 03 — Eps. 01, Black Mirror).
Divulgado inicialmente em 2014, o esboço do projeto de lei do social score na China apresenta a ideologia de que, obviamente dependendo da nota que o cidadão chinês tirasse, ele pudesse ter mais acesso a determinadas funcionalidades.
No Brasil temos o Cadastro Positivo do Banco Central, diversas instituições bancárias no Brasil avaliam pessoas de acordo com sua idoneidade e possibilidade de crédito aceitável, o que por sua vez influencia na concessão de crédito.
Existe algo de semelhante acontecendo na China hoje, o ponto que vos diverge é a nota “social”, que relaciona a fábula de Nosedive de um futuro não tão distante. A história onde a sociedade avalia os comportamentos das pessoas aplicando nota às suas atitudes.
Até o momento não surgiu nada na China que demonstre prática de tais atividades partidas do Governo, não existe algo que pontue o cidadão de acordo com os bons e maus costumes de tais.
A problemática que vem à tona é que justamente a falta de clareza e legislação de uma regra única faz com que diversas províncias chinesas começaram a fazer testes, dado o pontapé inicial de 2014. Um exemplo disso são os doadores de sangue, eles receberiam pontos como bons cidadãos. Já se o cidadão passou a divulgar discursos inaceitáveis em redes sociais (entramos no paradoxo “Quem considera o que é aceitável?”) perderia pontos.
Neste ponto embarcamos em uma complicação relacional de o que seria um bom cidadão para o governo chinês.
De repente nos vimos caindo em um limbo, onde começamos a dar notas pelas coisas que são certas ou erradas a partir do ideal social ocidental. Eventualmente se a coisa é levada à prática de tais experiências, seria possível, como diria Carlos Aros e André Miceli, criar uma sociedade à base de “joinhas” e avaliações seguindo os critérios avaliativos do que é considerado certo para tal tipo de governo.
Nas mãos de um governo autoritário isto se torna um risco à liberdade. No caso das sanções de crédito financeiro há a limitação ou sanção da disponibilidade monetária. Quando tratamos de crédito social, podem haver sanções capazes de proibir a pessoa de sair do país ou até mesmo prender o cidadão por consequência de um Social Score baixo.
Essa gamificação da sociedade é uma ferramenta de manipulação muito forte. Dadas as suas exceções, os registros históricos nos mostram comportamento semelhante em certas religiões que se beneficiaram de um comportamento para punir ou beneficiar boas ou más feitorias aos olhos do clero.
De certa forma, já estamos habituados a lidar com esse tipo de juízo de valor sobre as nossas ações a muito tempo. No início da sociedade já construímos de certa forma um cenário de pontuação, a diferença para atualidade é que quando um governo toma controle desse tipo de situação e inicia uma relação entre o que é certo á sua visão e atribuindo esses comportamentos que de alguma forma são usados para gerar modelos de manipulação em massa podendo inclusive afetar a vida da população no direito de ir e vir, a pauta deste cálculo social torna se uma situação extremamente sensível.
A sociedade mundial presenciou alguns momentos onde um dado grupo social se dispôs a julgar o outro por divergências geográficas, raças ou crenças. Nós vimos isso no nazismo, na Itália com os Camisas-negras e na atualidade discretamente divulgado entre governos pelo mundo.
Quando um grupo de pessoas ou uma autoridade regulamentar pode julgar o comportamento de algumas pessoas entre o que é certo e o que é errado, esse grupo, seja pequeno ou não, em dado momento suas atividades acabam desabando à favor da violência.
Mesmo no ocidente já a sociedade já se depara com comportamento de avaliação digital. Toda vez que abrimos um aplicativo nos deparamos com solicitação de avaliação, seja um entregador, um motorista ou mesmo para um serviço, estamos ponderando atividades. Obviamente que relacionado ao trabalho alheio, mas no fundo há fatores que se mantêm subjetivos, a opinião alheia diverge dos demais, lida com preconceitos uma vez que o mecanismo de ponderação nada mais é do que a opinião popular transformada em dados e o fato é que estamos fazendo isso há algum tempo.
Mal ou bem este sistema segue funcionando, apesar de suas exceções, mas no coletivo nós naturalizamos e confiamos neste sistema. Apesar da relevância enquanto usuários, estes processos afetam o trabalho e por consequência a vida financeira dos fornecedores que atendem através das plataformas.
Forjamos nos tempos atuais uma sociedade baseada em likes, um tipo de interação social que por sua vez acaba por afetar a saúde mental de algumas pessoas. A obsessão por engajamento, seguidores, curtidas pode se tornar crítica no momento em que a essa interação some, os usuários sofrem de efeitos colaterais de ansiedade causados por um “Social Score informal”.
Neste cenário foi retratada a reação adversa do uso abusivo de interação social digital. Sobretudo quando voltamos ao cenário Oriental a punição aplicada ao crédito social limita e bloqueia a liberdade do cidadão. No exemplo anterior, as piores punições viriam a ser o cancelamento de influenciadores ou síndromes de ansiedade.
“Todos os animais são iguais, mas alguns são mais iguais que outros.” (ORWELL, 1945)
A desigualdade vista sobre estes sistemas de avaliação:
O risco é grande de uma sociedade ser beneficiada enquanto a sociedade minoritária é rejeitada e sofre com menos benevolências sociais.
A prefeitura de São Paulo lançou um edital para contratar um sistema de monitoramento de câmeras que identifica pessoas suspeitas a partir de algumas características. Críticas surgiram pelo fato da tecnologia em processo ter o objetivo de identificar vadiagem pessoas pela cor de pele e também o fato de haver um possível monitoramento de redes sociais de cidadãos.
O pregão foi criticado por parlamentares e veio a ser suspenso temporariamente.
Na Austrália o governo desenvolveu uma nova política para monitorar o acesso dos cidadãos à criptomoeda, especialmente o Bitcoin. Seu sistema de crédito social é baseado em identificações digitais únicas que agem antes que seus cidadãos possam acessar a web ou realizar qualquer transação digital. Muitos analistas e economistas consideram esta uma política baseada no comunismo De acordo com a nova lei, os cidadãos devem ter 100 pontos de identificação antes de usar as redes sociais. Adicionalmente, as Autoridades terão acesso às contas dos residentes, incluindo as suas mensagens privadas.
Qual a explicação do lado ocidental a respeito do crédito social?
“Este rascunho não reflete uma grande mudança radical”
diz Jeremy Daum, membro sênior do Paul Tsai China Center da Faculdade de Direito de Yale, que há anos acompanha o experimento de crédito social da China.
Não é uma mudança significativa na estratégia ou objetivo, diz ele.
Em vez disso, a lei se aproxima das regras locais que cidades chinesas como Xangai divulgaram e aplicaram nos últimos anos sobre coisas como coleta de dados e métodos de punição
O que o governo reconhece como “crédito social”?
Aos olhos do governo Chines, o crédito social abrange duas coisas diferentes; solvabilidade financeira e a capacidade de crédito social.
A solvabilidade, conceito ocidental, registra o histórico financeiro de indivíduos ou empresas e prevê sua capacidade de pagar empréstimos, algo semelhante ao que temos com cálculo de análise de crédito.
Já o crédito social trás algumas variáveis nessa matemática social. Em resumo, o governo chinês afirma necessidade sobre um nível mais alto de confiança na sociedade e, para suprir a confiabilidade, o governo está lutando contra corrupções, golpes de telecomunicações, evasão fiscal, propaganda enganosa, plágio acadêmico, poluição e basicamente toda prática considerada corruptível á eles. e não se limitando apenas á pessoas, mas também instituições legai e agências governamentais.
Assim como a solvabilidade, o governo acredita que tais problemáticas estão ligadas á falta de confiança e que uma solução similar á análise de crédito possa ajudar a valiar a credibilidade de uma pessoa.
Mitos e teorias
Apesar da crença popular, não há pontuação de crédito social para civis, não anunciadas pelo governo chinês.
As pessoas acreditam que para acompanhar o comportamento de toda a população, haja um tipo de super algoritmo central que possa coletar e processar os dados. Porém, este é mais um mito, especialistas do social score da China dizem que a infraestrutura necessária não exige poder algorítmico.
Apesar da assustadora réplica prática de Nosedive (série Black Mirror), o sistema de crédito social ainda não exemplifica o abuso de tecnologias avançadas como IA, vale ressalto nos fatos. O governo ainda estuda o sistema e busca feedback público. Embora não haja data prevista para o projeto ser aprovado como lei, ainda pode levar anos para chegarem ao produto final de um sistema nacional de crédito social.
Este artigo informal foi parafraseado baseado nos conteúdos abaixo descritos:
