Vivemos numa era em que a avaliação está em todo o lado. Quando procuramos um restaurante ou um hotel, não hesitamos em consultar as estrelas, os comentários, os rankings. A opinião dos outros guia a nossa escolha. Mas, e se essa lógica se estendesse à nossa vida pessoal, à nossa conduta enquanto cidadãos? E se passássemos a ser classificados — tal como classificamos serviços — com base no nosso comportamento social?

Não se trata de ficção científica, nem de mais um episódio distópico da série Black Mirror. Esta é, na verdade, a realidade em construção na China, onde o chamado Sistema de Crédito Social começa a desenhar um novo paradigma de organização social. Um paradigma em que o cidadão deixa de ser um sujeito livre e complexo para se tornar num conjunto de dados que determinam se pode ou não aceder a determinados direitos ou oportunidades.

Este sistema baseia-se numa vigilância contínua e numa classificação que recompensa os “bons comportamentos” e penaliza os “maus”. Uma pontuação elevada pode traduzir-se em benefícios como facilidade de crédito, prioridade em serviços públicos, ou liberdade de circulação. Por outro lado, quem tem uma pontuação baixa pode ser impedido de viajar, de comprar casa ou até de inscrever os filhos em certas escolas. Estamos, portanto, perante uma nova lógica de mérito — não baseada na competência, mas na obediência e conformidade.

Entre 2013 e 2017 mais de 6 milhões de chineses viram-se impedidos de voar ou viajar de comboio de alta velocidade por constarem na lista negra do sistema. Alguns perderam os seus empregos, outros foram impedidos de aceder a crédito bancário. Os critérios são, muitas vezes, opacos. E a fronteira entre justiça e castigo social torna-se perigosamente ténue.

O filósofo sul-coreano Byung-Chul Han já alertou para esta nova “psicopolítica” — uma forma de controlo que se exerce não pela repressão direta, mas pela manipulação de escolhas e desejos. O cidadão torna-se cúmplice do sistema que o vigia, numa lógica de recompensa contínua que substitui a liberdade pelo condicionamento.

O perigo maior deste modelo está na sua aparência de eficiência e modernidade. Utiliza big data, inteligência artificial, reconhecimento facial — tudo em nome da transparência e da “sinceridade”, como lhe chama o governo chinês. Mas, o que se perde neste processo é precisamente aquilo que nos torna humanos: a ambiguidade, a imperfeição, o direito ao erro.

É urgente refletirmos sobre o caminho que queremos trilhar enquanto sociedades livres. O risco de exportação deste modelo — ainda que em versões mais suaves e disfarçadas — não é imaginário. A tentação de medir tudo, de avaliar todos, de reduzir a conduta humana a algoritmos e pontuações pode ser o primeiro passo para uma nova forma de desigualdade social, mais subtil, mas não menos opressiva.

Afinal, o que está em causa não é apenas tecnologia. É a nossa própria noção de liberdade, de dignidade e de cidadania.