Estamos, de novo, no limiar de uma era misteriosa, aquela que relaciona humanidade e tecnologia, esperança e muitos perigos. De facto, estamos, outra vez, no limiar de um admirável mundo novo, em viagem para o universo do ciberespaço.

Na sociedade automática e algorítmica em que vivemos, somos, cada vez mais, cidadãos biface, isto é, cidadãos aumentados pelo uso de inúmeros dispositivos tecnológicos e digitais, mas, também, cidadãos condicionados e manipulados, por vezes, mesmo, idiotas úteis desses dispositivos em muitos processos de participação, deliberação e tomada de decisão.

Ao mesmo tempo, atravessamos uma crise grave das instituições de representação e mediação. Somos cidadãos aumentados, mas não confiamos na intermediação e não existe espaço-tempo de qualidade para a reflexão e o pensamento crítico. Aliás, a sociedade automática e algorítmica da convergência tecnológica é, tudo leva a crer, uma nova estrutura de poder para gerir a incerteza e a insegurança, pública e privada, na era digital. Dado o lugar central ocupado pelo Big Data e a Cloud Computing, tudo girará à volta da privacidade e da publicização dos dados pessoais. Estamos, assim, em plena sociedade e governação algorítmicas. Vejamos, então, algumas áreas-problema onde estas facetas ou manifestações do cidadão biface podem ser observadas, em consequência, justamente, da sua imersão no caldo de cultura do meio algorítmico.

A governação multiníveis da política europeia

A primeira área-problema diz respeito às restrições da governação multiníveis (local, regional, nacional e europeia) e a prevalência do governo das normas e da política das regras com origem na União Europeia. Agora que se discute em Bruxelas o aprofundamento da união económica e monetária, a criação de um orçamento específico para a zona euro, a regulação do mercado único digital e o pacto ecológico europeu, é de esperar que suba ainda mais o teor da condicionalidade europeia e o seu normativismo institucional. O mesmo é dizer, diminuirá em idêntica proporção a margem de liberdade da nossa atuação como beneficiário, destinatário e utilizador das regras europeias.

Com efeito, estamos em pleno império administrativo dos mestres-algoritmos (Domingos, 2017). Quanto mais se anuncia, na retórica do discurso político, a necessidade imperiosa de territorializar as políticas públicas, mais se constata, no dia-a-dia da administração e dos beneficiários, a afirmação do império administrativo do template, do algoritmo, do vade-mecum, das boas práticas regulamentares, em tudo ou quase tudo o que diz respeito aos processos de candidatura, aos processos de aprovação, aos processos de contratação, aos processos de pagamento, aos processos de inspeção, aos processos de auditoria, aos processos de avaliação, etc. É a operacionalização sofisticada e rebuscada de processos e procedimentos, comandada à distância, por Bruxelas e Lisboa e que obrigam o “pobre destinatário”, desde logo nos avisos de concursos, a desembolsar verbas para apoio e consultoria, sob pena de ver a sua candidatura prejudicada.

Esta é uma “faceta sombria” da sociedade algorítmica, isto é, a reformatação do destinatário e do seu projeto, induzida pela digitalização burocrática, com um custo de acesso e formalidade crescente, que pode ter um efeito de segregação e exclusão apreciável e para o qual é preciso estar prevenido se queremos, mesmo, concretizar o princípio da liberdade, da descentralização e da territorialização das políticas públicas correspondentes.

O “novo normal” da governação algorítmica

A segunda área-problema diz respeito à governação algorítmica das grandes plataformas digitais e redes sociais que estipulam e conformam cada vez mais os nossos comportamentos. É aqui que reside, porventura, o lado mais insidioso do problema da multiplicação de plataformas digitais e outras tantas redes sociais, em especial, nos chamados mercados biface (Jean Tirole, 2016).

De que trata, então, a governação da sociedade algorítmica? A montante das cadeias de valor, as plataformas tecnológicas e digitais facultam-nos o “acesso livre” aos seus conteúdos (1ª face). Depois de termos “almoçado gratuitamente” nas autoestradas da informação os nossos dados brutos são convertidos em sinais infra pessoais e através de procedimentos de cálculo e correlações estatísticas (algoritmos) são traduzidos em padrões e perfis de comportamento e, logo, vendidos aos agentes e operadores que estão no mercado (2ª face) sem qualquer retorno ou rendimento para os “titulares desse direito”.

Quer dizer, estamos perante uma espécie de “modelo extrativista” em que os cidadãos internautas, utilizadores de redes e plataformas, são produtores e fornecedores de uma gigantesca massa de informação pessoal, muita dela subliminar, num ambiente informacional vertiginoso e hipnótico, que tem tanto de benignidade como de toxicidade. Este é um tópico de uma enorme sensibilidade, uma vez que está em causa a gestão da privacidade dos cidadãos.

No plano do conhecimento, não interessa o contexto, a singularidade ou a significação desses dados. A governação da sociedade algorítmica, na sua exuberância calculatória, transforma os algoritmos em próteses cognitivas que provocam não apenas a exteriorização do saber, mas, também, a proletarização de algumas classes profissionais e intelectuais. É certo, no plano do sujeito individual, os nossos “duplos algorítmicos” podem ser muito úteis se os soubermos manipular em nosso benefício. Quanto ao resto, a nossa rastreabilidade será explorada exaustivamente em ordem a produzir padrões supra individuais que antecipem e orientem o nosso comportamento, tudo garantido pelos “sensores e censores” da governação algorítmica.

A crise do espaço público e do pensamento crítico

A terceira área-problema diz respeito à redução e empobrecimento do espaço público, à turbulência do agir comunicacional e, logo, à crise do pensamento crítico. Aliás, as duas primeiras áreas objeto da nossa atenção, a governação multiníveis e as plataformas tecnológicas, já nos permitem fazer essa observação, isto é, elas são já a prova e o testemunho de uma crise do pensamento crítico, pois não existe nelas o espaço-tempo de reflexão e debate e a deliberação política de qualidade. Acresce que, a chegada em força da internet dos objetos, da inteligência artificial e dos interfaces da realidade aumentada e virtual empobrecerá ainda mais o espaço público e o pensamento crítico. Sob a forma de um decálogo da governação algorítmica, vejamos, então, alguns aspetos dessa crise do pensamento crítico.

  • Em primeiro lugar, vivemos uma crise generalizada de representação, confiança e mediação, que é, também, uma crise de interpretação e leitura do mundo, se quisermos, uma “crise da nossa verdade”, que alguma literatura denomina de pós-verdade,
  • Em segundo lugar, temos a sensação amarga de que estamos, de certo modo, a experimentar o princípio do fim do nosso universo comunicacional, ao trocarmos progressivamente o sistema operativo do nosso dispositivo alfabético, rico simbolicamente, por uma linguagem binária ultra simplificada e pobre simbolicamente,
  • Em terceiro lugar, os “sensores algorítmicos são os olhos e os ouvidos do imperador”, os sismógrafos que registam os nossos dados infra pessoais, uma espécie de guarda pretoriana avançada que atua em nome e benefício dos novos senhores do capitalismo digital e da governação algorítmica,
  • Em quarto lugar, a governação algorítmica age preventivamente, não há eventos ou acontecimentos, hipóteses sobre o real ou pensamento sobre a realidade, os dados são a matéria-prima de base e são eles a fonte e a origem da realidade; o que interessa é a calculabilidade desses dados brutos e a correlativa hiper indexação do individuo,
  • Em quinto lugar, no universo algorítmico a subjetividade é substituída pela automatização, não há lugar para a improvisação, somos editados pela governação algorítmica como um simples perfil, somos, digamos, coisificados,
  • Em sexto lugar, os algoritmos e a governação algorítmica são uma nova estrutura de poder para gerir a incerteza e a insegurança, isto é, para manter a normalidade contra a liberdade e a espontaneidade, ao serviço de um novo poder,
  • Em sétimo lugar, no universo algorítmico somos uma espécie de cidadão aditivado; a sociedade algorítmica alimenta-se de um vasto ambiente informacional, da híper inteligência dos dispositivos tecnológicos e, obviamente, da “adição digital” provocada junto dos utilizadores que não percebem que “o produto somos nós”, tal é a ubiquidade e o narcisismo digital que nos mantêm como os idiotas úteis de serviço,
  • Em oitavo lugar, a ubiquidade e o narcisismo digital não nos deixam comunicar, mas, apenas, transacionar, pois estamos demasiado distraídos com “os brinquedos tecnológicos” para dar atenção ao agir comunicacional e à comunicação simbólica,
  • Em nono lugar, sem comunicação simbólica não há antropologia sociocultural que resista, isto é, deixamos de “produzir humanidade” e uma verdadeira cultura de cidadania,
  • Em décimo lugar, onde há sensores há censores, isto é, se os idiotas úteis forem muito numerosos estarão reunidas as condições para lançar regimes autocráticos, iliberais e populistas; aliás, na governação algorítmica basta rodar os algoritmos e a pós-verdade aparece como por magia.

Notas Finais

Na sociedade algorítmica os nossos dados pessoais, recolhidos em múltiplos dispositivos fixos e móveis, são objeto de uma filtragem e tratamento em grandes centros de dados por intermédio de protocolos e procedimentos matemáticos chamados algoritmos. O resultado final desse processamento apresenta-se sob a forma de perfis e padrões de comportamento personalizados que são depois vendidos a empresas de marketing e publicidade ou diretamente às grandes empresas de distribuição e retalho. Estes mercados de duas faces, gratuitos a montante e pagos a jusante, são designados de “mercados biface” e são eles que proporcionam as receitas gigantescas às grandes plataformas digitais como a Google e o Facebook. Por isso, nós perguntamos, se seremos, também, cidadãos biface, seduzidos e engolidos pelos dispositivos da sociedade algorítmica.

Nunca se falou tanto em transformação digital, plataformas digitais, start up, big data e cloud computing, algoritmos e governação algorítmica, inteligência artificial. Ficamos, assim, com a sensação agradável de que há uma promessa que se quer cumprir, que estamos a cultivar um novo espaço público e a abrir um novo campo de possibilidades. Ao mesmo tempo, porém, há um lado mais furtivo e menos luminoso do problema que merece a nossa atenção, que procede por inversão dos termos da equação, onde os meios (o sistema técnico-científico) tomam conta dos fins e onde a inovação política e social corre mais lentamente e atrás da elevada toxicidade da sociedade algorítmica.

Em consequência desta elevada toxicidade da sociedade algorítmica, veremos emergir uma nova cultura da regulação política e jurisdicional e novas figuras e protagonistas: os reguladores, os auditores, os inspetores, os cuidadores, os procuradores do interesse público e privado em plena era digital. É aqui que nós estamos, quando se fala de mercado único digital e de regulamento europeu em matéria de privacidade e proteção de dados pessoais. Fica, pois, o aviso. Na era digital e automática da convergência tecnológica, abrir a Caixa de Pandora ou esfregar a Lâmpada de Aladino pode ser uma operação de alto risco. Cuidado, pois, com a armadilha do narcisismo digital e do idiota útil. Não deixemos que a inteligência artificial tome conta da nossa inteligência racional, não deixemos que a arte emocional das relações humanas seja trocada pela caricatura de uma bricolage social, renovemos o princípio da precaução e a ética do cuidado, vivamos a vida ao quotidiano nas nossas comunidades offline e sempre que necessário acionemos o “direito de desligar”.

E lembremo-nos. Doravante, entre sensores vigilantes e censores furtivos, tudo pode acontecer, mesmo o absolutamente imponderável.