O que terão em comum autores tão diferentes como Etienne de la Boétie (1530-1563) que em 1548 escreveu O discurso da servidão voluntária, Jeremy Bentham (1748-1832) que em 1787 escreveu O panótico, George Orwell (1903-1950) que em 1948 escreveu 1984, Michel Foucault (1926-1984) que em 1975 escreveu Vigiar e Punir, mas, também, O nascimento da biopolítica em 1978 e A microfísica do poder em 1979, Ray Kurzweil (1948- —) que em 2006 escreveu A singularidade está perto, ou, ainda, Pedro Domingues (1957—) que em 2017 escreveu A revolução do algoritmo mestre?

Em diferentes contextos históricos eles trazem até nós momentos únicos do pensamento da sua época, mas, também, da história do pensamento universal. Que traço comum ligará, ainda hoje, em 2017, a servidão voluntária, a arquitetura do panótico, o Big Brother do ministério da verdade, o vigiar e punir das instituições de controlo social, a singularidade da inteligência artificial ou o algoritmo mestre da aprendizagem automática?

Em primeira leitura, todos eles escreveram sobre a relação entre o poder e a liberdade, a liberdade que o poder autoriza e o poder que a liberdade consente. E na era digital, da inteligência artificial, da aprendizagem automática e do transumanismo, o que nos estará reservado?

I. Poder e liberdade, autoridade e consentimento

Etienne de la Boétie morreu a 18 de agosto de 1563 com 33 anos de idade. Deixou-nos o mais forte e vibrante hino à liberdade que algum dia se escreveu O discurso sobre a servidão voluntária. Ao longo do discurso, e ao longo dos séculos, a sua mensagem fundamental permanece: quanta servidão voluntária há nas relações de poder, ou ainda, como fica a liberdade nas relações de poder quando uma parte da servidão é consentida?

Jeremy Bentham, ao contrário de La Boétie, teve uma vida longa de 84 anos. Em 1787 escreveu uma série de escritos intitulada Panopticon. Filósofo, jurista e economista do utilitarismo como norma de conduta geral, imaginou um modelo de arquitetura para otimizar a vigilância das pessoas em diversas instituições de controlo social, como prisões, hospícios, hospitais, escolas, etc. O panótico é um edifício circular com uma torre de vigilância ao centro e celas à sua volta, de tal modo que a luz exterior ilumina a cela para que todos os movimentos do preso sejam vistos, mas este não vê nada do exterior nem mesmo o vigilante na torre. Solidão, vigilância, punição, memória, prevenção, eis a lógica do panótico.

George Orwell faleceu muito cedo com 47 anos. Na novela 1984, expõe um retrato doloroso, mas magistral, da perda de liberdade do ser humano, vigiado em permanência pelo Grande Irmão, com a tecnologia ao serviço dessa perversão- É o poder como valor e poder absolutos que tudo justifica. É o Estado absoluto que toma conta da consciência, dos sentimentos e dos sentidos dos indivíduos e usa, para esse efeito, uma linguagem codificada, redutora e normalizada designada por Novilíngua com o objetivo de condicionar e manipular os comportamentos. Na fachada branca do Ministério da Verdade (Minivero) estão inscritas três palavras de ordem: Guerra é Paz, Liberdade é escravidão, Ignorância é força.

Michel Foucault faleceu em 1984 com 58 anos. Reuniu uma obra magistral em redor das relações entre poder e conhecimento e como eles são usados como um instrumento de controlo por intermédio de instituições sociais – asilos, hospitais, presídios, quartéis e escolas – que ele designava como instituições disciplinares. A obra de Foucault é um exercício permanente sobre a experimentação dos nossos limites e a nossa impaciência pela liberdade. As relações de poder entre as instituições de controlo e os indivíduos e o modo como interiorizamos essa relação dizem-nos, também, como “somos socialmente produzidos”, ou a biopolítica de Foucault. Neste contexto, diz Foucault, o poder e o saber são cúmplices de longa data.

Ray Kurzweil tem 69 anos, é o diretor de engenharia da Google, um investigador visionário na área da inteligência artificial tendo criado para o efeito o Instituto da Singularidade; em 2005 escreveu o livro The singularity is near que atualiza as reflexões feitas em A Idade das máquinas inteligentes (1987) e em A idade das máquinas espirituais (1999). O ponto de singularidade é um ponto de convergência ou cruzamento na relação homem-máquina que Kurzweil situa algures entre 2040 e 2050. Nesse momento, a inteligência artificial e a aprendizagem automática adquirem autonomia e consciência próprias. Esse ponto de singularidade é possível, segundo Kurzweil, porque a tecnologia avança exponencialmente e permite quantificar/cartografar todas as funcionalidades do cérebro. A partir desta engenharia do cérebro humano, sobretudo do neocórtex, a sua parte pensante, é possível utilizar os conhecimentos mais avançados das neurociências para criar uma mente superinteligente. Isso mesmo é explicado no livro de 2014 intitulado Como criar uma mente.

Por último, o cientista português radicado nos Estados Unidos Pedro Domingos, especialista em ciências da computação, publica em 2017 o livro A revolução do algoritmo mestre sobre o tema da aprendizagem automática. Se George Orwell em 1984 inventou uma Novilíngua para condicionar e manipular as consciências veja-se o que Pedro Domingos diz a propósito da aprendizagem automática, mais propriamente dos cinco algoritmos mestres (p.318) “Conhecemos as cinco tribos da aprendizagem automática e os seus algoritmos mestres: simbolistas e dedução inversa, conexionistas e retropropagação, evolucionistas e algoritmos genéticos, bayesianos e inferência probabilística, analogistas e máquinas de vetores de suporte”!!

Terá Orwell abusado da sua novilíngua, inventando os vocabulários A, B e C e os ministérios do amor (minamor), da paz (minipax), do crime (minicrime), da verdade (minivero)? E que dizer da Novilíngua da era digital, versão portuguesa dos cinco algoritmos mestres?

Hoje, em plena era digital, mergulhados na cibercultura e a caminho da pós-humanidade, perguntamos de novo: quanta servidão voluntária estaremos nós a criar em nome de um qualquer Big Data, Big Brother ou Mestre-algoritmo?

II. A era digital, a tecnologia exponencial, sensores e censores

Uma das facetas mais intrigantes do próximo futuro é aquela que diz respeito à aceleração e divisibilidade tecnológicas e sua transferência para os domínios da liberdade individual e da vida quotidiana. Refiro-me à transformação de necessidades individuais, de desejos pessoais e de serviços públicos em objetos de consumo industrial que, doravante, ficam ao alcance e ao dispor da “internet das coisas” (IOT), da conexão generalizada e da indústria de serviços personalizados.

A grande transformação será, então, a conversão da “indivisibilidade de um serviço público, coletivo ou social” na “divisibilidade de um objeto privado” produzido pelo mercado e tornado possível pelo avanço tecnológico. Os serviços públicos prestados pelo Estado e outras coletividades via imposto seriam, então, progressivamente substituídos por objetos privados prestados por empresas via preço. O Estado seria progressivamente reduzido à sua dimensão mínima, a mercantilização alastraria a todos os domínios. Vejamos alguns aspetos desta grande transformação que, no limite, nos poderá transformar numa comunidade híper-vigilante de sensores convertidos numa espécie de “censores furtivos”, porventura nas mãos de gente menos recomendável. Uma híper-vigilância que faz inveja aos panóticos de antigamente.

1. Dos serviços públicos e coletivos aos objetos industriais de consumo

Esta transferência está, de resto, em curso, não apenas pela digitalização dos serviços públicos e colectivos mas, sobretudo, pela multiplicação de novos interfaces tecnológicos entre o serviço e o cliente, no sentido da sua progressiva personalização. O próprio Estado-administração repensará todo o seu front office criando, para o efeito, uma intermediação muito mais inteligente e diligente.

2. Dos objetos industriais de consumo à “internet das coisas”

Muitos dos serviços públicos serão tratados em inovadoras “caixas multisserviços” à imagem e semelhança das caixas multibanco; trata-se, de resto, de alargar os serviços já prestados, desta vez, segundo um conceito muito mais amplo de “internet das coisas”. A personalização do serviço caminhará a par com a personalização do cliente. As próprias câmaras municipais caminharão para uma espécie de loja do cidadão com muito maior interatividade tecnológica e digital.

3. Da “internet das coisas” à ubiquidade nómada

Estaremos em todo o lado e ao mesmo tempo. Através da comunicação virtual com objetos e pessoas todo o nosso universo pessoal estará à distância de um click. No mesmo sentido, tudo será mais flexível, da natureza das relações laborais à duração dos horários de trabalho. A pluriatividade e a topoligamia serão a regra, pois estaremos casados com vários lugares ao mesmo tempo, recomeçaremos várias vezes os nossos projetos de vida em ambientes profissionais muito diversos, pelo que a mobilidade, o nomadismo e a flexibilidade serão os nossos princípios orientadores.

4. Da ubiquidade nómada à híper-vigilância

O preço a pagar pela ubiquidade nómada é a nossa total rastreabilidade. Na “internet das pessoas e das coisas” ficará o nosso rasto e história pessoais, isto é, a informação necessária e suficiente para o exercício da híper-vigilância que os diferentes prestadores de serviços não deixarão de manipular tendo em vista gerar fidelidade e conformidade em proveito próprio. Num jogo permanente de sedução e distração, somos colocados no que eu designo aqui como o “primeiro nível de condicionalidade e conformidade”.

5. Do imposto estatal ao prémio de seguro para tratar as externalidades

Com a aceleração e a divisibilidade tecnológicas a “socialização dos prejuízos” pode ter os dias contados, socialização que é uma regra fundamental do capitalismo como sabemos. O mesmo se poderá dizer do free raider e do moral hazard, os chamados “caçadores furtivos de despesa pública”. O contribuinte, em princípio, estará mais avisado. Ao mesmo tempo, a redução progressiva dos orçamentos públicos irá empurrar-nos para “coberturas privadas de risco pessoal”, quem sabe, para um regresso às mútuas de seguro, numa aceção moderna e responsável de risco pessoal.

6. Do prémio de risco à autovigilância

Se o nosso caminho for a cobertura privada do risco pessoal, que pode ser, também, cooperativa ou mutualista, estaremos a transitar para o “segundo nível de condicionalidade e conformidade”, desta vez a responsabilidade pessoal sobre “nós próprios”; nesta nova condição, os chips, as próteses e os gadgets de autovigilância servirão, a todo o tempo, para ajustar o prémio de risco aos efeitos diretos e colaterais do nosso comportamento. As técnicas nanométricas e biométricas e as ciências cognitivas, por via de chips e sensores de todo o tipo, serão os censores impiedosos dos nossos comportamentos cujos sinais transmitirão, just in time, às companhias de seguro.

7. Da autovigilância ao estado mínimo

Como dissemos, estamos perante uma alteração estrutural fundamental pois, pela primeira vez, podemos ter, ao mesmo tempo, menos estado e melhor estado. É uma oportunidade única para fazer, finalmente, a reforma do estado, se acertarmos, obviamente, nas prioridades políticas mais fundamentais. De facto, com uma redução substancial dos “caçadores furtivos de despesa pública” teremos poupado ao contribuinte imensos recursos que ele poderá canalizar para aplicações privadas, cooperativas e mutualistas, num mix contratualista, muito mais saudável, de imposto, taxas, preços e low cost. Julgamos nós.

8. Do estado-mínimo à cidade-estado e redes de cidades

Na mesma linha de raciocínio, isto é, de reduzir a intermediação pública convencional, de natureza vertical e hierárquica, em ordem a uma intermediação mais inteligente e imaginativa, mais lateral e colaborativa, teremos, igualmente, a médio prazo, a oportunidade de caminhar em direção ao Estado em rede composto por cidades-estado e redes de cidades pequenas e médias que têm um enorme potencial distributivo por explorar e que, por essa via, podem oferecer uma nova gama de utilities e serviços colaborativos, cooperativos e mutualistas.

9. Das redes de cidades às comunidades de autogoverno

Na mesma linha de raciocínio, os novos interfaces tecnológicos e digitais tornarão possível a formação de inúmeras “comunidades de autogoverno” que alterarão substancialmente a atual oferta municipal; trata-se, se quisermos, de uma espécie de condomínios abertos e colaborativos da era digital em múltiplos formatos e os interlocutores privilegiados das autoridades oficiais. Não surpreenderá, pois, que a autarquia convencional, vertical e hierárquica, ceda o passo às comunidades de autogoverno e suas respetivas federações.

10. O Big Data e a governação da sociedade algorítmica

O lado mais sombrio de tudo o que dissemos terá a ver com a “nova regulação política” (ou ausência de regulação) do Big Data e dos chamados “mercados biface”, onde atuam e dominam os cartéis das grandes plataformas tecnológicas; nestes mercados com duas faces – numa face as grandes plataformas “concedem-nos acesso gratuito”, na outra face as plataformas vendem essa informação pessoal às companhias de marketing e publicidade – somos transportados para o “terceiro nível de condicionalidade e conformidade” situado, desta vez, no plano das liberdades públicas e dos direitos individuais de cidadania, privacidade e segurança pessoal. Os “abusos de posição dominante” nos mercados bifaces serão uma tentação para as grandes plataformas e a cumplicidade dos reguladores um cuidado a ter em conta.

Nota Final

Chegados aqui, estamos perante a edificação de uma outra sociedade a que alguns chamam “A sociedade algorítmica”. Nesta sociedade, o Big Data tem muitas semelhanças com a torre central do grande panótico da era digital onde reinam os inspetores-chefe GAFA e NATU de um território imenso denominado a “internet of everything” e onde também domina a novilíngua cibernética, o novo código de linguagem da sociedade e da governança algorítmicas. Os três níveis de condicionamento e conformidade antes referidos são a base de uma nova estrutura de poder, de uma nova servidão voluntária, onde todos somos, ou podemos ser, ao mesmo tempo, sensores, delatores e censores.

Dado o lugar central ocupado pelo Big Data e a matéria-prima com a qual ele labora, tudo girará à volta da privacidade e da publicidade dos nossos dados pessoais. Em consequência, os mercados biface serão, no próximo futuro, uma fonte segura de conflito e contencioso social e à sua volta emergirão uma nova organização social (e sindical?) e uma outra regulação política e jurisdicional com novas figuras e protagonistas: os reguladores, os cuidadores, os procuradores do interesse público e privado em plena era digital.

Não sabemos, ainda, neste percurso vertiginoso, se os sistemas automáticos autónomos de Ray Kurzweil e os mestres algoritmos de Pedro Domingues nos trarão surpresas incomensuráveis, no universo da inteligência artificial e da aprendizagem automática. Sabemos, porém, com Michel Foucault, que saber e poder se confortam mutuamente. Sabemos, também, com Foucault, que uma outra biopolítica estará para nascer quando for alcançado o ponto de singularidade de Kurzweil. Até lá, porém, e porque a inovação política e social corre muito mais lentamente, há o sério risco de ficarmos prisioneiros da elevada toxicidade da sociedade algorítmica e prontos, porque exaustos, para receber o próximo Big Brother de George Orwell. Doravante, entre sensores vigilantes e censores furtivos, tudo pode acontecer, mesmo o absolutamente imponderável.

GAFA: Google, Apple, Facebook, Amazon
NATU: Netflix, Airbnb, Tesla, Uber.

Professor da Universidade do Algarve