A inteligência artificial e as máquinas inteligentes continuam a fazer o seu caminho em direção ao ponto de singularidade, o ponto onde a criatura se pode separar do criador. Em pleno processo de deep learning espero bem que o mestre-escola esteja à altura dos desafios e não converta as máquinas inteligentes numa espécie de caçadores furtivos. Seja como for, vamos passar, gradualmente, dos comportamentos prováveis e previsíveis para os comportamentos preditivos e prescritivos, isto é, doravante, vigiar e punir, sensores e censores, a estatística e a matemática no lugar das normas e das regras institucionais, farão parte do novo normal. E os motivos não faltam, senão vejamos: a Segurança Social precisa de vigiar as suas prestações sociais e subsídio de desemprego, o sistema bancário a sua concessão de crédito, as seguradoras os seus serviços de seguro, os serviços fiscais as práticas de fuga e evasão ao fisco, a segurança pública os serviços de vigilância e policiamento, a Justiça os serviços de administração de justiça, a Saúde a prestação de serviços de saúde, o Estado os serviços de segurança. Em todos os casos, um traço comum, prevenir o desvio à norma, logo, vigiar e punir o eventual infrator. Doravante, na nossa circunstância pessoal, vamos acumular pontos de suspeição até atingirmos uma linha vermelha. Um jogo perfeito, uma espécie de playstation para um caçador furtivo.

No século XXI já não precisamos do panótico de Foucault para vigiar e punir, hoje temos um caçador furtivo muito mais eficaz e instruído pela inteligência artificial por via de machine e deep learning. Onde antes havia um projeto arquitetónico singular, hoje temos uma tecnologia com as mesmas propriedades de então, mas muito mais insidiosa e invisível porque totalmente disseminada, pulverizada, anónima, personalizada e altamente eficaz. E, mais grave ainda, podemos estar, em boa medida, a “automatizar os mais pobres”.

Transição digital, reduzir a alienação e a servidão voluntária

No mandato do ex-presidente americano Trump pudemos observar como se processa a governação através das redes sociais e como a alienação e servidão voluntária servem tão elevado propósito de governação. Etienne de la Boétie, que morreu em 1563 com 33 anos de idade, deixou-nos o mais forte e vibrante hino à liberdade que algum dia se escreveu, O discurso sobre a servidão voluntária. A sua mensagem fundamental permanece e foi muito visível ao longo do mandato de Trump: quanta servidão voluntária há nas relações de poder, ou ainda, como fica a liberdade nas relações de poder quando uma parte da servidão é consentida? Lembremo-nos de George Orwell, autor do livro 1984, e das três palavras de ordem inscritas na fachada branca do Ministério da Verdade: Guerra é paz, Liberdade é escravidão, Ignorância é força.

Hoje, em plena era digital, mergulhados na cibercultura e a caminho da pós-humanidade, perguntamos de novo: quanta servidão voluntária estaremos nós a criar por intermédio de um qualquer assistente inteligente, seja ele um robot de companhia, uma machine learning, um mestre-algoritmo ou uma simples aplicação?

Já sabemos que a transição digital significa a criação de mais tecnologias imersivas, intrusivas e invasivas. Por isso mesmo, uma das facetas mais intrigantes do próximo futuro é aquela que diz respeito à divisibilidade e miniaturização tecnológicas e sua transferência para os domínios da liberdade individual e da vida quotidiana e, mesmo, para o interior do nosso habitáculo biológico. Refiro-me à transformação de necessidades individuais e desejos pessoais em objetos de consumo e gadgets pessoais que, doravante, ficam ao alcance da “internet das coisas” e a indústria de serviços digitais personalizados.

Para prevenir e reduzir a alienação digital e a servidão voluntária teremos de fazer um esforço acrescido, não apenas para acautelar os nossos níveis de atenção, mas, também, para entender alguns ambientes digitais onde a alienação e a servidão podem acontecer.

Em primeiro lugar, as cadeias de valor que buscam cada vez mais o consumidor para ser prosumidor, coprodutor e cogestor. É preciso estar muito atento para não ser ludibriado como colaborador, em particular em matéria de direitos, liberdades e garantias socio-laborais.

Em segundo lugar, as redes sociais onde se formam bolhas de opinião quase tribais e onde somos capturados para alimentar algumas teorias da conspiração em favor de terceiros.

Em terceiro lugar, o deslumbramento com a conversão de um serviço público, coletivo ou social, num objeto ou serviço privado produzido pelo mercado e tornado possível pelo avanço tecnológico e digital. Alguns serviços públicos prestados pelo Estado e outras coletividades que são financiados por via do imposto serão, assim, progressivamente substituídos por objetos e serviços personalizados prestados por empresas privadas por via do preço. O Estado será progressivamente desmaterializado e reduzido à sua dimensão mínima, mas os cidadãos mais desfavorecidos podem ser, mais uma vez, ludibriados por esta conversão tecnológica que os atinge diretamente.

Por último, um ambiente digital mais recente onde, supostamente, poderemos reduzir a alienação e servidão voluntária diz respeito à emergência da sociedade colaborativa. É um ambiente digital cheio de equívocos onde coabitam iniciativas colaborativas genuínas e negócios ditos colaborativos de grandes companhias tecnológicas multinacionais e onde, portanto, a dose de ilusão digital e servidão voluntária é muito variável.

A transição digital e a nova governação dos limites

Com a economia digital está de novo em causa o chamado governo dos limites. Ora, em nome de um novo governo dos limites, não podemos inverter os termos da equação, ou seja, as tecnologias serão sempre instrumentos ao serviço dos direitos humanos, a humanidade será sempre um princípio de ordem e a tecnologia um coadjuvante fundamental, tão somente. Todavia, o capitalismo não desistirá e quanto mais imersivas, invasivas e intrusivas forem as tecnologias digitais, maior será a probabilidade de ocorrer alienação digital e servidão voluntária e muito maior a intrusão do machine e deep learning no nosso comportamento.

A pandemia da Covid-19 teve e terá um impacto fortíssimo na transformação digital da sociedade, acelerando a digitalização de processos e procedimentos, por exemplo, na telemedicina, no teletrabalho, no ensino à distância, no comércio online, nos serviços públicos online, nos captores/sensores ambientais, nas câmaras de segurança, no combate ao cibercrime, para referir apenas os casos mais citados. A pandemia da Covid-19 apertou a malha digital e digitalizou ainda mais os cidadãos. Digamos que, involuntariamente, a pandemia causou uma maior adição digital nos cidadãos. Quanto mais isolados e distanciados socialmente, mais ligados e conectados digitalmente.

Não é impunemente que tudo isto acontece. É imprescindível que os cidadãos sejam alertados para o efeito sistémico perverso deste caldeirão digital e para o risco de servidão voluntária, se não for adotado com conta, peso e medida. Os hipermercados digitais já aí estão, basta comprar e descarregar. Cuidado, mais uma vez. Uma aceleração digital feita num ambiente sem literacia e cultura digitais suficientes envolve um risco muito elevado e pode abrir a porta a graves episódios de violação da privacidade e da liberdade.

Por todas estas razões, o jogo do caçador furtivo só agora começou. Será uma espécie de jogo do gato e do rato. De um lado, o exercício de híper-vigilância que os diferentes prestadores de serviços não deixarão de manipular tendo em vista gerar obediência e conformidade, do outro, o nosso génio digital tirando partido dos inúmeros dispositivos tecnológicos e canais de comunicação disponíveis, no grande intervalo entre a colaboração benigna e a pirataria informática.

A nossa relação com o Estado-administração será particularmente visada. Por um lado, com a inteligência artificial e as máquinas inteligentes, a socialização dos prejuízos pode ser bem escrutinada e substancialmente reduzida, uma socialização que é, como sabemos, uma regra fundamental do capitalismo contra a administração e o contribuinte cumpridor. Por outro lado, na posse de inúmeros dispositivos digitais, o contribuinte, qual passageiro clandestino, continuará a tirar partido do risco moral assumindo ele próprio o papel de um caçador furtivo, não só de despesa pública, mas, também, de contribuinte incumpridor. A administração, em princípio, estará mais avisada, o escrutínio público será mais apertado e, talvez, a redução progressiva dos orçamentos públicos nos empurre para soluções colaborativas e partilhadas de risco, quem sabe, para um regresso às cooperativas e mútuas de seguro, numa aceção moderna e responsável de risco pessoal.

Na desintermediação institucional e administrativa os limites mudam todos os dias e muitos dos serviços públicos serão, então, tratados em inovadoras “caixas multisserviços” à imagem e semelhança das caixas multibanco, de acordo com um conceito muito mais amplo de “internet das coisas”. Em princípio, a personalização do serviço caminhará a par com a personalização do utente, todavia, no terreno concreto, a exclusão digital poderá crescer com o envelhecimento, a pobreza e a iliteracia. É isto a automatização da pobreza. As próprias câmaras municipais caminharão, também, para uma espécie de loja do cidadão com muito maior interatividade tecnológica e digital, mas, por dever de cidadania elementar, elas estarão obrigadas a usar as suas juntas de freguesia como novos lugares centrais e, assim, impedir que a automatização da pobreza aconteça.

Na internet das pessoas e das coisas a nossa rastreabilidade será quase total. Não é apenas a administração que traça novos limites, nós também pagaremos o preço pelo nosso crescente nomadismo digital ou, se quisermos, por uma geografia desejada feita de ubiquidade e topoligamia. Num jogo permanente de sedução e distração, a nossa tolerância e o nosso narcisismo digital irão, muitas vezes, abrir o flanco e cair na alienação digital e a servidão voluntária.

Notas Finais

Em resumo, a governação política está obrigada, mais uma vez, a definir novos limites éticos e jurídico-políticos que preservem a espécie humana da sua loucura pós-humanista. Por outro lado, por causa de uma elevada conectividade e interatividade, não podemos ficar reféns das máquinas inteligentes, mas, também, do passageiro clandestino e do seu comportamento furtivo, donde a relevância em tratar com extremo cuidado as questões de segurança das redes e privacidade dos cidadãos.

Esta tendência crescente de converter cada gesto da nossa vida num aplicativo digital e, logo de seguida, atribuir ao nosso assistente inteligente, o smartphone, a função reguladora principal da nossa existência, é uma tendência deveras perturbadora. Na grande tradição dos romances distópicos – a recente republicação das obras de George Orwell, em especial o livro 1984, é um bom sinal disso mesmo – estamos, de novo, no limiar de uma era misteriosa, aquela que relaciona humanidade e tecnologia, plena de mistério, esperança e muitos perigos. Todos eles falam de condicionamento e manipulação, de vigilância e polícia do pensamento e, no caso de Orwell, de uma novilíngua.

Terá a era digital alguma relação com esta tradição distópica? Será o hibridismo homem-máquina uma transição para outros universos de sentido e estados mentais? Quem está por detrás das novas corporações do algoritmo, do big data e do cloud computing e qual é o grau de responsabilidade pública e democrática que eles nos devem? Vamos deixar-nos ludibriar pelas apps de gamificação e ludificação que apenas servem para nos infantilizar e distrair?

Em nenhum caso, poderemos consentir que a nossa servidão voluntária se transforme em guarda pretoriana de um qualquer populista candidato a ditador. Temos de encontrar rapidamente um novo modo de pensar, estar e fazer a política, sob pena de sermos reduzidos a uns idiotas úteis da governação algorítmica, clientes da Big Appstore e súbditos de um qualquer Grão-Mestre Algoritmo. Sem uma robusta literacia digital e uma cultura política humanista que a proteja tudo pode acontecer, o melhor e o pior.