Quando os regimes democráticos parecem estar a acordar para a realidade da sociedade digital procurando introduzir novos mecanismos que aproximem cidadãos e instituições a democracia poderá estar prestes a enfrentar o seu maior desafio. E não, não é um novo confronto com ideias populistas ou regimes ditatoriais, a ameaça letal que se aproxima resulta da penetração da tecnologia nos alicerces do sistema e poderá ser um golpe fatal nas estruturas do regime democrático.

Mas vamos por partes. Falar assim de tecnologia é certamente demasiado vago pelo que é necessário mencionar a Inteligência Artificial e, mais concretamente o Reconhecimento Facial para começarmos a perceber o que se avizinha.

Sem nos apercebermos, de repente o Reconhecimento Facial está em toda a parte. Quando começámos a poder identificar os amigos nas fotografias das redes sociais isso foi encarado como mais uma funcionalidade inocente e divertida, longe de imaginar que estávamos a alimentar um poderoso sistema que está a moldar as nossas vidas, o funcionamento das sociedades, e o mundo.

Um mundo sem chaves – o que é e como funciona o Reconhecimento Facial

O rosto humano é como um poderoso dispositivo de sinalização que fornece um elevado conjunto de informações úteis. A imagem que cada um de nós projecta faz parte da nossa identidade permitindo que a interacção com outros seres humanos ocorra porque temos a capacidade de reconhecer a especificidade de cada um. Sem essa característica não haveria relações interpessoais e, consequentemente, vida social, aquilo que nos torna únicos como espécie. Para identificar um rosto humano, o cérebro necessita de mais de 10 mil milhões de neurónios atingindo um grau de precisão 97,53%. Os sistemas de Reconhecimento Facial já o fazem com uma precisão próxima dos 100%.

O sistema de Reconhecimento Facial baseia-se num algoritmo com capacidade para interpretar e relacionar um conjunto de características e medidas do rosto humano. Os cantos internos e externos dos olhos, as margens das orelhas, a ponta do nariz, os cantos da boca ou a distância entre os centos da retina dos olhos são alguns dos pontos antropométricos cujas distâncias entre si permitem identificar cada ser humano com a máxima precisão eliminando eventuais efeitos de factores como o penteado, a maquilhagem ou mesmo acessórios como brincos ou piercings.

O sistema de Reconhecimento Facial funciona de uma forma bastante simples. Câmaras instaladas na rua, no interior dos edifícios ou mesmo em equipamentos detectam os rostos dos cidadãos e comparam-nos com uma base de dados. As pessoas são identificadas quando, através da utilização de redes neurais de última geração, a correspondência entre a imagem da câmara e outra já existente no sistema cai nos parâmetros previamente definidos – 99%, por exemplo – num processo que não demora mais de alguns milissegundos. Os algoritmos dos sistemas de RF estão de tal forma evoluídos que permitem reconhecer qualquer pessoa, mesmo numa imagem antiga, com mais de 20 anos.

Mas a maior fonte de imagens não provém de câmaras de videovigilância, mas de um lugar bastante mais próximo. As redes sociais são o maior fornecedor de matéria-prima dos sistemas de Reconhecimento Facial. Cada vez que publicamos uma imagem e identificamos aqueles que aparecem na fotografia estamos a facilitar o trabalho dos sistemas de RF e a aumentar consideravelmente a sua disseminação.

Com centenas de milhões de câmaras instaladas por esse mundo fora e mais de 300 milhões de novas imagens inseridas diariamente no Facebook os sistemas de Reconhecimento Facial estão a ser alimentados a toda a hora por sistemas de Inteligência Artificial (IA) com capacidade de aprendizagem própria, o que torna o sistema de RF extremamente eficaz.

Aceder ao computador ou smartphone sem passwords, através do Reconhecimento Facial, garante maior segurança para o utilizador uma vez que impede o roubo de identidade. Por isso, em breve deixaremos de precisar de usar cartões de identificação, dinheiro, chaves ou passwords e utilizaremos apenas o nosso rosto como meio de certificação válido em todo o mundo. A nossa vida ficará bem mais simplificada. Mas nunca mais teremos privacidade. Seremos identificados na rua. Quando participamos em qualquer actividade. Quando acedemos a qualquer lugar. Nunca mais estaremos sós. Nunca mais conseguiremos ficar sós.

Sei onde estavas no 25 de abril – aplicações e implicações do Reconhecimento Facial

Com a vulgarização de aplicações baseadas no Reconhecimento Facial (RF) vamos poder ir ao futebol sem ter de comprar bilhete, ou ir ao banco sem cartão como está a fazer o HSBS. O aeroporto do Changi, Singapura, está a introduzir Smart Gates com capacidade de RF para reduzir filas de espera e agilizar o controlo dos passageiros eliminando o passaporte. Os navios de cruzeiro também estão a adotar a tecnologia de RF para que os passageiros possam fazer compras sem ter de levar cartões de crédito. Nos Estados Unidos, a adopção do RF para verificação de cartas de condução permite identificar qualquer um, mesmo quando não apresenta documentos de identificação. Na Nova Zelândia o RF está a ser utilizado para controlar jogadores que se auto-excluem de entrar nos casinos. E na Índia, onde todos os anos desaparecem milhares de crianças foi possível, através de sistemas de Reconhecimento Facial, encontrar mais de 3000 crianças desaparecidas só no primeiro trimestre deste ano. Por todo o mundo, as forças policiais estão a trabalhar na adopção do sistema de RF em situações bastante concretas como a identificação de suspeitos de crimes ou em espectáculos ao vivo, permitindo o controlo de todos os presentes em tempo real, adeptos violentos de futebol incluídos. Mas isto é só o começo.

À medida em que crescem as aplicações baseadas em RF e o interesse em adoptá-las aumenta, a concorrência no setor da IA aplicada ao RF também aumenta tornando a sua disseminação irreversível como parte do nosso quotidiano. A China não está apenas a introduzir o sistema em todo o território como já o está a exportar, nomeadamente para outros países asiáticos e africanos enquanto as grandes tecnológicas americanas, que também têm os seus próprios sistemas de RF, começam a disseminá-los nas sociedades ocidentais.

Há muito que os sistemas biométricos são utilizados para identificar pessoas. Mas se o recurso a impressões digitais pela polícia ou para o controlo de acessos em muitas empresas não suscitaram grandes interrogações porque foram normalmente associados ao tema da segurança, já o Reconhecimento Facial entra numa outra dimensão, a da liberdade individual.

A grande diferença com os primeiros sistemas biométricos está no facto do Reconhecimento Facial não requerer permissão. Dificilmente se obtêm as impressões digitais de alguém sem a sua aceitação, e no caso do reconhecimento de voz só a gravação de centenas de horas permite dar alguma fiabilidade ao sistema. O Reconhecimento Facial torna tudo bastante mais simples. Qualquer fotografia identificada por nós nas redes sociais já o fez. Até mesmo aqueles que não utilizam as redes sociais são facilmente inseridos no sistema. Qualquer pessoa pode ser identificada por um colega ou por um amigo numa selfie ou numa fotografia de grupo. A partir desse momento, o sistema fica a saber quem somos e vai identificar-nos instantaneamente em todas as outras imagens já existentes nas bases de dados, permitindo reconstruir todos os nossos movimentos passados assim como em todas as imagens futuras. Independentemente do nosso conhecimento, independentemente da nossa aceitação.

Por isso ainda estamos longe de perceber as consequências que o RF está a introduzir na nossa vida privada e colectiva porque não se trata apenas do risco de perdermos a privacidade, podemos estar perante a maior ameaça à forma como funciona uma sociedade, tal como as conhecemos hoje.

Este debate está a acontecer há algum tempo entre os principais protagonistas da era digital opondo, por exemplo, Mark Zuckerberg, promotor activo da Inteligência Artificial, ao visionário Elon Musk, para quem a IA pode ser uma ameaça à Humanidade, mas vai muito para além de uma discussão teórica entre nerds. A China já manifestou publicamente a intenção de querer vir a ser o principal centro mundial de inovação em IA até 2030. E a Administração Trump está a trabalhar com as grandes empresas tecnológicas americanas para acelerar a introdução da IA no quotidiano dos cidadãos americanos. E em breve estará por todo o lado.

A ameaça à democracia – Quando a tecnologia entra na política

O impacto que a vulgarização de sistemas baseados em IA irá provocar na economia, nomeadamente na automação e, consequentemente, na destruição de empregos já não surpreende ninguém. Todavia, as repercussões tecnológicas podem ser bastante mais insidiosas porque, não raras vezes, quando procuramos atenuar o embate da tecnologia em determinados sectores somos confrontados com impactos bastante mais fortes em áreas em que poucos pensavam. Sucedeu com os seguros, por exemplo, quando todos olhavam apenas para o impacto da condução autónoma no sector automóvel.

O mesmo se passa com o Reconhecimento Facial. Quando todos olham para as consequências ao nível da segurança e da privacidade, esquecemo-nos de projectar o impacto que poderá vir a ter noutras áreas como a política, por exemplo. E as consequências poderão ser significativas.

O conceito da Democracia 4.0 quer renovar a democracia na era digital. Uma maior participação dos cidadãos, transparência da informação, voto electrónico, democracia representativa e outras ideias que parecem estar na ordem do dia como elementos estruturantes de um novo sistema de governação mais colaborativa e transparente podem, afinal, não passar de factores de transição para algo verdadeiramente mais fracturante e perturbador.

Nas democracias do futuro, em muitos casos já presente, vamos ter de lidar com um mundo inundado de dados, que nós próprios fornecemos e sobre os quais não temos qualquer controlo ou benefício, utilizados por sistemas de algoritmos cujos objectivos desconhecemos.

E apesar da introdução da nova norma europeia de Protecção de Dados (CNPD) pretender proteger os direitos dos cidadãos na Era Digital, a legislação relativa à instalação de sistemas de videovigilância, por exemplo, vai deixar de ter qualquer controlo prévio, prevalecendo a auto-regulação e abrindo caminho para uma adopção massiva.

O maior desafio da democracia vai ser o embate com a implementação de sistemas de Reconhecimento Facial. Mesmo quando os sistemas de RF visam apenas tirar os criminosos das ruas não devemos ficar tranquilos porque a definição de criminosos pode variar radicalmente em função da natureza dos governos.

Por isso o tema do Reconhecimento Facial já não é sobre segurança e prevenção do crime, mas sobre governança e democracia. Um sistema generalizado de vigilância que usa Reconhecimento Facial alimentado por IA, representa ameaças aos direitos de reunião e respeito pela vida privada, entre outros Direitos e Garantias de um Estado de Direito.

O princípio da presunção de inocência é a base do nosso sistema jurídico e está vertido na Declaração Universal dos Direitos Humanos, mas num mundo hiper-monitorizado, onde todos os passos de todos os cidadãos serão registados e vigiados em tempo real o flagrante delito poderá passar a ser a norma e, nesse caso, que papel fica para os tribunais?

E se por um lado os sistemas de RF podem ter um impacto bastante positivo quando permitem reduzir o crime em 30%, como sucedeu com a introdução do sistema nos transportes públicos na cidade costeira de Xiamen, China, também causam enorme preocupação quando permitem identificar todos os participantes de uma manifestação contra determinada acção do governo.

Nas mãos erradas, como diria o Super-Homem, ao monitorizar permanentemente todos os movimentos dos cidadãos, o sistema de RF pode ser um poderoso instrumento de controlo das populações, violando a sua privacidade e limitando as suas liberdades.

Esta possibilidade de prever situações de conflito por parte de indivíduos ou organizações pode levar os governos a adoptar comportamentos profiláticos eliminando preventiva e sistematicamente situações de contestação, ainda que pacíficas e dentro da lei. Poucos cenários ilustram melhor o que poderá ser o fim da democracia.

Artistas, intelectuais, libertários, todos eles, em algum momento das suas vidas, romperam com a norma e desafiaram o status quo contribuindo decisivamente para o avanço e o progresso das sociedades. Sistemas de RF podem neutralizar a génese de comportamentos alternativos, desviantes, divergentes em prol de uma sociedade funcional sem lugar para a contestação nem para a genialidade humana.

A tentação de muitos governos na adopção de um modelo como este sempre foi elevada. Poder controlar a circulação de todos os cidadãos, a toda a hora e em todo o lado nem será o mais óbvio. Eliminar à partida qualquer indício de ameaça criminal e, essencialmente, política, é a maior ambição de qualquer regime totalitário e pode ser uma tentação, ainda que em prol da estabilidade social, para todos os outros.

A implementação de um sistema centralizado de Reconhecimento Facial poderá assim reduzir o Poder Judicial a certificar flagrantes delitos, empurrar o Poder Legislativo para a transposição de procedimentos e deixar ao Poder Executivo o domínio sobre todas as formas de contestação. A grande diferença em relação a fenómenos históricos já conhecidos reside no facto deste modelo se basear em sistemas de IA autónomos e supereficientes, imunes às fragilidades da natureza humana como a manipulação ou a corrupção, por exemplo.

Ainda que este pareça um cenário escatológico e que hoje possam existir suficientes reservas e resistências, a subjugação da sociedade face à invasão da tecnologia de IA parece imparável. Nunca será possível travar a evolução tecnológica como nunca será possível impedir um organismo de respirar. Quando ainda estamos a digerir o que verdadeiramente sucedeu de errado nas eleições americanas ou como foi possível a Cambridge Analytica utilizar dados privados, novos escândalos emergem e já só estamos apenas a confirmar como a Inteligência Artificial está a reconfigurar os regimes democráticos do futuro onde a tecnologia se impõe como principal protagonista.

Os primeiros estados a adoptar o RF serão os estados de grande dimensão, onde a prioridade passa por manter a integridade do território, os estados que vivem em regiões de conflito ou os estados que estão ameaçados pelo crime organizado, mas o receio de perder vantagens competitivas ao nível da eficiência e do desempenho económico fará com que a adopção generalizada por todos os demais seja uma questão de tempo.

Mesmo para o cidadão comum, a ideia de ver desaparecer as filas e os intermináveis tempos de espera nas repartições públicas, poder obter documentos oficiais instantaneamente ou ter acesso directo a determinados locais sem burocracias são, à partida, vantagens evidentes.

De facto, a tecnologia do Reconhecimento Facial vai permitir que os cidadãos votem, casem ou comprem uma casa quase instantaneamente sem necessidade de recorrer a qualquer tipo de documentação.

Mas também vai permitir aos governos prender criminosos mal saiam à rua, controlar acessos, estratificar pessoas e, claro, anular qualquer tentativa legal de tomada de poder por partidos, grupos ou organizações eliminando progressivamente qualquer tipo de oposição.

A matriz europeia assenta nos valores essenciais da Democracia e dos Direitos Humanos. Exactamente aquilo que a adopção institucional das tecnologias de Reconhecimento Facial põem em causa.