Tem acesso livre a todos os artigos do Observador por ser nosso assinante.

A Comissão Europeia apresentou, esta quarta-feira, uma proposta legislativa para regular o uso de sistemas de inteligência artificial na União Europeia. Esta proposta surge não só no seguimento de um compromisso político assumido desde o início do mandato da Presidente Ursula von der Leyen, mas também em resposta à posição do Parlamento Europeu, apresentada em Outubro de 2020, quanto à necessidade de estabelecer um enquadramento jurídico para este fenómeno tecnológico assente num conjunto central de princípios éticos e num absoluto respeito pelos valores e direitos protegidos pelo Direito da União Europeia. O Regulamento proposto resulta, pois, de um excelente uso do poder de iniciativa legislativa que o Parlamento Europeu, órgão máximo de representação democrática na União Europeia, tem vindo a reforçar ao longo da evolução do projeto europeu. Por outras palavras, a voz dos cidadãos europeus tem ganho cada vez mais força e, por conseguinte, os temas que mais impacto têm ou podem vir a ter no seu quotidiano são colocados e discutidos em primeiro plano. É, com certeza, o caso da inteligência artificial.

Paradoxalmente, a inteligência artificial é uma criação do ser humano baseada em algoritmos matemáticos. Estes algoritmos são como uma receita, cuja seleção de ingredientes (que, no contexto desta metáfora, podem ser entendidos como os dados e informação utilizados para os treinar e desenvolver) é feita por quem os usa para cozinhar. Isto significa, que se o responsável por essa seleção só conhecer meia dúzia deles ou tiver, mesmo que inconscientemente, preferência ou parcialidade quanto a determinados sabores, texturas ou aromas, só introduzirá os ingredientes com que está familiarizado ou que resultarão num prato que seja do seu agrado. Tal parcialidade seria inofensiva, se os pratos confecionados através destas receitas, que são os algoritmos matemáticos, não fossem servidos à sociedade no seu todo ou a determinados grupos onde nem todos partilham dos mesmos gostos ou necessidades nutricionais do chef. Muitas vezes sem alternativa, os cidadãos ou indivíduos de um determinado grupo podem, então, ser forçados a consumir algo ou a não se poderem alimentar em detrimento do seu bem-estar e arriscando efeitos nocivos e irreversíveis.

Ainda que muitos pensem tratar-se de um assunto altamente técnico e complexo – o que não deixa de ser -, a inteligência artificial e, mais do que isso, as consequências do seu uso não regulamentado podem ser facilmente compreendidas. Um dos últimos exemplos disso mesmo é o documentário intitulado “Coded Bias”, sobre como a inteligência artificial se tem vindo a infiltrar nas mais diversas áreas e setores da sociedade, que pode ser visto numa das plataformas de streaming digitais mais populares de sempre. Ora: e se, de repente, um par de polícias o(a) interpelassem na rua por o(a) terem identificado (erradamente, claro está) enquanto suspeito(a) criminal através de câmaras de vigilância que utilizam um sistema de reconhecimento facial? E se o facto de se esconder dessas câmaras de vigilância na via pública, que recolhem este tipo de dados biométricos, fizesse também com que fosse questionado(a) pelas autoridades por corresponder a um comportamento suspeito? Parece-lhe impossível e quase que arriscaria afirmar que é ilegal? Acredita que se trataria de um desrespeito pela sua privacidade e dignidade enquanto pessoa? Pois é, mas aconteceu e acontece sistematicamente em vários países, nomeadamente no Reino Unido.

Desde sistemas de classificação e crédito social, que podem determinar o acesso a todo o tipo de serviços públicos, como aquele que existe atualmente na China (onde o governo utiliza abertamente esta abordagem em nome do interesse público), a sistemas de publicidade baseados em perfis individuais dos consumidores, construídos com base no acesso comercializado aos seus dados, tal como acontece nos Estados Unidos da América (onde grandes empresas e plataformas digitais veladamente o fazem com vista ao lucro), a emergência do uso de sistemas de inteligência artificial enquanto uma das questões sociais e éticas mais importantes dos nossos tempos é inegável. Elegibilidade para receber empréstimos financeiros, acesso a educação e oportunidades de recrutamento, submissão a tratamentos médicos e cirurgias, avaliação de desempenho profissional, manipulação da opinião pública ou interferência em processos democráticos – estas são apenas algumas das situações cruciais nas nossas vidas, em relação às quais já existem inúmeros exemplos de como a falta de regras quanto ao uso de sistemas de inteligência artificial nas nossas sociedades pode resultar em discriminação social, de género, racial, sexual, religiosa, etc., bem como em danos físicos, psicológicos, materiais e sociais consideráveis.

PUB • CONTINUE A LER A SEGUIR

Perante esta realidade, e não obstante as muitas perguntas ainda por responder, há um consenso no seio das instituições europeias sobre como é imperativo e urgente estabelecer obrigações e critérios mínimos a serem observados por todos aqueles que queiram utilizar ou comercializar sistemas de inteligência artificial no território da União Europeia. Porém, dada a rápida evolução da atual transição digital, esta tarefa afigura-se particularmente difícil. Por um lado, muitas partes interessadas (desde as grandes plataformas de serviços digitais às pequenas e médias empresas) pedem que não seja criado um fardo jurídico desproporcional às suas capacidades logísticas e à necessidade de estimular a inovação e progresso tecnológicos num continente em desvantagem quanto à concorrência – leia-se a China e os Estados Unidos da América. Por outro lado, as histórias que já se conhecem não deixam margem para tolerar que os cidadãos sejam expostos, especialmente por parte dos seus governos e autoridades públicas, a quaisquer desvantagens que correspondam a uma violação dos seus direitos e liberdades fundamentais mais basilares. Com a apresentação desta proposta da Comissão Europeia, encontrar o equilíbrio ético e jurídico entre ambos os lados desta equação é o grande desafio daqueles que têm não só a função, mas principalmente o dever de legislar em nome dos superiores interesses dos seus cidadãos e dos seus Estados-membros.

Se for bem-sucedida na aprovação desta legislação, que ainda requer a análise, contribuição e acordo do Parlamento Europeu e do Conselho da União Europeia, a União Europeia será novamente, à semelhança do que aconteceu com o Regulamento Geral sobre a Proteção de Dados, o primeiro ordenamento jurídico do mundo a ter este tipo de salvaguarda em relação a mais uma obra do génio humano que oferece tantas oportunidades como riscos, daí que a sua regulação se deva centrar em torno do respeito pela dignada humana. Ao traduzir princípios éticos como a supervisão e controlo humanos, responsabilidade social e ambiental, confiabilidade, precisão, segurança, transparência e explicabilidade, entre outros, num texto jurídico coerente e flexível, a União Europeia volta a demonstrar o seu valor acrescentado enquanto exemplo e líder mundial num mundo já suficientemente abalado por cisões sociais, crises sanitárias e desigualdades económicas.

Nós, que vivemos na União Europeia, tanto os que compreendem e apoiam ativamente a cidadania europeia como os que possam estar alienados do que se passa em Bruxelas ou ter dúvidas em relação à sua burocracia, podemos, em qualquer dos casos, ficar mais esperançosos: entre a ética e a lei, não consumiremos nada que tenha sido preparado com a ajuda de sistemas de inteligência artificial, a não ser que se trate de uma escolha pessoal, informada e segura ou de uma imposição pública transparente, necessária e proporcional. Pelo menos assim o esperamos.