Os eurodeputados deram luz verde ao regulamento da inteligência artificial (IA), que foi votado esta quarta-feira no Parlamento Europeu. Estas regras para a IA, naquele que é o primeiro enquadramento legal para esta tecnologia, baseiam-se em questões como segurança, privacidade e transparência.
O regulamento recebeu 499 votos a favor, 28 contra e 93 abstenções, em antecipação às conversações com os Estados-membros da UE (representados no Conselho) sobre a forma final da lei de IA. A Comissão Europeia espera que este processo esteja concretizado ainda este ano.
Em conferência de imprensa após a votação, Roberta Metsola, a presidente do Parlamento Europeu, agradeceu aos relatores principais pelo trabalho, o italiano Brando Benifei e o romeno Dragos Tudorache, “por terem encontrado uma abordagem equilibrada e centrada nos humanos”. E deixou ainda a garantia de que este “primeiro enquadramento legislativo da IA é uma legislação que sem dúvida vai definir o parâmetro global para os próximos anos.”
“É um conjunto de regras para gerir risco e trabalhar no desenvolvimento” desta tecnologia, que ganhou ainda mais atenção com o lançamento do ChatGPT, da OpenAI. “Tudo isto está de acordo com a nossa vontade de sermos líderes globais em inovação, com base no respeito pela privacidade e direitos fundamentais”, frisou a presidente do Parlamento Europeu.
“Acho que podemos estar orgulhosos de nós, a Europa está a liderar e vai continuar a liderar na legislação de inteligência artificial”, disse Roberta Metsola.
A inteligência artificial aprendeu a ser preconceituosa. Ainda vai a tempo de ser ética?
Estas regras seguem uma abordagem baseada no risco e estabelecem obrigações tanto para os fornecedores como para aqueles que utilizam sistemas de IA, em função do nível de risco que esta pode colocar. Ou seja, os sistemas que representem um nível de risco mais elevados serão proibidos — por exemplo, o recurso a esta tecnologia para a classificação de pessoas com base no seu comportamento social ou nas características pessoas. Na China, a IA já é usada para estabelecer sistemas de classificação baseada no comportamento dos cidadãos.
Este já era um uso proibido da IA neste enquadramento, mas os eurodeputados decidiram incluir mais questões, como os sistemas de identificação biométrica à distância, em tempo real e em diferido em espaços públicos, uma utilização que é vista como “intrusiva e discriminatória”. Também o uso de sistemas de IA para categorização biométrica que utilizem características sensíveis (por exemplo, género, raça, etnia, estatuto de cidadania, religião, orientação política) ou sistemas de policiamento preditivo ou de reconhecimento de emoções em casos como aplicação da lei, gestão das fronteiras, local de trabalho e nos estabelecimentos de ensino é proibida no âmbito destas regras. A remoção não direcionada de imagens faciais da internet ou de filmagens de videovigilância (circuito fechado) para criar bases de dados de reconhecimento facial (violação dos direitos humanos e do direito à privacidade) também é proibida.
O tema da regulação da IA surgiu nas instituições comunitárias em 2021. Em abril desse ano, a Comissão Europeia apresentou uma proposta para regular os sistemas de IA, frisando desde o início que queria um enquadramento baseado em valores democráticos e centrado nos humanos. A discussão passou depois para o Parlamento Europeu. Após a votação desta quarta-feira, é explicado que as negociações com o Conselho sobre a forma final da lei vão começar já na noite desta quarta.
Google é um “gorila” na pesquisa que a Microsoft quer “pôr a dançar” na inteligência artificial
“Temos de concluir rapidamente o trabalho”
Mesmo que este quadro regulatório fique fechado este ano, as regras não vão estar implementadas a tempo das próximas eleições europeias, que se vão realizar em junho de 2024. “O regulamento tem um período de transposição de dois anos”, explicou Roberta Metsola, “não estará em vigor para as próximas eleições europeias.”
Há receios de que a IA generativa possa contribuir para o fenómeno da desinformação e enviesamento, especialmente em períodos eleitorais. A presidente do Parlamento Europeu lembrou que alguns dos Estados-Membros vão ter eleitores de 16 anos a votar pela primeira vez nestas eleições, sendo necessário reforçar o combate à questão da desinformação.
O relator Brando Benifei vincou a necessidade de se “concluir rapidamente o trabalho, para que as regras entrem em vigor”. Mas, a título pessoal, como sublinhou duas vezes, defendeu a necessidade “de olhar para a possibilidade de termos uma implementação antecipada para alguns sistemas, como para a IA generativa e modelos fundacionais. “É a minha opinião, ainda tem de ser discutido, mas nestas áreas em específico temos de ver se conseguimos acelerar um pouco a entrada em vigor.”
Do lado dos Estados-Membros, o relator italiano notou que tem visto uma “abordagem construtiva” no tema da regulação da IA e também “grande interesse dos governos em regular” o assunto.
Regras da IA com “muitos dentes afiados”
Este conjunto de regras já estava a ser delineado quando a OpenAI lançou o ChatGPT, em novembro de 2022. O sistema conversacional, que se baseia num modelo de linguagem e consegue gerar texto através de pedidos simples, é um dos exemplos de IA generativa, uma tendência em franca expansão no panorama tecnológico.
Dada a popularidade e atenção dada à IA generativa, este enquadramento regulatório já teve de acomodar a evolução rápida desta área. Durante a conferência de imprensa desta quarta, o relator Dragos Tudorache foi questionado sobre o que mudaria no ChatGPT se as regras entrassem em ação agora. “Vão ter de ser mais transparentes no conjunto de dados que usaram para treino, na forma como é que o ChatGPT funciona e, mais importante, vão ter de mostrar que no desenvolvimento do algoritmo consideraram de forma séria a veracidade do conteúdo que usaram para o treino – e tenho alguns pontos de interrogação em relação a isso”, enumerou o eurodeputado romeno. “Têm de documentar a questão de forma abrangente e ser mais transparentes. É isso que o ChatGPT vai ter de fazer.”
Os relatores também responderam a algumas críticas, que diziam que o texto deste enquadramento regulatório poderia ter ido mais longe. “Perguntam-me muitas vezes se estas regras têm dentes”, disse Dragos Tudorache. “Olhem para o texto, há muitos dentes afiados.”
“Se os reguladores ficarem insatisfeitos com o que encontrarem ou com as medidas que foram adotadas [pelos fornecedores ou programadores] vão poder forçar a retirada de uma aplicação do mercado. Essa aplicação já não funcionaria para nós na União Europeia”, exemplificou. “Ou há ainda a hipótese de coimas que podem chegar até 7% das receitas, que acho que é um ponto convincente.” Estas coimas vão oscilar consoante a gravidade da infração, foi explicado.
