O texto das primeiras regras a nível global para tentar regular a inteligência artificial (IA) foi aprovado por uma larga maioria (499 votos a favor, 28 contra e 93 abstenções) no Parlamento Europeu, a 14 de junho. As negociações para conseguir chegar ao texto final, envolvendo já os diferentes Estados-membros, arrancaram nessa mesma noite.

Dragos Tudorache, eurodeputado romeno e vice-presidente do Renew Europe Group (liberais), foi co-relator do texto que foi a votação, um trabalho que dividiu com o italiano Brando Benifei. Ao Observador, reconhece que regular uma tecnologia como esta é “uma corrida contra o relógio”. “Houve uma mudança completa depois da explosão da IA generativa [processos automatizados que permitem gerar conteúdos] na nossa vida”, admite. O ChatGPT, da OpenAI, é um dos grandes exemplos desta tecnologia e nem sequer estava disponível em 2021, quando foi elaborada a primeira proposta de regras para a IA pela Comissão Europeia.

Parlamento Europeu dá luz verde às regras para a IA. Legislação vai “definir os próximos anos”, diz Metsola

A Europa quer marcar posição com estas regras na IA, com Tudorache a defender que devem ser encaradas como “uma vantagem competitiva”. O membro do Parlamento Europeu está confiante de que o acordo sobre o texto final possa chegar ainda este ano, mas admite que implicará um período de transição que pode demorar até dois anos, o que significa entrarem em plena ação depois das eleições europeias de 2024. “Temos cada vez mais vozes a sugerir uma espécie de solução intermédia”, contextualiza.

Essa solução até pode ganhar forma com um código de conduta para a IA generativa, uma ideia que já está nas mãos de Margrethe Vestager, vice-presidente da Comissão Europeia ligada à área digital, e que está em discussão com outros parceiros, nomeadamente os EUA. “A minha perceção é que há cada vez mais nações disponíveis para se juntarem a este código de conduta, o que significará que, em conjunto com as grandes empresas que estão a trabalhar na IA generativa, haverá uma espécie de princípios mínimos que vão ser seguidos no seu desenvolvimento e implementação até as regras entrarem em prática”, explica Tudorache.

No texto elaborado pelos dois relatores ficou uma abordagem baseada em risco para categorizar os diferentes tipos de inteligência artificial. Por exemplo, sistemas de IA que possam prejudicar a saúde, segurança, ambiente ou que representem perigo para os direitos fundamentais dos cidadãos são categorizados como de “alto risco” e o seu uso é proibido. Dependendo do grau de risco, os responsáveis pelo desenvolvimento de sistemas de IA vão ter de ser mais transparentes e cumprir várias obrigações.

Os membros do Parlamento Europeu também votaram para banir o uso de sistemas de IA que possam ser “intrusivos ou discriminatórios”, como os sistemas de identificação biométrica usados em tempo real, que Dragos Tudorache admite que poderá ser um dos temas que necessitará de “séria negociação” a nível político.

IA. Holofotes estão no ChatGPT, mas há gigantes do outro lado do mundo que não querem deixar fugir a ‘corrida ao ouro’

“Têm de existir regras para dar confiança à sociedade” no uso da IA

Quão difícil foi encontrar uma definição concreta para o que é a inteligência artificial e a forma como a União Europeia quer regular uma tecnologia deste tipo? 
É importante dizer que já começámos com uma boa definição — aquilo que a Comissão Europeia propôs não era um mau começo e já havia muitas pessoas no Parlamento que preferiam aquele género de definição. Mas também havia outros que diziam que era melhor e mais aconselhável para o propósito de alcançar mais facilmente uma convergência global nas regras da IA seguir uma definição que já tinha sido preparada noutros fóruns, com outros parceiros importantes da União Europeia e que estavam a partilhar o seu trabalho. Em particular a definição da OCDE, que era de alguma forma diferente daquilo que a Comissão Europeia tinha sugerido. E depois, claro, havia uma discussão sobre como alcançar a convergência com os Estados Unidos e já havia conversas sobre o que era a IA, como percebê-la e como chegar a uma compreensão comum da tecnologia.

Após vários debates, basicamente sobre estas abordagens diferentes, o que eu e o co-relator Brando Benifei propusemos aos outros grupos políticos foi uma abordagem pragmática de dois passos. O primeiro seria listar os elementos que consideramos essenciais para o que é a IA — o que é que queríamos ver na definição, o que pensamos que são os aspetos-chave diferenciadores entre IA e outro software. Foi aí que começámos a discutir, por exemplo, se o facto de a IA trabalhar com um certo nível de autonomia faz diferença entre a IA e software em geral. Todos concordámos que isso é um caso. A IA é algo em que a informação pode influenciar o ambiente onde se opera? Listámos todos estes elementos e acordámos quais eram os característicos da IA. Depois passámos à segunda fase, que foi ver como é que juntávamos todos estes elementos. Concordámos que deveríamos tentar chegar, tanto quanto possível, a uma definição que fosse convergente e que se alinhasse com as que já estão a ser usadas por outros parceiros.

Em paralelo, falámos ainda com a OCDE, que também estava a rever a sua definição [de IA], porque percebeu que também tinha de ser atualizada. Houve também uma consulta intensa com os EUA, com o National Institute of Standards and Technology, que também estavam a atualizar as suas definições. O Conselho, em paralelo, também estava a rever as definições da Comissão. A parte boa é que chegámos a uma definição que é muito próxima daquilo que o Conselho incluiu no seu mandato, o que vai tornar as negociações mais fáceis. Está muito, muito próxima da definição da OCDE e também muito próxima da dos EUA. Acho que, com este trabalho, conseguimos atingir ambos os objetivos — ter os elementos que queríamos na definição e ter algum alinhamento.

Antes da votação no Parlamento Europeu disse que agora é a altura certa para regular a IA. Porquê?
Há duas razões importantes. Acho que chegámos a um nível de impacto que a IA tem na nossa vida, sociedade e economias em que já não nos podemos dar ao luxo de deixá-la sem regras. A IA está connosco já há algum tempo, mas não tinha tanto impacto nas nossas interações diárias, no dia-a-dia e na realidade do emprego, mas agora começa a fazer diferença. Acho que, a partir do momento em que isso acontece, têm de existir regras para dar confiança à sociedade e à economia de que a IA está a ser usada e implementada de uma forma que protege e que tem em conta os nossos direitos.

Acho que, do ponto de vista de impacto e de maturidade da tecnologia, é o momento certo para pôr algumas redes de segurança em ação e, ao mesmo tempo, porque a abordagem da autorregulação, que foi o que até agora muitos consideravam ser suficiente, que as próprias empresas tinham as suas regras éticas, sabiam onde parar… Vemos agora à nossa volta que cada vez mais programadores de IA dizem que há riscos muito sérios nestas tecnologias e até mesmo eles, enquanto responsáveis pelo desenvolvimento de IA, dizem que estão preocupados com os riscos e querem que existam alguns limites.

Como por exemplo?
O nível de detalhe nesses limites difere consoante a quem se pergunta… Mas acho que, em última instância, todos concordam que as regras são necessárias. Por isso disse que agora é a altura certa para regular. E, de facto, o debate público evoluiu tão rápido nos últimos meses que passámos de um ponto de questionar para quê acelerar esta regulação para a pergunta contrária — porque é que não estamos a andar mais depressa ou qual a razão da demora na adoção. Acho que agora há um sentido claro de urgência na nossa sociedade, um sentido de urgência nas várias comunidades e participantes da IA a reconhecer que é importante ter regras agora.

Investigadores e líderes de empresas alertam para “risco de extinção” trazido pela inteligência artificial

Regular a IA tornou-se uma “corrida contra o relógio”

Falou sobre muitas mudanças nos últimos meses, que se devem principalmente ao ChatGPT e à IA generativa. Há algum tipo de sentimento de que regular algo que está constantemente a evoluir é uma corrida contra o relógio?
Claramente que se tornou numa corrida contra o relógio. Houve uma mudança completa depois da explosão da IA generativa na nossa vida. E o facto de estar a desenvolver-se e de estar a ser usada já em tantas áreas é uma coisa que todos os dias nos leva a fazer perguntas. Acho que, mais uma vez, o sentido de urgência é completamente diferente do que era há alguns meses. É, assim, uma corrida contra o relógio para pôr em prática as regras mínimas necessárias para dar confiança de que a tecnologia de IA, que é muito importante, pode ser desenvolvida e pode continuar a evoluir mas de uma forma segura, num ecossistema com regras mínimas em ação.

O que esta corrida significa é que também temos de pensar no que é que acontece até ao momento em que as regras entrem em prática. Até mesmo nós, na Europa, que somos os primeiros a criar regras, mesmo nós só vamos adotar o texto no final do ano, na melhor das hipóteses. Estou convencido de que conseguiremos até lá. Mas a lei tem um período de transição entre um e dois anos até realmente entrar em ação. Agora, há muita gente que pergunta se os europeus, que foram os mais rápidos, só vão ter as regras daqui a dois anos, o que é que se faz agora? Com estes modelos de IA a evoluírem de forma tão rápida, se calhar no final deste ano poderia haver um ChatGPT 10, no ano a seguir já um 20… O que é que fazemos com os potenciais impactos negativos que estes modelos podem ter? No próximo ano vai haver eleições na Europa, nos EUA, eleições em democracias e nações muito relevantes em todo o mundo, México, etc.

A questão é: o que é que podemos fazer até às regras serem aplicadas? É por isso que temos cada vez mais vozes a falar sobre uma espécie de solução intermediária. Na reunião do G7, no Japão [em maio], houve a ideia de um código de conduta para a IA generativa, que agora está a ser uma ideia seguida pela Margrethe Vestager [vice-presidente da Comissão Europeia ligada aos temas digitais], juntamente com os parceiros nos EUA e o G7. A minha perceção é que há cada vez mais nações disponíveis para se juntarem a este código de conduta, o que significará que, em conjunto com as grandes empresas que estão a trabalhar na IA generativa, haverá uma espécie de princípios mínimos que vão ser seguidos no desenvolvimento e implementação de IA generativa até as regras entrarem em prática.

E quanto tempo é que demoraria até ter esse código de conduta pronto?
O que percebi ao falar com a vice-presidente Vestager é que já estão a trabalhar no texto, chegaram ao acordo de que, no próximo Conselho, que vai acontecer dentro de algumas semanas com representantes dos EUA, a UE vai segurar a caneta. Ou seja, o primeiro rascunho vai surgir da UE. Está a ser escrito nesta altura e a ideia é tê-lo já em prática no final deste ano. Não sabemos ainda exatamente como é que o processo vai correr, porque é suposto ser um acordo informal, não há nada de formal nisto. É um modelo de conformidade voluntária pelo qual as empresas vão passar.

Conseguiu perceber se alguma das grandes empresas, em particular dos EUA, que estão a trabalhar em IA estão disponíveis para adotar este código de conduta?
Não me posso aventurar em relação ao que vai ser a resposta a este código. Acho que a ideia, até ao que consegui perceber sobre a discussão no G7, é que os membros do G7 expandiram o convite também à Índia e Indonésia, ou seja, outras democracias que têm interesse em ter princípios mínimos [na IA]. A resposta desses governos também foi positiva. A ideia, ao que percebi, é que haverá primeiro um acordo entre os governos destes países com pensamentos semelhantes em relação ao texto dos princípios para salvaguardar a IA generativa e depois vão convidar as empresas para se juntarem e aderir a esses princípios. Tenho a certeza de que até lá a Comissão também vai estar envolvida num esforço diplomático paralelo, digamos assim, para ter a certeza de que acontece depressa.

Ao mesmo tempo, Thierry Breton [Comissário Europeu para o Mercado Interno] também tem estado a discutir diretamente com todas as grandes empresas, em particular as dos EUA, aquilo a que ele chama o Pacto da IA, em que segue uma abordagem semelhante à lei dos serviços digitais, em que diz que assim que o texto de lei da IA estiver estável, ou seja, no final deste ano, e que seja adotado, quer convidar as empresas, em especial as grandes no que diz respeito ao desenvolvimento de IA e modelos fundacionais, para se envolverem ainda antes da entrada em ação, para um exercício de conformidade.

Comissário Europeu em São Francisco para encontros com líderes do Twitter, Meta e OpenAI sobre IA e regras no digital

Algo semelhante aos testes de stress que estão a ser feitos no âmbito da lei dos serviços digitais?
Exatamente, como estão a fazer com a lei dos serviços digitais. Assim, vão ter um treino quase como “tentativa e erro”, antes de a lei entrar em prática. Basicamente garante-se uma espécie de conformidade antecipada antes da lei. Claro que é voluntário, mas se olharmos para o que está a acontecer com os testes de stress da lei dos serviços digitais, acho que a maioria das empresas, mesmo as maiores, tem interesse em aceitar esta oferta e envolver-se neste mecanismo de conformidade antecipada. Simplifica também a entrada no mercado e a adaptação do mercado.

“Acho que nenhuma jurisdição conseguirá não ter regras para a IA”

A Europa está no pelotão da frente para regular a IA. Acha que a regulação é suficiente para se ter uma vantagem competitiva numa tecnologia tão crucial como esta?
É uma discussão grande e não há muitos que concordem que ter regras é uma vantagem, há quem diga que ter regras é uma desvantagem para as empresas europeias. Acho que seria de facto uma desvantagem se as regras não equilibrassem muito bem ou suficientemente bem o objetivo de proteger direitos, que é o objetivo principal da lei. Mas, ao mesmo tempo, do meu ponto de vista, outro objetivo igualmente importante é aquele que está ligado à promoção de inovação e que permite às empresas, sejam europeias ou que escolham operar no mercado europeu, não estarem em desvantagem em relação a outras empresas a operar fora da UE.

Pusemos em prática todo o tipo de mecanismos destinados a ajudar os negócios — desde os standards, da forma como definimos a governança, sandboxes… — há muita coisa na lei que tem como fim ajudar as empresas mais pequenas a continuarem competitivas e a sentirem-se encorajadas a inovar e a evoluir a IA, mesmo com as regras implementadas. Acho que, no final do dia, também vai ser uma vantagem, porque acho que nenhuma jurisdição vai conseguir não ter regras para a IA. Mesmo que algumas despertem mais tarde para a realidade e para a necessidade de regras, acho que ninguém vai conseguir não ter algum tipo de regras, porque a exigência da sociedade vai ser cada vez mais forte com a consciencialização do impacto da IA. Como estou convencido de que todas as jurisdições vão acabar por ter legislação, aqueles que forem os primeiros e que tenham um modelo estável — e acho que após todo o trabalho chegámos a um modelo estável — serão um exemplo para outras jurisdições. Já estou a ser contactado por governos da América Latina, da Ásia que estão interessados em olhar para o nosso esforço, perceber o que é que fizemos e como, porque querem começar os seus próprios processos legislativos e seguir o nosso modelo.

Esses contactos são recentes?
Sim. Tenho a certeza de que não vão seguir tudo o que fizemos, não acho que a nossa lei seja perfeita, a perfeição não existe. Mas acho que a filosofia geral, a lógica do texto e os elementos principais vão ser um modelo para muita gente. Assim, para quem já está preparado para estas regras e para quem já está a aplicá-las será uma vantagem competitiva a médio e longo prazo.

Falou sobre empresas e assumo que leu a carta assinada por mais de 100 executivos, que defendem que regular a IA em excesso poderá levar a um “fosso crítico de produtividade entre os dois lados do Atlântico”. O que pensa sobre esta carta? Foi contactado por algum destes executivos que a assinaram?
Não, não fui contactado por nenhum deles. Já dei uma reação pública sobre o assunto, ao Financial Times, onde disse que estou algo desapontado com muitas das empresas que assinaram a carta sem, primeiro, serem sequer impactadas de forma mínima pelas regras de IA generativa e, segundo, estou convencido de que muitos que assinaram não leram o texto do Parlamento. Se tivessem lido tinham percebido.

Outra observação é que não há praticamente nenhuma sugestão concreta nesta carta, dizem só que estamos a andar muito depressa e a ir muito longe na IA generativa — mas não dizem porquê ou o que é que propõem fazer de outra forma. Mas, mais uma vez, se lessem o nosso texto percebiam que aquilo que fizemos foi exatamente algumas das sugestões que deixaram na carta. O que disse antes, quando a carta surgiu, é que um lobby de algumas empresas que têm uma participação na IA generativa arrastaram outras empresas para este exercício sem essas companhias perceberem exatamente o que estão a fazer.

Acho que é uma pena. Mais uma vez, se tivessem alguma sugestão ou exigência concreta, não teria qualquer dificuldade em discutir a questão, tal como tenho estado aberto à discussão, desde o início deste processo, com qualquer pessoa que queira fazer sugestões construtivas. Claro que depois fica ao nosso critério, enquanto legisladores, usar ou não usar essas sugestões, mas estamos disponíveis para ouvir. Continuo disponível para ouvir, mas não estou de todo aberto… ou impressionado ou influenciado por um lobby agressivo. É assim que vejo esta questão — é um lobby agressivo vindo de alguns. O lobby agressivo de uns quantos que conseguiram convencer outros, que acho que não sabem bem exatamente em que é que se envolveram.

“Continuo convencido de que há condições muito boas para andarmos depressa”

As negociações sobre as regras da IA começaram na mesma noite em que foi feita a votação. Como é que estão a correr? Há vontade dos países europeus para ter estas regras em prática?
O primeiro contacto foi muito bom, claro que tivemos o primeiro triálogo [envolve três instituições europeias: Comissão, Parlamento e Conselho] com a presidência sueca [do Conselho da UE] e agora começámos a trabalhar com a presidência espanhola. No primeiro triálogo demos o mandato às equipas técnicas para começarem a preparar o alinhamento do texto e identificarem as áreas onde há necessidade de negociação política, que é o que estão a fazer agora. Há literalmente reuniões diárias a nível técnico, onde estão a alinhar as três versões do texto — da Comissão, do Conselho e do Parlamento — vendo quais são os pontos comuns e os pontos de divergência.

A 18 de julho vamos ter uma nova ronda de negociações políticas. Continuo convencido, vendo a atitude da presidência do Conselho da UE, até agora, de que há condições muito boas para andarmos depressa. Já tive discussões a nível político com a presidência, sei quais são as prioridades, eles sabem quais são as nossas prioridades. E, sim, vai haver alguns pontos em que vamos discordar e será precisa uma séria negociação.

Está a falar da questão do reconhecimento facial?
Por exemplo. De uma forma mais genérica, não é só a questão do reconhecimento facial, acho que é uma questão mais alargada do acesso das forças de autoridade ao uso desta tecnologia, que, na ótica do Conselho, precisam de acesso excecional a muita desta tecnologia, mesmo em situações em que consideramos que pode ser prejudicial. Acho que é uma das conversas que vamos precisar de ter. Há quatro ou cinco grandes temas em que vamos precisar de ter discussões políticas robustas. Mas, no final do dia, estou convencido de que vamos chegar a um compromisso no final do ano.

França já disse que estava disponível para usar software de reconhecimento facial durante os Jogos Olímpicos de Paris, no próximo ano. Poderá ser uma questão para dificultar as negociações?
Do que percebi, França está a afastar-se da ideia do reconhecimento facial em tempo real. Uma coisa que tem de se perceber – e acho que ainda não foi suficientemente compreendida neste debate — é que vejo muitas pessoas a queixarem-se “oh meu Deus, vamos banir a tecnologia de biometria na Europa e isto é mau”. Esta ideia está errada, não vamos banir a tecnologia de biometria ou o seu uso na Europa. Isto [o smartphone que tem na mão] funciona com biometria. Vai continuar a trabalhar com tecnologia biométrica. Os portões automáticos que todos os aeroportos têm também funcionam com biometria e vão continuar a trabalhar com isso. Não é isso que estamos a dizer com esta regulação, o que estamos a dizer é que a implementação de IA e o reconhecimento biométrico, em tempo real e em espaços públicos, é algo que não queremos. Porque isso representa um profiling biométrico, 24 horas por dia, sete dias por semana, de todas as pessoas que andam na rua, é ir demasiado longe. Isso é o que a China faz.

Voltando a Paris e aos Jogos Olímpicos, nada proíbe agora e nada vai proibir, mesmo após a regulação entrar em efeito, que os agentes da autoridade em França usem durante os Jogos Olímpicos a correspondência biométrica para identificar possíveis suspeitos em multidões. Vão poder fazer isso. A única coisa que não vão poder fazer é executar um sistema de IA em tempo real em locais públicos. Por isso, se tiverem alguma suspeita de que determinado indivíduo pode estar a preparar alguma coisa, podem extrair as imagens de qualquer câmara de CCTV que tenham em espaços públicos durante os Jogos Olímpicos. Podem ir ao sistema e fazer uma pesquisa e então o sistema biométrico vai fazer uma correspondência ou não. Vão poder fazer isso. É algo que já acontece agora. É desta forma, na verdade, que a polícia encontra criminosos nas ruas. Por um lado, é um debate muito enganador, que está ligado a uma questão ideológica, o que também não ajuda. Tenho a certeza de que, com as negociações, podemos explicar a questão ainda melhor para que fique bem compreendida.

Portugal com “muito interesse” na regulação da IA

Como está Portugal nas negociações?
Acompanho algumas estratégias que têm sido trazidas por alguns governos dos Estados-membros. Mas sabe como é que o Conselho funciona, não são expressas as posições individuais dos Estados-membros. O Conselho tem um mandato geral, tem um ponto de vista coletivo e, até agora, não ouvi vozes divergentes de Portugal ou de qualquer outro país, a dizer que tinha um objetivo diferente do do Conselho. Assumo que a posição do Conselho exprime as visões de todos os governos, incluindo o de Portugal.

Em qualquer caso, no curso da negociação, a presidência vai ter de voltar ao Conselho para verificar e recolher apoio para algumas das concessões e compromissos que negociarmos. E é aí que vamos ver, nessas discussões no Conselho, se certos governos têm visões diferentes. Mas o que ouvi até agora de diferentes representantes de Portugal, seja a nível executivo ou de membros portugueses do Parlamento Europeu, que já agora, foram muito, muito ativos, da esquerda à direita, o que mostra que há muito interesse em Portugal neste tema. Até agora, as suas posições têm sido muito construtivas e muito próximas à abordagem geral que estamos a adotar no Parlamento Europeu.