Começa agora mais um Pro Bono da Rádio Observador. Os próprios criadores da inteligência artificial, como a OpenAI, a Anthropic e a Google Deep Mind, defendem mais supervisão dos modelos mais avançados. Na Europa, o AI Act já impõe regras aos modelos de risco sistêmico. Afinal, quem é que deve fiscalizar? É o que vamos analisar com o advogado Ricardo Henriques. Bem-vindo, obrigada pela disponibilidade.

Obrigado também.

Pode uma empresa ser ao mesmo tempo criadora, beneficiária e fiscal da sua própria tecnologia?

Poder, diria que em abstrato poderia, mas se calhar não é o mais aconselhável. Precisamente aqui, o que se sucede é que a autorregulação das empresas desta área, tal como noutras, terá sempre alguns limites em relação àquilo que poderá oferecer e em termos de funcionamento, que será, no fundo, aquilo que é o conflito de interesses da própria empresa que está a ser regulada, determinar as suas próprias regras e depois também decidir se as quer cumprir ou não no final do dia. E, portanto, é nesse contexto que penso que faz sentido a aproximação que a União Europeia fez a este tema no regulamento de inteligência artificial, o tal AI Act, em que adotou um modelo de corregulação, em que prevê, obviamente, também a possibilidade de participação das empresas nessa lógica de autorregulação através dos códigos de conduta com a indústria, mas também com a participação da sociedade civil, com investigadores, professores do meio acadêmico, enfim, com várias entidades que possam definir as regras para o funcionamento dos modelos, neste caso, dos modelos de finalidade geral, que foi o código de conduta que foi proposto em 2025 e assinado por essas empresas que referiu. Também há, entretanto, um código de conduta sobre transparência, que das notícias que temos ouvido também sobre a questão de marcação de conteúdos para poder ter a identificação daquilo que são os conteúdos de áudio, imagem ou vídeo que são gerados por IA estarem assinalados. E esses códigos não são suficientes, diria, porque obviamente há a necessidade também de haver precisamente uma entidade independente, autónoma e externa, com o poder de uma entidade que possa fiscalizar e sancionar quando haja um desvio daquilo que são as regras impostas. E são esses poderes que o regulamento de inteligência artificial traz: a capacidade de sancionar, de fiscalizar, melhor dizendo, e depois, caso seja necessário, sancionar, quer com coimas, quer com a possibilidade também de retirar os modelos que se prove que trazem algum perigo, algum dano no seu funcionamento à sociedade.

Os alertas dos próprios criadores têm sido muito assustadores.

Sem dúvida.

Como é que a lei regula um risco que, no fundo, ainda não se consegue medir totalmente?

Isto é algo que não é, mais uma vez, estranho à lei, tal como o tema da discussão entre autorregulação, corregulação ou só heterorregulação. O tema dos danos também não é de todo estranho à lei, e a lei faz este tipo de regulação. É para isso que ela também serve, é precisamente para tentar definir as regras em que os processos e aquilo que a atividade destas empresas se desenvolve tenha determinados pressupostos, determinadas balizas e que as empresas se consigam conformar com elas mesmas. E por isso mesmo define determinados procedimentos que as empresas têm que seguir, testes adversariais, questões de mitigação de danos quando eles ocorrem, de reporte de incidentes, regras sobre cibersegurança que as empresas têm que cumprir. Portanto, todo um conjunto de normas que procuram dar um enquadramento à atividade destas empresas, porque se sabe que esse dano potencial existe. Não se consegue, se calhar, neste momento, medir, e há também grandes discussões sobre a capacidade desse dano ser tão extenso como se alerta. Alguns consideram que sim, outros consideram que talvez ainda não seja esse o caso, mas a verdade é que o ritmo de progressão desta tecnologia é muito elevado e, portanto, esse risco não se deve ignorar. Há alguns riscos que já são identificáveis atualmente e mensuráveis até, como dizia, as questões relacionadas com as fraudes, os deepfakes, as questões de vigilância, enfim, todos esses que já estão a ser endereçados e que até já têm precisamente regras que estão definidas e vão ser aplicáveis. Há outros que eventualmente não conseguimos ainda determinar, mas estas medidas de salvaguarda, como disse, que têm um enquadramento para aquilo como as empresas podem atuar, ajudam a guiar a atuação destas empresas.

As empresas invocam o segredo comercial pra não mostrar como é que os modelos funcionam, não é? Podem as autoridades exigir acesso aos modelos, aos dados de treino, aos testes de segurança?

Nas diversas regras que há pouco referi sobre o funcionamento do regulamento de inteligência artificial, existem precisamente algumas normas que permitem algum grau de fiscalização em relação à atuação das empresas. Essa obrigação das empresas documentarem a sua atividade, os seus dados de treino, a forma como fazem a verificação dessas questões sobre a não discriminação, sobre a qualidade dos dados, sobre a forma como os vão classificar e colocar em prática, e todos estes testes que há pouco referi, são sindicáveis e fiscalizáveis pelas autoridades. Obviamente, haverá alguns limites em relação àquilo que as empresas vão estar dispostas a disponibilizar e vão tentar sempre colocar alguns entraves, mas é precisamente esta questão da regulação externa autónoma e independente de uma entidade que possa fazer essa fiscalização e, se necessário, exigir a retirada de um determinado modelo no qual não tenha confiança do mercado, que é importante e que permite precisamente acautelar eventuais danos que estes modelos possam criar.

A maioria destas empresas é norte-americana, as regras são europeias. Como é que se aplica a lei a quem está fora da União Europeia e se há o risco da Europa regular demais e ficar para trás na inovação?

Essa é uma discussão que também tem sido bastante falada e debatida. Obviamente, o tema da aplicabilidade extraterritorial da lei é algo que também não é novo, já vem de outras disposições. O regulamento de inteligência artificial também prevê essa possibilidade, precisamente na medida em que afete os utilizadores na União Europeia ou empresas que estejam sediadas na União Europeia, ou a sua utilização e os efeitos que produzam aqui no espaço da União Europeia. Nessa medida, aquilo que é importante reter é que há esse poder de fiscalização e de aplicação de sanções, e elas têm sido, noutras áreas também, aplicadas a empresas estrangeiras e essas empresas têm, obviamente, dentro daquilo que lhes é permitido, recorrido dessas decisões e tentado colocar em causa algumas delas, mas no final acabam por também cumprir com as mesmas. Não creio que será diferente com a aplicação do regulamento de inteligência artificial. O mercado europeu é relevante para essas empresas também. A questão da inovação é uma discussão que penso que não se coloca tanto ao nível da regulamentação que temos do regulamento de inteligência artificial. É claro que haverá alguma margem para melhorias, para revisões, para alguma mitigação de alguns procedimentos ou de algumas regras que possam ser consideradas demasiado exigentes ou que de alguma forma atrasem as empresas. Mas penso que o problema da competitividade ou da inovação na União Europeia não se prende tanto com essa legislação, mas sim com outros temas relacionados com o capital disponível para investir, regras sobre investimento, políticas industriais, mais do que as regras de conformidade que estabelecem, sim, um quadro normativo que permita a todas as empresas atuarem de uma forma mais previsível com segurança jurídica.

Se uma pessoa for prejudicada por uma decisão ou por um conteúdo gerado por IA, como é que prova o nexo de causalidade quando nem os especialistas conseguem bem explicar o funcionamento do sistema? O ônus devia estar invertido?

É uma discussão que também surgiu na mesma altura que a discussão sobre a aprovação do regulamento de inteligência artificial. Havia uma diretiva sobre a responsabilidade que estava a ser também proposta, mas que na altura não foi aprovada e ficou de parte. Esse regime sobre a responsabilidade ou a necessidade de o rever e chegar a um acordo entre todos os Estados acabou por não avançar. Continua a haver muita discussão sobre o tema, sobre se deve ou não avançar. É certo que não aconteceu, mas precisamente essa incerteza ou essa dificuldade sobre a prova tem levado alguns a defender a questão da responsabilidade objetiva, de esquemas de seguro ou de fundos para cobrir riscos sistêmicos ou de larga escala. São soluções que penso que faz todo sentido continuar a discutir e eventualmente aprovar algo que mude esse regime, precisamente por algumas das dificuldades que se identificaram. Mas a verdade é que nesse capítulo ainda estamos por consagrar e ainda estamos no regime da responsabilidade por culpa.

Muito obrigada, Ricardo Henriques, por ter estado conosco neste "Pro Bono". O programa volta pra semana.

Obrigado.