Bem-vindos à "Justiça Cega". Eu sou o Luís Soares e juntamente com o Luís Rosa, vamos olhar na segunda parte para o novo regulamento europeu de inteligência artificial, que vai ser com a ajuda do advogado Adolfo Mesquita Nunes. Mas primeiro vamos ouvir o testemunho dos constitucionalistas Teresa Violante e Pedro Trovão do Rosário sobre a possível ida de Lucília Gago ao Parlamento, para dar explicações sobre o caso da Operação Influencer e que tem o apoio dos partidos da esquerda parlamentar.

Bem-vindos, Teresa Violante e Pedro Trovão do Rosário. Começo por si, Teresa Violante. O presidente do Parlamento defende que a Procuradora-Geral pode explicar que a Operação Influencer não tem uma origem política e que a Assembleia da República é o espaço de excelência, e estou a citar, para que esta explicação aconteça. A primeira pergunta que se coloca é simples, e é: tendo em conta o princípio constitucional de separação de poderes, a Procuradora-Geral da República pode ir ao Parlamento dar as explicações desejadas por José Pedro Aguiar Branco?

Eu gostava de começar por cumprimentar o Luís Rosa, claro, e o Pedro Trovão do Rosário. Mas antes de lhe responder diretamente à pergunta, é importante fazer o enquadramento da questão à luz do princípio da separação de poderes, e começar por salientar que o Ministério Público não integra o Poder Judicial. Embora o Estatuto do Ministério Público seja uma questão constitucionalmente complexa, é claro que o Ministério Público não integra o Poder Judicial, portanto não integra os tribunais, e quando falamos da eventualidade da senhora Procuradora-Geral da República se deslocar ao Parlamento para prestar contas, para prestar esclarecimentos, não se trata de termos uma deslocação de um membro do Poder Judicial a prestar contas perante o Poder Legislativo. E isto é muito importante para a configuração da questão sob o ponto de vista constitucional. Em segundo lugar, e não menos importante, temos a questão da autonomia do Ministério Público, que é uma exigência constitucional desta instituição. Não é fácil definir o que é a autonomia do Ministério Público. Não se confunde com outro parâmetro constitucional, que é o da independência dos tribunais, mas fica claro que à luz da Constituição, o Ministério Público não está sujeito a ordens do poder político, designadamente a ordens do Governo, mas também a ordens de outros órgãos de soberania. Há uma tensão do ponto de vista do nosso sistema relativamente à autonomia do Ministério Público e ao mandamento democrático do princípio democrático da prestação de contas à comunidade. E esta é uma questão que o nosso sistema, e sistemas como o nosso apresentam, que merece discussão e que merece bastante reflexão, e que se coloca de uma forma bastante acutilante neste caso concreto. O que temos aqui é dois valores constitucionais em tensão, que é o valor da autonomia do Ministério Público, que é uma exigência constitucional, como eu já referi, e por outro lado, a questão da accountability, que é uma exigência também do princípio democrático. Ora, aquilo que sucede quando temos valores constitucionais em tensão, e isto é normal num Estado constitucional, é tentarmos buscar uma concordância prática entre esses valores constitucionais que se encontram em tensão no caso concreto. Na minha opinião, essa concordância prática é suscetível de ser alcançada através de uma solução que permite, eventualmente até exige, a deslocação da Procuradora-Geral da República à Assembleia da República, para prestar contas do exercício do seu mandato e da atuação do Ministério Público, sobretudo numa situação de alarme social, como é a atual, sem que isso implique uma qualquer afetação do princípio da autonomia do Ministério Público. Ou seja, os senhores deputados não podem, desse exercício de prestação de contas-

Fazer perguntas sobre inquéritos em segredo de justiça.

Exatamente.

Muito bem. O Parlamento, Pedro Trovão do Rosário, pode obrigar Lucília Gago a deslocar-se a uma comissão parlamentar para prestar esses esclarecimentos ou deve existir apenas um convite?

Muito bem, antes de mais, cumprimentar-vos, minha estimada colega professora Teresa Violante, Luís Rosa, sempre um gosto enorme estar consigo. Seguindo um pouco a linha que já foi apresentada pela minha colega, eu, no entanto, posso aqui ter uma abordagem um pouco diferente, porque-

Força, é isso que nós queremos, pluralismo

Muito bem. Considerarei que relativamente ao Ministério Público, ele tem efetivamente um estatuto próprio, do qual resulta que está dotado de atribuições que não são materialmente jurisdicionais, nem se limitam às exercidas pelos próprios tribunais.

Não faz parte do Poder Judicial.

Mas, no entanto, e pela própria configuração da Constituição da República Portuguesa, e não é obviamente pela lógica de estar ali assim até antes do Tribunal Constitucional, porque também seria tão desprezado como falar do Conselho de Estado, sendo um órgão ali próximo do Presidente da República, etc. Mas considero como órgão do Poder Judicial, participando com autonomia na administração da justiça Nesse sentido, e só por convite, é que o Ministério Público e a senhora procuradora-geral da República poderá ser convidada e nunca lhe será imposta a sua ida à Assembleia da República. Para mais, para que possa esclarecer os deputados que necessitem eventuais esclarecimentos, presencialmente ou por escrito, e esse é um aspecto também que creio que possa ser interessante, percebendo-se que há os limites que resultam, por um lado, do estatuto constitucional e legal do Ministério Público, mas também os das próprias comissões da Assembleia da República e as comissões de inquérito, havida é o artigo 178 da Constituição e o artigo 236 do Regimento da Assembleia da República.

Mas neste momento não estamos a falar de comissão parlamentar de inquérito, não é? Estamos a falar de eventualmente ir à primeira comissão.

Não, mas exatamente a minha questão é essa. Seria a questão exatamente a seguir. Ver de que modo é que se poderia suscitar a ida da senhora procuradora-geral da República ao Parlamento.

E já que ouvimos também essa questão, Pedro Rosão, Trovão Rosário, nos últimos 20 anos houve vários procuradores que foram ao Parlamento, como Souto Moura, Pinto Monteiro, Joana Marques Vidal, aceitaram ir ao Parlamento. No entanto, como dizíamos há pouco, a procuradora-geral pode sempre alegar que não pode responder a certas perguntas por estarem os inquéritos em segredo de justiça, como é o caso da Operação Influencer. Ela pode alegar isso indo ao Parlamento ou previamente? Como é que ela pode gerir toda esta questão também?

A questão é já de uma certa gestão de comunicação do Ministério Público. E aqui não insistindo na nota relativamente ao Poder Judicial, mas se podemos dizer para os nossos ouvintes talvez melhor integrarem a questão, num certo sentido lato senso do Poder Judicial, não tem primado por uma boa comunicação, ou seja, daquilo que seja uma boa relação com os cidadãos, e através da comunicação social e não só no plano da comunicação social.

Tem uma comunicação institucional também.

Sim, e vejam-se algumas notas informativas, nomeadamente aquela que está agora aqui em causa. Mas de todo modo, poderia ser até interessante perceber-se, por exemplo, que a senhora procuradora responder a esses jornalistas, por vezes é melhor do que responder a alguns deputados cuja motivação não é sempre a mais recomendável no funcionamento do Estado de Direito Democrático.

Exerciendo sempre alguns interesses por parte dos deputados.

E fundamentalmente alguma agitação que não é, e conforme há pouco a professora Teresa Vilante recordava muito bem, aquilo que é a importância do Ministério Público no âmbito e no funcionamento do Estado de Direito Democrático. Tenho presente que efetivamente um assessor de Lucília Gago, da senhora procuradora-geral da República, foi à Assembleia da República, precisamente por causa de uma entrevista que tinha dado a um jornal, em que afirmara que ele próprio podia ter o telefone sob escuta.

Foi Pinto Monteiro.

Exatamente, foi Pinto Monteiro. Até para ajudar aqui a memória, a expressão de que às vezes faz uns barulhos esquisitos, foi a expressão. Agora, esta má comunicação deve ser urgentemente resolvida, porque se nós tivermos presente que a liberdade da expressão dos magistrados no século XXI, hoje tem uma particular importância, um peso numa sociedade em que há cada vez mais pontos de informação e desinformação, inclusive recordo alguma jurisprudência do Tribunal Europeu dos Direitos Humanos, valorizando aquilo que seja a liberdade da expressão, aquilo que seja a possibilidade ou mesmo, nalguns casos, o dever dos magistrados falarem no sentido da própria proteção do Estado de Direito Democrático. Tenho, por exemplo, o caso da decisão Zureck versus Polônia, no Tribunal Europeu dos Direitos Humanos, de junho de 2022, onde precisamente se vê que embora seja um processo de um juiz e não de um procurador, mas percebemos a gravidade de alguma perseguição que se vai motivando ao Poder Judicial, ao Ministério Público, que são, no entanto, pedras fundamentais no funcionamento de um Estado de Direito Democrático.

Teresa Vilante, precisamente pegar aqui nos precedentes que temos em cima da mesa. Houve várias situações em que procuradores-gerais, além de Pinto Monteiro, por causa dessa questão do telefone eventualmente estar sob escuta ou não, houve também outras situações do próprio Pinto Monteiro, em que foi ao Parlamento falar sobre o caso BPN, de Joana Marques Vidal, que depois de sair do cargo, também foi à Comissão Parlamentar de Inquérito de Tancos falar sobre o inquérito de Tancos, e Souto Moura, que falou no Parlamento sobre o chamado caso do envelope nove, que era uma situação que tinha a ver com o caso Casa Pia. Estamos a falar de inquéritos judiciais, casos concretos, mas quando os procuradores-gerais lá foram, se a minha memória não me falha, ou o inquérito já tinha terminado, ou no outro caso, como o caso BPN, ainda estava em curso. Dito isto, estes casos precedentes podem legitimar precisamente a chamada de Lucília Gago para falar sobre a Operação Influencer, que é um inquérito ainda em segredo de justiça.

Eu não sei se a intenção do senhor presidente da Assembleia da República é apenas pretender os esclarecimentos sobre a Operação Influencer. Eu acho que, e falo aqui também relativamente à minha perplexidade quanto àquilo que se tem passado, não é apenas a Operação Influencer, é também uma série de operações, investigações, e algumas delas que envolvem também cidadãos que não são figuras públicas. E aquilo a que nós assistimos é Inquéritos e investigações criminais que se prolongam no tempo, a utilização que parece, vistas externamente, sem ter acesso aos autos, recorrerem de uma forma excessiva a certos meios de prova, intrusivos, como as escutas, inquéritos que se prolongam de uma forma exagerada no tempo, em contravenção com aquilo que é a jurisprudência do Tribunal Europeu dos Direitos Humanos, que já foi aqui mencionada, embora a propósito de outra matéria pelo professor Pedro Travão de Rosário. Portanto, a manutenção de arguidos em primeiro interrogatório por um período superior àquele que está expressamente previsto no Código de Processo Penal, dá aqui uma série de matérias que causam perplexidade, não só na comunidade jurídica, mas também nas pessoas em geral, que causa temor que não é próprio de um Estado de Direito, e relativamente aos quais a única posição oficial que nós temos por parte do Ministério Público, sistematicamente, vem apenas por parte do Sindicato dos Magistrados do Ministério Público, e isto não é próprio de um Estado de Direito. Aquilo que nós temos, paradoxalmente, é esta situação em que uma magistratura, que é o Ministério Público, que não beneficia da prerrogativa da independência como beneficia o Poder Judicial, está numa circunstância institucional em que, paradoxalmente, não tem sido sujeito ao escrutínio e à accountability que todos os poderes públicos estão vinculados num Estado de Direito Democrático. Isto, de facto, causa perplexidades e suscita interrogações.

E nesse sentido, Teresa Violante, e uma coisa que nunca aconteceu em democracia, mas acredita que, por um lado, há razões para um processo de destituição da Procuradora e, por outro lado, se isso é politicamente viável?

Eu não sei se existem razões neste caso concreto. Sinceramente, não creio que é responsável ter esta discussão a propósito do caso concreto. O que me parece é que nós estarmos a viver, enquanto república, enquanto comunidade política, este caso concreto, merece que levemos a sério uma discussão sobre o modelo e sobre o modo como o próprio modelo está organizado. Desde logo, o desenho institucional do modelo de nomeação e exoneração que tem que ser repensado. E preservar a autonomia do Ministério Público, preservar o próprio interesse da preservação da autonomia, exige que para que possamos levar a sério o escrutínio do Ministério Público, que o poder de propor a nomeação e a exoneração, para que se sucederem situações em que se ponha em causa uma eventual censurabilidade do exercício das funções de Procurador-Geral da República, quem quer que seja, esse poder não esteja nas mãos do Executivo, mas sim nas mãos do Parlamento, exigindo para tal uma maioria reforçada de dois terços dos deputados.

Pedro Travão de Rosário, a mesma pergunta. No fundo, é perceber se existem condições políticas ou se existem motivos para a destituição de Lucília Agar. Concorda com esta análise que foi feita por Teresa Violante?

Sim, eu concordo no essencial com a análise efetuada. Pondero aqui também uma questão, é que pela nossa matriz e pela própria matriz do programa, será politicamente viável, será juridicamente viável. Porque a Constituição da República Portuguesa apresenta aqui uma solução, que aliás é curioso ponderá-la, quando nós estamos aqui a referir o senhor Presidente da Assembleia da República. É que o artigo 175, número um, do Estatuto do Ministério Público, mas o artigo 133, alínea M da Constituição, atribui a competência ao Presidente da República, relativamente a outros órgãos, nomear e exonerar, sob proposta do Governo, o Procurador-Geral da República. Ou seja, coloca-se aqui o plano jurídico e coloca-se aqui a questão política.

Teria que o Governo propor.

Exatamente, e não através da Assembleia da República, conforme a professora Teresa Violante, e muitíssimo bem, sugeria de alguma forma, ou ponderava, creio, mas a expressão talvez mais adequada. É que será o Governo, será o Executivo a propor à Presidência da República que se proceda à exoneração.

Não basta a eventual vontade do Presidente da República.

Exatamente. Agora, temos que efetivamente melhorar este sistema. É sempre complicado fazê-lo em momentos de maior tensão, porque muitas vezes leva inclusive a precipitações. Há outros modelos, inclusive na Europa, que nos poderiam aconselhar soluções que seriam mais interessantes. Uma delas foi aquela há pouco avançada pela professora Teresa Violante, que seria a proposta a partir da Assembleia da República, através de uma maioria qualificada de dois terços. Percebemos que esta mesma questão se pode colocar também relativamente a outros órgãos cuja designação compete à Assembleia da República e, desculpem-me este parêntesis, ou esta nota de rodapé, ou esta referência, mas também já temos assistido a algumas situações de menor elevação institucional na designação de procuradores de Justiça, juízes conselheiros do Tribunal Constitucional, etc. Portanto, há efetivamente que ponderar de uma forma madura, nunca precipitada, a solução que se apresente. Admito que efetivamente passe pela Assembleia da República, até se calhar a par de uma revisão também da própria composição do Conselho Superior de Magistratura e aquilo que sejam os poderes e as atribuições que sejam designados pelo Conselho Superior do Ministério Público, exatamente, para se perceber inclusive que os seus membros depois às vezes não tenham aqui alguns deslizes, como já assistimos a falarem sobre os processos em concreto, etc.

Pedro Travão Rosário, a Teresa Violante, muito obrigado por terem vindo ao X à Cega. Até à próxima, obrigado.

Obrigado, é um gosto.

Obrigada

Segunda parte do Justiça Cega. Hoje contamos com a ajuda de Adolfo Mesquita Nunes para analisar o caso da semana. Adolfo Mesquita Nunes é sócio do escritório Pérez-Llorca, em Lisboa, advogado especialista em compliance digital, ex-secretário de Estado do Turismo e atual vice-presidente da Galp Energia. Vamos olhar em pormenor para o primeiro regulamento da União Europeia sobre inteligência artificial. Bem-vindo, Adolfo Mesquita Nunes. Este regulamento foi apresentado pelo Parlamento Europeu como inovador a nível mundial e protege direitos fundamentais dos cidadãos, a democracia, o Estado de Direito e a sustentabilidade ambiental. Por exemplo, proíbe várias práticas como o de imagens de rostos retiradas da internet ou de sistemas de videovigilância para criar bases de dados de reconhecimento facial. Também proíbe sistemas de categorização biométricos baseados em determinadas características pessoais, entre muitas outras utilizações práticas. A primeira pergunta é básica: até quando é expectável que Portugal siga este regulamento aprovado pelo Parlamento Europeu e mude o seu quadro jurídico sobre inteligência artificial? Explique-nos um pouco como é que funciona o regulamento e como é que este regulamento vai levar a profundas mudanças legislativas.

Olá, obrigado pelo convite. O regulamento já foi aprovado, estamos à espera que ele seja publicado. E uma vez publicado, ele aplica-se a todos os Estados-membros. Portanto, Portugal não tem que fazer mais nada para o regulamento lhe ser aplicável. Depois tem períodos de entrada em vigor de algumas das normas que se espalham no tempo, mas Portugal não precisa, em rigor, de mais nenhuma legislação para que o regulamento fique aplicado.

Não era expectável que mudemos alguma coisa no nosso enquadramento.

Desde logo, teremos de criar ou atribuir essa função a uma entidade existente, uma entidade que regule e que seja o organismo responsável em Portugal por estas matérias, porque haverá questões de certificação, haverá questões de fiscalização, de monitorização que caberão a uma entidade. Mas verdadeiramente, uma vez entrando em vigor, o regulamento não é como uma diretiva. Aquilo que o regulamento vai proibir, torna-se proibido seis meses depois da entrada em vigor do diploma. As empresas têm seis meses para se adaptar àquilo que é proibido.

E dar-nos alguns exemplos dessas práticas concretas que o regulamento pretende atingir.

Dizer duas coisas que eu acho que são importantes. O regulamento tenta ser neutro naquilo que é a definição de inteligência artificial, para não ficar ultrapassado no tempo, e foca-se mais na utilização que nós fazemos da inteligência artificial. E portanto, aquilo que ele vem proibir são utilizações mais do que propriamente ferramentas ou sistemas. E alguns daqueles que foram referidos no começo, por exemplo, a categorização social por características identitárias ou por características comportamentais. Por exemplo, isso é aquilo que se diz que se faz na China, o social scoring. Mas vamos imaginar que um banco, que uma seguradora utilizam ferramentas de inteligência artificial para fazer profiling dos seus clientes ou prospetivos clientes, com base nos seus comportamentos sociais, para daí inferir qual é a sua possibilidade de pagar, não pagar, qual é o prêmio de seguro que devem ter ou não devem ter. Essa é uma prática que é proibida.

E que já existem.

Coisa diferente é fazer credit scoring. E aí estamos a falar de uma prática que é permitida pelo regulamento, mas que é considerada de alto risco e portanto, com certeza pode fazer-se, mas as empresas terão de fazer um conjunto de políticas e de implementar, porque há aí questões de viés, há a questão de direitos humanos, etc. Portanto, voltando à pergunta, aquilo que o regulamento quer garantir é que quando a inteligência artificial é utilizada, e sobretudo é utilizada em matérias que dizem respeito a cidadãos e a decisões que são importantes para eles e que impactam nas suas vidas, há que ter regras e cuidados. Por exemplo, pode não me ser propriamente relevante que um site ou que uma entidade me recomende outros produtos para comprar ou outros hotéis para ir dormir através de ferramentas de inteligência artificial. Não bulo muito com a minha vida, mas já me pode bulir com a minha vida que um banco me negue um crédito à habitação com base num algoritmo que não me explica. Isso já o regulamento diz: "O senhor vai ter que explicar, o senhor vai ter que garantir que essa pessoa percebe" e o senhor banco vai ter que garantir que o senhor que lá está percebe aquilo que o algoritmo está a dizer. Isto para simplificar muito, pois se estivéssemos numa conversa jurídica, estaríamos daqui de forma muito mais complexa. Ou se uma empresa utiliza ferramentas de inteligência artificial, como é normal que utilize, para filtrar os currículos de pessoas que vai recrutar ou que vai utilizar para recrutar, ou até para medir a performance dos seus funcionários, tem que se garantir que esses algoritmos não estão enviesados, que eles não prejudicam pessoas em função de categorias, de características identitárias, etc. Por isso é que o regulamento obriga. Sim, senhor, use para recrutamento e use para avaliação, mas tem que garantir que esses algoritmos não estão enviesados. Tem que garantir que a informação com o qual o senhor vai trabalhar e que dá aos algoritmos para eles depois se tornarem eficientes e inteligentes, eles não estão enviesados e não prejudicam mulheres, não prejudicam mulheres grávidas, não prejudicam minorias.

E tendo em conta aquilo que está a explicar-nos e também a importância que a inteligência artificial tem hoje em dia, quais é que são os setores de atividade públicos e privados que podem ter ou podem vir a ter mais dificuldades em lidar com essas restrições? O Parlamento Europeu evidencia, por exemplo, alto risco em vários setores de atividade, como a educação, cuidados de saúde ou a banca. Quais é que identifica como aqueles que terão maiores dificuldades?

O que o regulamento faz é dizer o seguinte: há quatro níveis de risco na inteligência artificial Utilizações que colocam em risco. Há baixo risco, médio risco, alto risco e há aquilo que é proibido. E isto aplica-se a todos os setores, porque todos os setores podem utilizar a inteligência artificial para qualquer um destes usos. Portanto, é um pouco indiferente os setores. Mas no caso do alto risco, isto é, sistemas, ferramentas de inteligência artificial que por aquilo em que estão a trabalhar, geram risco para as pessoas, aí há algumas identificações. Desde logo, aqueles que lidam com infraestruturas básicas da sociedade. Imaginemos redes de energia. Ou equipamentos que são certificados e homologados pela União Europeia, tipicamente porque levantam questões de segurança. Se nós começamos a pôr ferramentas de inteligência artificial que decidem como é que um elevador funciona, se funciona ou não funciona, como é que o trânsito é gerido, como é que uma infraestrutura crítica para a segurança ou para a vida dos cidadãos, como é que essas máquinas se ligam e desligam e tomam decisões. Bom, então o que o regulamento diz é: se estamos perante infraestruturas críticas, estamos perante alto risco. Portanto, utilizem lá a inteligência artificial, mas garantam que fazem avaliações de risco, que os algoritmos são transparentes, que são explicáveis, que estão certificados, que há supervisão humana, que são essas características. Outra, matérias que digam respeito a acesso a serviços públicos ou serviços privados essenciais. É aqui que estamos a falar, por exemplo, da banca. Ou seja, a banca, os seguros. No caso do setor público, acesso ao ensino, ou seja, que universidades utilizem ferramentas de inteligência artificial para fazer a seleção dos seus alunos e para poder encontrar ferramentas até mais eficientes e mais justas para recrutar aqueles que merecem entrar. Bom, estamos a falar de direitos das pessoas e, portanto, é preciso aqui garantir um conjunto de prioridades.

Mas deixe-me voltar à questão da banca e das seguradoras, que também diz muito às pessoas. Podemos dizer, Adolfo, que o setor financeiro e as seguradoras estão hoje a usar sistemas ou seguem práticas que vão passar a ser proibidas por este regulamento? O Adolfo falava há pouco da questão do credit scoring no crédito à habitação, crédito a empresas.

Eu não sei se há práticas que neste momento estejam a ser utilizadas, que são consideradas proibidas ou não. O que sei, e não há nada de patológico nisto, é que hoje qualquer empresa, e bancos e seguradoras também, tem de olhar para a sua utilização de inteligência artificial, e muitas das vezes nem os gestores da empresa sabem em que a empresa está a utilizar inteligência artificial, porque isto normalmente está nos departamentos de IT, e perceber onde é que nós estamos a utilizar inteligência artificial e para quê, qual é a utilização que lhe estamos a dar, e ver em qual das categorias de risco é que isto calha no novo regulamento. E depois atuar em conformidade. Se é proibido, deixar de fazer, se é de alto risco, continuar a fazer, mas garantir que se tem as regras dos sistemas de alto risco, que foram aquelas que enumerei algumas delas, se o risco é médio ou baixo, seguir essas regras. Por exemplo, o que é que se considera de baixo risco? Os bots que falam conosco nas plataformas quando nós procuramos interagir com serviços. Isto é considerado de baixo risco, mas há regras a cumprir. Desde logo que a pessoa saiba que está a falar com um bot, e isto aplica-se também aos deepfakes, que a pessoa saiba que não está a falar com um humano, e que se garanta que o algoritmo que está a ser utilizado para falar conosco não vai reagir de forma enviesada, tendo em conta quem nós somos e não nos responda de uma forma enviesada que pode ser discriminatória. Portanto, o que eu diria antes de ir para essa parte mais patológica de que há comportamentos proibidos, que eventualmente haverá, mas não sei em que setores. Neste momento, é o momento para as empresas fazerem essa análise de risco. E isto aplica-se, também é importante que se diga, não é apenas às empresas que desenvolvem as ferramentas de inteligência artificial, aquelas que são quem está a fabricar.

Mas também a quem as utiliza.

Mas aplica-se a quem as utiliza. O que significa que é indiferente que a ferramenta de inteligência artificial tenha sido fabricada num país fora da União Europeia, com outras regras. Isso é completamente indiferente para o regulamento. No espaço europeu, uma vez nós utilizando, é o uso que está a ser regulado.

E não a existência.

E não a existência. E portanto, isso depois gera responsabilidade. É por isso que as empresas também têm que estar a olhar agora para ver quem é que me fornece, o que é que me garante e como é que eu lido com a responsabilidade e como é que eu passo a responsabilidade.

Precisamente falando da responsabilidade, uma pergunta muito sintética, que é: que responsabilidades são essas? Coimas? Se houver infrações e proibições, estamos a falar de coimas, não é?

Estamos a falar de coimas que, no caso das utilizações proibidas, podem ir até 6% do volume de negócios anual global da empresa.

Isso é um valor muito significativo.

No caso de alto risco, podem ir até 4%. Depois, existe sempre esta ideia: "Bom, mas será que estas multas serão aplicáveis, não serão?"

Terá de ser criada uma entidade nacional, não é?

Terá de ser criada uma entidade nacional ou atribuída essa competência a uma entidade nacional. Mas como é que é o enforcement disto? E eu acho que é relevante e importante olhar para o quadro sancionatório, mas é também importante olhar para a questão reputacional do que nós estamos aqui a falar. Porque imaginemos, como aconteceu com a Apple Pay, que se descobriu que discriminava mulheres nos contratos que fazia. E não foi com certeza porque alguém quis discriminar mulheres, é porque ninguém controlou bem os vieses do algoritmo. Agora imaginemos uma empresa acordar um dia com uma queixa em tribunal, porque se descobre que o seu mecanismo de avaliação de performance de funcionários discrimina determinado tipo de comunidades ou discrimina um determinado gênero, sem que alguma vez tenha sido dada essa instrução. Ou imaginemos que os bancos ou as seguradoras discriminam objetivamente De forma ilegal, porque viola o princípio da igualdade de determinado tipo de comunidades. Temos aqui um problema reputacional, que é um problema grave. Portanto, as empresas não devem olhar apenas para a parte sancionatória, mas também para a parte reputacional e devem ter, por isso, acho eu, um posicionamento ético sobre a inteligência artificial. Ou seja, eu, como empresa, onde é que eu me quero posicionar? Até onde é que eu quero ir? Que tipo de utilizações é que eu quero fazer? Tenho estado a trabalhar em códigos de ética, precisamente empresariais, de empresas que já chamaram a si a necessidade de olhar para aquilo que é a inteligência artificial e tomar uma posição que oriente os meus departamentos de IT, os meus departamentos de vendas, para que a própria empresa tenha noção como um todo.

Tenha um auto escrutínio.

Claro, porque repara, uma coisa é fazermos este mapa de risco agora, onde é que estamos e onde é que não estamos, mas a inteligência artificial vai continuar. Nós vamos continuar a ter necessidade de se desenvolver mais, novas ferramentas. E, portanto, é preciso garantir que todo o trabalho futuro está pelo menos minimamente enquadrado em linhas e orientações estratégicas e éticas para que esses departamentos sigam essas orientações e não se ponham a fazer utilizações de inteligência artificial que um dia o CEO da empresa descobre que estava a ser feito sem que ele propriamente se apercebesse.

Muito bem, deixa-me abrir aqui outro tema, que é o tema das redes sociais. As empresas que gerem as redes sociais serão fortemente impactadas por este novo regulamento, nomeadamente pela proibição dos sistemas de inteligência artificial que manipulam o comportamento humano ou exploram as vulnerabilidades pessoais. Esta é uma matéria que quer atingir as redes sociais, ao fim e ao cabo?

Atinge as redes sociais, mas atinge qualquer e-commerce. Portanto, qualquer plataforma marketplace que procura vender. Imaginemos que através de ferramentas de inteligência artificial, nós percebemos que há uma pessoa que tem uma certa patologia de jogo. Não é possível, de acordo com este regulamento, procurar utilizar esse conhecimento sobre esse viés cognitivo que essa pessoa tem, porque é uma pessoa que tem uma determinada patologia, e manipulá-la para ela continuar a fazer isso. Imaginemos que é uma pessoa que tem uma obsessão com questões de segurança, uma pessoa adepta de teorias de conspiração, uma pessoa adepta de que a sua segurança está em risco, que o mundo está a acabar, porque todos os dias lhe vão entrar criminosos em casa. Utilizar essa vulnerabilidade para lhe vender produtos de segurança é uma prática que teremos de ver como é que se prova. Mas isto não é novo do regulamento. A regulamentação europeia sobre os mercados digitais já fala de um conceito, que também é utilizado nos Estados Unidos, chamado dark patterns. Não consigo traduzir isto bem para português, mas o objetivo é proibir que as redes sociais, as plataformas eletrónicas, os marketplaces, identifiquem os nossos vieses cognitivos, os nossos atalhos mentais, e joguem com eles para conseguir iludir e manipular. Há um caso que está neste momento a ser julgado nos Estados Unidos, que envolve a Amazon Web Services, que tem a ver com a forma como a Amazon estava a tornar difícil, em determinado tipo de produtos, os seus utilizadores saírem desse produto.

O Amazon Prime é um excelente exemplo.

E não é porque o botão para cancelar não existe, ou não está lá, ou está escondido, é porque de cada vez que a pessoa começava a fazer o seu processo decisório de sair, eram-lhe apresentadas tantas outras alternativas e tão sedutoras e tão tentadoras que a pessoa acabava por ficar. São decisões livres da pessoa, e portanto, essa é uma discussão que podemos ter.

Há alguma manipulação.

E esta outra dificuldade é que o regulamento também acaba por ser acusado por muitos de ser poroso ou vago, porque nós ainda estamos a falar de quadros conceptuais. Ainda é difícil concretizar tudo.

Mas é um princípio de um caminho.

Sim, e eu até sou bastante, noutras vocações, conhecido por ser pouco adepto de regulação, mas era pouco crível que algo tão revolucionário como a inteligência artificial não viesse a ter o mínimo de enquadramento. Por quê? Só pra terminar. Não é possível à nossa sociedade ter definido que há um conjunto de princípios e de valores que têm que ser tutelados, como o princípio da igualdade, como o princípio da não discriminação, como a proteção dos mais vulneráveis, como proibir a fraude, e depois entender que esses princípios não têm lugar numa realidade digital.

Deixa-me fazer uma última pergunta. Apesar do caráter inovador deste regulamento, o Parlamento Europeu diz que é o primeiro regulamento a nível mundial, a Europa vai ficar em posição, em termos económicos, muito menos competitiva do que os Estados Unidos e a China?

Essa é uma crítica que se tem feito ao regulamento, e eu não estou certo de que essa crítica seja inteiramente justa, embora consiga perceber. O que Bruxelas procura é o Brussels Effect, que foi aquilo que aconteceu com o RGPD. Portanto, o regulamento geral de proteção de dados. É criar um mecanismo regulatório que acabe por se espalhar pelo menos para os Estados Unidos. E foi aquilo que aconteceu. E aqui os Estados Unidos também já estão a tentar ver como é que regulamentam.

Por exemplo, o TikTok é um excelente exemplo.

Aqui a União Europeia procura jogar com o peso econômico que a União Europeia tem, que é pensar assim: não é crível que sendo este mercado tão relevante, que os developers, quem cria estas ferramentas, quem atua neste mercado, decida de um momento para o outro dizer "Então não faço nada pra Europa". Não vou vender nada para a Europa. Não é crível que isso aconteça e, portanto, está a tentar utilizar essa posição de força para criar uma espécie de um quadro ético, porque este regulamento, é verdade que tem regras mais ou menos concretas, mas ele, na prática, é um quadro ético para o desenvolvimento e para a utilização de inteligência artificial. Também não era crível que os Estados Unidos não avançassem num sentido, ou do ponto de vista regulamentar, ou em países anglo-saxónicos, do ponto de vista daquilo que são depois casos em tribunal, class actions, etc., e a partir da jurisprudência, criar princípios. Mas em última instância, quase que poderíamos dizer que muitas destas regras que estão no regulamento já decorrem dos princípios gerais de direito que estão na nossa Constituição.

Só mesmo para terminar, essas class actions, essas ações ou coletivas, ou individuais, ou em grupamento, como tu quiseres, podem acontecer em Portugal, ações judiciais contra empresas que tenham...

Portugal não tem nenhuma especialidade que nos retire daí. Eventualmente, empresas mais pequenas, com menor apetite do ponto de vista dessas class actions. Também não podemos ser ingénuos, elas não são fruto apenas da vontade de uma associação ou de uma entidade. Elas são muitas vezes financiadas por fundos que procuram e que são pagos pelas percentagens das indenizações que essas class actions conseguem. E, portanto, como não temos empresas de enorme envergadura em Portugal, pelo menos quando comparado com outros países, é normal que essas ações possam demorar mais tempo a cá chegar. Mas nada impede que funcionários, trabalhadores, clientes, não ponham uma ação porque se sentiram prejudicados. E a verdade é que há um quadro de responsabilidade que a União Europeia está a criar, que nada tem que ver com inteligência artificial, mas também a abrange, que é a responsabilidade por produtos defeituosos e pelo software defeituoso e pelas consequências e os danos que isso provoca, onde já se inverteu o ônus da prova. Isto é, já não é o consumidor que tem que explicar que o software ou que alguma ferramenta o prejudicou, ou melhor, que o dano que ela sofreu foi causado especificamente por aquele software, é o dono do software que tem que dizer: "Não, não é possível que o meu software tenha feito isto." Isto para simplificar uma vez mais, colegas meus advogados estarão a dizer que eu estou a deixar de fora muitos aspectos que são, de facto, importantes. Mas o quadro legal e regulatório que está a ser criado na proteção do consumidor ou do utilizador aconselha a que as empresas olhem para este regulamento e para essas regras, para poderem posicionar-se e evitar riscos reputacionais, mas também riscos contraordenacionais.

Muito bem, muito obrigado.

Muito obrigado, até à próxima. Obrigado.

Obrigado.

Neste "Justiça Cega", tempo ainda para as alegações finais do Luís Rosa. Luís, vamos então às tuas habituais notas para a atualidade da semana na área da Justiça e vamos começar hoje pela positiva. O Parlamento Europeu é a tua balança de hoje, por que se destaca por ser equilibrado e ponderado?

Porque aprovou um novo pacote de medidas que reforça o combate ao branqueamento de capitais. Entre essas medidas, por exemplo, está a criação de uma nova autoridade europeia para fiscalizar o cumprimento das regras de combate ao branqueamento de capitais. É do início da década de 2000 que estas medidas europeias têm sido vitais para combater a corrupção e o crime económico em Portugal, nomeadamente devido à transparência que impuseram nas transações financeiras e devido aos sistemas de compliance e de comunicações à Justiça impostas ao setor financeiro e não financeiro. Agora, por exemplo, o novo pacote quer assegurar que a legislação de cada Estado-membro permite que as pessoas com interesse legítimo, incluindo jornalistas, profissionais dos meios de comunicação social ou organizações da sociedade civil, tenham acesso imediato e não filtrado, direto e livre, às informações sobre os beneficiários efetivos conservados nos registos nacionais e interligados ao nível da União Europeia, beneficiários efetivos, obviamente, de empresas e de outro tipo de sociedades. Além das informações atuais, os registos também incluirão dados que remontam a, pelo menos, um prazo de cinco anos. É uma medida, entre muitas outras, muito positiva, porque no que diz respeito a Portugal, é um passo na direção certa de quebrar a política de segredo que ainda persiste em muitas áreas da sociedade civil e da administração pública portuguesa.

Luís, falámos disso neste programa, a ida de Lucília Gago ao Parlamento, uma proposta de José Pedro Aguiar Branco, ainda não está clara essa ida, na tua opinião, por que ainda está de olhos vendados?

Em primeiro lugar, porque ainda não foi aprovada, ainda não há um vislumbre de uma aprovação no Parlamento. Em segundo lugar, porque é uma ideia que me suscita dúvidas, a mim e a muitos juristas. Se por um lado podemos dizer que se justifica plenamente a chamada da Procuradora-Geral da República, porque a atividade do Ministério Público pode e deve ser escrutinada pela opinião pública e pelo Parlamento, se também podemos acrescentar que há precedentes de outros procuradores-gerais terem ido ao Parlamento para falarem sobre casos concretos, Sousa Moura sobre o caso do envelope nove, Pinto Monteiro sobre o caso BPN, Joana Marques Vidal sobre o caso Tancos, se por último podemos dizer que as consequências da Operação Influencer estão igualmente muito graves e devem ser debatidas no Parlamento, também é certo que a Operação Influencer é um inquérito em segredo de justiça e que nem sequer o caso António Costa foi decidido por muito que seja provável o arquivamento do mesmo. Resumindo e concluindo, existe um sério risco de que a ida de Lucília Gago ao Parlamento possa se transformar num exercício de chicana política que poderá colocar ainda mais em causa a imagem do Ministério Público. E chicana política promovida pela extrema-esquerda e até pelo partido que indicou a própria Lucília Gago, o Partido Socialista, que já impediu por duas vezes a ida da Procuradora-Geral ao Parlamento devido a uma questão interna do Ministério Público e, para já, tem estado em silêncio sobre esta proposta de José Pedro Aguiar Branco. A única solução para este problema, na minha opinião, é simples: é Lucília Gago fazer algo que nunca fez até ao momento, dar uma entrevista a um órgão de comunicação social e esclarecer a opinião pública sobre matérias que não estejam em segredo de justiça.

Fica aqui esse repto, quem sabe até aqui no Justiça Cega.

Vamos ver.

Fica esse repto, se a Procuradora nos estiver a ouvir.

Isto é um pedido lá.

Exatamente. E se não quiser perder nada do que debatemos aqui no programa, pode seguir-nos nas várias aplicações de podcast, como Apple Podcast ou até no Spotify. E nesta aplicação específica no Spotify, Luís, deixamos hoje esta pergunta.

Lucília Gago, deve ser chamada pelo Parlamento?

A pergunta do Luís Rosa. Eu sou o Luís Soares, voltamos de hoje a oito dias. Até para a semana.

Até para a semana.