Sejam bem-vindos à terceira de cinco conversas sobre o mundo do trabalho, com o apoio da Intelcia. Neste episódio vamos abordar a inteligência artificial, mais concretamente os desafios criados pelo novo regulamento europeu de inteligência artificial, o primeiro em todo o mundo. São nossos convidados Adolfo Mesquita Nunes, advogado, antigo secretário de Estado do Turismo, desempenha atualmente e ainda o cargo de vice-presidente da Galp, e também Alexandre Correia, IT and Innovation Director na Intelcia. Muito obrigado aos dois por estarem aqui hoje. Adolfo Mesquita Nunes, começava talvez por si. O regulamento europeu de inteligência artificial foi aprovado em junho deste ano e incide sobre o que se designa de famílias de tecnologias, porque há muitas IAs, ou muitas GIs, inteligências artificiais. Grosso modo, o que é que prevê este regulamento em matéria da proteção dos direitos fundamentais dos cidadãos, matéria, de resto, crucial do tratado?

O que o regulamento vem dizer a quem produz, desenvolve, compra, vende e utiliza inteligência artificial de forma profissional é mais ou menos o seguinte: eu não quero saber que tecnologia tu usas de inteligência artificial, quero saber para quê. Porque há um conjunto de utilizações que eu não te vou deixar fazer, são proibidas, e se fores apanhado a utilizar nisso, terás de pagar multas que podem ir até 7% do volume de negócios anual global da empresa. Há outras utilizações que o risco é limitado e, portanto, faz à vontade, cumpre aqui com um conjunto pequeno de obrigações, mas há muitas áreas em que se correr mal, corre muito mal e, portanto, vou lhe chamar de risco elevado e podes com certeza utilizar, mas tens de ter aqui um conjunto de salvaguardas importantes. É uma abordagem baseada no risco. Naquilo que é o risco elevado, aquilo que as empresas hoje têm de fazer, quer porque compram, desenvolvem ou utilizam sistemas de inteligência artificial, é garantir que estão conformes e têm essas garantias todas.

Aliás, o regulamento incorpora a noção de risco, precisamente.

Exatamente. No contexto laboral, que é aquele que motiva estas nossas conversas, é considerado de risco elevado. Por quê? Porque se nós utilizamos inteligência artificial, por exemplo, para triar currículos, parece uma atividade simples e sem grande risco, e na prática é. A verdade é que estamos a ditar a vida das pessoas. Se a ferramenta está completamente enviesada, discriminando em função do gênero, da etnia, da religião, e pode facilmente acontecer sem que haja vontade disso, então o risco é grande. Da mesma maneira que se tivermos ferramentas de inteligência social que ajudam as empresas a medir a performance dos seus trabalhadores e assim quantificar os seus prêmios, também estamos a lidar com a vida das pessoas, porque o salário delas vai depender disso. Portanto, o regulamento presta particular atenção ao mundo laboral e diz: "Usem, com certeza". Há coisa que é proibido, mas usem, com certeza, mas para usar, verifiquem lá em um conjunto de coisas de que depois podemos falar.

Muito bem.

Mais adiante.

Mais adiante. Alexandre Correia, como eu dizia há pouco, o regulamento incorpora a noção de risco. Quais são os setores e as aplicações de IA considerados de alto risco e como é que essa classificação afeta empresas e consumidores?

São considerados setores de alto risco, por exemplo, o setor da saúde, e percebe-se por quê. Porque quando aplicamos tecnologia que afeta pessoas e que impacta diretamente naquilo que é o seu bem-estar, obviamente que o risco da adoção destas tecnologias é bastante maior. Quando falamos em análises de risco de crédito, é outra área de riscos, estamos novamente a impactar a vida das pessoas. E portanto, teríamos que ter sempre mecanismos de controle e inclusivamente a facilidade de explicação dos modelos que são utilizados para que haja uma percepção de como a inteligência artificial toma as decisões, porque o Adolfo tocou aqui num ponto da análise de currículos, por exemplo, em que podemos de alguma forma enviesar e segmentar a escolha que é feita. Se não tivermos explicado bem os algoritmos de tomada de decisão, obviamente teremos mais dificuldade em controlar as decisões que são tomadas.

Isso vai obrigar as empresas a estarem permanentemente a adaptarem-se, ou não?

Vai obrigar as empresas a dotarem-se com conhecimento técnico que lhes permita, de alguma forma, obter essa informação e validar se a adoção dessas metodologias estão de acordo com aquilo que é a regulamentação europeia nesta área. Portanto, aquilo que se pretende é que nós possamos ter modelos em que possamos desenvolver confiança na adoção da inteligência artificial. E se não os compreendermos e não sabemos como são utilizados, mais difícil será termos confiança nesses modelos.

Adolfo Mesquita Nunes, a questão da transparência foi também uma preocupação do Parlamento Europeu na redação do regulamento. Como e onde é que se manifesta essa preocupação?

Nos sistemas de risco elevado, e já falámos de alguns, a área da saúde é um caso, a área da prestação de serviços públicos essenciais, de serviços privados essenciais, das infraestruturas. Nós não podemos aceitar, por exemplo, que nos seja negado um subsídio, um crédito, um direito a alguma coisa e a resposta seja porque a máquina disse que não, porque é esse o resultado do algoritmo.

Isso é viver numa distopia, quase.

É um pouco a burocracia no processo do Kafka. E o regulamento o que diz é: as decisões que são tomadas Por recurso à inteligência artificial, elas têm que ser explicáveis. E portanto, o destinatário da decisão, neste caso, o tomador de seguro, a pessoa que vai pedir um empréstimo ao banco ou o particular no contacto com o Estado, tem de ter acesso à explicação do algoritmo, se quisermos assim. Não é aceder ao algoritmo, até porque isso é a mesma coisa que não explicar nada, ninguém consegue ler um algoritmo, pelo menos um cidadão médio, explicar o processo de tomada de decisão. Ao mesmo tempo, é muito importante nos sistemas de risco elevado, pra além da transparência face ao destinatário final, que as empresas que adotam a inteligência artificial tenham a noção de como é que funcionam os processos de tomada de decisão que estão a adotar. Seria pouco aceitável que um CEO de uma empresa desconhecesse por completo como é que se tomam determinado tipo de decisões na empresa. Pois bem, com a inteligência artificial isso pode acontecer e com alguma facilidade. E portanto, em sistemas de risco elevado, em muitos dos setores que aqui falámos, os vendedores dos sistemas e quem os compra, têm de ter documentação sobre como é que cada coisa funciona, quais são os limites dos algoritmos, quais os limites do sistema, o seu grau de fiabilidade, etc, para depois permitir também uma utilização responsável. Por fim, é importante que quando lidamos com a inteligência artificial enquanto destinatário final, enquanto consumidor, enquanto cliente, saibamos que estamos a lidar com a inteligência artificial e portanto, há essa preocupação do regulamento, um pouco na senda daquilo que são os deepfakes, e portanto dizer: "Sim, senhor, faça-se lá deepfake", mas que seja claro que estamos a falar de um fake. Da mesma maneira, vem dar este direito às pessoas de saberem que estão a interagir com a inteligência artificial. No código laboral já existia uma norma que tem plena atualidade agora e vai-se refletir e densificar nestas do regulamento, que quando uma empresa utiliza a inteligência artificial para avaliar o trabalhador, para decidir sobre algumas das suas coisas, tem que os avisar e tem que avisar até os órgãos representativos dos trabalhadores. Portanto, existe esta noção de que a explicabilidade e a transparência são importantes para uma utilização mais sã da inteligência artificial.

Da inteligência artificial. Alexandre Correia quer complementar sobre esta questão da transparência em torno da inteligência artificial?

Eu diria que a transparência é de fato fundamental. E se falarmos sobre a atividade, por exemplo, da Intelcia, naquilo que diz respeito à atividade de relação com o cliente, acho que é muito importante para o cliente perceber quando é que está a lidar com a inteligência artificial na sua relação com as empresas com quem se relaciona.

Pode condicionar essa atividade?

Pode condicionar no sentido em que a forma como se aplica a AI terá que ser, mais uma vez, completamente transparente para o cliente final. Em alguns casos, determinará também que tem que ser anonimizada. Há uma componente muito específica que diz, por exemplo, a recolha de emoções, ferramentas de recolha de emoções durante as interações que de alguma forma poderão pôr em risco a informação daquele cliente e poderão, de alguma forma, determinar uma determinada ação por parte das empresas. Agora, se pensarmos que o podemos fazer de uma forma anonimizada, a informação recolhida também é muito importante na tomada de decisão para as empresas. No fundo, a transparência é um pilar base da adoção da inteligência artificial, na medida em que todos nós temos que conhecer exatamente como é que ela está a ser utilizada, quer de um lado das empresas e no caso da nossa atividade, de um lado do cliente final, para ter a opção se quer ou não continuar, nomeadamente nesta atividade, se quer continuar aquela interação ou se pretende que ela seja executada de uma outra forma.

Considera que este regulamento pode ter um impacto negativo na inovação e até nas startups nacionais ou nas startups tecnológicas? Pode estrangular o desenvolvimento desta família de tecnologias?

Eu diria que as startups, pra já poderão ter um desafio devido aos custos limitados para cumprir determinado tipo de exigências e, nomeadamente, perceber se a sua tecnologia, de alguma forma, põe em causa a regulamentação. Julgo que a existência de sandboxes regulamentários poderão ajudar estas empresas, de alguma forma, a garantir que cumprem com a regulação na adoção da tecnologia que escolheram. E por outro lado, se garantimos que temos uma inteligência artificial ética, ela passa a ser também uma vantagem competitiva para essas startups. Julgo que pode trazer alguns desafios, mas também diria eu que a União Europeia também terá formas adicionais, com fundos adicionais especificamente pra startups, no sentido de as apoiar na adoção desta regulamentação.

Portanto, vamos viver assim uma espécie de período de adaptação, talvez.

Já estamos. Da forma como a regulamentação é apresentada, já traz este período de adaptação e consciencialização do que é que terá que ser adaptado e feito.

Adolfo Mesquita Nunes, faço-lhe a mesma pergunta e aproveito para o questionar sobre as PMEs. Pode ser um fardo sobre as pequenas e médias empresas, a IA?

É um facto que todos os anos saem mais normas de compliance, portanto, conformidade, que as empresas têm de cumprir. E eu, que me dedico bastante ao compliance da inteligência artificial, e portanto estou a trabalhar com muitas empresas nesse sentido, noto Ainda que este tema seja diferente, e já lá vou, noto que a primeira abordagem ou a primeira tentativa de abordagem é sempre recebida com mais um conjunto de obrigações, mais papelada que vamos ter que cumprir. Por que eu acho que aqui é diferente? Porque a inteligência artificial tem consequências que podem ser grandes, pode criar muito valor, como pode destruir valor numa empresa, e não há uma perceção muito grande sobre esse risco. Muitas das empresas estão a adotar, a aderir à inteligência artificial sem ter ainda a noção do que é que pode correr mal, para além de tudo que pode correr bem. Em rigor, nós não precisávamos de um regulamento para nos responsabilizar e para nos lembrar não é a máquina que é responsável, és tu. Mas verdadeiramente, a desculpa de que foi a máquina que decidiu, não fui eu, é dada muitas vezes. E depois terão de ser os tribunais a vir dirimir isso. Tipicamente utiliza-se o exemplo com os Estados Unidos. Os Estados Unidos não regulam e são mais abertos à inovação, a Europa está a ficar para trás. Eu lembro que a maior multa aplicada em matéria de proteção de dados foi nos Estados Unidos. Eles têm uma forma de regular distinta da nossa, que não passa tanto pelo direito, portanto pelo estabelecimento de legislação, mas pela atuação das autoridades competentes. E era muito pouco crível que nós continuássemos a ter um ambiente em que se fazem dispositivos médicos com inteligência artificial e a pessoa não tenha que se preocupar se como é que este dispositivo médico cumpre ou não cumpre com determinada regulamentação. Eu gosto de dar este exemplo: vamos imaginar que é utilizada a inteligência artificial na manutenção preditiva da nossa ferrovia. Se não é utilizado, em breve, espero eu que um dia possa vir a ser. É mais eficiente, permite gerar melhores recursos. Eu não quero imaginar que qualquer ferramenta destinada a manter a ferrovia não cumpre com um conjunto de regras. Conjunto de regras que são novas porque estamos a falar de uma realidade nova. Portanto, estamos neste difícil equilíbrio entre espaço para a inovação, e há sandbox regulatórias e o regulamento prevê, como há a possibilidade de testagem, e esta necessidade de acautelar valores que são acautelados pelo direito já há muitas décadas ou séculos. Mas é uma tensão, eu estou de acordo, e portanto pode ser mais uma barreira à entrada.

Sim. E como é que se fiscaliza isto tudo? A União Europeia não poderá estar aqui a criar mais um monstro regulador?

O Estado português terá agora de identificar, ainda não o fez, pelo menos do ponto de vista oficial e público, quais são as autoridades que vão ficar responsáveis pela verificação do cumprimento desta regulação. Mas atenção, as consequências, se as coisas correrem mal, negativas da utilização da inteligência artificial, elas depois são reguladas normalmente pelos vários setores. Portanto, a ACT estará, se houver alguma coisa que fere os direitos dos trabalhadores, a regular. Os seguros terão a sua entidade reguladora, a banca terá as suas entidades reguladoras. Portanto, não há só uma regulação da inteligência artificial que ficará a cargo de uma entidade. É preciso ter em conta que aquilo que verdadeiramente preocupa o legislador é, sobretudo, a realidade física onde se podem repercutir danos e causar prejuízos. E nesse sentido, há diretivas a serem aprovadas sob responsabilidade, essas sim, que depois podemos falar quando elas entrarem em vigor, ou pelo menos quando forem transpostas, porque há de facto um novo direito a formar-se. Mas para mim é sempre uma questão extraordinária, porque é uma área que eu gosto e está a desenvolver-se. Portanto, poucas vezes temos a oportunidade de estar a trabalhar num ramo do direito que está a começar. No meu caso, é inspirador.

Alexandre Correia, como é que se fiscaliza isto tudo?

Bom, acho que o Adolfo já tocou um bocadinho nesse ponto.

Subscreve a posição do Adolfo Mesquita Nunes?

Sim, eu acho que a adoção de AI vai de alguma forma suportar a tomada de decisão. A tomada de decisão gera consequências e as consequências darão visibilidade à necessidade ou não conformidade com aquilo que é o AI de confiança. Portanto, parece-me que não é que seja autofiscalizável, mas de alguma forma a evidência de que algo terá que ser corrigido caso não esteja de acordo com a regulamentação, ela será muito evidente.

De que forma é que o regulamento trata a questão, por exemplo, da discriminação e da parcialidade? A IA deve atuar segundo critérios éticos e inclusivos, por exemplo?

Isso claramente que sim, está totalmente claro a necessidade de aplicabilidade ética da inteligência artificial. E acho que já é a segunda vez que tocamos neste ponto, por exemplo, quando se faz a análise de CVs. Ou seja, eu quando vou tomar uma decisão, eu tenho que saber qual foi o critério dessa decisão e quais foram os datapoints que determinaram essa decisão. Ou seja, na inteligência artificial acho que há duas áreas que são completamente distintas. Uma é a metodologia ou o algoritmo de decisão que eu vou tomar, a outra é a origem da informação. E para nós garantirmos que há confiança e que a decisão é confiável, também temos que ter necessariamente muita atenção de quais foram os datapoints utilizados para essa tomada de decisão. Não é só uma questão de qual é o algoritmo que se utiliza, quais são os critérios que se utilizam, porque os critérios podem ser influenciáveis pelos datapoints que estão a ser usados para essa tomada de decisão.

Alexandre Correia e Adolfo Mesquita Nunes, muito obrigado aos dois. Agradeço terem estado aqui para explicar o novo regulamento europeu de inteligência artificial. Estamos de regresso brevemente para a quarta de cinco conversas sobre o mundo do trabalho. Até lá.