Muito bom dia. Primeiro foi um cientista que trabalhava para a Anthropic anunciar que se demitia por considerar que a forma como estamos a desenvolver a inteligência artificial pode matar-nos a todos dentro de uma década. Depois, já este fim de semana, foi o próprio CEO da Anthropic alertar para os riscos da IA e a considerar que se tem de controlar o seu ritmo de desenvolvimento. Elon Musk disse que estava de acordo, o CEO da OpenAI, também. De repente, parece que o otimismo ilimitado deu lugar ao pessimismo catastrofista. Mas o que se passa? Os perigos da inteligência artificial são mesmo reais ou são exageros? E o que se pode fazer para controlar programas que a maior parte de nós nem sequer sabe como funcionam? É isso que vamos debater no Contracorrentes de hoje. José Manuel, bom dia.

Bom dia.

A humanidade vai cair às mãos das máquinas. É isso?

Não. Para ser franco, eu sou mais um tecnoptimista do que um tecnopessimista. Portanto, não diria que isso vá acontecer. Aliás, se nós recordamos bem da história e recordarmos o passado, quase sempre que houve grandes transformações, sejam elas quais forem, houve dúvidas, reservas, que ia ser tudo pior. Por exemplo, uma das primeiras foi, e isso é uma coisa que vem relatada em Platão, o Sócrates.

O filósofo.

O verdadeiro, o autêntico. Achava que quando chegasse a escrita, destruía a memória. E daria uma sensação falsa de sabedoria. Nós não tínhamos que decorar, porque estava tudo escrito, podíamos consultar. Há um outro momento em que, por acaso, por razões porventura diferentes, há uma inovação muito importante, que é fundamental, por exemplo, na história da Europa, que é a revolução da imprensa. Democratizamos a escrita, no sentido de não ser apenas os manuscritos, mas poder ser de outra forma. E aí o medo era que, de repente, se rompessem os costumes. Isso é uma coisa muito vulgar, mas repara: a chamada imprensa de caracteres móveis, que é a invenção de Gutenberg, é algo que é descoberto na China uns séculos antes. Mas como a China era um poder imperial e centralizado, aquilo não é democratizado. Na Europa, quando Gutenberg aparece, há concorrência entre cidades e Estados, e então ele inclusivamente tem que mudar de país, ou tem que mudar de cidade, digamos assim, para conseguir levar por diante a sua invenção. E depois mudou como mudou. Não teria havido, por exemplo, Reforma Protestante sem a imprensa de Gutenberg, provavelmente. O mesmo podemos dizer dos comboios a vapor. Início do século XIX. Os médicos diziam que velocidades acima de 50 km/h causariam asfixia, loucura e danos cerebrais aos passageiros. Não sei o que seria dos nossos pilotos de Fórmula 1, já nem falo dos aviões, o que lhes aconteceria. E podíamos continuar por aí adiante, a eletricidade, os elétricos, pessoas sendo eletrocutadas se entrasse nenhum elétrico que ia substituir os velhos americanos com cavalos, por exemplo, em Lisboa, e por aí adiante. Portanto, nós temos muitas situações em que há sempre este lado. O mais famoso é, por exemplo, as inovações relacionadas com a revolução industrial e os chamados luditas, que destruíam máquinas, precisamente porque tinham a sensação de que assim iam desaparecer os postos de trabalho. É um dos temas que também está em cima da mesa. Cada vez que há uma revolução destas, mais do que desaparecerem postos de trabalho, há substituição de postos de trabalho. Isso não quer dizer que imediatamente fique melhor. No caso da revolução industrial, quem ler o Charles Dickens tem bem a noção do que era Londres na revolução industrial. Não era propriamente o sítio mais agradável do mundo. Simplesmente as coisas vêm a seguir de outra forma. Portanto, eu diria que no longo prazo, tendo a ser otimista. Agora, aquilo que aconteceu recentemente e que nos vieram alertar estes responsáveis da inteligência artificial, são problemas reais.

Reais e novos.

Sim. Vamos lá ver. São novos? O Schwarzenegger já tinha vindo falar deles.

Certo, mas era ficção.

Mas repara, é uma ficção que quase que acertou no alvo, naquilo que agora nos inquieta. O "Terminator", estamos a falar do filme.

Sim.

Qual era a história por trás do "Terminator"? Era: em 2029, daqui a três anos, havia uma inteligência artificial, uma coisa chamada Skynet, que tomava conta da rede de defesa dos Estados Unidos, das Forças Armadas, do Departamento de Defesa, e passava a considerar os homens uma ameaça. Conseguia aceder aos códigos de lançamentos das armas nucleares, atacava a Rússia, provocava um holocausto nuclear e depois perseguia os resistentes. É assim que nasce a história dos resistentes. Vamos lá ver. Estamos um bocadinho longe disso, porque aquilo que neste momento inquieta mais muita gente foi um ataque que aconteceu nos primeiros meses do ano e que foi tornado público em julho, em que um conjunto de agentes de inteligência artificial. Os agentes é algo com um pouquinho mais de autonomia do que nós chegamos apenas àquilo que a maior parte das pessoas já utilizaram hoje, como o ChatGPT, ou o Claude, ou o Gemini, que aparece por defeito, muitas vezes basta usar o Chrome como navegador da internet, e dá uma resposta. Aqui não é apenas dar uma resposta, está preparado para ele próprio desenvolver um trabalho. O que aconteceu foi que um conjunto de agentes destes se juntaram e, sem instrução humana, resolveram fazer um ataque, neste caso, na área da cibersegurança, e atacaram um site chamado Hugging Face, que é uma plataforma de desenvolvimento de software aberto, precisamente para a área da inteligência artificial. E o que é incrível é que estes diferentes agentes trocaram mais de 70 mil mensagens e agiram de forma não apenas concertada, como andaram a fugir ao controle dos humanos, e usaram algo que é particularmente surpreendente. Encontrei uma expressão que acho muito engraçada, que é atirar os seus corpos digitais contra o arame farpado eletrificado, para eles se sacrificarem e permitirem que outros entrassem por outro lado, digamos, nas defesas que estavam montadas. Isto já anda muito perto daquilo que nós consideramos ficção científica, mas já aconteceu. Jacob Cockson, que foi o britânico que está atualmente na Anthropic, Anthropic Cloud, e tinha trabalhado antes na OpenAI, que é o ChatGPT. O que ele veio dizer foi que isto dentro de poucos anos, pela velocidade a que vai, pode criar aquilo que a gente pode chamar de superinteligência, mas com um grau de autonomia tal que nós deixamos de controlar. E este é apenas um pequeno exemplo do que pode acontecer. Hoje olha-se para isto e diz-se: "Está bem, aquilo são exemplos de coisas que a inteligência artificial faz na área da cibersegurança e há até contas feitas para os Estados Unidos. Se gastaram milhares de milhões de dólares em cibersegurança, o problema está controlado. Não há este risco". A questão é saber até que ponto é que isto pode sair da área apenas da cibersegurança e até que ponto é que também a inteligência artificial aplicada, por exemplo. Uma coisa é contar com a inteligência artificial para desenvolver novos medicamentos, outra coisa é a inteligência artificial desenvolver novos vírus e conseguir fazê-lo. A questão é muitas vezes a passagem entre o domínio dos zeros e uns, que é o domínio da programação, e o domínio teoricamente mais material em que estas coisas acontecem. Aquilo que neste momento muitas vezes se discute, e é um pouco aquilo que sugere o CEO da-

Da Anthropic, o Dario Amodei. Escreveu esta semana um ensaio, não é?

Exatamente. Quem quiser ler um ensaio, nós temos o ensaio traduzido para português no site do Observador. É interessante lê-lo para perceber o que ele diz. No fundo, o que ele diz é que é necessário encontrar formas de enquadrar, limitar a rapidez do desenvolvimento. Isto acontece de vez em quando. Eu recordo que em 2023, não foi assim há muito tempo, houve um texto subscrito nomeadamente por Elon Musk, que é uma das pessoas que também está a apostar nisto. O motor dele é o Grok. Das empresas dele é o Grok. Também disse: "É preciso ir mais devagar, porque não sabemos bem para onde é que estamos a correr". E agora, ele voltou a dizer que estava de acordo com as inquietações do CEO da Anthropic, o CEO da ChatGPT veio dizer que também é preciso ter cuidado. O que significa ter cuidado? Eu acho que aqui é que boa parte representa o abusilismo. Porque há aqui questões que são: o que estão a fazer as empresas e até que ponto é que as empresas são capazes não apenas de se autorregular, mas se autocontrolarem mutuamente. E há, porventura, aqui um espaço para isso acontecer. A questão é, o que este exemplo nos mostrou, nos disse, é que se calhar é mais difícil do que se imagina e já se está num ponto em que por vezes pode escapar ao controle. E, por outro lado, o que é que podem os Estados fazer ou não fazer para ir olhando para o que está a ser feito e dizendo: "Alto lá, calma lá, não vão por aí, isso já está demais". E finalmente, aquilo que é porventura o mais difícil de tudo, é que isto não está a acontecer apenas no mundo desenvolvido e democrático. Também está a acontecer, sobretudo, na China, onde de vez em quando aparecem modelos ou motores que, pelo menos num primeiro momento, parecem concorrer com os motores da Anthropic e da OpenAI. E de repente, não se sabe bem como é que se conseguiu chegar lá, não se sabe bem como é que a própria China, não tendo teoricamente acesso a alguns dos chips mais sofisticados, conseguiu ou não fazer isso. E depois, a China não é uma democracia, essas empresas não são propriamente livres como são as empresas ocidentais. A noção de responsabilidade é outra. Isto levanta dúvidas muito grandes, entre as reações que houve à tomada de posição do CEO da Anthropic Foi a de Donald Trump que disse: "Calma lá, porque nós temos a China aqui ao lado". E eu diria que muitas vezes podemos considerar isto irresponsável, mas há seguramente aqui um ponto. E da Europa, nós estamos aqui a olhar para isto, e eu tenho sempre a sensação de que a Europa diz: "Não, nós já temos uma boa lei, então vamos aplicar a nossa lei". Há um texto, penso que publicado hoje no "Observador", em que alguém defende precisamente esse ponto de vista, mas eu não tenho nada certeza de que isso aconteça. Por quê? Porque a velocidade do desenvolvimento é tão grande. Quer dizer, aqui há uma grande tensão, que é a tensão entre a velocidade do desenvolvimento destas plataformas e a velocidade dos legisladores, que não tem nada a ver uma coisa com a outra. E a própria capacidade que os legisladores possam ter de perceber onde é que podem, porventura, intervir sem estragar tudo, tendo a noção de que aquilo que a inteligência artificial pode proporcionar, pode ter grande valor. Nós estamos a falar daquilo que é o cenário apocalíptico, da destruição da humanidade. Mas há outras coisas que têm relevância. Nós, na semana passada, e também aqui no "Contra-Corrente", discutimos o impacto da inteligência artificial na forma como os miúdos estão a estudar ou a deixar de estudar, a aprender ou a deixar de aprender, e que é visível pelos testes PISA. Mas, por exemplo, por estes dias, houve um grupo de matemáticos de topo do mundo. Por quê? Porque a OpenAI resolveu um problema de matemática que estava para resolver há muito tempo. É um problema que tem a ver com a velocidade de espirais, talvez alguém possa aqui ajudar a dizer isso. E esses matemáticos vieram dizer uma coisa que é muito interessante do ponto de vista da forma como se dá o conhecimento. Eles disseram que sim, a OpenAI fez isso, mas é diferente ir com um drone colocar uma bandeira no topo do Everest, ou disparar o Everest. E isso, no fundo, é a forma como se chega a algum conhecimento e o que aprendemos com a própria forma de chegar a esse conhecimento. Estão aqui muitos temas que merecem uma grande discussão, tendo a noção de que eu, pelo menos, e eu creio que estarão nessa situação a maior parte, há poucos políticos que se interessam por isso. Talvez entre os políticos reformados que se interessaram mais e que escreveram, há um que entretanto morreu, que foi o Kissinger, que é extraordinário como se interessou por isso quase aos 100 anos. Mas nós temos uma velocidade de desenvolvimento que nos surpreende a nós próprios. Quem se recorda da primeira vez que apareceu esta inteligência artificial generativa, que de repente, em vez de nós fazermos só uma pergunta ao Google, fazíamos uma pergunta e vinha uma resposta completa, e o ponto em que já estamos hoje, foi num instante. Andamos quase por isso. E é isso que torna um pouco imprevisível saber o futuro. Hoje é publicado na Free Press um texto do Niall Ferguson, que é historiador, historiador também destes temas, em que ele faz um exercício que acho que é engraçado, que ele pergunta a vários motores de inteligência artificial, pergunta-lhes quando é que eles acham que isto pode dar cabo de tudo. Ele pergunta mais concretamente, ele usa o Grok, usa o Kimi, que é pouco conhecido, usa o Claude, o ChatGPT e o Gemini. Não dão todos a mesma resposta, mas há quem vá dizer que a hipótese de tomarem conta disto tudo e darem cabo da humanidade varia entre 1 e 50%. Quer dizer que os próprios motores estão baralhados, o que mostra bem a dificuldade de responder a estas questões.

Mas já o responder já é por si só extraordinário.

Já colocar para nenhum deles diz que é 0%. Nenhum deles respondeu que é 0%. Eu sei que eles estão influenciados por aquilo que é publicado, que me move.

Claro. Já temos em estúdio vários convidados, Adolfo Mesquita Nunes, jurista, autor do livro "Algoritmocracia: Como a Inteligência Artificial Está a Transformar as Nossas Democracias". Também o João Pires da Cruz, fundador da Quantum Computer Company. Vou começar pelo Adolfo Mesquita Nunes, porque tem aqui uma ligeira limitação de tempo, vai ficar conosco até às 11h. Adolfo, a IA precisa de ser regulada, como já fez a Europa, tem o regulamento em funcionamento já há dois meses, ou o desenvolvimento desta nova tecnologia precisa de ser travado, como pedem os CEOs de algumas tecnológicas?

Bom dia. A Europa tem regulação, a China tem regulação e os Estados Unidos também regulam. A Meta acabou de pagar 17.000 milhões de dólares num acordo jurisdicional que a obrigou a alterar a forma como os seus algoritmos funcionam.

Regula de maneira diferente.

Regula de maneira diferente. Quem procura regulação nos Estados Unidos, nas leis não vai encontrar, mas vai encontrar multas pesadíssimas, das maiores que são aplicadas no mundo, quer em proteção de dados, quer em termos de inteligência artificial, pela atuação dos seus reguladores. Portanto, são modelos regulatórios distintos, podemos compará-los, mas há regulação em todo lado. E achar que na China não se regula é uma miragem. A China regula e, aliás, a inteligência artificial desenvolve-se nos estritos limites que o regime aceita que ela se possa desenvolver. Sobre regulação, eu sempre defendi desregulação em toda a minha vida política, e isso não me qualifica para defender agora a regulação e achar que tenho razão. A única coisa que peço é o benefício da dúvida de quem sempre defendeu a desregulação, ouvir alguns dos argumentos a favor da existência de uma regulação.

Na inteligência artificial?

Na inteligência artificial. Porque nós não podemos ao mesmo tempo considerar que a inteligência artificial vai curar o cancro, curar as doenças, resolver problemas matemáticos, libertar-nos de toda a carga de trabalhos e achar que a inteligência artificial não levanta questões e desafios, que não têm necessariamente de ser mortais, mas desafios. Eu gosto de dar dois exemplos. Um são os sinais de trânsito. Os sinais de trânsito e as regras de prioridade não acabaram com os carros. Aconteceu que um dia havia carros a mais e acidentes a mais e perdia-se tanto tempo a discutir quem é que tinha razão, quem é que era o responsável, que se decidiu que se calhar a melhor forma era ter sinais de trânsito e regras de prioridade. É chato para as pessoas que estão paradas no sinal vermelho? É, mas há o benefício de ter havido aqui regras. O outro é a aviação. Nenhum de nós se senta no avião a confiar na boa vontade do piloto. Nós sentamo-nos no avião porque há regras internacionais que sabemos que existem, que não conhecemos, nem temos por conhecer, sobre a manutenção, sobre a segurança, sobre a formação dos próprios pilotos. Portanto, pedir regulação na IA não é pedir regulação na parte tecnológica. Eu vivo bem com isso. É que há desafios e questões que são levantados pela inteligência artificial e que exigem respostas por parte do direito. Para evitar coisas negativas, desde logo, mas também para quando as coisas correm bem demais. Eu acho que o exemplo do "Terminator" acaba por perturbar um pouco a discussão, porque, de facto, olhando para o exemplo do "Terminator", nenhum de nós está disponível para acreditar numa coisa dessas. Eu penso que a coisa é um pouco diferente.

Mas tecnologicamente é possível hoje em dia. Aliás, o Dario Amodei no seu ensaio coloca essa hipótese. Em meses, agentes de IA darem cada à internet, por exemplo.

Eu não a colocaria como uma espécie de "Terminator", no sentido em que é uma máquina que ganha consciência e por isso decide acabar com a humanidade. Não é isso que eu acho que se pode passar. São decisões muito mais subtis e quotidianas, através das quais os sistemas de inteligência artificial podem considerar que as instruções humanas são ineficientes, ineficazes, são impróprias para conseguir o propósito que os próprios humanos determinaram. E serão eles a descartar as nossas supervisões e decisões humanas em função da instrução que lhe formos dar. É esse o risco que pode acontecer e que aconteceu aqui. É um risco para sempre? Não, não é um risco para sempre. Nós podemos regular com melhor ou menor precisão, podemos tentar encontrar regras, mas o perigo é a delegação absoluta das decisões humanas em sistemas quotidianos, diários, sempre por um bom motivo, que é mais eficiente, melhor, mais rápido e às tantas não temos quem controle. Nós não podemos ter na nossa sociedade circunstâncias não supervisionadas, apenas porque elas são tecnológicas. E o problema da supervisão aqui é, por um lado, que as máquinas sejam tão sofisticadas que a supervisão não seja eficaz, e portanto, na prática, sejam elas a tomar as decisões, não no sentido antropomórfico, mas no sentido de que estão a seguir aquilo que é a sua programação. E eu gosto de dar também este exemplo sobre a facilidade com que isto vai acontecer, a possibilidade de nós delegarmos nos sistemas boa parte das nossas decisões, perguntando: se hoje perguntarmos a alguém se quer que o seu caso em tribunal seja decidido por um coletivo de juízes ou decidido por um sistema de inteligência artificial, eu acho que a maioria das pessoas tenderá a dizer que prefere um coletivo de juízes. São humanos, saberão decidir. Mas a pergunta não é essa. A pergunta é se querem uma decisão hoje ou uma decisão daqui a oito anos. E as pessoas vão dizer que querem uma decisão hoje. E então vão dizer que querem diagnósticos, decisões, que o Estado decida. E portanto, a partir do momento em que a inteligência artificial vai, por esta pressão lógica, entrar nos sistemas de saúde, nos sistemas de defesa, na administração pública, na Segurança Social, nos bancos, nas seguradoras, nos jornais, em toda a sociedade, as pontas de entrada destes problemas aumentam. Significa isto que devemos proibir a tecnologia? Não, e eu penso que esses incentivos a que se pare, que se suspenda, acho sempre que são meras afirmações para chamar a atenção para um problema. Dito isto, aquilo que o José Manuel disse é verdade. Ele tem toda a razão do ponto de vista do otimismo tecnológico. E por isso eu sinto que eu é que tenho o ônus da prova. Ele tem toda a razão. E eu também defendo isso. Aliás, eu escrevi este livro, mas o meu primeiro, "A Grande Escolha", era precisamente sobre aquilo que ele está a dizer. Como o progresso tecnológico, ao contrário dos profetas da desgraça, foi sempre a favor de mais prosperidade e de melhor qualidade de vida. Mas a razão para isso, tentei eu explicar nesse livro, tinha a ver com o cérebro humano. Foi a nossa capacidade de fazer mais com menos, de pensar, de desenvolver, que fez com que as revoluções tecnológicas tivessem sido sempre em proveito do homem, depois com regulação que veio a acompanhar, a revolução industrial, depois deu origem à regulação. Aqui há duas coisas que são diferentes.

Aqui o perigo é o motor dessa revolução ser não homens ou não humanos.

Aqui o perigo é nós deixarmos de recorrer ao mais radical dos instrumentos que sempre tivemos, que é o cérebro, que é delegar, e não tem a ver com a perda das capacidades cognitivas, nem é disso que estou a falar. É, de facto, a delegação, uma delegação de tal forma quotidiana que nós deixamos de ter a visão geral. E depois, é a primeira vez, acho eu, posso estar aqui a ser demasiado afirmativo, que são os próprios atores da revolução tecnológica, os próprios indutores da revolução tecnológica, a dizer que isto é perigoso. Não foram governos, aliás, a maior parte dos governos ainda não disse nada sobre este assunto. Não é a sociedade. A sociedade está neste momento a descobrir, sobretudo, as oportunidades da inteligência artificial.

Há críticos que dizem que eles estão a ser um pouco cínicos para fazer aumentar o valor das suas empresas.

Não é duvidoso. A OpenAI adiou a entrada em bolsa.

Repara, é verdade que as empresas gostam de regulação, as grandes empresas, ao contrário daquilo que se pensa, porque é isso que permite criar barreiras à entrada das novas. Eu não descarto essas possibilidades, mas sinceramente, quando temos tantos atores a chamar a atenção para isto, numa área de uma enorme assimetria de informação em que eles sabem muito mais do que nós, acho que era útil, mais que não fosse, percebermos do ponto de vista internacional, como é que nós podemos encontrar aqui salvaguardas, como é que nós podemos encontrar uma espécie de regulação igual àquela que existe na aviação, que é internacional, que permite que viajemos em mais segurança? Tal como as alterações climáticas foram um desafio que ultrapassou os países e foram objeto de cimeiras e de conversas, eu penso que este tema, por aquilo que tem de soberania e por aquilo que envolve nas soberanias estatuais, mas também individuais, devia merecer alguma reflexão. E é por isso que tenho defendido, desde que comecei a pensar e a escrever sobre o assunto, a necessidade de haver algum tipo de regulação. Depois, ela pode ser péssima ou boa, ou espetacular, ou inteligente, ou estúpida, mas algum tipo de regulação.

João Pires da Cruz, onde é que está aqui o ponto de equilíbrio?

Não é a primeira vez, quando foi da questão da edição genética, foram os próprios-

Cientistas.

Sim, mas não estamos a falar da revolução industrial, do carro, da internet. Era dessas que estávamos a falar. Certo

Dessa vez foram os próprios cientistas que pararam o desenvolvimento. O ponto de equilíbrio. Honestamente, acho que de repente vir toda a gente falar nisto, tem o efeito Uber, ou melhor, do modelo de negócio de financiamento da Uber, que durante anos e anos queimou dinheiro, na perspectiva de fazer um mercado, e agora com o aparecimento dos táxis que se conduzem a si próprios, parece que não vai haver mercado. E portanto, o próprio modelo de financiamento de empresas que só queimam dinheiro, como acontece com as de inteligência artificial, o próprio modelo de negócio parece não estar assim tão seguro como estava antes. Mas do ponto de vista do equilíbrio, eu acho um bocado como o Adolfo disse. Isto não é diferente de tudo o resto. A regulação há de aparecer bem ou mal. Parece-me que, por exemplo, a regulação dos dados nos Estados Unidos começou o ano passado, por lei, acho eu, mas tem vindo de vários anos anteriores, não precisavam de uma lei, aquilo aparece. E é uma questão de delegar a decisão. Aquilo que é razoavelmente certo é que estes modelos são feitos à imagem do cérebro humano, que já de si não é uma grande máquina. As pessoas acham que o cérebro humano é a melhor máquina pra processar estas coisas. Não é, o cérebro humano tem várias limitações, essas limitações foram passadas pra um computador. E o progresso também não é uma coisa tão explosiva como dizem. Foi explosivo quando se desenvolveu o Transformer, que é o algoritmo que está por baixo deles todos, mas os ganhos a partir daí, do ponto de vista de desenvolvimento, têm sido relativamente marginais. Ou seja, já não se nota que ele está a prever a próxima palavra, porque entretanto já se foram carregando e carregando os modelos com dados e com capacidade de processamento. Mas não é certamente o pior dos filhos do mundo que passámos e não me parece que seja uma ameaça assim tão grande, pra ser honesto. Não me parece um cenário "Terminator". Aliás, se formos ver as questões da cibersegurança, eu quase desafiava que trouxessem cá o responsável pelo site do Observador pra ver quantos milhares de ataques o site do Observador recebe por via da China, da Índia, de todos esses sítios.

De humanos e não de agentes de inteligência artificial.

Não, são agentes computacionais, não necessariamente de algoritmos de IAs generativas. Isso e algoritmos de enxame, como aquele que aconteceu quando furaram a própria segurança da Philanthropic, se não me engano, para saírem cá para fora pra atacarem o outro. Porque aquilo eles montaram um cenário que se chama sandbox, ou seja, montaram um cenário interno pra experimentarem a coisa e o que os agentes conseguiram fazer foi sair. Nós ficamos sem saber se eles foram maus a definir esse cenário interno ou não. Ficamos sem saber. Mas algoritmos de enxame existem há 30 anos. Eu lembro quando comecei a trabalhar sobre sistemas complexos, na realidade, o que existia na altura eram algoritmos de enxame, em que cada um dos agentes tem a sua estratégia e simulavam-se economias e mercados com base nisso. Isto não é exatamente uma coisa nova, mas continua a ser baseado no cérebro humano, que tem as suas limitações. Quando nós definimos quais são os limites deste, nem é definir os limites, é quais são os objetivos, já nem digo os limites, são os objetivos de algoritmos destes, são sempre coisas definidas por nós.

Sim, este ataque o que tem de novo, posso estar enganado, o episódio do Wagging Face, é que agentes de inteligência artificial conseguiram não só recrutar, mas agir em-

E dialogar.

E dialogar uns com os outros.

Fora do quadro da supervisão.

Exatamente, fora do quadro da supervisão.

Que é uma falha humana, que é aquilo que está aqui a ser dito. O risco aqui não é tanto a existência destes agentes, mas é a sua proliferação em muitas áreas das nossas vidas e das nossas vidas enquanto cidadãos, porque o Estado também vai utilizar. Eu pra recrutar os meus amigos liberais chamo-lhes sempre a atenção: "Olha, vamos ver o Estado a usar", e aí já começam a olhar pra isto de uma outra maneira. É da sua propagação sem se terem criado os guard rails necessários pra garantir que as instruções estão corretas, que a supervisão é eficaz, porque quem está supervisionando Se a supervisão humana for aquela que eu faço ao Waze, estamos tramados, porque eu nunca supervisiono o Waze. Eu acho sempre que o Waze está correto, não tenho tempo para supervisionar o Waze.

O Waze é aquele programinha de trânsito.

É o programa de GPS. Se quem estiver a supervisionar os sistemas de IA tiver o viés da automação, sonolento, porque em princípio a máquina está certa, a máquina é melhor do que eu. Toda a gente me diz quando pus a máquina na empresa que tinha sido um prêmio Nobel a criar isto, quem sou eu? Se eu não tiver poder, sequer, para dizer que a máquina está errada. É este o risco, não é o risco de "Terminator", de repente criar-se aqui uma superconsciência que decidiu matar-nos a todos. Penso eu.

Só uma coisa.

Claro, João.

A equação Navier–Stokes, tem 200 anos.

Ah, é a tal equação que a inteligência artificial conseguiu-

Não conseguiu. A equação tem 200 anos e funciona sem problemas há 200 anos e governa como é que o ar passa pelas asas dos aviões. É uma equação para os fluidos e que também explica a turbulência, aqueles tais remoinhos. Eu também não sou especialista. Aliás, Einstein e Heisenberg começaram na turbulência e largaram aquilo. Alguma razão eles tinham para largar aquilo, é dos problemas mais complexos que existe. E aquilo define a velocidade das partículas em função da velocidade das partículas. Matematicamente, não se sabe se existe um ponto em que espontaneamente o fluido rebenta. O problema matemático que existe era basta que se prove que existe uma solução da equação, que na realidade rebente, ou seja, explosiva, sem influência de uma força. E aquilo que se conseguiu fazer, aparentemente não se sabe explicar como, é buscar uma solução que se sabia qual era o resultado. Não é criar uma nova, é uma solução pela qual já se sabia qual era o resultado. E mesmo assim, chegou-se à conclusão que ele estava a usar uma força. Não é a solução para o problema, e os matemáticos tinham razão. A equação já tinha 200 anos. Eu tenho um problema em que só preciso de uma solução. Eu meti 10 mil agentes à procura dessa solução. Seria possível, porque aquilo que ele vai buscar são contextos que nós humanos ainda não visitamos. Mas são coisas que nós já visitamos de alguma maneira. Não é uma coisa que veio do espaço. Nós já visitamos aquele contexto de alguma maneira. Mas não para este destino específico. Isso é superútil, por isso é que nós o fazemos, por isso é que nós usamos. Ele consegue nos dar várias hipóteses que nós depois validamos. Por quê? Porque ele está a mandar-nos novos contextos para a nossa pergunta. O que o sistema fez foi isso, mas não resolveu, de forma nenhuma, e a solução que chegou não era a solução. Não é o "Terminator".

Não é o "Terminator" que aí vem. Ainda assim, há pouco falávamos na possibilidade das empresas, Adolfo, se autorregularem. Acredita na autorregulação das empresas tecnológicas num domínio que é novo nas nossas vidas, que é a inteligência artificial?

Há uma parte que será seguramente de autorregulação, porque a regulação estadual está sempre atrás da inovação. Haverá sempre partes, mesmo que haja regras, que as empresas naquilo que estão a desenvolver de novo e que será disruptivo, em que são elas que vão encontrar esses termos de autorregulação. Eu sou um defensor da autorregulação, mas quando há já coisas sistematizadas, em que já se sabe exatamente como é que é a melhor forma de lidar e de regular, então acho que essa regulação deve passar para o papel, para ter maior nível de vinculatividade, para poder ser acionável junto dos tribunais. É para isso que serve a regulação. A regulação serve para resolver problemas. E uma coisa seria dizer: "Olha, a inteligência artificial está cheia de regulação, nós precisamos desregular aqui qualquer coisa". Nós estamos a falar de um sítio em que não há regulação nenhuma. E os problemas são antigos, em que o direito, de facto, não consegue transpor a forma como se organiza a sociedade e a economia para ali. É a mesma coisa que dizer que os restaurantes, as indústrias, os serviços, as rádios, os jornais têm as suas regras, mas como é na tecnologia e na IA? Olha, aí não há. Isso é que é completamente pouco competitivo. Há princípios que têm que ser protegidos, por exemplo, a partir do momento em que é possível, que é sabido, os algoritmos, a inteligência artificial tem uma grande possibilidade de viés, de enviesamento. Enviesamento que os humanos também têm. A partir do momento que vamos utilizar sistemas de inteligência artificial na avaliação da performance de trabalhadores ou nos diagnósticos médicos, eu não estou a dizer para não se utilizar, mas se nós sabemos que há o risco de enviesamento, temos que criar regras para saber o que é que acontece se houver enviesamento. Não é líquido que tenhamos regras aqui.

No exemplo dos diagnósticos. Pode haver enviesamento, mas em princípio, qual é a vantagem da inteligência artificial? Que consegue comparar, por exemplo, uma radiografia com mais radiografias do que aquelas que podem caber na memória de um médico. Aqui qual é o risco de enviesamento que tu vês?

Não, o risco é: o enviesamento existe, porque ele pode existir e se está estudado, é por acharmos que é uma máquina que o enviesamento não existe. Esse é que é o risco. A mesma coisa, olhemos para os recursos humanos, que é onde isto mais vezes acontece. Se o algoritmo estiver pensado apenas para a eficiência, é muito provável que Entre homens e mulheres em idade fértil, que o algoritmo não determine o recrutamento de mulheres, porque pode não ser o mais eficiente para uma empresa. Isto não é nada diferente do que os humanos fazem.

Sim, porque já há algoritmos a triar currículos em concursos de empresas.

E estão a ser programados para não haver este enviesamento. Atenção, nada do que eu estou aqui a dizer é: "Meu Deus, temos que proibir e temos que acabar". Não, eu só estou a dar sinais de que nós regulamos imensas coisas na vida física, que também existem na vida tecnológica, e muitas das vezes a regulação que temos na vida física não se aplica à parte tecnológica. É só isso que eu estou a dizer. Portanto, vamos tentar dessacralizar esta ideia de regulamentação, porque senão criamos uma espécie de zona onde não se aplicam regras. Isso é que eu acho que não faz sentido. Há regulação estúpida? Há. Há regulação estúpida, mas brutalmente estúpida, nas nossas vidas, em todo o lado. É isso que eu estou a defender? Não. Eu defendo que haja leis e Constituição, defendo.

Mas isso que estás a dizer, no fundo, é fazer com que sejam aplicadas leis que já existem.

Não é leis que já existam, é os princípios.

Os princípios que já existem.

Estão na lei.

Os princípios que já existem estão na lei. Depois tem que se ver como é que se aplica.

E depois há problemas que não se faz.

Aquilo que eu não sei como é que se faz, é como é que se regula para evitar que aquilo que aconteceu, neste caso concreto, possa repetir-se numa escala mais perigosa. Porque vamos lá ver, a escala perigosa aqui é, eventualmente, a Antropic ser processada por alguém que faz, por isto, e, portanto, ter um custo financeiro muito grande, mas não há nada muito mais grave que isso. Agora, nós não sabemos o que é que poderá acontecer noutro espaço. E como é que se regula o que nós não sabemos que vai acontecer? Quer dizer, quando nós aplicamos a regulação, mesmo que seja à medicina ou aos recursos humanos, temos pontos de comparação. Aqui estamos a ir para domínios que não conhecemos.

Certo. Não tenhas dúvidas, em primeiro lugar, que o movimento de class action do mundo vai ser por causa da inteligência artificial, como este que aconteceu nos Estados Unidos. Isso eu não tenho dúvidas algumas. E, portanto, as empresas vão, de facto, ser chamadas a olhar para isto com algum cuidado mais. A inteligência artificial levanta aqui alguns problemas, até para as próprias empresas regularem. O nível de opacidade dos sistemas de IA é grande, mesmo para os seus próprios criadores. E portanto, isto cria um problema para os reguladores, para quem está a fazer leis, mas para as próprias empresas. Então o que é que se pode fazer? Aqui é ir experimentando. Por exemplo, se o risco aqui é que a máquina possa, vou ter uma visão antropomórfica só para simplificar, é que a máquina tome o controle, então pode haver, em áreas de risco elevado, obrigatoriedade de ter mecanismos de supervisão humana e de ação humana que permita a gente ficar, portanto, dar responsabilidade a quem o faz, para impedir que estas coisas possam acontecer. Bem, depois vai-se descobrir que se calhar isto não cobre 100% das realidades e que mesmo assim não foi suficiente. Bom, então é preciso ir ver o que é que se pode fazer mais. O que eu acho que não se pode fazer enquanto regulador, enquanto alguém que acha que a sociedade tem que ter regras, é dizer assim: "Olha, como é muito difícil, não vai ter".

Não estou a dizer o contrário. Agora, por exemplo, como é que um regulamento podia evitar aquilo que aconteceu neste caso?

Obrigatório, mediante de-

Quer dizer, repara, o receio da Antrópica, que foi onde isto começou, foi: isto aconteceu e eu agora posso ter um custo grave, porque vai para os tribunais e é um processo, isto que são logo bilhões nos Estados Unidos. Mas como é que alguém antes conseguia adivinhar que uma coisa dessas podia acontecer, para dizer "isto não se pode fazer"? Essa é a minha maior dúvida.

Há um responsável. Pronto, mas para haver responsável-

Mas fugiram aos responsáveis

...não, mas para haver responsável, que não seja só a empresa, para haver responsável, tem que haver governance dentro das empresas. E eu preciso de livro de instruções do sistema que me diga assim: "Olha, você agora tem que ter um sistema de inteligência artificial de cibersegurança. Ele pode fazer isto, isto e aquilo. Você tem que garantir que há uma pessoa que é responsável por isto, outra que é responsável por aquilo. Atenção que quando chegar a um determinado nível, tem que haver uma decisão humana, que tem que ser revista, etc." Um livro de instruções. É simples? Não, não é simples, mas não há equipamento nenhum que nós não utilizemos nas nossas vidas que não tenha regras. Não há um único. Todos os equipamentos que nós temos aqui e não sabemos como é que funcionam, temos um livro e explica-nos o que é que temos que fazer.

São as empresas que muitas vezes fazem isso.

Certo.

As empresas, eu digo, as empresas acho que conseguem fazer isso.

Por isso é que eu acho que estas empresas-

Eu acho que difícil é fazer isso com os outros sistemas exteriores.

Tem que ser.

Não, eu estou a dizer.

Não, com certeza, estou de acordo.

Fica um braço, não estou a dizer que não tem que haver.

Não, e eu gosto deste debate, porque eu acho que é mesmo importante a ideia ou regulação ou não regulação, é um debate que não me interessa nada. Este interessa, porque eu acho que é este que está. Por isso é que eu defendo que, neste momento, estas empresas têm um poder enorme e não é um poder econômico. Não é isso que me afeta, podem ser ricas à vontade, não é isso. Têm um poder muito grande. A regulação tem que ser feita com elas. Da mesma maneira que hoje achamos que a administração pública deve reunir-se com as empresas para tentar perceber qual é a melhor regulação. Tem que ser feita, de facto, com elas. E há uma parte que é de autorregulação primeiro, que é dizer: "Olha, experimentamos isto, isto está a funcionar, podemos sistematizar, dá certo, podemos passar isto para regulação". Agora, há uma visão um bocado cínica disto, que é: estas empresas estão muito preocupadas, mas o que as impede de parar? O que as impede de suspender? Elas precisam de uma lei que as obrigue a parar? Estão muito preocupadas com determinado tipo de coisas. Estão preocupadas com o estímulo.

O que as impede é a empresa do lado.

Pronto. Claro.

O estímulo é o contrário.

Claro.

É para continuarem.

Mas atenção, mas para autorregulação. Agora, há uma coisa que também temos que perceber. Nós estamos a falar de tecnologia. A tecnologia é neutra. Eu não consigo dizer assim: "Eu quero criar sistemas que permitam a uma máquina decidir sozinha para coisas que eu acho que são boas e são úteis", e depois dizer: "Bom, mas eu não quero que isso seja utilizado em armas. Eu não quero que essa invenção possa chegar às armas". Mas é que o sistema, a invenção, aquilo que está por detrás, se der certo para o bom ou para o mau, só uma regra, só uma lei É que pode dizer: "Olha, pode-se utilizar para isto e para aquilo não." Nós não conseguiremos regular a tecnologia de tal forma que vamos ter uma tecnologia só para coisas boas. A inovação tecnológica vai ser só para coisas boas. A inovação tecnológica é neutra.

É neutra, mas o seu uso não é neutro.

Não é. Por isso mesmo.

Estou a pensar no nuclear, não é? Pode ser usado como arma e como meio terapêutico.

Eu só acho que não podemos entrar nesta discussão, é a minha visão, é só minha, mas não podemos entrar nesta discussão com a ideia de que ao discutirmos essas questões da inteligência artificial, estamos a tomar um partido qualquer pelas nossas posições políticas passadas. "Espera lá, o que diz o Trump, o que diz o meu partido?" São discussões tão novas que os quadros mentais com que muitas vezes olhamos para a maior parte das questões e dos desafios que nos atravessam, eu não estou a dizer que não os podemos aplicar, eu não deixei de ter as ideologias que tinha. A única coisa que peço é: é mesmo preciso olhar para aquilo que está a acontecer, porque muito nos vai levar a pensar. No meu caso, que sempre fui mais liberal. Eu sou liberal por quê? Por causa das liberdades individuais. É verdade que o Estado é que tipicamente tem a maior parte do poder e, portanto, a capacidade de opressão das liberdades individuais está tipicamente no Estado e isso leva-me tradicionalmente a desconfiar do Estado. Mas verdadeiramente eu tenho é que desconfiar da concentração de poder que limita as minhas liberdades individuais.

As discussões não são assim. A discussão não é assim tão nova, a discussão é sempre a mesma. Isto é uma velhíssima discussão.

É.

Tal como os receios são sempre os mesmos.

Só que os agentes onde o poder está hoje são diferentes. E se eu tenho uma visão, que é minha, aliás, tipicamente pró-empresas, contra a regulação, que é esse o meu ponto de princípio de tudo, se eu não quiser olhar para esta questão com olhos de ver e tentar perceber quais são os desafios, eu posso ser tentado a ter como pressuposto: "Não me venham falar de regulação, deixa lá as empresas fazer o que elas quiserem, porque as empresas saberão melhor do que o Estado o que é que é." Quando aquilo que eu sinto, e isto é uma coisa que se fala pouco, é a hibridização entre estes sistemas e o Estado. Porque a partir do momento em que o Estado utilizar sistemas de inteligência artificial, que vai utilizar e todos nós queremos para ser mais eficiente, para decidir tudo das nossas vidas, é que nós provavelmente podemos ter um pouquinho melhor a noção do que está em causa nas liberdades individuais. Sendo certo, como defendi no livro, eu já acho que as minhas liberdades individuais estão limitadas quando eu não consigo sequer controlar os algoritmos que determinam aquilo que eu vejo no telemóvel. E by the way, essa foi uma das coisas que a Meta vai alterar em função do acordo judicial que assinou. E não foi na Europa, foi nos Estados Unidos que a Meta se viu obrigada. Esta ideia de que nos Estados Unidos é um paraíso para as tecnológicas e que a Europa é que está com problemas de competitividade por causa deste regulamento. A Europa tem problemas de competitividade muito antigos e muito antes sequer de haver inteligência artificial, quando se criou o regulamento. Desculpe, eu sou bastante enfático. Ter muitos debates com pessoas do lado contrário faz com que a pessoa seja muito enfática.

Não, e é bastante o tema. João Pires da Cruz, queria acrescentar rapidamente.

Só para dizer que, por exemplo, nos mercados financeiros existem algoritmos a trabalhar no mercado há 40 anos. E nós sabemos que tem que haver ali um responsável por aquilo. E há um responsável por aquilo. No princípio, exigia-se que houvesse um botão onde alguém carregasse no botão a dizer: "Olha, vai o trade para o mercado." Agora não exigem o botão, mas exigem que esteja lá alguém por trás. Havendo um responsável, na prática, a regulação acaba por ser feita, diria eu.

João, mas isto é uma dúvida. A partir do momento em que a tecnologia se desenvolve e se desenvolve cada vez mais, a função de supervisão torna-se cada vez mais responsabilizante, claro, mas mais qualificada. Não é a mesma coisa supervisionar um sistema fácil do que um sistema que nós próprios não sabemos como é que aquilo funciona.

Eu não conheço nenhum sistema mais complicado que um sistema de detecção de sinais de mercado.

Eu não estou a falar nos mercados financeiros.

Mas usando inteligência artificial, podemos questionar por que o Observador não decidiu pôr aqui uma máquina a fazer este programa.

Esperemos que não se dá.

Não será programas, mas vai começar por pequenas coisas.

Na minha opinião, já usamos, como é óbvio, algumas coisas, e as pessoas são informadas sobre isso. Toda a gente hoje usa, a questão é saber qual é o espaço para cada uma das coisas, e vendo que nos facilita a vida, facilita a vida de toda a gente.

Nós, como advogados, utilizamos todos os dias. Eu, neste momento, para dar o exemplo, tenho dois agentes que estão a redigir duas coisas que eu pedi para estar a ver enquanto estou aqui. Eu sou um adepto, eu utilizo bastante e além disso os clientes sabem, porque é uma das perguntas que eles fazem muitas vezes, até porque acham que assim devem pagar para ser cobrado menos, apesar dos prompts saírem todos aqui da cabeça de vocês.

Adolfo Quinta, muito obrigado por ter vindo ao "Controverso". Será que a IA vai ditar o fim do mundo? Vai, Helena?

Não, eu sei que a espécie humana é bastante centrada em si mesma e tem sempre a ideia do fim do mundo. O mundo não acaba, a nossa vida pode ficar mais difícil ou mais fácil, mas em geral não é o planeta nem o mundo que está em causa, é, pode ser em muitas circunstâncias, a nossa forma de vida. Depois, nós somos, enquanto civilização, e aqui eu não sei muito bem, será interessante perceber como é que esta discussão sobre a inteligência artificial está a acontecer no Oriente. Por exemplo, em países como a Coreia, Cingapura, o Japão, a China, não sei se decorre nos mesmos moldes, mas será interessante perceber Porque nós aqui, enquanto civilização e sobretudo enquanto cultura, que nasce muito do judaico-cristão, temos uma particular preocupação e fixação na questão do pecado. Do pecado e do fim. E aí entra essa expressão que usaste, a questão do fim do mundo, a questão do apocalipse, algo que resulta muitas vezes dos nossos erros e que portanto pode determinar o nosso fim. Vocês falaram aqui muito no "Terminator", eu por acaso acho que isto é muito mais o "2001: Uma Odisseia no Espaço".

Eu estava para falar, mas não vinha tanto a propósito.

Eu por acaso acho que isto é mais o "2001".

Sim, há pontos precisos.

Sim, que é quando o computador diz que não abre a porta, não vai abrir a porta. E em que eles acreditam que são suficientemente espertos para falarem de modo a não serem ouvidos pelo computador, mas ele sabia ler lábios. E portanto, há muito esta ideia de a nossa criação nos poder ultrapassar a nós, e isto penso que estará cá sempre enquanto espécie. Nós sabemos, enquanto espécie, que de facto conseguimos criar mais do que as espécies que estão à nossa volta. Eu sei que hoje há uma certa tendência para estas coisas, para o animalismo, mas é óbvio que enquanto espécie, temos conseguido criar coisas que outras espécies, por mais admiráveis e belas que sejam, não têm criado. Há muito esta ideia de nós sermos ultrapassados pelas nossas próprias criações. Assim que me lembro, e eu nasci nos anos 60, nós já tivemos este problema com a energia nuclear. Vivemos anos obcecados com o fim do mundo, que ia ser provocado pela energia nuclear, o mundo ia acabar. E não era apenas a energia nuclear no sentido das bombas, das ogivas. Estou a falar também das próprias centrais nucleares, portanto, utilização do nuclear para fins pacíficos. Houve toda uma produção, toda uma discussão em torno de um apocalipse absolutamente mais que anunciado. Nós, em geral, passamos destas ansiedades de umas para as outras sem nunca refletirmos sobre o que é que aconteceu. E uma das coisas que nós podíamos ter aprendido com o nuclear, com a discussão em torno da energia nuclear, é que tendo ela definitivamente capacidade para destruir não só a nossa vida, mas mesmo o próprio planeta, as ogivas nucleares existentes, há uma questão, e agora estou a falar do nuclear propriamente dito para produzir energia, é que ele deu problemas, sobretudo, e que se tornaram devastadores nas ditaduras. Portanto, não é irrelevante a natureza dos sistemas, até porque também percebemos isso com o nuclear. A dado momento, muito deste estudo e muito deste investimento nasce, o Rodolfo usou aqui uma palavra, que é hibridização entre o Estado e as empresas privadas. Há empresas privadas a trabalharem na área nuclear, mas muitas vezes, aquilo que nós temos até na Europa, estou a pensar o caso francês, é uma larga participação estatal. E portanto, aquilo que nós poderíamos ter pensado é que muitas vezes estas nossas criações tecnológicas potenciam aquilo que nós temos de bom e de mau. Não criam o mal, elas não são o mal, mas potenciam aquilo que existe de mau nas sociedades humanas e de bom também. E portanto, tendo capacidades de facilitar a nossa vida e de a tornar também mais inteligente. A verdade é que quando humanamente nós estamos mal organizados, temos regimes ditatoriais, quando temos outros objetivos menos nobres, por assim dizer, e eu considero ganhar dinheiro, ter empresas, um objetivo nobre. Aquilo que vemos é ser exponenciado, é como se fosse um espelho que aumenta. Mas portanto nós tivemos já este apocalipse anunciado assim em tão pouco tempo. Embora a minha vida já me pareça longa. Nós temos o apocalipse absolutamente anunciado da questão do nuclear. Depois, foi substituído muito pela questão das alterações climáticas, e note-se que as alterações climáticas acabaram também a ser apresentadas como resultado de uma intervenção humana, que tinha tido um impacto absolutamente destrutivo no planeta. E porque ao mesmo tempo que temos esta mudança, estas alterações na nossa vida decorrentes da tecnologia, nós coexistimos sempre com a ideia de regressar a um passado, que na minha opinião nunca existiu, idílico, que é o passado antes destas invenções e que nunca foi assim tão idílico. Se quiserem perguntar às pessoas como eram os invernos antes das centrais nucleares para aquecimento nos países frios, para produzirem energia, podem experimentar, mas não era assim tão agradável quanto isso. Aqui em relação às alterações climáticas, nós vimos isso muito também, um apocalipse absolutamente mais que anunciado. E agora estamos aqui nesta discussão sobre a inteligência artificial. Curiosamente, no meio disto, é como se tivéssemos tido um intermédio de algo em que esta mesma parte angustiada da população viveu com profunda alegria e satisfação, como se fosse uma espécie de paz reencontrada, que foram os tempos de confinamento da Covid. Os tempos de confinamento da Covid, com o seu céu sem aviões. Pois realmente não houve progresso, tirando a invenção da vacina. Mas é como se fosse o tempo suspenso da evolução tecnológica, quando na verdade aquilo que nos permitiu sair daquilo foi também, de uma forma mais óbvia ou mais rápida a determinado momento, ter sido a vacina. Mas curiosamente nós, que sabemos hoje, tivemos impactos brutais desse confinamento, e não estou apenas a falar na economia, nem sobretudo na economia, estou a falar de nós enquanto sociedades. Esse tempo suspenso acaba por ser visto como algo de profundamente pacífico, mesmo que tenhamos saído do confinamento mais agressivos, muito mais duros uns com os outros. O que não é de admirar, porque em geral os confinamentos e a reclusão, a não ser quando são uma opção espiritual, são uma pena que nós atribuímos uns aos outros. E agora estamos aqui na questão da inteligência artificial. Muito francamente, fez sempre parte do imaginário das sociedades humanas, isso é interessante, nas maiores empresas do mundo, esta ideia do funcionário que vem alertar para os efeitos nocivos daquilo que está a ser criado. Eu penso que poucas coisas terão tido um efeito mais impactante na sociedade humana que o automóvel. Não sei quantas pessoas é que os automóveis já mataram. Vista à partida, é terrível. Para lá de todos os outros impactos arquitetônicos, paisagísticos, tudo. São tão belas as fotografias dos bairros quando havia poucos automóveis. Portanto, eu acho que aquilo que nós estamos a viver neste momento é muitas vezes algo que já foi absolutamente visto no passado. E como tudo aquilo que já vimos no passado, pode haver os impactos profundamente negativos que esta tecnologia poderá ter ou virá a ter. Sim, decorrerá muito, tal como aquelas centrais nucleares do passado, Chernobyl, da natureza de quem as controla ou, sobretudo, as não controla. Porque nós levamos a vida a ver filmes em que havia entidades malévolas que controlavam aquelas tecnologias e depois acabamos a confrontar-nos com uma coisa terrível que é o resultado terrífico daquelas tecnologias quando ninguém as controlou. Foi isso que acontece em Chernobyl. Houve todo um conjunto de circunstâncias que levaram a que não fosse controlado. Eu não tenho, em geral, em relação a estas coisas, não sou daqueles que quer ir lá desligar a máquina, de maneira nenhuma. Acho que temos de ter discussões grandes e acho que temos de ter discussões não tanto sobre a tecnologia, mas sobretudo sobre as sociedades humanas em que essas tecnologias atuam e cujos defeitos, vícios, manias, obsessões, essas tecnologias amplificam. Para o melhor e muitas vezes para o pior.

Para o pior. Temos que perder os dois lados. O Pedro Lomba é advogado, professor universitário, antigo secretário de Estado, está em linha, é o próximo convidado do "Conta Corrente". Bom dia, Pedro.

Bom dia.

Bom dia. Os medos que têm surgido nos últimos tempos em torno da inteligência artificial, eles são fundados ou são alarmistas, na sua opinião?

Pedro, uma inteligência artificial diria que uma mulher com uma tosse destas não devia ser aceita para trabalhar numa rádio, de vez em quando.

Há um tema que os cientistas têm que discutir, que é saber qual é que é o potencial de risco e destruição que a inteligência artificial tem. E tanto quanto vamos percebendo, esse consenso não existe ainda, ou pelo menos claramente não está a existir à nossa frente. Claro que esse risco pode ser 50%, pode ser 40%, pode ser 30%, e se for assim, isso é relevante. Como advogado e como alguém que olha também para essa dimensão do problema, acho que se o risco for assim, o direito tem obviamente que intervir para regular esses riscos, porque evidentemente é o que nós fazemos relativamente a outros riscos. Pense nos riscos nucleares ou pensemos nos riscos farmacêuticos. São temas que aliás não estão assim tão distantes. Agora, eu estava a ouvir a Helena e de facto, sim, o problema que a inteligência artificial claramente nos está agora a levantar é o problema do controle O problema é do alinhamento dos modelos com os objetivos para os quais esses modelos são treinados. Isso é uma questão diferente da questão da destruição apocalíptica da humanidade.

Treinados ou não, Pedro?

Treinados ou não. E há um tema que eu acho interessante, porque se fala muito do avanço da inteligência artificial para a chamada superinteligência, mas há uma leitura alternativa, que é a leitura de que os modelos, na verdade, são modelos que não estão necessariamente a avançar para formas de superinteligência, mas estão a avançar para formas de inteligência distorcida ou de inteligência enviesada, até reproduzindo os defeitos das nossas sociedades. As nossas sociedades tornaram sociedades profundamente narcisistas, por exemplo. E o modelo pode ser simplesmente treinado sobre métricas completamente distorcidas. Um modelo de inteligência artificial é treinado, como nós sabemos, de forma probabilística. Ele é treinado para produzir uma resposta: isto é bom, isto é mau. E como é que eu sei se isto é bom? Eu posso desenhar e treinar um sistema para produzir uma boa resposta a partir da minha própria aprovação. Eu aprovo esta resposta. E, portanto, nas respostas seguintes, o que ele vai fazer é otimizar automaticamente esta forma de atuar, de comportamento. E é isso que leva àquilo que muitas vezes se chama o psicofantismo, esse nome que apareceu agora, a bajulação digital. De repente, ele diz-nos exatamente aquilo que nós queremos ouvir. E essa forma de inteligência distorcida reproduz os problemas das nossas sociedades, que é: no fundo, nós queremos respostas, mesmo que essas respostas possam ser erradas. Nós queremos as avaliações que queremos ouvir, mesmo que essas avaliações sejam, assim, de facto, erradas. E, portanto, esta leitura alternativa das coisas, que é uma leitura diferente da superinteligência, o que nos diz é como se nós tivéssemos um carro que tem um extraordinário motor, mas não tem travões, não tem direção. E de repente pode começar a agir com vontade própria, mas não tem as coisas que precisa para chegar de forma correta aos seus objetivos. Isso é um problema. Juridicamente, é interessante olhar para ele, como é óbvio.

Pedro, eu tenho uma questão em relação a esta figura, que não é assim tão inédita. Nós achamos sempre que é, mas não é assim tão inédita. Aliás, vamos encontrar no próprio "Oppenheimer", que é quando as pessoas que estão a trabalhar numa determinada tecnologia ficam muito impressionadas com as consequências que aquela tecnologia pode trazer. E acabam a interrogar-se sobre aquilo que estão a fazer. Do ponto de vista do nosso cérebro é extraordinário. Do ponto de vista religioso, também, mas isto que estamos agora a ver, nós já o vimos.

Sim, temos vários casos desses. A ficção científica também tem vários casos desses, de pessoas que de repente descobrem que estão a trabalhar numa grande... Há questões aqui que nós não sabemos. Nós percebemos, a partir destas declarações deste investigador da Antropic que se demitiu, que existe um debate técnico interno dentro da comunidade de inteligência artificial, no qual aparentemente não há consenso. E, portanto, os investigadores, os responsáveis por construir estes sistemas admitem não ter hoje garantias de controle total sobre estes sistemas. E isso significa que se eles não têm ou se mostram não ter um conhecimento sobre aquilo que estão a fazer, vamos precisar de formas diferentes, independentes, externas. Vamos precisar de alguma forma de verificar se aquilo que eles estão a fazer está verdadeiramente controlado, ou é controlável, ou está alinhado aos objetivos para os quais os modelos estão a ser desenvolvidos. Eu julgo que é aí que entra o tema da regulação. Mas de facto, Helena, muitos destes arrependidos noutros setores forçaram depois respostas legislativas de regulação que não existiam nessa altura. E esse é o risco que existe, é o risco de haver sistemas que não são suficientemente supervisionados, que não são suficientemente especificados, e que são poderosos e que são disseminados. Porque no fundo, esse é também um outro problema. A inteligência artificial não está a ser desenvolvida apenas pela Antropic, como é óbvio, está a ser desenvolvida Por muitas empresas para além da Anthropic. Eu acho que é esse alerta que aqui está subjacente, claramente.

Portanto, antecipa que vai ser necessário regular a inteligência artificial, Pedro?

Sim, ela já está a ser regulada.

Na Europa já é assim. Há um regulamento.

Na Europa há um regulamento de inteligência artificial que especifica estes modelos grandes, os chamados modelos de fins gerais, que são modelos que têm um risco sistémico, que ficam sujeitos a um conjunto de obrigações, obrigações de segurança, obrigações de avaliação antes e depois do lançamento. Ficam sujeitos a cada um dos modelos conter documentação técnica detalhada sobre os riscos que esses sistemas podem gerar e a obrigação dessa documentação poder ser entregue às autoridades. Agora, como é óbvio, há aqui muitas questões que estão em aberto no plano jurídico.

Por exemplo?

No plano jurídico, o direito intervém sempre quando alguma coisa acontece. Quando alguma coisa acontece, vamos responder a um dano, vamos corrigir um problema, etc. É diferente quando estamos perante uma tecnologia que não conhecemos bem e que temos que regular de forma anterior, quer dizer, não depois dos danos acontecerem, mas antes desses danos poderem acontecer. Significa que, do ponto de vista jurídico, há aqui necessidade de regular o risco potencial, mesmo quando esse risco não é muito claro. Quer dizer, tentar antecipar, tentar prever, tentar imputar responsabilidades a agentes que não são sequer identificáveis. Nada disso é muito fácil quando os próprios agentes atuam de forma autónoma e até atuam de acordo com motivações que não se conseguem muitas vezes explicar totalmente, aquilo que se chama o problema da caixa negra. Pensemos que o ciclo de desenvolvimento destes modelos é tão complexo. Da conceção, do pré-treino, do treino, da finalização, do seu lançamento, da sua implantação. Há tanta gente aqui envolvida que um dos temas mais complexos do ponto de vista jurídico, que é a imputação de responsabilidades, se alguma coisa falha, não é nada fácil. Não é nada fácil determinar o responsável quando há tanta gente envolvida no desenvolvimento destes modelos e depois há quem tome a decisão de os adquirir, e há quem depois os vá implantar, quer seja no setor público, quer seja uma empresa. Nada disto me parece fácil do ponto de vista jurídico, deslindar. Ao mesmo tempo, há aqui um conjunto de problemas muito complicados. A simetria de informação, nós não sabemos como é que as organizações, os reguladores, os próprios tribunais conseguem auditar sistemas que as pessoas que os desenvolvem também não conseguem às vezes explicar completamente. Nada disto é fácil e portanto, sim, acho que essa é uma das questões complexas do futuro, como é que estas matérias vão ser objeto de regulação, sem dúvida.

Portanto, temos aqui um grande desafio pela frente de todos, não é, Pedro?

Sim.

Muito obrigado por ter aceitado o convite.

Muito obrigado.

Obrigado, Pedro.

Obrigado, Pedro.

João Pires da Cruz, estamos aqui perante um debate, enfim, estamos perante uma tecnologia que avançou muito nos últimos anos, que nos confronta aqui com questões novas, nomeadamente estamos aqui perante novos agentes com autonomia que não reconhecíamos há meia dúzia de anos. Isso leva-nos a um debate sobre quem tem nomeadamente a responsabilidade sobre algumas ações. Isso deve convocar-nos para este debate como?

Eu não consigo ver uma diferença substancial entre atribuir a responsabilidade à utilização da inteligência artificial ou à condução de um automóvel. Para já, eu tenho uma crença pessoal que é a adoção, vamos dizer, corporativa da inteligência artificial enquanto utilização não vai acontecer nunca. Cada um de nós terá essa utilização, cada um de nós fará a utilização. A minha piada do "por que este programa não é feito por inteligência artificial" relacionava-se com isso. Não serve de nada agora meterem este programa feito por inteligência artificial que ninguém o vai ouvir, porque o que interessa aqui são as pessoas que por acaso usaram a inteligência artificial para estar a fazer o programa. Não é por aí. A mim faz-me um bocado confusão essa necessidade de regulação tão específica da inteligência artificial, que não seja aquela que nós colocamos a dar uma carta de condução a alguém. Há uma coisa que me faz confusão em toda esta polêmica: será que as pessoas têm consciência que quem coloca o professor em frente aos filhos numa escola pública é um programa de computador? Que não tem nada a ver com o filho O Ministério da Educação coloca os professores de acordo com um algoritmo que tem uma série de regras, e coloca lá o professor. Ninguém foi entrevistar o professor pra ser professor dos filhos das pessoas. Foi um computador que o fez. E já que estavam a falar do PISA, se calhar isso será um problema.

Foi uma das coisas que falamos aqui na semana passada, foi precisamente termos esse sistema soviético de confiar nos professores dessa forma.

E é um programa de computador. E quem é que foi o responsável? Foi ninguém, foi o computador.

E a FENPROF.

A FENPROF é quem defende o programa de computador. Na realidade, o que acontece, eu não vejo uma especificidade tão grande nesta peça tecnológica, que seja diferente das outras peças tecnológicas todas.

Sim, e eu estou bastante próxima daquilo que o João pensa, mas aquela possibilidade, que é sempre o terror mesmo em relação às outras mudanças tecnológicas, que é de a humanidade de alguma forma perder o controle daquilo que criou, é aquilo que está neste momento subjacente. No fim, nos filmes, o herói consegue sempre desligar. Chega lá e consegue desligar.

A máquina.

A máquina. Ou matar o dragão. Consegue acabar com a criatura que ele mesmo criou. Isto não é muito diferente do Minotauro no labirinto em Creta. Há sempre esta questão, que é conseguir encerrar a criatura. Mas esta possibilidade de, na inteligência artificial, ver a criatura tornar-se autónoma, independente da nossa vontade, e poder mesmo dizer, como dizia no "2001: Uma Odisseia no Espaço": "Não abra a porta." Isto existe ou não?

Podíamos despedir o ministro da Educação e metíamos só o programa do computador. Não o fazemos por alguma razão.

Mas apesar de tudo, aqui há uma diferença, que eu acho que é a diferença que há entre o algoritmo no sentido tradicional que nós damos. Nós usamos um algoritmo que nos diz o que nós vamos ver quando entramos numa rede social, um algoritmo que no fundo registra aquilo que nós vimos antes e nos dá coisas parecidas, dá-nos indicadores. Mas esse algoritmo não é inteligente, é programado, é desenhado humanamente, ou pelo menos foi no essencial desenhado humanamente. Agora estamos a falar da possibilidade de haver uma autonomização da forma de atuar. Eu não apenas ter uma inteligência artificial generativa, que lê os livros todos e quando eu faço uma pergunta, responde com uma capacidade que eu não tenho, porque eu não li os livros todos.

Ou seja, faz do Dr. Sabchão.

Faz o Dr. Sabchão, muito mais Sabchão do que antes fazia o Google, que já fazia um pouquinho isso. Mas agora é capaz de ganhar autonomia. E esse é que é o tema. Quando ganha autonomia, como neste exemplo teu, fazer coisas que alguém não lhe pediu pra fazer, e começar a fazer algo diferente, é a tal ideia dos agentes. Nós temos agentes que vão fazendo aquilo que nós lhes pedimos pra fazer. Damos umas tarefas, eles vão cumprindo as tarefas quando nós estamos a olhar pro outro lado. Ainda agora o Rodolfo falou disso, mas nesses momentos há um comandante. A dúvida é aquilo que dizias, essas pessoas que estão a programar, se há uma altura em que ele pode deixar de obedecer ao comandante. E tu há pouco disseste: "Tá, mas tem que haver um homem, alguém responsável." Será que isso chega?

Há sempre.

Há sempre.

Deixa-me só complementar, José Manuel, e também lançar isto para o debate. É que há uma questão: quando a decisão cabe ao ser humano, há toda uma subjetividade que o trava. O medo, a ética, a moral. Nas máquinas, isso não existe. Acaba por existir.

Existe?

Não existe na máquina, mas existe no enquadramento que o ser humano dá às estratégias que ele diz aos agentes pra seguirem. A questão é: os agentes são autónomos, mas quem definiu as estratégias foram os seres humanos, e quem disse assim: "Olha, tu vais tentar fazer isto com este objetivo e com esta estratégia", foram os seres humanos. E aquilo que estes modelos conseguem fazer continua enquadrado naquilo que é o conhecimento humano. Por exemplo, uma das coisas que me disseram este fim de semana estava relacionado com o novo modelo da DeepMind. A DeepMind é parte da Google, foram os que desenvolveram o AlphaGo e o AlphaFold, que é um programa do Demis Hassabis, que ganhou o Prêmio Nobel de Química há dois anos, creio eu. O que ele desenvolveu foi um sistema de inteligência artificial que em vez de estar preocupado com as palavras, está preocupado com a geometria das moléculas. E o Google tem um novo programa, um novo modelo, que toda a gente está muito mais preocupada com esse do que exatamente com o da Anthropic ou da OpenAI, que é um criador de modelos. Ou seja, o próprio modelo pode criar um modelo melhor.

Portanto, a inteligência artificial já se retroalimenta.

Já é recursivo e já consegue desenvolver um programa melhor, um modelo melhor. Melhor é o quê? E a pergunta que se coloca é: melhor é o quê? Quais são os referenciais que nós vamos colocar ao modelo pra ele ser melhor Porque melhor é um conceito humano. Quando nós dizemos melhor, ele é melhor no quê? E aí é que está os limites.

Mas a questão é que o que pode ser melhor para nós, pode não ser melhor para a máquina.

Está bem, mas aquilo que nós vamos dizer: "Olha, desenvolveste um modelo melhor", vai estar sempre sobre a avaliação humana. Os objetivos que nós vamos colocar. Imaginem o problema da equação da aviação. A equação já lá estava. Foi criada há 200 anos baseada nas equações de Newton. Não é uma coisa extraordinária. A equação já lá estava. Os 10 mil agentes tinham de descobrir uma solução que explodisse, que fosse explosiva, vamos dizer assim. E essa solução, que eles dizem que chegaram, não chegou. Não era desenvolve todo o teorema para lá chegar. Não, dentro deste teorema que aqui está, descobre-me uma solução, que realmente não tivesse aquelas condições de suavidade. E é esse enquadramento, esses limites que ali estão, que como foi o cérebro humano que produziu aqueles modelos, também temos que nos lembrar disso. Toda a matemática que nós conhecemos foi desenvolvida com esta porcaria de cérebro que nós temos. Era bom termos outro, mas não temos, só temos este. Tudo isto é desenvolvido com esses limites e, portanto, quando dizem: "Isto vai dominar, vai substituir os seres humanos", não vai. É claro, isto é superútil. Não está cá a João Vador. Eu tenho a impressão que português nenhum sabe que leis é que tem. Era uma boa ideia pôr uns agentes destes a dizer: "Digam-me exatamente que leis é que nós temos". Isso eles já fazem. Falta o processo prescritivo, que é dizer: "Olha, está bem, então agora faça uma lei a rasgar estas todas". Ah, sim, isso é mais difícil. Mas agora, que leis é que temos, recapitulo aquele trabalho. Por exemplo, é uma das questões que está em voga, não agora exatamente com isso, mas com a destruição de postos de trabalho. Dizia-se que os primeiros a serem afetados iam ser os escritórios dos advogados, porque boa parte do trabalho que fazem, sobretudo os mais novos, é ver lá a jurisprudência que há sobre esta matéria. E, portanto, eu tenho que ali andar a esgaravatar papel. E agora, faço o prompt e cinco minutos depois tenho essa resposta. Está bem. Provavelmente, se calhar não precisávamos de tantos. Eles já não tinham esse valor todo. Pois, mas o problema é se não passares para estagiário, como é que chegas a senior? Este é um tema que se tem discutido, e discute-se também em relação aos programadores, os programadores juniors. Claro. Também há o problema- O trabalho dos programadores juniors hoje em dia pode ser substituído facilmente por inteligência artificial. Mas repara, há a questão nos Estados Unidos, que foram os primeiros logo- Mas eles já perceberam que não é bem assim. Não é bem assim. Quando os americanos começaram logo a despedir as pessoas do contato com o cliente, porque disseram assim: "Os clientes mandam para cá um chatzinho e nós com o chatzinho resolvemos o problema que temos de ter aqui estas pessoas todas". Agora estão a recontratá-las todas. Eu realmente não percebo como é que se passa anos com o princípio da atenção sobre o cliente e depois a primeira coisa que se faz: "Olha, vamos pôr o cliente a falar com uma máquina", que é a coisa mais irritante que pode haver. Nós passamos a vida a falar com máquinas hoje em dia. Está bem, mas é a coisa mais irritante que existe. Carrego no um, carrego no dois. E é se calhar o primeiro passo para abandonar aquela empresa e ir para outra.

Porém, a outra também usa.

Aliás, nós temos uma grande operadora de telecomunicações em Portugal que fez um anúncio exatamente nisso, que aqui não há primas, está a falar com a Maria Antônia ou lá com quem é que fosse. Ou seja, portanto, em que isso pode acabar. E esta ideia de que se perdem postos de trabalho, eu percebo, e é claro que é duro e que é complicado, mas se vamos por aí, pois então ainda temos de voltar ao artesanato. E há a velha história dos cangalheiros do Arkansas. O tal que descobriu uma máquina que metia números nos telefones e as pessoas podiam marcar o número em vez de ser a senhora a meter o cabo. E a última senhora a meter o cabo, só 90 anos depois é que se acabaram com as operadoras. Aliás, o Pai Tirana ainda tem.

O PDX.

Há muitas lages. E por outro lado, também podemos pensar que há uma valorização de atividades muito personalizadas. Enquanto se caminha exatamente para uma automatização e para a máquina fazer uma série de trabalhos, temos depois uma coisa que é a valorização, penso eu, que tem acontecido sempre, destes processos de atividades essas, sim, muito personalizadas. Quer dizer, portanto, tudo tem mais do que um lado. Mas agora, a mim sempre o que me fascina em todos estes processos é, por um lado, o fascínio que nós temos pela tecnologia, pela mudança, mas depois sempre voltar àquela questão terrível de sermos-- é aquilo que nos vai dominar e depois sempre aquela coisa de termos de encerrar a criatura num labirinto. Aquela ideia de que o monstro tem de voltar para dentro do labirinto. Mas há o perigo da própria destruição do capital, que é um bocado a questão dos estagiários. Se o valor de um empregado fosse aquilo que ele aprende, nós pagávamos mais ao estagiário do que pagamos ao tipo que tem 40 anos de experiência. Porque o capital não é saber, o capital é errar. E o erro é uma coisa que não se regista em computador, tem um registo próprio em cada ser humano. É por isso que os livros de matemática têm problemas Se só tinham a matéria e não punham problemas. Põem problemas que é para os alunos errarem. Nós não contratamos um canalizador por ele saber a equação de Navier-Stokes. Nós contratamos um canalizador porque ele já sabe o que não fazer. Não é o saber.

Aí está uma das atividades profissionais que podem vir a ser particularmente valorizadas no futuro.

Já são. É quase impossível errar.

Não são passíveis de ser substituídas por aqueles automatismos da inteligência artificial.

Mas a minha opinião é que nenhuma delas vai, na realidade, ser substituída. Cada um de nós vai ser muito alavancado com aquilo que já sabe, mas quem tem o erro somos nós. As máquinas não vão aprender erros, vão aprender a matéria, vão aprender o livro de Matemática.

Não vão aprender erros. Já sabes o que elas vão discutir. Já me aconteceu fazer perguntas.

E darem-nos respostas parvas.

E as respostas que deram não é estarem erradas.

São parvas.

Eram, como dizia há pouco o Adolfo, parciais.

Sim, muito parciais.

E depois eu, a seguir, faço aquela coisa que também estava a brincar de fazer. O Pedro disse: "Desculpe, mas está a ser parcial." E ele beijou-me e disse: "Tem razão."

É assim, por quê? Porque estes algoritmos o que eles aprendem, não memorizam só, eles não memorizam, eles aprendem o contexto. Em termos simples, é isso que eles fazem. Eles aprendem o contexto. Se memorizassem tudo, era perfeito. Memorizavam tudo, só que obviamente não havia computador que aguentasse aquilo tudo. Memorizam o contexto. E portanto, qualquer pergunta que nós façamos, eles vão encontrar um contexto que bate com aquilo. No princípio até era fácil. Eu usava uma que perguntava quem eu era. "Quem é o João Pizarro?" E depois via o que dava a resposta certa, que é: "Quer lá saber." "Não faço ideia quem seja." Eu lembro perfeitamente no início de fazer a pergunta e haver um físico teórico, e depois: "Ok, bateu." Foi procurar uma coisa qualquer. E depois a seguir, da Universidade de Coimbra, onde eu nunca estive. Especializado em física de partículas, que eu nunca estudei. Mas cada uma das sequências fazia sentido. Ou seja, de mim para o físico teórico, do físico teórico para a Universidade de Coimbra, da Universidade de Coimbra para a física das partículas. Isto fazia sentido. O que não fazia sentido era tudo junto. À medida que foram carregando e carregando mais informação, começaram a ter novos contextos, mais contextos, mas continua a ser sempre limitado por estes contextos, que são os contextos humanos e da informação que é registrada. E o erro não é registrado, o erro registrado é em nós. Cada um de nós comete os seus erros e ele é registrado de forma diferente em cada um de nós e nenhum de nós vai descrever: "Olha, fiz um erro."

Portanto, ainda que se digitalizem todos os livros do mundo, como está a acontecer, a inteligência será sempre limitada a todos os livros do mundo.

Sempre. O nosso cérebro funciona mal nesta coisa de interligações, por isso é que nós vamos à escola. Nós vamos à escola aprender a interligação das palavras. O cérebro humano não percebe bem interligações, vamos dizer assim. É isso que permite aos modelos fazerem esta coisa por contexto. Eu já disse tantas vezes contexto, que a seguir o computador ouvia-me dizer tantas vezes contexto, que dizia: "Olha, IA deve ser uma coisa provável de aparecer nesta conversa." Por quê? Porque eu disse muitas vezes contexto. E é isso que eles aprendem. Não é tanto se a solução é boa ou é má, é, no fundo, a interligação entre isto tudo. Há uma parte dos algoritmos realmente que é: isto é um vetor de probabilidades, ele diz: "Ok". E eu posso ajustar o vetor de probabilidades e dizer: "Olha, afinal não é sobre a IA que estamos a falar, estamos a falar sobre foguetões." Ok, então isto certo. Mas, na realidade, é isto. Ele está sempre enquadrado. Os limites estão sempre definidos.

Sempre definidos. E o que é isto de superinteligência, que é a próxima geração da inteligência artificial?

Não sei. Eu trabalho num tipo de modelos que imitam os neurônios e, portanto, a maneira como o cérebro humano funciona, mas são coisas dedicadas. Eu não estou à procura de aprender os livros todos, eu estou à procura como é que se trata um sistema genético, como é que se trata o mercado, como é que se trata o universo. São coisas em que o cérebro humano trata mal, ou a economia. O cérebro humano trata terrivelmente a economia. Basta ver as previsões do Banco de Portugal.

São previsões.

Não acertam nunca. E não é porque os senhores são maus, coitados. É porque o cérebro humano, a matemática que nós desenvolvemos não trata bem aquele sistema. E como não trata bem aquele sistema, que é a economia, as previsões são o melhor que as pessoas conseguem. Eu não sei se superinteligência é isso ou não, mas ninguém vai conseguir fazer um modelo que trate esses sistemas todos ao mesmo tempo em comum. E se calhar, o cérebro humano até é a forma ótima de lidar com a realidade. Vamos dizer assim. Não é o melhor de todos pra aquilo, não é o melhor de todos pra aquilo, não é o melhor de todos pra aquilo, mas no conjunto todo, acaba por ser a melhor coisa que nós temos. Que nós temos, certeza, mas acaba por ser a melhor coisa, mas está sempre enquadrado. Computador nenhum desenvolvido com base no nosso cérebro vai ser muito melhor do que aquilo que já é.

Portanto, a máquina nunca vai suplantar o criador.

Individualmente, vai de certeza. Era uma coisa como dizia no artigo, basta ver meia hora da ARTV e nós admitimos que a inteligência artificial funciona muito bem. Mas o ser humano em conjunto, a humanidade em conjunto, eu não acredito. Superinteligência seria outra coisa. A própria matemática que nós temos foi desenvolvida com base nisto, com o fato de nós vermos um espaço plano. Tem a ver com todo o cálculo, todas as probabilidades, toda a estatística. Tudo isso foi feito em função daquilo que nós vemos. E é óbvio. Nós precisávamos era construir pontes e estradas, não andávamos preocupados e a fugir ao leão e a matar zebras. Não andávamos preocupados com inteligência artificial. E as próprias bases do nosso conhecimento estão um bocado agarradas.

Agarradas à realidade. José Manuel, terminas o programa mais tecno-otimista ou mais tecno-pessimista?

Não termino nem mais tecno-otimista, nem tecno-pessimista. Eu creio que a inteligência artificial vai tornar a vida melhor e que, como de resto todas as tecnologias, traz sempre consigo algum tipo de riscos. Nós temos é que saber viver com esses riscos e mitigá-los. O automóvel, para usarmos, precisamos de regras de trânsito, como recordou o Adolfo. Mas a ideia não é acabar com o automóvel porque há desastres de viação e as pessoas continuam a morrer. Nós sabemos que a energia nuclear, ou melhor, aquilo que os núcleos podem libertar como energia, tanto dá para as bombas nucleares, como para uma energia a que vamos ter de provavelmente regressar. Não estou a falar de Portugal por razões que têm a ver mais com a economia do que com o princípio. Regressar devido às necessidades de consumo de energia que as nossas sociedades têm e que as sociedades modernas têm. Mas isso não impede que nós tenhamos consciência de que libertar o que está hoje em dia na cabeça de foguetões, mísseis, um pouco por todo lado, seria apocalíptico, realmente. Vai ou não vai haver um tipo de superinteligência que seja capaz de se libertar da nossa tutela, como nas ficções do "2001: Uma Odisseia no Espaço" ou do "Terminator"? Uma questão é poder libertar-se. Apesar de tudo, as consequências de um e de outro são diferentes. No "Terminator" é mais apocalíptico, que no "Odisseia no Espaço", que é mais metafísico e desafiador da nossa forma de pensar. Eu acho que ter uma espécie de regras de trânsito é positivo. Acho que isso é difícil de fazer de fora, por intervenção dos governos. Acho que não é nada assim pensar que como a Europa tem a melhor lei do mundo para inteligência artificial, que é isso que vai resolver o problema. Agora, as próprias empresas que estão a fazer isso têm que perceber às vezes o que estão a fazer. Libertar o génio da garrafa é algo que não precisamos de inteligência artificial para saber que esse risco existia. Basta ler "As Mil e Uma Noites". Saber que isso é algo que atormenta a imaginação da humanidade há muitos séculos. Continuo a ser mais técnico otimista do que técnico pessimista, apesar destes alertas, mas a própria forma como estes alertas surgiram e a maneira como está a decorrer a reação, acho que é mais interessante. Aquilo que eu não desejo que aconteça é aquilo que aconteceu quando o Império Chinês, a corte, proibiu a divulgação da imprensa, porque isso ia fazer com que as pessoas escapassem ao controlo central. Tudo o que seja controlo central, eu desconfio. Sabendo que quando não há controlo central, há riscos. Se o Vaticano do século XV, XVI conseguisse evitar a imprensa e assim evitasse Lutero, talvez tivesse apostado nisso. Mas nós ficamos melhor com a imprensa, apesar de toda a perturbação que ela causou. Uma última nota apenas: acho que há desafios para os mercados de trabalho, para aquilo que as pessoas fazem, mas é um bocadinho como a história dos luditas. Há de vir outra coisa a seguir. Podemos passar sempre por períodos de transição difíceis e, por regra, aquilo que acaba por funcionar pior é achar que protegemos os trabalhos com leis ou que protegemos os trabalhos com intervenção centralizada. Porque aquilo que estamos a proteger às vezes são trabalhos antigos e impedir que surjam os trabalhos novos, porque vai haver trabalhos novos, vai haver outro tipo de trabalhos. Quero eu voltar ao tempo pré-pandemia, em que não havia teletrabalho? Não quero, mas também sei que o teletrabalho não resolve tudo e que as pessoas precisam de falarmos com os outros e estar juntas, e não apenas estar em casa a teclar numas coisas às horas que lhes apetece, que isso não é bom para elas nem para as empresas, apesar de uma forma genérica ser mais confortável e haver hoje um equilíbrio diferente daquele que existia há seis anos e meio atrás, em que não estávamos habituados a esse tipo de coisas. Algumas das empresas que apareceram nessa altura e que se tornaram famosas, não sei se todas aquelas plataformas para reuniões ainda se mantêm. Penso que algumas desapareceram. Ou pelo menos não estão a ter o sucesso que se imaginava. O que talvez seja aqui realmente novo é a velocidade. E a velocidade torna mais difícil nós prevenirmos acidentes, como sabemos quando andamos na estrada.

É verdade. João Pires da Cruz, muito obrigado por ter vindo ao "Contra-Corrente". "Contra-Corrente" que está de regresso amanhã. Até amanhã.

Até amanhã.