Esta é a história do dia da Rádio Observador: como evitar que a inteligência artificial nos mate a todos.

"I assume you are saying literally that you believe that AI could kill us all by the end of the decade."

"Yeah."

Há umas semanas falámos aqui na história do dia da ameaça da inteligência artificial, quando agentes de IA decidiram sozinhos hackear uma empresa. Na altura, despedimo-nos do episódio com uma piada um bocado básica.

"I'll be back."

A voz de Arnold Schwarzenegger no "Exterminador Implacável" a garantir que regressaria. E de facto, aqui estamos nós agora, dois meses depois, para falar da denúncia feita por um ex-investigador da Anthropic, a empresa que é dona do Claude. Esse investigador escreveu um tweet onde dizia que estas empresas estão a brincar com as nossas vidas e que a inteligência artificial pode matar-nos a todos até ao fim desta década.

"So the precise scenario sounds a little bit like science fiction. It sounds like something that's not real, but I think it is frightening real, and it's easy to-"

E a própria Anthropic assumiu ao final da tarde de ontem que já este ano deitou abaixo vários projetos de cientistas da empresa cujas pesquisas podiam ajudar a criar armas biológicas com efeitos imprevisíveis. É um cenário assustador e é sobre ele que eu vou falar hoje com o Adolfo Mesquita Nunes. Ele é advogado, tem-se especializado em inteligência artificial, já foi político e no ano passado publicou o livro "Algoritmocracia", sobre o papel da IA na transformação das nossas sociedades. Eu sou o Pedro Benevides e esta é a história do dia de sexta-feira, 11 de setembro. Olá, Adolfo, bem-vindo.

Olá, bom dia.

Adolfo, eu vou começar aqui por falar de uma frase que eu li, que foste tu que disseste em março deste ano. Dizias que a inteligência artificial é a primeira revolução tecnológica em que as pessoas envolvidas têm medo, porque não sabem o que aí vem. Isto foi dito em março de 2026. Chegamos a setembro de 2026 e parece evidente para toda a gente que o medo está de facto instalado entre quem produz, cria, desenvolve e faz crescer a inteligência artificial.

Está. Isso devia nos fazer pensar, não tanto antecipando um cenário "Terminator" de ficção científica, em que uma máquina um dia acorda, ganha vontade própria e decide dominar-nos, mas enquanto tecnologia através da qual podemos perder controle das nossas vidas, das nossas decisões individuais, empresariais e enquanto sociedade, de uma forma muito gradual e até muito humana, porque vamos delegando cada vez mais decisões em máquinas que funcionam muito bem. E, portanto, o desafio não é tanto controlar os sistemas que funcionam mal. Eu acho que a sociedade está sempre preparada para regular sistemas que funcionam mal e precaver-se contra sistemas que funcionam mal, mas sabermos estabelecer limites a sistemas que funcionam muito bem. Porque acho que há, talvez, uma distinção fundamental: é que uma máquina pode saber melhor do que nós o que provavelmente vai acontecer, sem saber muito bem, ou sem saber melhor do que nós, o que é que deve acontecer. Ou seja, por exemplo, pode calcular com grande precisão o risco de alguém reincidir num crime, de não pagar um empréstimo ou até de desenvolver determinada doença. Mas decidir o que é que a sociedade deve fazer perante esse risco, isso envolve valores, e os valores não são apenas um problema de cálculo ou de eficiência, e por isso é esse controle que nós não deveríamos estar a perder.

E o problema é que, olhando aqui para estas últimas notícias, este ex-investigador da Anthropic, que é uma das grandes da inteligência artificial, o que ele dizia é que quem lá está e os responsáveis por aquelas empresas têm noção do risco, têm noção das consequências negativas, mas o medo que existe é que a competição é tão grande, que se deem rapidamente, e quando estamos a falar rapidamente, essa janela pode ser de seis meses a dois anos, passos que são irreversíveis e que podem ter consequências desastrosas para a humanidade. Tu parece-te que isto é um discurso catastrofista? Achas que este aviso e a reação que teve, porque milhões de pessoas de repente depararam-se com este cenário, achas que é o suficiente para fazer aquilo que a sociedade vai fazendo, que é perante um desastre de automóvel, percebe a necessidade de criar um sinal de trânsito?

Estas afirmações não são as primeiras nem as únicas. Nós já ouvimos Elon Musk fazer projeções neste sentido.

Mas com ar blasé, com ar "pronto, é a vida é assim".

Mas se elas se começam a multiplicar por parte de pessoas que estão efetivamente dentro do desenvolvimento destes sistemas e destas tecnologias, elas devem ser levadas a sério. Não tanto a previsão dos 10%, dos 20%, e de quando é que vai acontecer, e se é agora, se não é, mas no sentido de que há um conjunto de riscos que são significativos e sobre os quais nós precisamos de pensar e, portanto, regular. Eu tenho sido um defensor da regulação da inteligência artificial e muitas vezes mal compreendido pelo efeito, como se eu estivesse a querer limitar ou regular a tecnologia naquilo que ela tem de positivo. Não é absolutamente nada disso. Perante sistemas cuja atuação pode correr mal, mas também perante sistemas nos quais estamos a delegar cada vez mais as nossas decisões, é importante que existam regras que permitam que as coisas funcionem como devem funcionar. Eu penso que muitos de nós, ou que a sociedade, de alguma forma, olha para esta matéria e diz: "Está bem, delegar". Mas a verdade é que nós não vamos querer delegar tudo. Eu vou sempre preferir um juiz humano a um juiz de uma máquina, e é intuitivo que assim seja. Porém, a opção não é essa. Eu gosto de dar este exemplo com tribunais. Se nós perguntarmos às pessoas se preferem que seja um coletivo de juízes ou que seja um sistema de inteligência artificial, que ninguém sabe quem construiu, a decidir o nosso caso, eu penso que a maioria das pessoas dirá: "Prefiro que seja um coletivo de juízes humano, eventualmente usando sistemas de IA para os auxiliar". Mas a pergunta não é essa. A pergunta é: quer ter já uma decisão em dois dias por um sistema de IA ou quer esperar oito anos para ter uma decisão de um coletivo de juízes? E as pessoas vão legitimamente querer uma decisão para amanhã, como vão querer uma consulta para amanhã, um diagnóstico médico para amanhã, uma decisão do seu processo administrativo para amanhã, uma decisão do seu processo de crédito para amanhã. Por isso é que eu dizia há pouco que o desafio maior não é tanto controlar os sistemas que funcionam mal, mas saber estabelecer limites a sistemas que podem funcionar muito bem e perceber onde é que nós queremos delegar. Se nós vamos ter de utilizar sistemas de inteligência artificial na justiça e nos sistemas de justiça e nas sentenças, então nós temos que empregar o mesmo esforço de regulação que empregamos hoje para a formação dos juízes, para a sua independência, para o seu regime de inamovibilidade, temos que empregar o mesmo esforço a saber que tipo de regras é que nós vamos criar para os sistemas de inteligência artificial que nos vão ajudar no sistema de justiça. Porque senão, de facto, podemos um dia chegar à circunstância de termos sistemas que decidem com critérios que podem ser critérios de eficiência, mas não ser os critérios humanos que nós queremos. Nem todas as decisões das nossas vidas são eficientes, muitas delas não são, porque nós não queremos que sejam, por amor, por caridade, por solidariedade, por igualdade, por proporcionalidade, por justiça, por boa fé, por equidade.

Por humanidade, no fundo.

Sim, e estas decisões, e este debate é que eu penso que é aberto por estas previsões. Porque se nós olharmos para estas previsões ou para estas afirmações como uma espécie de "vem aí um Terminator", não só ninguém acredita, como não é propriamente disso que estamos a falar. Estamos a falar de algo muito mais gradual, muito mais humano, que é a delegação da nossa inteligência e dos nossos processos de decisão em sistemas de inteligência artificial que nós não controlamos, e não sindicamos, e que não são suficientemente transparentes. Estamos condenados a isto? Eu acho que não. Eu, nesse sentido, sou um otimista. É verdade que temos um desafio como nunca tivemos, porque há uma enorme velocidade, mas há também uma grande assimetria de informação. Mas a sociedade tem sabido sempre definir regras quando sente que há ameaças e, portanto, eu acho que estamos no momento para falarmos sobre isso e termos uma conversa sobre isso. Sobre soluções, eu gosto de dizer aquilo que sinto sobre isso. Eu não tenho soluções e só as vou ter quando conseguir ter um debate com muita gente preocupada com este assunto. E é daí que nós vamos discutir soluções. Portanto, este debate é mesmo importante e ainda bem que estamos a falar sobre isto.

Nós vamos fazer aqui um curto intervalo, já regressaremos com o Adolfo Mesquita Nunes. E já estamos de regresso na História do Dia, estamos à conversa com Adolfo Mesquita Nunes sobre os riscos da inteligência artificial. Uma das consequências que estas declarações públicas já tiveram foi que na política americana, quer republicanos, quer democratas proeminentes, já falaram publicamente sobre isto e já disseram: "Temos mesmo de começar a regular isto, porque isto assim não pode ser, isto foi um aviso importante". No caso da regulação, e tu já falaste disso e acompanhas isso até profissionalmente, a Europa já deu passos em frente, embora para a Europa seja mais fácil, porque a Europa não tem um gigante de inteligência artificial a competir com estas empresas, sobretudo norte-americanas. Mas como é que tu vês o andamento desta regulação e como é que tu vês diferentes territórios terem velocidades diferentes? Porque depois também temos que colocar aqui a China, por exemplo, nesta equação.

Eu nunca fui muito partidário da tese de que a Europa regula e os Estados Unidos não regulam nada. Acho isso uma ilusão, porque isso é procurar nos Estados Unidos leis que nunca vão ser encontradas. Os Estados Unidos não atuam do ponto de vista regulatório da mesma forma que a Europa, que é através de regulamentos e de leis. Os Estados Unidos atuam do ponto de vista regulatório, através da intervenção das autoridades reguladoras e dos tribunais. Aliás, há poucas semanas, tivemos um acordo histórico da Meta, que aceitou pagar mais de 17 mil milhões de dólares para terminar vários processos judiciais e no qual, nesse acordo, comprometeu-se a alterar a forma como os seus algoritmos das redes sociais funcionam, indo aliás no sentido de dar mais poder às pessoas para personalizarem os seus algoritmos. Isto é, foi nos Estados Unidos, através da intervenção dos tribunais, que estas empresas se viram obrigadas a alterar a forma como os seus algoritmos funcionam. Isto significa que os Estados Unidos regulam. É um mito pensar que não regulam. Indo direto também à tua pergunta, é verdade que há modelos diferentes regulatórios, portanto, os Estados Unidos têm este que acabei de dizer, a Europa tem o seu, a China também tem o seu. Considerar-se que a inteligência artificial na China não é regulada é não conhecer nem o regime chinês, nem aquilo que está a ser feito. A China tem aprovado regulações bastante significativas na área da inteligência artificial. Para quem acompanha estas matérias, sabe disso. Em todos os espaços, com tradições jurídicas diferentes, é verdade, mas têm surgido necessidade de regular. Não é fácil regular algo que está a nascer de uma forma muito veloz e que está por desafios que são muito novos, e sobre os quais o direito precisa de tempo para pensar. E ainda bem, porque as soluções precisam de ser maturadas. Isto convida a que nas próximas cimeiras mundiais, nos vários fóruns e institutos onde os Estados se encontram, que este tema ganhe uma relevância como ganhou, por exemplo, as alterações climáticas. Estamos perante um desafio global, que só pode ser encarado, resolvido, com uma cooperação global, em que sabemos que nem todos encararão da mesma forma, nem com a mesma velocidade, mas têm de estar envolvidos no mesmo compromisso. E por isso sinto que este é o tema que deve dominar os próximos encontros internacionais, sobretudo partindo do pressuposto que é a própria indústria que está a chamar a atenção para si própria. Não é propriamente aqui uma acusação dos Estados ou da sociedade relativamente à sua atividade.

Deixa-me fazer aqui só mais uma pergunta que tem a ver com o livro que tu lançaste o ano passado, chamava-se "Algoritmocracia", foi mais ou menos há um ano, foi em novembro, creio eu.

Foi, acho que sim.

De 2025. E na altura, a tua preocupação, não é que ela se tenha perdido, mas era sobre a forma como nós estamos a deixar os algoritmos tomarem quase decisões por nós, e o risco que isso traz para as democracias liberais. Um ano depois, nós estamos a discutir uma coisa muito mais complexa e muito mais alarmista, se quiseres, do que isso. Achas que a velocidade destas coisas é tão grande que o teu livro do ano passado quase parece ingênuo à luz do desenvolvimento que as coisas tiveram?

Algumas das soluções que eu defendo no livro são aquelas que acabaram por ficar no acordo que a Meta assinou. Repara, o problema que eu levanto no livro, que é a delegação do nosso processo decisório, a delegação da nossa capacidade de olhar.

E o risco que está aqui também em cima, claro.

É no fundo a mesma coisa. Mas aí estava focado no funcionamento das democracias e a forma como o populismo se aproveita dos algoritmos, mas também no livro refiro que este problema é muito mais vasto e muito mais amplo e coloca-se nos vários pontos da nossa vida em sociedade, porque é a própria sociedade que está, por razões de eficiência e de rapidez, a exigir que os próprios Estados e as empresas e os nossos prestadores de serviços comecem a utilizar sistemas de inteligência artificial. Nós não exigimos isso expressamente, exigimos enquanto consumidores, porque queremos mais eficiência, serviços melhores, mais rápidos, e a resposta que a tecnologia está a dar é através da inteligência artificial. Por isso é que digo que nós temos, enquanto sociedade, de ter uma reflexão bastante grande sobre os limites que vamos impor a esta delegação. Muitas vezes, e eu acho que as pessoas que me fazem esse reparo têm razão, dizer que todas as revoluções tecnológicas que a humanidade enfrentou tiveram sempre grandes momentos de disrupção, tiveram sempre muita gente a dizer que vinha daí o cataclismo e o fim do mundo, e a verdade é que nada disso aconteceu. O mundo pulou sempre para uma evolução tecnológica que criou mais prosperidade. E eu acho que essas pessoas, do ponto de vista histórico, têm toda a razão. Isso foi sempre assim. Mas foi sempre assim, porque os profetas da desgraça relativamente a essas revoluções tecnológicas esqueceram-se sempre do nosso cérebro, da nossa capacidade de nos adaptarmos e fazermos mais e melhor. Ou seja, a partir do momento em que nós começamos a utilizar tecnologia, tornamo-nos mais eficientes e conseguimos produzir outras coisas e dedicarmo-nos a outras coisas. O que esta revolução tecnológica pode ter de diferente é precisamente estarmos a deixar de utilizar aquilo que sempre nos permitiu saltar para sítios melhores, que é o cérebro. É nós estarmos a delegar aquilo que de mais humano temos em nós. E a ilusão de que as máquinas, por serem muito eficientes, serão melhores decisoras nas nossas vidas, é perigosa. Acho que a encíclica do Papa é uma extraordinária, se é que posso dizer isso, quem sou eu, mas uma extraordinária reflexão sobre isto, porque corremos o risco, se acreditarmos nisso, de tornarmos a nossa vida, toda ela, subjugada a critérios de eficiência. E isso terá consequências catastróficas. Significa isto que tudo é péssimo na inteligência artificial? Pelo contrário, há coisas maravilhosas a acontecer das quais não podemos prescindir. Na área da saúde tem havido avanços extraordinários e, portanto, o ponto aqui é encontrar o equilíbrio que a sociedade mais ou menos sempre foi encontrando noutras circunstâncias, entre maximizar todas as oportunidades para mitigar todos os riscos.

Vamos ver se isso acontece. É bom haver também uma perspectiva otimista sobre estas coisas. Obrigado, Adolfo.

Obrigado eu e bom dia.

Eu conversei hoje com o advogado Adolfo Mesquita Nunes, especialista em legislação de inteligência artificial. O caso da Anthropic é exemplar do ponto de vista da tese de que devemos regular precisamente o que funciona bem na inteligência artificial. E veja-se o que a empresa admitiu. Na análise às irregularidades encontradas no desenvolvimento de novos modelos, a Anthropic admitiu ter deitado abaixo vários projetos, porque os avanços podiam ter efeitos perigosos. Sim, por um lado, poderiam dar finalmente origem a uma vacina contra doenças graves, por exemplo, mas também podiam dar origem a vírus ou outras armas biológicas. Imagine uma destas coisas nas mãos erradas. Esta foi a História do Dia, a sonoplastia do Tomás Ferreira, a música do genérico do João Ribeiro. Eu sou o Pedro Benevides. Já sabe que agora também há História do Dia aos sábados, portanto, até amanhã.