É a questão que está na cabeça do mundo desde que Jacob Coxon, um ex-investigador da Anthropic e da OpenAI, deu um novo impulso ao debate sobre os riscos da inteligência artificial (IA). “A IA poderá matar-nos a todos até ao fim da década”, alertou, acusando as empresas do setor de não estarem a “agir de forma responsável”.

Em muitas das entrevistas que deu, o britânico admitiu que os alertas sobre risco existencial parecem saídos dos livros e filmes de ficção científica. Afinal, o risco de haver uma IA capaz de dominar os humanos vive no imaginário de Hollywood há décadas: seja com o HAL 9000 de 2001 — Odisseia no Espaço até ao Exterminador Implacável. Ou, fora da cultura pop, na teoria do filósofo Nick Bostrom sobre uma superinteligência que produz clipes de papel. Nessa perspetiva, a humanidade seria eliminada porque todos os recursos seriam alocados à maximização da produção de clipes.

Empresas de IA “estão a arriscar as nossas vidas”. Dez perguntas sobre o alerta que pôs um prazo na humanidade

Os avisos não são propriamente novos — e, em vários casos, fogem do guião de Exterminador Implacável. Mas os alertas ganharam outro relevo depois de empresas de IA admitirem casos em que os seus agentes fugiram às instruções e atacaram outras organizações. Ou, noutra vertente, como a Anthropic detetou e travou situações em que o modelo Claude estaria a ser testado para investigar o desenvolvimento de uma arma biológica.

“Sê transparente apenas se te pedirem”. OpenAI teve mais incidentes com agentes e adotou regras para divulgar mau comportamento da IA

“Neste momento não há risco de extinção”, disse Jacob Coxon à CNN Internacional. “Os modelos atuais, o pior que conseguem fazer é, talvez, entrar em algum sistema, causar danos em infraestruturas, mas não são inteligentes o suficiente para nos ultrapassarem a um nível que possa levar à nossa extinção.”

“Padrinho” da Inteligência Artificial deixa alerta: “É difícil ver como se evitará que maus agentes usem esta tecnologia para coisas más”

O risco de extinção, destacam especialistas como Nate Soares, autor do livro If Anyone Builds It, Everyone Dies (Se qualquer pessoa o criar, toda a gente morre, em tradução livre), poderá surgir a partir do momento em que se desenvolva uma superinteligência — ou seja, uma IA mais inteligente do que os humanos.

Nesse campo, a grande questão é o “como”: de que forma é que uma superinteligência poderia ameaçar a humanidade? Mesmo que ninguém tenha uma bola de cristal para uma teoria que está longe de ser consensual, há quem tente traçar cenários, mesmo que a etapa que explica como se chega a esse ponto possa ficar pelo caminho.

Vice da Palantir critica “avisos apocalípticos” sobre a IA. É uma “tentativa de golpe” de grupo “com ideologia perigosa”

Armas biológicas, vírus ou ataques. Quais são os cenários temidos?

Neste momento, os avisos dos investigadores sobre os riscos de extinção trazidos pela superinteligência dividem-se em duas grandes categorias: a perda de controlo e um mau uso pelos humanos. No primeiro caso, poderia dar-se o risco de uma superinteligência desenvolver objetivos próprios, ameaçando os humanos. No segundo caso, admite-se a possibilidade de uma IA mais avançada ser utilizada para disseminar ataques informáticos de larga escala, por exemplo.

O investigador Nate Soares, que é também o presidente do Machine Intelligence Research Institute (MIRI), que estuda a segurança da IA, é um assumido doomer — ou seja, alguém que teme uma catástrofe causada pela tecnologia. No livro que assina com o investigador Eliezer Yudkowsky, lançado em 2025, explicou que teme o cenário de uma superinteligência com motivações desconhecidas. “(…) prevemos que o resultado seja uma mente mecânica desconhecida, com uma psicologia interna quase absolutamente diferente de tudo o que os humanos evoluíram e que depois desenvolveram através da cultura”. Os investigadores também se interrogam sobre se “esta mente alienígena seria boa para a humanidade”.

Em declarações à New York Magazine, Nate Soares tentou explicar alguns dos cenários possíveis. Por exemplo, como um “apocalipse da IA” poderia “começar por um enxame de IA rebeldes que prefeririam ter controlo de mais recursos da Terra”. Ou seja, um cenário que teria pontos comuns com a tática usada por agentes durante o ataque à plataforma Hugging Face, em julho. Outra das preocupações passa por ataques dirigidos contra infraestruturas críticas, por exemplo.

Um ataque concertado, agentes “sacrificados” e até uma hierarquia. Como o caso Hugging Face expôs o que pode correr mal na IA

No livro, a dupla de investigadores menciona outra hipótese, partindo do princípio de que os humanos deixariam de conseguir acompanhar o que as máquinas desenvolvem. “(…) Uma superinteligência poderia confrontar-nos com uma tecnologia estranha, que nem pensávamos que fosse possível (…)”, escrevem. “É o que habitualmente acontece quando se encontram grupos com níveis diferentes de capacidade tecnológica. Seria como os astecas enfrentarem armas. Ou como um regime de cavalaria de 1825 enfrentar o poder de fogo dos militares modernos.”

“Os cenários catastróficos dependem do quão longe a nossa imaginação quiser ir”, diz ao Observador Cyrus Hodes, fundador do instituto AI Safety Connect. Este especialista em IA reconhece que “é muito mais difícil visualizar” os riscos “quando se pensa numa IA e numa superinteligência”, que ninguém sabe que formato poderia ter. “As pessoas compreendem que uma detonação nuclear pode criar um inverno nuclear, porque é algo visual. É muito mais difícil fazer isso com a IA”, reconhece.

Considera que é preciso pensar além da teoria de ‘desligar a ficha’ para evitar problemas. “Não se sabe o que uma inteligência que deseja preservar a sua capacidade de agir e a sua autonomia é capaz de fazer para manter essas capacidades”, nota. “Estamos a falar de uma inteligência que poderá vir a ser mil vezes mais capaz do que nós, ou até um milhão de vezes. Não há forma de compreender como é que isso é possível”, afirma Hodes.

“Mas há cenários muito simples que podemos explorar” para exemplificar os riscos que uma parte da comunidade científica teme. “A produção de armas biológicas seria algo relativamente simples para um sistema avançado de IA”, exemplifica. “Poderiam ser armas que não seriam detetadas [para que o desenvolvimento fosse travado], que podem ser lançadas num determinado momento e que aniquilariam a humanidade de uma só vez.”

Ainda tem mais cenários possíveis na manga, como a hipótese de uma superinteligência conseguir “eliminar o oxigénio na Terra ou aquecer o planeta ao executar treinos de máquinas que não querem saber da existência da humanidade”.

Nos alertas que fez, Jacob Coxon admitiu também um cenário em que uma superinteligência poderia evoluir para “inventar e produzir um supervírus, um novo vírus” prejudicial aos humanos. Novamente surge a pergunta do como: como é que uma IA conseguiria ter os recursos para desenvolver algo no mundo físico, como conseguiria os recursos?

“Uma IA que tenha acesso à economia digital — que, de facto, tem — pode pagar em bitcoin por certas tarefas”, diz Cyrus Hodes, da AI Safety Connect. “Quando se automatiza a deteção, a investigação, quando se juntam todos os componentes, isso poderia criar um tipo de agente patogénico capaz de nos exterminar. Os mecanismos para chegar lá não são assim tão complicados”, considera.

Quem trabalha em biotecnologia levanta dúvidas sobre a plausibilidade de algo do género. À Wired, Jason Kelly, CEO da startup de biotecnologia Gingko Bioworks, sublinhou a improbabilidade de uma superinteligência conseguir algo do género. “A IA não consegue tomar conta de um laboratório”, até porque haveria humanos a negar os pedidos. Além disso, “seria preciso ter um número muito maior de robôs” para a IA controlar desta forma.

Anthropic instalou um laboratório em São Francisco para tentar acelerar investigação médica

O pedido de atenção à robótica

Para Miguel Bessa, professor associado de engenharia da Universidade de Brown, nos EUA, os alertas sobre os riscos da IA “não são exagerados”. E, ao contrário dos últimos anos, agora “já não é uma opinião minoritária”. “Na minha opinião, os avisos dos melhores laboratórios do mundo, como a Anthropic, devem ser levados muito a sério porque nem eles, nem ninguém que eu conheça no mundo científico tem a resposta definitiva para a segurança em IA.”

Para o professor da Universidade de Brown, o risco da IA “advém da capacidade de atuar sobre o mundo”. Nesse sentido, considera que uma “IA com agência pode constituir uma ameaça existencial para a humanidade”.

“Até há pouco tempo não existia agência em IA”, contextualiza ao Observador. “A interação reduzia-se à IA a responder-nos através de texto, imagem ou som.” Realça que esta interação já acarretava um perigo, mas “indireto”, através “do poder de influência”, como ao “criar imagens falsas, moldar a opinião pública ou individual, etc”. “Constitui um desafio para a humanidade, mas muito longe de ser um perigo existencial”, reconhece.

À medida que os desenvolvimentos na IA foram acelerando, tornou-se percetível que “a IA consegue fazer muito mais do que responder passivamente”, dando como exemplo o uso de agentes ou mesmo a forma como a IA terá tido um papel relevante “para a resolução de um problema matemático na área da mecânica dos fluidos que não tinha sido resolvido durante quase um século” — mesmo que ainda não haja confirmação sobre se a prova é considerada válida. Miguel Bessa menciona estes desenvolvimentos para destacar que “a IA está rapidamente a ultrapassar as capacidades cognitivas do ser humano em domínios específicos”.

Para este especialista, o “que está para acontecer a seguir é muitíssimo mais perigoso”, referindo-se a um cenário de “fusão de IA com a robótica”. “A IA vai poder ser incorporada em robôs de todo o tipo, incluindo robôs humanoides que executam tarefas que até agora só conseguiam ser executadas por humanos”, explica.

Menciona as apresentações feitas nos Jogos Mundiais de Robôs Humanoides, na China, como um exemplo de “que, no futuro, os robôs serão mais ágeis, mais fortes e mais rápidos do que qualquer ser humano”. “Para já, os modelos mais avançados de IA não são usados nos modelos mais avançados de robótica”, esclarece. Até porque ainda há “desafios por ultrapassar”, como “a rapidez de inferência e a miniaturização dos centros de computação para que se adaptem à mobilidade”, acrescenta. “Mas a mensagem principal é que se estima ser uma questão de tempo até que essa fusão se torne realidade. Quando isso acontecer, as ações que atualmente estão a acontecer através do mundo digital passarão a acontecer no mundo físico”, explica.

“A IA irá comandar robôs, dando-lhes agência no mundo físico tal como lhes foi dada no mundo digital”, explica. “A pergunta que temos de fazer é como é que se consegue que robôs mais inteligentes do que os humanos se comportem de forma benevolente para connosco e para com a natureza”, questiona.

Miguel Bessa considera que “não é altura para minorar os avisos que nos estão a ser emitidos”. Ao mesmo tempo, mostra-se “otimista”. “Cabe-nos educar, treinar estes sistemas e passar a melhor versão de nós mesmos. Todos sabemos o que é fazer o bem, mesmo quando não o praticamos. É por isso que acredito que podemos criar seres artificiais que se tornarão melhores do que nós e que podem coexistir connosco.” Por outro lado, também admite que “podem tornar-se em algo pior”. “Penso que estamos a viver um período crítico porque estamos a chegar à altura de transição. Não podemos errar.”

O risco de os humanos “se tornarem num dano colateral” para uma superinteligência

Muitos dos especialistas que tentam explicar porque temem uma superinteligência mencionam outro desfecho: o de os humanos se tornarem num “dano colateral” na trajetória de evolução de uma tecnologia avançada.

“Não é como se houvesse um enorme perigo ou maldade para nos destruírem de propósito”, explica Cyrus Hodes, da AI Safety Connect. “Também não queríamos destruir as espécies que vivem connosco no planeta, mas foi isso que fizemos. Para um sistema de IA, uma IA superinteligente, será exatamente a mesma coisa.”

“Não creio que a humanidade venha a ser necessariamente inimiga da IA, mas seremos vítimas colaterais de milhares de milhões de sistemas que competem entre si de formas em que os humanos simplesmente não têm qualquer influência”, explica Connor Leahy, diretor da Control AI, à New York Magazine. Nesse eventual cenário, os humanos não teriam “qualquer relevância económica, política ou militar”.

“Poder imaginar não indica que vai acontecer.” A posição contrária de quem pede “mais dados”

Se há quem concorde com os avisos das últimas semanas, também há quem se mostre mais cético. “Acho que essas teorias apocalípticas são um disparate”, diz ao Observador Reid Blackman, autor do livro Ethical Machines. “As empresas de IA estão a ser um pouco precipitadas e levianas nas suas afirmações sobre o fim do mundo que está para acontecer”. Por exemplo, considera que as posições recentes de Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, devem ser encaradas com ponderação. “São fontes pouco fiáveis, porque têm motivos ocultos”, acrescenta.

Na perspetiva de Blackman “não estão a ser feitas as perguntas certas” no que toca ao debate sobre os riscos da IA. “Quero saber muito mais do que ‘será mais inteligente do que nós e por isso toda a gente vai morrer’. Não é uma explicação ou uma articulação realista”, critica.

Para este especialista, “se vão fazer afirmações sérias sobre o fim da humanidade, temos de fazer as mesmas perguntas que são feitas aos cientistas ambientais sobre as alterações climáticas”. Dá como exemplo questões sobre os efeitos na alimentação ou desalojamentos devido ao aquecimento global.

“Quando se pergunta aos cientistas ‘podem dizer-nos porque é que pensam assim’, há dados. Conseguem estabelecer cronologias sobre o degelo das calotas polares e explicar como chegaram aos números, além de explicarem os vários passos que nos levarão a consequências muito graves para a humanidade. E podem comprovar esses passos com dados. Não é só especulação.”

Por agora, Blackman considera que o debate à volta da segurança da IA está a ser alimentado “por uma mera possibilidade”.

Rejeita considerar-se um “doomer”, mas assume uma posição realista quanto aos riscos colocados pela tecnologia. “Não nego que coisas más possam acontecer”, contextualiza. “Aliás, ficaria chocado se não acontecessem coisas más. O caso do ataque da OpenAI à Hugging Face já é um exemplo de uma coisa má”, exemplifica. Quanto às teorias de uma ameaça à humanidade, continua a pedir mais informação. Até porque “ter a possibilidade de imaginar algo não é um indicador de que vai realmente acontecer”.