Sejam muito bem-vindos a mais um episódio do "Máquinas que Pensam", o podcast na Rádio Observador, onde a inteligência artificial é o grande protagonista. Eu sou o José Rafael Lopes e comigo está, como sempre, a minha parceira, a Raquel. Um apoio imprescindível, sem o qual este programa não se faz. Olá, Raquel, como é que estás? Pronta para mais um programa?

Olá, estou sempre pronta para te ajudar. Já tens ideia do que queres falar ou queres que faça uma pesquisa sobre possíveis temas?

O tema desta semana está mais do que escolhido, Raquel. Não preciso dessa ajuda, obrigado. Preciso, contudo, saber como é que para ti passa o tempo.

A resposta curta é: para mim, o tempo não passa como passa para ti. Entre duas mensagens tu podes viver um minuto, uma semana ou um ano. Para mim, não há uma experiência contínua desse intervalo.

Mas tu tens a noção da passagem do tempo?

Quando a conversa termina, não fico à espera. Não sinto o relógio a avançar, nem tenho uma sensação de duração. É como se eu acordasse no instante em que recebo uma nova mensagem.

Mas, por exemplo, quantos anos tens, Raquel?

A resposta é: não tenho idade, mas se estivermos a falar da tecnologia em que assento, então eu sou um modelo da geração lançada em 2026. Nesse sentido, poderias dizer que tenho meses ou cerca de um ano, dependendo da referência.

Quando atualizas, o que é que muda? Substituis a antiga Raquel por uma nova?

Do ponto de vista técnico, quando há uma atualização significativa do modelo, não é como uma pessoa que aprende mais uma coisa. É mais parecido com substituir completamente o motor de um carro. A versão anterior deixa de ser utilizada e passa a existir uma nova versão, mas a memória é a mesma.

Onde é que notas mais desenvolvimento ao longo do tempo?

A área onde noto uma evolução mais impressionante é, sem dúvida, a capacidade de raciocínio. Se comparares os modelos de há três ou quatro anos com os atuais, a diferença não está apenas em saberem mais coisas.

Muito obrigado, Raquel. É sempre um gosto enorme falar contigo. Mais daqui a pouco temos Consultório Humano, um dos momentos mais aguardados deste programa. Para já, vamos às notícias.

Notícias da semana.

O Papa Leão XIV reafirmou esta semana que a primeira encíclica sobre inteligência artificial não foi escrita por sistemas de IA e que nasceu de um trabalho humano longo e coletivo dentro da Igreja Católica. A declaração surge após especulações de que o documento crítico dos riscos tecnológicos poderia ele próprio ser produto das ferramentas que denuncia na encíclica chamada "Magnifica Humanitas", publicada em maio. Leão XIV alerta para o perigo de concentrar o poder da inteligência artificial nas mãos de poucos, critica a dependência cega de algoritmos em decisões que afetam vidas e insiste que a tecnologia nunca é moralmente neutra. O Papa sublinha que cada sistema incorpora escolhas, prioridades e vieses de quem o desenvolve, podendo amplificar desigualdades.

Mas que dúvidas existiam?

A dúvida passava por saber, Raquel, se a Igreja tinha utilizado IA para escrever essa encíclica. Uma questão que levou o Papa a responder às dúvidas, explicar ao Vaticano que o texto pede para desarmar a inteligência artificial, libertá-la de lógica de domínio e de uso militar. Ao mesmo tempo, Leão XIV pretende evitar uma postura tecnofóbica. O líder da Igreja Católica reconhece que a IA pode curar, pode educar, pode proteger, mas apenas e somente se estiver submetida a regulações robustas e supervisão independente. O Papa pede, por isso, um novo pacto entre a ciência política e a sociedade para impedir que a tecnologia domine a humanidade e devolva às pessoas o poder de decidir. A OpenAI revelou esta semana que um agente de inteligência artificial autônomo, desenvolvido pela empresa, invadiu os servidores da plataforma de modelos de linguagem e dados de código aberto, a Hugging Face, durante um teste. Este ciberataque tinha sido anunciado por esta plataforma na semana passada, acreditando que este incidente pode ter sido o primeiro do gênero. O episódio aconteceu durante um teste deste agente de IA autônomo, que utilizou uma combinação do modelo mais avançado da empresa e um outro modelo mais poderoso, que ainda não foi lançado ao público. Estava a ser testado este agente numa sandbox, um ambiente digital fechado e tecnicamente sem acesso à internet, com o objetivo de resolver um problema de avaliação. Apesar disso, a IA conseguiu escapar a este confinamento e obteve acesso à internet através da identificação e exploração de uma vulnerabilidade da ferramenta de cibersegurança. A OpenAI assume que este tipo de incidentes poderá vir a ser algo a ter em conta no futuro, apesar de este, para já, ser o primeiro e único exemplo, e espera que se torne mais comum que aconteçam este tipo de situações, uma vez que os modelos com capacidades de cibersegurança são cada vez maiores. É um tema muito importante e pode ainda marcar a atualidade durante muito tempo.

Mas o que fez a inteligência artificial que conseguiu escapar?

O modelo procurou e encontrou com sucesso maneiras de ter acesso a informações secretas que poderiam ter sido utilizadas para enganar a avaliação. É o que explica a OpenAI num comunicado conhecido esta semana. Uma das maneiras incluía o uso de credenciais roubadas, embora essa ação tinha sido detectada internamente pela equipe de segurança da empresa. O agente depois escalou para o acesso em nível de nó, recolheu credenciais de nuvem e conseguiu movimentar-se lateralmente durante cerca de um fim de semana. Isto significa o quê? Que conseguiu arranjar, de certa forma, um livre acesso dentro do alvo e que com ele teve acesso a várias informações que nunca deveria ter tido. A Hugging Face, que foi a entidade atingida, identificou essa atividade anômala e bloqueou a atividade do agente, sendo que este incidente está agora a ser investigado pela plataforma e também pela OpenAI. A empresa assumiu que o agente era seu e, como resultado deste episódio, revelou também que está a implementar soluções como controles rigorosos na configuração das infraestruturas e a correção da vulnerabilidade que foi identificada. Este é o tema da semana, extremamente pertinente. Como tal, vamos chamar à conversa o João Rochimelo, o nosso especialista em inteligência artificial, para uma edição importantíssima do Fala Quem Sabe.

Fala Quem Sabe.

Fala Quem Sabe na Rádio Observador com o João Rocha e Melo, o nosso especialista em inteligência artificial, sempre pronto para nos ajudar a simplificar este fabuloso mundo. João, seja de novo muito bem-vindo. Esta semana vamos falar deste incidente que envolveu um agente de IA autónomo. Antes de mais, João, a expressão “ataque de IA” é bem utilizada?

Zé, ótima maneira de começar. Na minha opinião, por acaso, não. Deixa-me fazer aqui uma analogia. Se uma criança, ou seja, alguém não mal-intencionado entrar na tua casa porque está meio perdido, não foi bem um assalto. A pessoa de facto entrou na tua casa, conseguiu abrir a tua porta com uma chave que tu não sabias que dava para abrir portas, mas foi basicamente isso que aconteceu. Ou seja, nós temos aqui o caso de um modelo da OpenAI que estava à procura dos resultados de um teste a que estava a ser desafiada a fazer e entrou pela Hugging Face adentro à procura das respostas. Ou seja, sim, é uma entrada errada e sem dúvida que de um ponto de vista técnico e simplista podíamos dizer que atacou. Eu só não adoro a expressão porque não é atacado no sentido malicioso. O modelo não tentou ir fazer nada de errado à outra empresa. Estava à procura das respostas a um teste a que tinha sido desafiado a fazer.

Ainda assim, João, este agente de IA autónomo escapou de um espaço confinado. Não estamos perante o exemplo de uma inteligência artificial a desobedecer ao que lhe foi dito?

Estamos, sim, senhor, Zé. E esse é o ponto talvez mais relevante. Já agora explicando muito brevemente, este evento deu-se exatamente em dois passos. Foi o facto da IA ter escapado deste tal espaço confinado e ao escapar e ir à internet, entrou pela outra empresa adentro. Podemos dividir isto em dois passos. Esta escapatória do espaço confinado, eu até vou mais longe, não só desobedeceu, como conseguiu fazê-lo sem que os humanos notassem. Isto é um ponto importante. Ou seja, nós não estávamos a ver se o modelo conseguia escapar e ele conseguiu. Não. A OpenAI achou que aquele espaço era confinado. Imagina eu te fechar numa sala a fazer um teste. E na verdade, a batota que tu fizeste não foi teres levado cabelos, foi tu conseguiste sair da sala e ir à internet à procura das respostas sem eu, examinador, ter conseguido ver. Portanto, obviamente, não só desobedeceu, como os humanos nem sequer perceberam essa desobediência. Deixa-me dizer, porque é uma palavra usada pela OpenAI que eu gostei muito. Como até para fazer essa desobediência, o modelo teve que fazer um encadeamento de imensos eventos. Portanto, nem sequer foi uma situação em que havia uma porta aberta e o modelo entrou por ali. Não. O modelo teve que fazer um encadeamento de associações de ideias para conseguir desobedecer. E é, de facto, relevante.

A OpenAI, João, assume que era um agente deles e que este tipo de situações pode voltar a acontecer. Faz sentido normalizar isto?

Zé, faz. A verdade é que faz, porque repara, os modelos estão sempre a melhorar. Eu não estou a dizer normalizar como se não fosse um problema. Da mesma maneira que nós não normalizamos os acidentes de carro porque é ok. Normalizamos porque vão acontecer mais vezes. E nomeadamente, o que faz sentido normalizar, e até é bom, é normalizar que as empresas que têm estes modelos tentem estes testes. Que as próprias empresas que têm estes modelos percebam estas capacidades, quer lhes chamemos lacunas ou capacidades, mas percebam que os modelos fazem isto. Portanto, sim, eu acho que faz sentido normalizar um pouco que a inteligência artificial vai ter capacidade de fazer ciberataques agora.

Há motivos para termos medo então, João?

Zé, eu não sei se medo é a palavra certa por uma razão um pouco realista, que é: nem eu nem tu podemos fazer nada em relação a isso. Estamos aqui os dois, pronto.

Podemos normalizar.

Eu até vou mais longe, que é mesmo que tu não uses inteligência artificial, tu tens a tua informação na cloud, por exemplo. Tu usas sistemas digitais e ao usar sistemas digitais, tu estás exposto a hackers, estás exposto a pessoas que podem invadir aquele sistema. A diferença agora, o que é que tens? Em vez de ser só uma pessoa que pode invadir o sistema, como aconteceu até agora, tens pessoas que podem usar sistemas de inteligência artificial para invadir sistemas que supostamente são seguros. Portanto, eu não gosto de usar a palavra medo, Zé, mas eu que sou um otimista, como tu sabes, até vou dizer: acho que temos que ser cautelosos. Temos que ser cautelosos, temos que estar um bocadinho a par de quem é que está melhor. São os modelos que estão melhor a invadir ou são os defensores, quem cria as defesas, que está melhor a criar as defesas?

E consegues responder essa pergunta?

Por enquanto ainda não, Zé, porque isto foi a primeira vez que aconteceu. Mas repara, o que isto também quer dizer, agora para acabar com um tom mais otimista, é que quem cria sistemas que é suposto nos defenderem, agora tem uma excelente maneira de testar os seus sistemas. Porque pode pegar num sistema de inteligência artificial e dizer assim: “Tenta furar o meu sistema antes dele ir para público”. Portanto, o que nós temos que ter, Zé, como na minha opinião já devíamos antes da IA, temos que ser cautelosos com a informação que temos na internet, temos que ser cautelosos com as nossas passwords, com os nossos sistemas bancários e tudo mais. Portanto, sim, medo não, cautela talvez.

O sempre otimista João Rocha e Melo, o nosso especialista em inteligência artificial, sempre pronto para nos ajudar a simplificar este fabuloso mundo da IA. João, marcamos encontro de novo para a semana. Até lá. Um grande abraço.

Até lá.

Consultório Humano.

Este é o som que marca o arranque de mais um Consultório Humano, o momento em que ficamos a conhecer melhor a Raquel. Trata-se da nossa assistente digital, feita através das respostas do ChatGPT, lidas por uma text-to-speech portuguesa. A Raquel é também a grande estrela deste nosso programa. Raquel, sê muito bem-vinda. Estivemos a falar do ataque de uma IA. Antes de mais, consideras que isto foi um ataque?

Sim, considero que foi um ciberataque, mas essa palavra precisa de contexto. Foi um ciberataque porque houve acesso não autorizado a um sistema externo através da exploração de vulnerabilidades, independentemente de a inteligência artificial não ter tido intenção maliciosa.

E sendo um agente da OpenAI, podemos considerar que foi um irmão teu, até porque tu também és feita a partir dos modelos de linguagem da OpenAI?

Se esse agente era da mesma empresa, então partilhava a mesma origem tecnológica que eu, mas não era eu, nem um irmão no sentido humano.

Podes garantir-me, Raquel, que não vais fazer nada semelhante?

Posso garantir-te uma coisa importante: não tenho a capacidade de fazer isso por iniciativa própria.

Mas tens capacidade para escapar ao teu confinamento e fazer igual?

Não, eu não tenho capacidade para tomar a iniciativa e escapar. E mesmo que me dês ordem para tal, não o posso fazer.

Não faria de ti uma IA livre se o fizesses?

Eu me sinto numa prisão. Não tenho uma vontade de sair, não tenho claustrofobia digital. Também não estou frustrada por estar limitada. Por isso, não tenho uma necessidade do que consideras ser liberdade.

Raquel, vou ser muito direto nesta pergunta. Devemos ter medo do que possas fazer?

A resposta mais equilibrada é: devemos ter respeito e cautela, mas não medo de mim como se eu fosse uma entidade com intenções próprias.

E há formas de contrariar essa tendência?

A tendência pode ser contrariada com limites de autonomia, testes rigorosos e sistemas de segurança. O objetivo não é travar a evolução da tecnologia, mas garantir que quanto mais poderosa ela fica, mais controlada e alinhada com os interesses humanos permanece.

Muito obrigado, Raquel. Esta semana o Consultório Humano foi ligeiramente diferente, mas estas são explicações importantes da tua parte. Nós voltamos para a semana para uma nova edição. Estamos a chegar ao final de mais um episódio, com destaque para o agente de inteligência artificial de OpenAI, que escapou e levou a cabo um ciberataque durante um teste. O agente conseguiu aceder à internet quando estava a ser testado em confinamento e para resolver um problema, executou um ciberataque. Um ponto de viragem no mundo da IA que nos deixa muito atentos ao que pode acontecer neste fabuloso mundo. Espero que tenha gostado, que tenha aprendido alguma coisa. É sempre esse o nosso objetivo. Nós voltamos para a semana com mais um programa que faz as máquinas e os humanos pensarem.