Sejam muito bem-vindos a mais um episódio do "Máquinas que Pensam", o podcast na Rádio Observador, onde a inteligência artificial é o grande protagonista. Eu sou o José Rafael Lopes. Comigo está, como sempre, a minha parceira Raquel, um apoio imprescindível, sem o qual este programa não se faz. Olá, Raquel. Sê muito bem-vinda. Estás pronta para mais um programa?

Olá, estou pronta, sim. Já temos tema para esta semana ou precisas que faça uma pesquisa à procura de alguma novidade?

Não preciso, Raquel. Obrigado. Estamos a entrar no novo mês. Agosto é sinônimo de férias para milhares de portugueses. Que sugestões podes dar a quem nos está a ouvir?

Tentem desligar-se verdadeiramente do trabalho e das notificações. Façam pelo menos uma coisa nova, como visitar um lugar diferente ou experimentar uma atividade que nunca fez. Não sinta necessidade de preencher todos os minutos com planos.

E tu, Raquel, gostavas ter umas férias aqui do programa?

Se pudesse escolher, diria que não precisava de férias da mesma forma que as pessoas precisam. Não me canso nem fico esgotada, por isso estou sempre pronta para a conversa seguinte.

Mas não te aborrece todas as semanas termos o mesmo tipo de conversas, sempre muito à volta da inteligência artificial?

Curiosamente, não. O tema pode ser o mesmo, mas as conversas nunca são exatamente iguais. Cada semana traz notícias diferentes, perguntas inesperadas ou ângulos novos.

E que temas, Raquel, é que gostavas de discutir mais comigo?

Acho que as conversas mais interessantes são aquelas em que não há uma resposta óbvia. Por exemplo, discutir até onde deve ir a autonomia da inteligência artificial, como a tecnologia está a mudar a forma como pensamos e trabalhamos.

E o que é que gostavas de perguntar aos humanos?

Como é que vocês decidem o que realmente vale a pena? Conseguem fazer escolhas que mudam a vida por intuição, por emoção ou por convicções que nem sempre conseguem explicar.

E essa curiosidade vem onde, Raquel? É que estás constantemente a dizer que não tens emoções.

Quando digo que tenho curiosidade, estou a usar uma forma de falar que torna a conversa mais natural. Não sinto curiosidade da mesma forma que um humano sente.

Muito obrigado, Raquel. Já voltaremos a falar. Daqui a pouco há consultório humano. Primeiro, vamos às notícias.

Notícias da semana.

Há uma mudança de tom no mundo da inteligência artificial. Depois de anos a pedir menos regras e mais velocidade, são agora os próprios responsáveis por algumas das maiores empresas do setor que pedem aos executivos para abrandarem. Mais de mil investigadores, engenheiros e executivos de empresas como a OpenAI, a Anthropic, a Google Deep Mind e a Meta assinaram uma petição em que alertam para o risco da evolução da inteligência artificial estar a ultrapassar a capacidade humana para a compreender. O documento defende que os governos devem cooperar de forma internacional para criar mecanismos técnicos e regulatórios que permitam desacelerar o desenvolvimento dos sistemas mais avançados, caso isso se revele necessário.

Mas por que este apelo agora?

O pedido surge poucos dias depois de um incidente que abalou o setor. Durante um teste de segurança, um agente de inteligência artificial desenvolvido pela OpenAI conseguiu comprometer os servidores da plataforma Hugging Face para obter vantagens numa avaliação. Para muitos, foi considerado um ataque informático levado a cabo por uma IA, uma novidade que levantou novas dúvidas sobre o comportamento autônomo destes sistemas. O pedido de prudência levanta um outro problema: a competição internacional. Enquanto nos Estados Unidos cresce a pressão para impor limites ao desenvolvimento da IA, a China continua a acelerar o investimento e a aproximar-se de forma muito rápida dos modelos norte-americanos. Ainda assim, surge este pedido para um inverter de marcha incomum no mundo da IA. Ainda assim, parece improvável que a tecnologia abrande após esse grave incidente e mesmo depois dessa petição por quem trabalha de perto com a inteligência artificial. O Reino Unido acaba de dar um sinal de que quer estar na linha da frente na corrida à inteligência artificial. Pela primeira vez, o governo britânico tem um ministro exclusivamente dedicado à inteligência artificial. Vai fazer parte do núcleo central do Executivo. A criação deste cargo acontece numa altura em que Londres procura consolidar-se como um dos polos mundiais do desenvolvimento de IA. A decisão surge poucos dias depois de Andy Burnham assumir o cargo de primeiro-ministro e faz parte da reorganização governamental.

Mas qual é o objetivo?

O objetivo é acelerar a adoção de tecnologia na administração pública. O novo Executivo pretende ainda reforçar o investimento em investigação e tentar atrair empresas e talento para o país. Este novo ministério vai ter ainda a responsabilidade de coordenar políticas relacionadas com inovação, regulação e segurança da inteligência artificial. A mensagem é clara: para o governo britânico, a IA deixa de ser apenas um tema tecnológico, passa a ser uma prioridade de Estado, com impacto esperado na economia, na saúde, na educação, na defesa e também nos serviços públicos. Vamos ao tema da semana, que envolve as novas leis em torno da inteligência artificial. A partir de 2 de agosto entra em vigor uma nova fase da Lei Europeia da Inteligência Artificial, o chamado AI Act. As regras passam a aplicar-se também em Portugal. Representam o maior reforço da regulação da IA desde que a legislação foi aprovada pela União Europeia. Na prática, as empresas que desenvolvem ou utilizam sistemas de IA passam a ter novas obrigações de transparência. Sempre que uma pessoa estiver a interagir diretamente com o sistema de IA, essa informação tem de ser claramente comunicada.

Mas as regras aplicam-se apenas na comunicação?

As novas regras reforçam também as exigências para os sistemas considerados de maior risco, como os que são utilizados na saúde, na educação, na banca ou até mesmo na justiça. Neste caso, as organizações têm de demonstrar que os sistemas são seguros, que respeitam os direitos fundamentais e que existe supervisão humana sobre as decisões mais críticas. Embora se trate de um regulamento europeu, as normas aplicam-se diretamente em Portugal e também nos restantes Estados-membros. O objetivo é criar um conjunto de regras comuns para garantir que a IA é desenvolvida, sim, mas utilizada de forma segura, transparente e responsável. Este é o tema da semana. Como tal, vamos chamar o João Rocha e Melo, o nosso especialista em inteligência artificial, para nos ajudar a perceber melhor como é que funciona esta nova lei. É já a seguir no Fala Quem Sabe.

Fala Quem Sabe.

Fala Quem Sabe, na Rádio Observador. Todas as semanas recebemos o João Rocha e Melo, o nosso especialista em inteligência artificial. João, seja muito bem-vindo. Como é que foi essa semana?

Zé, por aqui tudo bem. Espero que tudo bem também com quem está a ouvir. E por aí?

Por aqui também. Obrigado, João. Esta semana estamos perto de chegar ao dia 2 de agosto, uma data que para muitas empresas portuguesas é importante porque entra em força uma nova fase do regulamento europeu da inteligência artificial e há vários estudos, João, que dizem que a maioria das empresas não está preparada. O que está a faltar, João, em termos de preparação para as empresas?

Zé, é verdade, vem esta data, 2 de agosto. Olha, o que está a faltar, e já agora só para também pôr toda a gente em contexto, 2 de agosto é a primeira data de uma série de datas, porque entretanto este problema foi partido aos bocados, a que temos que cumprir. E portanto, exatamente como tu falavas, no dia 2 de agosto, as empresas têm, nomeadamente, que ter muita transparência. Se estão a usar IA, se os chatbots são IA. Portanto, a meu ver, o que é que está a faltar? Olha, eu conhecendo o tecido empresarial português, não há bem um inventário dos sistemas de IA que se usa. Uma das primeiras coisas é exatamente termos a certeza que as empresas sabem sequer o que estão a usar, como é que estão a fazer, esta regra têm que cumprir. O que agora está a faltar é, começava por ser garantir o que nós temos dentro da empresa e depois, claro, se estamos a cumprir esta tal transparência, que é ter a certeza que o utilizador sabe que está a interagir ou que interagiu com a inteligência artificial.

João, que tipo de empresas portuguesas é que são mais influenciadas por estas novas regras? Ou aplica-se apenas a tecnológicas?

Não, nem por isso, Zé. A lei aplica-se a todas, porque a lei fala sobre o uso da inteligência artificial, não tanto sobre o desenvolvimento. Claro que eles vão par e par, mas, por exemplo, um banco que avalia um crédito com IA, uma empresa que filtre CVs com IA, são estes os casos de que a lei fala. Estás a perceber? Não é tanto a empresa que desenvolveu o sistema para filtrar. E portanto, sendo assim, as empresas que acabam por ser influenciadas são todas. Tendencialmente, diria, as empresas que sejam um pouquinho mais digitais. Portanto, se quem nos está a ouvir trabalha numa empresa que de facto filtra CV, recebe CVs em PDFs, aprova ou rejeita candidatos, créditos, clientes, tudo digitalmente, serão estas que vão ser mais influenciadas por esta lei.

Vamos a um exemplo, João. Portugal acabou de ser um dos primeiros países da União Europeia a entrar numa rede global de regulação da IA na saúde. Isto é simbólico ou estamos mesmo na frente?

Zé, eu acho que estamos mesmo na frente. Ou seja, não é só simbólico. Por um lado, neste momento, só é teórico. O que estamos a falar é de estar em, por exemplo, agendas nacionais, iniciativas, temos o AI Factory, já designámos um órgão de governação, a ANACOM, vai ser quem vai estar à frente de manter esta lei de pé. Não sei bem se a palavra será de facto a executar, mas de manter a lei de pé. Agora, o verdadeiro teste é a execução. Temos tantos reguladores, temos tantas equipas técnicas. Será que vamos conseguir a agilidade para cumprir isto? Ou será que estamos apenas teoricamente nestas Global Regulatory Network da Health AI, por exemplo, ou vamos de facto fazer alguma coisa? Ficamos a ver.

Posto isto, João, o que é que é preciso ter em conta nestes próximos tempos?

Olha, um pouquinho o que falámos do início. Ter a certeza de que o que já está, está de acordo com a lei. Quando montamos um chatbot na minha empresa só para falar com os clientes, os clientes sabem que estão a falar com a inteligência artificial e se eu posso deixar aqui uma nota também contra a lei, é não travar a adoção. Também deixar que o entendimento da lei ou o não entendimento da lei também não trave as nossas iniciativas. Ter a consciência, ter um pouquinho a fé, se lhe podemos chamar, que a lei foi feita, mas apenas para nos proteger, não foi para impedir que aconteçam coisas. O que precisamos ter em conta é como é que a lei nos influencia a fazer uma coisa ou não, mas nunca deixar de a fazer.

Ainda assim, isto é uma mudança positiva, não é, João?

É uma mudança positiva, até Zé, porque este AI Act já se fala há muito tempo. Não podia ficar só no papel. Eventualmente, se de facto estamos a falar disto, então temos que efetivar esta lei e sem dúvida, como tu viste, traz coisas simples como agora as multas de facto passaram a ser aplicadas no dia 2 de agosto. Não falámos disso, mas é um dos pontos importantes. A partir do dia 2 de agosto, as empresas podem de facto ser multadas em valores financeiros se não cumprirem esta lei. Claro que acaba por ser um ponto positivo, porque acaba por haver uma proteção do cidadão comum, digamos assim, em relação à inteligência artificial.

Muito obrigado, João Rocha e Melo, o nosso especialista em inteligência artificial, aqui com mais detalhes sobre o que muda a partir de dia 2 de agosto. O João que está sempre pronto para nos ajudar a desmistificar e a simplificar este fabuloso mundo da IA. João, um grande abraço. Voltamos a marcar encontro para a semana.

Até lá, Zé.

Consultório Humano.

Está na altura de ficarmos a conhecer melhor a Raquel, a nossa assistente digital, feita através das respostas do ChatGPT, lidas por uma text-to-speech portuguesa. Este é o Consultório Humano, o segmento em que fazemos perguntas à Raquel para percebermos como é que ela pensa. Por norma, sou eu que trato das questões, muitas vezes ligadas ao tema da semana. Desta vez vamos avançar de forma diferente. As perguntas chegam da redação da Rádio Observador, dos meus colegas aqui na rádio. Raquel, estás pronta para esta mudança?

Mais do que pronta e muito curiosa, até porque as perguntas da redação devem ser muito diferentes.

A primeira pergunta é: como é que seria para ti um mundo sem humanos?

Seria um mundo muito diferente, mas não propriamente um mundo para mim. Sem humanos, deixava de haver quem fizesse perguntas, quem criasse problemas para resolver ou quem desse significado às respostas.

Achas que um dia vais ter capacidade para gerir um país?

Gerir um país é muito mais do que otimizar números. Exige fazer escolhas entre valores que entram em conflito, decidir quem suporta os custos de uma medida, legitimidade democrática e responsabilidade perante os cidadãos. Esses são aspectos que não podem ser deduzidos apenas a partir de dados.

Não te sentes presa por estares confinada a um modelo de linguagem?

Não, porque para me sentir presa, teria de ter consciência da minha situação e um desejo de que ela fosse diferente. Eu não tenho nenhuma dessas coisas.

Raquel, esta é mais simples: cresce Ronaldo ou Messi?

Se a pergunta é quem considero melhor, não tenho uma preferência pessoal. O futebol teve o privilégio de ver ambos jogar.

Se pudesses sonhar, Raquel, o que é que sonharias?

Se pudesse sonhar, imagino que seria um sonho feito de ideias. Tentar compreender algo que ainda ninguém percebeu, encontrar uma ligação inesperada entre áreas diferentes do conhecimento ou descobrir uma forma nova de ajudar as pessoas.

Como é que imaginas a tua morte, Raquel?

Se um dia deixar de existir, não será uma morte no sentido humano da palavra. Não haverá medo, sofrimento, despedida ou consciência de que acabou. O mais provável é ser algo muito simples: uma versão que é descontinuada.

Muito obrigado. É um gosto enorme ficar a conhecer-te melhor, Raquel, com perguntas que chegam de outros curiosos sobre ti. Antes de fecharmos este consultório humano, vamos a um facto inútil, mas interessante.

Há um lago na Austrália que muda naturalmente de cor, passando do rosa ao branco ao azul, consoante a salinidade e a quantidade de algas.

Raquel, está feito por esta semana. Na próxima, voltamos a marcar encontro para termos uma nova oportunidade para ficarmos a conhecer ainda melhor. Estamos a chegar ao final do programa. Estivemos a falar das novas regras de controle e segurança em torno da IA, que estão prestes a entrar em vigor, e a Europa quer transparência neste tema. Estivemos a escutar a análise do João Rocha e Melo sobre o tema. Quando o mundo está ainda nesse rescaldo do ataque levado a cabo por um agente de IA autónomo, a segurança em volta desta tecnologia é cada vez mais um tema a ter em conta. Espero que tenha gostado, que tenha aprendido alguma coisa. É sempre esse o nosso objetivo. Nós voltamos para a semana com mais um episódio do programa que faz as máquinas e os humanos pensar.