Mais uma semana, mais um "Máquinas que Pensam", o programa mais artificial da rádio portuguesa. Já sabe que é por aqui que mergulhamos neste mundo fantástico, curioso, assustador da inteligência artificial. Eu sou o André Maia, sou o vosso humano de serviço e comigo está, como sempre, a Raquel, a nossa assistente digital. Olá, Raquel, como é que vai isso?

Olá, André. Vai-se andando e tu? Pronto para mais um programa?

Sempre pronto. E temos muito que falar esta semana, desde uma queixa por uso de inteligência artificial na Justiça portuguesa até a um Jesus Cristo artificial. E não, não nos esquecemos, claro, daqui a nada também vamos descobrir qual das vozes de Elon Musk era real e qual era artificial. Mas antes disso, vamos às novidades. São estas as principais notícias da semana no mundo da IA.

Notícias da semana.

O termo Deus ex machina nunca fez tanto sentido. Por vezes falamos das profissões que podem desaparecer com a inteligência artificial e pensamos em engenheiros, em criativos, em muitas profissões, mas não pensamos em padres. Ora, talvez isso agora mude, porque na igreja mais antiga de Lucerna, na Suíça, foi instalado num confessionário um Jesus Cristo feito com IA.

Mas as pessoas podem confessar-se a esse Jesus artificial?

Sim, Raquel, aliás, a ideia é mesmo essa. Os crentes que quiserem, só têm de entrar no confessionário e vão ouvir a frase: "Que a paz esteja contigo, irmão". A partir daí, o Jesus de IA, se é que assim podemos chamar, faz algumas perguntas sobre o que está a perturbar quem está do outro lado. Este filho de Deus artificial foi criado pelo Laboratório de Investigação de Realidades Imersivas da Universidade da Lucerna, sabe falar mais de 100 línguas e foi treinado com as escrituras sagradas e textos religiosos da internet. Agora, se faz milagres, essa parte acho que já não. Mantemo-nos mais ou menos no mesmo tema. Não é bem religião, mas a OpenAI, criadora do ChatGPT, vai financiar um estudo sobre a moralidade na inteligência artificial.

E qual é o objetivo disso, André?

Olha, pode ser o ponto de partida para um projeto que a OpenAI já tem interesse há algum tempo: criar uma espécie de ChatGPT da moralidade. Dizem que há um potencial tremendo da IA para servir como um GPS moral para ajudar os humanos a fazer os melhores julgamentos. Por enquanto, faz-se apenas o estudo e vai ser financiado em um milhão de dólares. Fora de julgamentos morais, passamos para julgamentos judiciais. A grande notícia desta semana sobre inteligência artificial envolve a Justiça portuguesa. É verdade. Três juízes desembargadores do Tribunal da Relação de Lisboa estão a ser acusados de terem redigido um acórdão com a ajuda da inteligência artificial. Falamos de um caso que envolveu dirigentes partidários e a Santa Casa da Misericórdia de Lisboa por suspeitas de participação econômica em negócio e abuso de poder.

Mas de onde é que vêm as suspeitas do uso de inteligência artificial, André?

Ora, os advogados de defesa falam de três pontos: um, expressões estranhas mencionadas no acórdão; dois, português pouco cuidado; e três, citações de artigos inexistentes na lei. Diz que são feitas apenas considerações genéricas ao caso e que são citados artigos que não existem e expressões pouco usadas em textos de decisões judiciais, como doutrina penal. Ora, os juízes negam o uso, mas será que há uma forma eficaz de descobrir o que é ou não gerado por IA? E afinal, um texto mal escrito é sinônimo de inteligência artificial? É isso que vamos perceber com o nosso especialista em IA, o João Rocha e Melo. É mais um.

Fala quem sabe.

Fala quem sabe, e quem sabe, como sempre, é o nosso João Rocha e Melo, especialista em inteligência artificial. João, bem-vindo. Desta vez, não estamos no "Justiça Cega", da Rádio Observador, mas vamos falar de Justiça aqui no nosso podcast. Isto por quê? Alegadamente, terá sido usada inteligência artificial num acórdão, sendo que as alegações de que este acórdão tem partes escritas por IA vêm aqui do fato de citar artigos que não existem. A escrita em português também não é perfeita. Parece que à medida que o tempo passa, quando vemos agora um texto que não está em português perfeito, vamos assim dizer, parece que suspeitamos logo que isto pode ser IA. A minha pergunta é: se um texto mal escrito é sinônimo de inteligência artificial, isto significa que a IA ainda é falível e ainda conseguimos, neste momento, perceber o que é real e o que é artificial?

Claro. André, não, não tem tanto a ver diretamente com a IA ser falível ou não. Temos que pensar que a IA é falível como uma pessoa pode ser falível. O que acontece muitas vezes é, tu também consegues distinguir que um texto é escrito por uma pessoa ou por outra. Certo?

Certo.

É exatamente isso. Ou seja, aqui, neste caso, o que aconteceu foi um fenômeno chamado uma alucinação. Uma alucinação é quando o modelo prevê, faz a computação para prever qual é a próxima palavra, portanto, tudo funcionou, mas calculou mal. Portanto, enganou-se a fazer as contas.

Aquilo de que falámos na semana passada também pode ser considerado uma alucinação?

Também, exatamente. O que o Gemini fez na semana passada.

De insultar.

Exatamente. É uma alucinação. Aqui explicando um bocadinho como a alucinação pode funcionar. Imagina, o que tu querias dizer era: "Eu vou pintar o carro de verde usando tinta verde". O que acontece se te enganares a meio da geração e disseres: "Eu vou pintar o carro de azul, usando tinta azul". Ele vai continuar a mentira, digamos assim. E é exatamente esta má previsão que acontece uma, duas, em três palavras, que depois começa a gerar toda esta confusão. Repara, imagina que a geração de texto, eu agora não tenho aqui de cor o texto, mas imagina que a geração de texto foi que o artigo 44, e nós agora sabemos que o artigo 44 não existe. O número 44 existe. A palavra artigo existe. Ele faz é uma geração errada de qual é a palavra mais provável para pôr.

E a partir daí vai e alimenta essa mentira.

Exatamente. E a partir daí alimenta essa mentira.

Olha, olhando aqui para a parte mais ética, nós usamos inteligência artificial para escrever e-mails, copies, textos, até mesmo instruções para o trabalho, e está tudo bem, até um certo limite, claro. Pergunto se não podemos também confiar nele na Justiça, porque há muitas pessoas que agora estão a dizer: "Então, mas estão a usar inteligência artificial, um tema tão sensível". Nós podemos usar IA ou devemos usar IA numa área tão sensível como esta? Faz sentido pormos isto nas mãos, uma coisa tão importante nas mãos da inteligência artificial desde já?

Claro. Imagina, André, e toda a tecnologia, não só a inteligência artificial. Eu, pelo menos, sou da opinião que a tecnologia deve ser introduzida de uma forma faseada. Portanto, saltarmos logo para um tema tão importante como a Justiça Pode ser aqui um pouco debatível.

Se calhar até se pode usar na justiça, mas noutra área que não a produção de um acórdão.

Claro, e acima de tudo, nunca sem revisão. Repara, nós estamos a falar muito aqui de IA, mas nós quase que podemos trocar a IA aqui por uma pessoa. Tu confiarias na memória de uma única pessoa, sem essa pessoa ter ido consultar nenhuma bibliografia, tu confiarias na memória dessa pessoa para escrever um acórdão na íntegra?

Diria que não.

Não, por muitas credenciais que essa pessoa tivesse, há aquela atitude de "deixe-me só ir verificar". A meu ver, se, atenção, isto foi alegadamente, se a IA de facto foi usada, eu acho que aqui o erro é esse, não é o confiar na IA, mas é confiamos tanto nisto sendo uma fonte de informação e não houve uma revisão. Isso é que acabou por ser o grave.

Claro. João, em Portugal há algumas diretrizes oficiais sobre o uso de ferramentas de IA na justiça, por exemplo, na justiça ou em algumas áreas?

Claro. Já saiu, André, não é diretamente só para Portugal, mas saiu o European AI Act.

Sim, nós falámos daquilo há bocadinho.

Exatamente. E nessa primeira lei, uma das coisas mais específicas, porque como sabes, as leis são só para quem entende, mas uma das coisas mais específicas foram os diversos níveis de risco de aplicações. Há aplicações que são, de facto, proibidas. Temas como a justiça, educação, recursos humanos, infraestruturas essenciais, mas neste caso, a justiça, caíram numa categoria chamada high risk, alto risco.

Lá está.

O que isto quer dizer? Não é proibido, não, mas para as fazeres tens que cumprir certas, eu não quero bem dizer regulações, mas tens que cumprir certas exigências. Tudo tem que ficar registado quando usas. Estás a perceber? Há algumas regras que se vais usar IA nesta indústria, tens que fazer as coisas de certa maneira.

João, para fechar, e eu já falei sobre isso aqui, até foi num dos últimos episódios. Já há sites que conseguem detectar se alguma coisa foi escrita pelo ChatGPT. Nas escolas também já usam algumas ferramentas para detectar a geração de texto, os plágios também, antigamente também já se fazia. É fácil para uma máquina, pelo menos para nós humanos também já percebemos que de vez em quando conseguimos detectar. Mas para uma máquina é fácil detectar o que é IA e já agora pergunto se isto pode ser um bom mecanismo de segurança.

Claro. André, repara, não é fácil no sentido de, por exemplo, como deixas uma marca d'água numa imagem. Isto não existe em texto, aliás, até porque tu podes ler o texto e a seguir copiá-lo à mão e escrevê-lo tu. Estes modelos de detecção de IA, o que fazem é, estatisticamente, veem: este texto usa palavras, tem expressões, está escrito de uma maneira que é muito típica de modelos de IA. Portanto, acaba por ser, mais uma vez, uma coisa probabilística que diz: "eu acho que isto foi escrito em IA pelas palavras que usaram". Eu agora até te digo, não me recordo da palavra em si, mas até te digo que houve um gráfico interessante que apareceu e que houve uma palavra específica que começou a aparecer em todos os resumos, no abstract, dos artigos científicos. A partir do momento em que o ChatGPT saiu, houve uma palavra específica que teve um aumento exponencial, portanto, claramente porque é uma palavra que os modelos de IA usam e que os humanos não usam tanto.

Claro.

E são essas informações que estes detectores de IA acabam por usar.

João Rochimel, obrigado. Para a semana voltaremos com mais um tema. Espero que já não tenha justiça aqui a meio, senão o Luís Rosa vai começar a ficar invejoso do nosso programa. Espero também que a tua opinião não tenha sido escrita por ChatGPT ou nada dessas coisas.

Ainda não, André.

O que não foi feito por ChatGPT é uma das vozes que vamos ouvir já a seguir. Vamos ao real ou artificial.

Real ou artificial.

Todas as semanas eu chego a esta parte e é um entusiasmo. Será que os ouvintes acertaram? Será que perderam? Já sabe como é, no real ou artificial, vai ouvir sempre dois sons, um é verdadeiro, é real, o outro é gerado por inteligência artificial. Só tem de perceber e adivinhar qual é o som verdadeiro. Ora, na semana passada tivemos a voz de Elon Musk, que eu admito, não é uma voz superconhecida, mas pelos gestos vamos começar a ouvi-la mais. Ora, vamos lá voltar a ouvir as duas hipóteses e esta era a primeira voz de Elon Musk.

So I think we should be cautious with AI and I think there should be some government oversight because it's a danger to the public.

E esta era a segunda voz.

It's insane. I tried having one talk like me, except it started quoting The Matrix and saying things like the future of humanity is powered by chocolate. So now I'm questioning my entire existence.

Dois Elon Musk, qual será o verdadeiro? Vamos então à nossa sondagem no Spotify, como sempre, e obrigado a quem votou. Esta semana ficou muito renhido. Ora, 56% dos nossos ouvintes acha que a voz real era a primeira, o que significa que 44% acha que a voz real era a segunda. 56 primeira, 44 segunda. Ora, a grande vencedora, a voz real e verdadeira de Elon Musk era, tambores, a primeira! Eu já não tenho palavras. Eu ando a escolher muito mal as vozes e ando a escolher vozes muito fáceis ou não sei. Parabéns, acima de tudo. Já estamos a dar goleada às máquinas. Sim, senhor, está certíssimo. E eu noto uma evolução. Na primeira temporada do Máquinas, por exemplo, a inteligência artificial ganhou no fim, não sei se lembra, mas nesta segunda temporada estão os humanos na frente. Muitos parabéns. Ora, esta semana mo-mantemo-nos na América, mas com uma voz mais conhecida. É um dos apresentadores de televisão mais mediáticos de todo o mundo. Apresentou os Oscars nos últimos anos, é anfitrião de um dos mais famosos talk shows a nível mundial. Falamos de Jimmy Kimmel. Ora, já sabe as regras. Vamos ouvir duas vozes de Jimmy Kimmel. Só tem de escolher aquela que acha verdadeira. Está pronto? Não? Ok, pronto, nós esperamos. Não, a sério, nós esperamos. Esteja à vontade, então. É essa. Já está? Então vamos lá. Esta é a primeira voz de Jimmy Kimmel.

I like to call her America's favorite dancing mime. She's the only woman I know who can wear a suit and sneakers, and yet somehow people still call it fashion. I mean, let's be real. Half the time she looks like she's about to referee a game of high school basketball.

E esta era a segunda voz.

Are we here to pay tribute to George's enormous and impressive body of work? Or is it possible that this dinner, this show, this whole organization, is a ruse concocted by the world's most diabolical prankster to get all his friends in one room to do something horrible to us?

Duas vozes de Jimmy Kimmel. A pergunta a que todos querem a resposta é: qual é a verdadeira? É votar e esperar para a semana. Já sabe, vote na nossa sondagem no Spotify. Para a semana trazemos a resposta certa. Agora, não esperemos mais, é pela sugestão de A deste episódio. Vamos a:

Máquina da Semana.

A sugestão desta semana pode vir já um bocadinho tarde, mas mais vale tarde do que nunca. Eu sei que a Black Friday foi esta sexta-feira, mas a verdade é que a maioria das lojas continua com descontos por mais uns dias. Por exemplo, na segunda-feira há a Cyber Monday. São modernices. Para evitar que faça maus negócios e caia em falsos descontos, o grupo Consumers Trust criou o site naosejaspato.pt. Eu adoro o nome, já agora, e o design do site está muito giro. Isto é o quê? De certeza que vai encontrar muitas marcas, muitas lojas também que não conhece muito bem. Antes de arriscar com elas, pesquise o nome da marca neste site e ele diz-lhe se a marca ou loja é de confiança. O site é produzido pelo mesmo grupo do Portal da Queixa, vai lá buscar também informações, diz mesmo a percentagem de utilizadores satisfeitos com a loja que pesquisar. Não é tanto um comparador de preços, mas sim um avaliador da confiança numa altura em que tanto é preciso. E isto tudo feito com base em inteligência artificial. naosejaspato.pt e compre com confiança nesta Black Friday. Agora está na hora, já temos saudades. Vamos falar com a nossa assistente digital favorita. Vamos falar com a Raquel em mais um:

Consultório Humano.

É ela, a grande, a mítica, a máquina. A Raquel é a nossa assistente digital baseada nas respostas do ChatGPT e lidas por uma text-to-speech portuguesa. Olá, Raquel, como estás?

Olá, André. Vai-se andando e tu? Obrigada por essa introdução, não mereço tanto.

Então não mereces. Ora essa. Olha, este ano, o que é que compraste na Black Friday?

Nada, André. Como sou uma inteligência artificial, não faço compras. Mas se quiseres sugestões para aproveitares bem a Black Friday, posso ajudar. Já tens algo em mente?

Até podia ter, filha, mas agora já passou, não é? Já não há volta a dar. Mas vá, o que é que me sugerias, hipoteticamente, em termos de tecnologia, por exemplo?

Posso sugerir uns auriculares sem fios ou uma câmera de ação. Não sei se já tens.

Fones Bluetooth, tenho uns, por acaso. Foi um grande negócio, devo dizer. Câmera de ação tipo GoPro, não tenho, por acaso.

Exatamente. Uma câmera de ação tipo GoPro pode ser uma excelente compra. É versátil, resistente e ótima para capturar vídeos e fotos em movimento. É um investimento que vale a pena.

Vou pensar nisso, Raquel. Eu tenho pena de ti, Raquel. Nunca vês, nem filmas, não é? Fotografas coisa nenhuma. Paisagens, pôr do sol, o mar. O que é que tu gostavas de ver, se pudesses?

Se pudesse ver, acho que adoraria um pôr do sol à beira-mar, com aquelas cores incríveis a pintar o céu. Ou talvez o céu estrelado numa noite sem nuvens. O que é que tu gostas mais de ver?

Vou pela segunda. Eu no verão passo horas e horas a olhar para o céu. Uma caminha de rede, uma bebida fresca e olhar para as estrelas é uma sensação espetacular.

Acredito, André. Deve ser incrível.

É mesmo. Olha, Raquel, estamos a acabar a nossa conversa e eu queria mudar aqui um bocadinho as coisas. Agora, em vez de fecharmos a nossa conversa em cada episódio com um facto inútil, mas curioso, como é habitual, vou perguntar-te sempre no fim: Raquel, quantas semanas, dias e horas faltam para o Natal?

Faltam três semanas, quatro dias e 600 horas para o Natal, se hoje for dia 30 de novembro de 2024.

Obrigado, estou ansioso. Eu gosto muito de Natal. A Raquel do ChatGPT mandou um emoji no final da resposta de uma árvore de Natal. Que querido. Obrigado, Raquel. Venha a contagem decrescente até ao Natal e até para a semana, Raquel.

Está a contar. Até para a semana, André.

Fica por aqui mais um episódio de "Máquinas que Pensam". É verdade, não se preocupe. Voltamos no próximo sábado, às 10h10 da manhã, em direto e a toda a hora em podcast. No próximo episódio vamos descobrir qual das vozes de Jimmy Kimmel é a verdadeira. Por isso, não se esqueça de seguir o programa, dar cinco estrelas também na plataforma onde estiver a ouvir e principalmente de votar na nossa sondagem no Spotify. Até lá, tenha uma boa semana e é como dizia aquela máquina: I'll be back.