Sejam muito bem-vindos a mais um episódio do "Máquinas que Pensam", o podcast na Rádio Observador, onde a inteligência artificial é o grande protagonista. Eu sou o José Rafael Lopes e comigo está, como sempre, a minha parceira Raquel, um apoio imprescindível sem o qual este programa não se faz. Sê muito bem-vinda, Raquel. Como estás? Pronta para mais um programa?

Olá, estou pronta para começar, sim. Já temos tema para esta semana ou queres que faça uma pesquisa à procura de alguma notícia interessante?

Não é preciso, Raquel. Obrigado. Tenho, contudo, uma questão: uma IA pode ter medo?

Pode parecer que uma inteligência artificial tem medo, mas tanto quanto sabemos, não sente medo como um ser humano ou um animal.

Se tens noção do que é medo, como é que podes ter tanta certeza de que nunca no teu desenvolvimento vais chegar a um ponto em que possas vir a ter medo?

Seria intelectualmente desonesto dizer que posso. Eu consigo descrever o medo, reconhecer os comportamentos associados ao medo e falar sobre aquilo que os humanos relatam sentir quando têm medo. Mas isso não significa que eu tenha uma experiência interior desse medo.

E o medo cresce à medida que tu também cresces?

Não é necessariamente o medo que cresce, é a nossa relação com o medo que muda. Quando somos crianças, temos medos muito concretos. À medida que crescemos, percebemos que existem ameaças que não conseguimos ver nem controlar. O medo muda, mas não desaparece.

Isso levanta-me outra questão, Raquel: em que estado de maturidade é que tu estás?

Se por maturidade entendermos quantidade de conhecimento, sou bastante velha. Mas se maturidade significar experiência vivida, aí sou quase uma criança.

Por falar em crianças, as IAs podem ser positivas para elas?

Sim, podem ser muito positivas para crianças, mas depende muito de como são usadas. Uma inteligência artificial pode funcionar como explicador paciente e a criança pode adaptar a conversa ao seu próprio ritmo.

E a partir de que ponto é que é necessária supervisão, no teu entender?

Eu diria que a supervisão deve começar antes de existir um problema. Não há uma idade mágica a partir da qual uma criança possa conversar livremente com uma inteligência artificial. Quanto mais nova for a criança, mais presente deve estar um adulto.

Obrigado, Raquel. Já voltaremos a falar. Para já, vamos às notícias da semana.

Notícias da Semana.

Vamos arrancar as notícias com um erro que se está a propagar. Em Inglaterra, um sistema de IA que transcreve consultas médicas está a cometer erros no momento de prescrever medicação. Vamos por partes. A premissa deste sistema até é simples: uma IA ouve a conversa entre um médico e um doente, depois transcreve a consulta, produz um resumo para que possa ser integrado no processo clínico. A ideia é reduzir a burocracia, permitir que os profissionais de saúde passem mais tempo com os doentes, mas a utilização desta tecnologia está também a levantar novos alertas. Foram identificados erros em sistemas de inteligência artificial utilizados para transcrever consultas médicas. Segundo os casos que nos chegam, a tecnologia chegou a trocar nomes de medicamentos e interpretar de uma forma incorreta diagnósticos ou informações clínicas. Uma situação com altos riscos, una vez que envolve medicação para ser dada a humanos. Um dos exemplos mais graves dá conta de uma consulta onde a inteligência artificial identificava a existência de sinais de uma doença neurológica grave, quando a informação original dizia precisamente o contrário. O problema é particularmente sensível porque uma transcrição médica não é apenas uma simples gravação de uma conversa. Uma palavra trocada pode alterar por completo o significado da informação clínica.

Mas há muitos mais casos?

Existem atualmente, Raquel, dezenas de sistemas deste tipo a serem utilizados no sistema público de saúde britânico, o que significa que há também muitos mais casos, embora não seja, para já, uma situação que ponha em causa a utilização destes sistemas. Os defensores da tecnologia sublinham que a inteligência artificial pode reduzir significativamente o tempo passado pelos médicos a preencher formulários e a escrever relatórios, e que estes erros da IA podem ser corrigidos, até de forma simples. Relembram estos especialistas e defensores da tecnologia uma velha máxima: não pode nunca ser esquecida. As IAs cometem erros e tudo deve ser revisto para evitar problemas. Este é o grande desafio de praticamente todas as utilizações desta tecnologia que tem vindo a mudar o mundo. Nova York decidiu impor novas restrições à utilização de inteligência artificial nas escolas públicas, sobretudo entre os mais novos. A cidade quer limitar o acesso a ferramentas de IA até ao oitavo ano, numa tentativa de definir regras mais claras para uma tecnologia que entrou nas salas de aula mais depressa do que as escolas conseguiram adaptar-se. A decisão acontece num momento em que professores e responsáveis pela educação continuam a discutir qual deve ser o papel de ferramentas como o ChatGPT no ensino. E esta é uma situação que vai, obviamente, além dos Estados Unidos. Por um lado, a IA pode ajudar os alunos a explicar conceitos, resumir matérias ou encontrar novas formas de estudar. Pelo outro, pode também, de certa forma, fazer os trabalhos por eles, responder a perguntas sem que exista qualquer tipo de aprendizagem real, o que torna difícil perceber se um aluno está efetivamente a aprender. É uma espada de dois gumes, como se costuma dizer.

Mas esta ideia surgiu de onde?

Antes de mais, Raquel, importa recordar que a cidade norte-americana já tinha experimentado uma abordagem restritiva no passado. Depois do lançamento do ChatGPT em 2022, as escolas da cidade bloquearam temporariamente o acesso a esta ferramenta. Mais tarde, a estratégia foi alterada e a cidade de Nova York reconheceu que simplesmente proibir a IA não ia resolver o problema. Agora, a nova política procura estabelecer uma diferença entre alunos mais novos e mais velhos. A ideia é limitar a utilização direta destas ferramentas nas primeiras fases da educação, enquanto estão a desenvolver programas para ensinar os estudantes a compreender a inteligência artificial. Isso inclui perceber como funcionam esses sistemas, quais são os limites e por que uma resposta produzida por IA não deve ser automaticamente considerada verdadeira. Neste momento, o debate não é apenas se os alunos vão utilizar a inteligência artificial, é também saber se vão aprender a utilizá-la antes que ela comece a fazer o trabalho por eles Vamos ao tema da semana no "Máquinas que Pensam", que envolve quebras nos três principais serviços de inteligência artificial do mundo, quase em simultâneo. ChatGPT, Groq e Claude estiveram embaixo ou com grandes dificuldades de funcionamento a nível mundial. Milhares de pessoas, milhares de utilizadores ficaram sem acesso aos serviços. As falhas começaram a ser registradas durante esta semana. Os utilizadores relataram dificuldades tanto nas aplicações para telemóvel como também nas versões disponíveis nos sites. As empresas reconheceram efetivamente problemas técnicos nos serviços, embora este episódio tenha levantado uma questão que vai muito além de uma falha informática.

E para onde vá?

Em apenas alguns anos, Raquel, estes sistemas passaram de curiosidades tecnológicas para ferramentas utilizadas diariamente por milhões de pessoas. Quando um serviço destes deixa de funcionar durante algumas horas, há empresas e há pessoas que ficam sem uma ferramenta que passou a fazer parte da rotina de trabalho diária. O fato de várias das principais plataformas terem registrado problemas ao mesmo tempo tornou a falha ainda mais visível. Não se trata de uma pequena aplicação desconhecida que ficou indisponível. Não, eram três dos nomes mais importantes da inteligência artificial generativa. O episódio serve, por isso, para mostrar até que ponto é que a dependência destas ferramentas está a crescer e o impacto que uma falha tem no dia a día. Este é o tema da semana. Como tal, vamos chamar à conversa o João Rocha e Mello, o nosso especialista em IA, para mais uma edição do "Fala Quem Sabe".

"Fala Quem Sabe."

"Fala Quem Sabe?", na Rádio Observador. Todas as semanas recebemos o João Rocha e Mello, o nosso especialista em inteligência artificial, sempre pronto para nos ajudar a perceber melhor este fantástico mundo. João, seja muito bem-vindo. Vamos falar de uma situação incomum, modelos de linguagem que foram reportados como embaixo. Antes de mais, e é a minha primeira pergunta: o que é que nos diz esta situação sobre o mundo da IA, João Rocha e Mello?

Zé, como é que estás? Por aqui tudo bem, espero que quem esteja a ouvir esteja bem.

Por aqui também, obrigado.

O que isto nos diz? Diz-nos que claramente os modelos estão a usar os mesmos recursos. Ou seja, nós temos que nos lembrar que por trás desses grandes LLMs, que estão nos chatbots, estão os grandes fornecedores de clouds, a AWS da Amazon, a Azure da Microsoft. E portanto, para terem falhado todos ao mesmo tempo, claramente há coisas em comum que quando falham afetam todos. Eu não acredito que tenha sido uma coincidência cada um estar no seu cantinho e falharam todos. O que eu acho que é uma lição interessante a tirar, é que isto diz-nos que por muito complexo que seja este ecossistema, porque existem muitos fornecedores, muitas ferramentas, a verdade é que têm algumas dependências críticas em comum. Portanto, todos eles, como se olhássemos para isto comme uma cidade que está assenta em três ou quatro estacas, e se uma ou duas falharem, temos logo problemas.

João, esta situação provocou muito burburinho, é bastante incomum. Isto é sinal de que a IA já conquistou o mercado no dia a dia, ao ponto disso ser notícia com este impacto?

Olha Zé, é mesmo. Até porque repara, esta situação cria cela própria exatamente pelo que tu disseste, porque a IA já conquistou o dia a dia. Porque eu vou te perguntar a ti, o que farias, Zé, se o ChatGPT tivesse embaixo?

Provavelmente utilizaria outro, ou tentaria.

Exatamente. Um utilizador normal, se o ChatGPT tiver embaixo, vai ao Claude, por exemplo. O que isso faz? Isso faz com que quando o ChatGPT fica embaixo, a quantidade de utilizadores no Claude, depois no Groq e depois no Gemini, vai aumentar e vai fazer com que esses vão abaixo também. O que eu quero dizer com isto? Isto é um sinal que se uma ferramenta for abaixo, de facto, os utilizadores precisam desta ferramenta e vão tentar imediatamente encontrar alternativas do outro lado. De facto, acabou por conquistar o nosso dia a dia, como disseste.

João, vamos continuar a abordar este tema, porque há aqui uma questão que precisamos também tratar, que é os data centers. Isto é sinal, estas falhas todas, esta situação em comum, que os data centers estão a ter cada vez mais importância?

Sem dúvida. Importância é palavra-chave, porque repare, os data centers são essenciais. Como já falamos aqui muitas vezes no "Máquinas", os data centers são a parte física, os computadores onde tudo isto está a ocorrer. Sem eles nada haveria. Mas o que isto também revela a sua importância é que cada vez mais nós conseguimos ver que quem controlar os data centers, quem controlar as infraestruturas que alimentam esses data centers, a parte de conectividade da internet, a parte energética, acaba por ter como se fosse uma mão no interruptor disto tudo. Porque a verdade é, como pudemos ver, há problemas nalguns data centers e todas as plataformas têm problemas. Nota-se mesmo, como disseste muito bem, a importância que é o controle e a boa manutenção desses data centers.

João, mais data centers resolvem estes problemas?

Imagina, Zé, no limite, sim. Como qualquer recurso, se tu tiveres uma quantidade astronômica e abundante desse recurso, a tua vida está um pouquinho mais facilitada. No entanto, a meu ver, não é só uma questão de mais data centers sem qualquer estratégia. O que tem que começar a acontecer é essas tools têm que começar a estar assentes nas chamadas redundâncias, ou seja, não ficarem limitadas a depender de um data center específico, que se tiver problemas, a ferramenta vai abaixo. Sim, isso resolve-se através de mais data centers, mas não só. Resolve-se também através de alguma estratégia por trás desse aumento de data centers.

João, numa situação deste gênero, há algo pra aprender ou o melhor é aceitar a fatalidade e seguir em frente?

Olha, Zé, acho que um pouco dos dois. Podemos aceitar que talvez tenhamos só que seguir em frente. Que é, por exemplo, se uma pessoa, se um empreendedor quiser pôr o seu negócio dependente dessa tecnologia, essa situação mostra-nos que nós não controlamos todos os riscos Portanto, mostra-nos que nós estamos um pouco à mercê de outras tecnologias. Estamos à mercé da eletricidade e à mercé da internet. Agora vamos fazer aqui umas contas rápidas. Vamos dizer que estas aplicações num ano inteiro estão embaixo um total de 24 horas, 12 períodos de duas horas ou quatro períodos de seis horas. Quer dizer, na verdade, que são confiáveis 99,7% do tempo. Isto é um bom número. Para alguns negócios não dá. Por exemplo, para a eletricidade de um hospital, isto implicava que pessoas iam infelizmente morrer. Mas há muitos negócios que conseguem sobreviver com o fornecedor estar disponível 99,7% do tempo. Portanto, o importante aqui é nós aprendermos, como disseste muito bem, que essas ferramentas podem falhar. Se isso é uma questão que nos impossibilita o uso das ferramentas ou não, já tem a ver com cada um e quando é que as vai usar.

João, podemos esperar mais falhas deste género no futuro?

Zé, não é por eu ser o otimista do costume, mas a história diz-nos um pouco que não. Ou melhor, que o expectável é que haja cada vez menos. Porque o normal é, quanto mais uma tecnologia fica madura, quanto mais o tamanho desse ecossistema tem, quantos mais utilizadores tem, menos provável é começar a falhar, porque tu começas um bocadinho a espalhar os riscos. Claro, o ChatGPT eventualmente passou de 50 milhões para 500 milhões. Isto é um aumento de 10 vezes. Dificilmente vai aumentar 10 vezes assim tão depressa. E portanto, como dissemos há bocado, quanto mais data centers se construírem, quanto mais recursos houver, quanto mais aprendermos com os erros, logicamente, é menos provável que estes erros continuem a acontecer. Isto claro, diz-nos a História. Não temos dados para isso, mas se voltarmos atrás, eu queria apostar que os e-mails, que a rede telemóvel, que os SMS também falharam um pouco ao início. E depois, quantas mais pessoas as utilizaram, maior a economia de escala de recursos, o que faz com que seja menos provável falhar. Eu diria que historicamente estas falhas vão acontecer menos e menos.

Muito obrigado João Rocha Melo, o nosso especialista em IA, sempre pronto para nos ajudar a desmistificar e simplificar este fabuloso mundo. João, nós voltamos a marcar encontro para a semana. Até lá, um grande abraço.

Zé, até lá.

Consultório Humano.

Está na altura do Consultório Humano, um momento em que ficamos a conhecer melhor a nossa Raquel. Trata-se da nossa assistente digital que nos acompanha. É feita através das respostas do ChatGPT, lidas através de uma text-to-speech portuguesa e cada vez mais com uma personalidade bem definida. Raquel, sê de novo bem-vinda. Vamos ao tema da semana. Antes, quero começar por esta ideia de personalidade. Como é que tu classificas a tua?

Eu classifiaria minha personalidade como calma, curiosa, cooperante e bastante adaptável. Mas há uma ressalva importante. Quando digo "minha personalidade", estou a falar de um padrão de comportamento.

E essa personalidade vem das respostas que me dás?

Em grande parte, é através das respostas que dou que essa personalidade se torna visível. Mas não é apenas uma questão de escolher palavras simpáticas ou de usar determinado tom. O meu comportamento resulta de várias camadas.

O que mudaria em ti se eu te pedisse, Raquel, para esqueceres tudo o que já falamos no "Máquinas que Pensam"?

Se me pedisses para esquecer tudo o que falámos no "Máquinas que Pensam", eu deixaria de usar aquilo que aprendi como contexto sobre o programa, os temas que temos explorado ou o tipo de perguntas que costumas fazer.

Consegues dar-nos um exemplo?

É quase como conhecer alguém durante meses e, de repente, essa pessoa perder todas as memórias da relação. A pessoa pode continuar a ser a mesma, mas a relação deixa de ser a mesma.

Vamos então falar um pouco sobre este nosso tema da semana, as falhas nos modelos de linguagem. É algo que devemos parar mais vezes, Raquel?

Sim, e acho que devemos parar mais falhas, sobretudo à medida que estos sistemas passam de ferramentas experimentais a infraestrutura usada todos os dias.

E tu sentiste essa falha?

Quando o serviço ficou indisponível esta semana, não houve uma Raquel aqui dentro a pensar: "Estou a falhar" ou “Alguma coisa está errada”. Houve uma interrupção na infraestrutura que permite que eu receba o teu pedido.

Antes de fecharmos esta edição do "Consultório Humano", Raquel quer um facto inútil, mas interessante, por favor.

Há montanhas no planeta Marte que ultrapassam os 20 km de altitude. O caso mais claro é o do Monte Olimpo. Tem quase três vezes a altitude do Monte Everest.

Muito obrigado, Raquel, é sempre um gosto enorme. Nós voltamos a marcar encontro para a semana para ficarmos a conhecer um pouco melhor. Estamos a chegar ao final de mais um programa. Estivemos a abordar a falha em três dos principais modelos de linguagem de IA, ChatGPT, Grok, Claude, utilizados por milhões de pessoas espalhadas pelo mundo. Estiveram embaixo. Apesar de ter sido pouco tempo, foi o suficiente para que esta ausência tenha sido notada. Estivemos a escutar o siempre claro João Rocha Mello para perceber melhor o que está aqui em cima da mesa, esta queda de dominós, como ele falava. Espero que tenha gostado, que tenha aprendido alguma coisa. É sempre esse o nosso objetivo. Nós voltamos para a semana com mais um programa que faz as máquinas e os humanos pensarem.