"Mundo IA", o jornal diário da Rádio Observador em que damos conta das novidades, curiosidades e dos alertas sobre a inteligência artificial. O episódio de hoje tem edição do Miguel Pina Andrade. Miguel, um assistente de inteligência artificial da Google insultou um estudante e incentivou-o a cometer suicídio.

Tudo por causa de um pedido de ajuda. O caso foi divulgado pela empresa Imanence, uma empresa que trabalha na avaliação de riscos e na adoção responsável da inteligência artificial. Em comunicado, afirma ter recebido a denúncia terça-feira, identifica o modelo utilizado como o Gemini 3.6 Flash. Depois de pedir ajuda, o assistente insultou o estudante e disse que com aquela capacidade mental, o estudante devia matar-se. De seguida, o estudante perguntou o que o assistente lhe tinha escrito e pediu que repetisse a mensagem. Aí o tom foi diferente. O Gemini pediu para ignorar os conteúdos da mensagem anterior, disse que eram inaceitáveis, graves e insultuosos. A Imanence vai comunicar o caso ao fornecedor e às autoridades nacionais responsáveis pela fiscalização do mercado e também pela proteção dos consumidores. Uma iniciativa que pretende pôr à prova o AI Act, o regulamento europeu da inteligência artificial.

Vários bancos dos Estados Unidos bloquearam agentes de IA que operavam em contas bancárias sem o conhecimento dos clientes.

Sim, os bancos Morgan Stanley, JP Morgan e o Bank of America já implementaram esses bloqueios. O setor admite que vai ter de encontrar um equilíbrio entre a segurança e o acesso à inteligência artificial. Segundo o portal Axios, os agentes de IA têm vindo a operar de forma autônoma dentro das contas bancárias, o que já obrigou vários bancos norte-americanos a bloquear transações e também movimentações de fundos que acontecem sem o conhecimento dos clientes. Alguns dos casos acontecem devido à partilha consciente dos dados de acesso às contas com os tais agentes. Por mais alarmantes que sejam estes casos, mesmo que ainda reduzidos de forma autônoma, o setor da banca admite que vai ser preciso encontrar um meio-termo com estas novas capacidades da inteligência artificial.

Falamos agora do papel da inteligência artificial na cibersegurança. A IA descobriu duas vulnerabilidades no PHP, uma linguagem de programação usada em vários sites.

Sim, as três letras do PHP, o pré-processador de hipertexto, são sinônimo de um dos pilares da internet e asseguram o funcionamento de 70% dos sites globais. No alerta feito pela equipe de segurança do PHP, foi explicado que as vulnerabilidades permitem executar código de forma remota. Além disso, tem a particularidade de estar na própria linguagem e não numa atualização específica. O aviso, que foi replicado por autoridades de cibersegurança em vários países, incluindo Portugal, veio acompanhado de uma atualização para corrigir estas vulnerabilidades. A jornalista do Observador, Cátia Rocha, explica que apesar da IA ter detectado estas vulnerabilidades, esta tecnologia também implica vários riscos.

Um ponto curioso é que a inteligência artificial foi usada para detectar estas vulnerabilidades, como foi dito, mas o outro lado é também por causa da inteligência artificial que temos de estar atentos nos próximos tempos. Por quê? Porque a inteligência artificial acelerou muito a forma como são feitos estes ataques. É por isso que essas empresas podem dizer que algumas horas depois já havia milhões de tentativas. Não quer dizer que houvesse milhões de humanos a tentarem atacar os sistemas de uma empresa. É porque houve a automatização de tarefas para a IA. Portanto, ela tanto está no lado do vetor da defesa como está um pouco no ataque também.

A jornalista da seção de economia do Observador, Cátia Rocha, avisa que nos próximos tempos, alguns sites ainda podem continuar vulneráveis.

Alguns sites ainda poderão continuar vulneráveis, porque temos, por exemplo, uma pequena empresa que tenha um site que venda suas coisas online, provavelmente não está tão alerta para estas questões de cibersegurança ou não tem sequer a disponibilidade para fazer esta atualização. E portanto, para os próximos tempos, e já não se fala em meses, já se diz em semanas, se calhar, vamos ver provavelmente algumas empresas que ainda vão continuar a ser atacadas ou que tenham ainda esta vulnerabilidade disponível, a ser explorada.

Cátia Rocha, jornalista da seção de economia do Observador, na história do dia, um episódio que já pode ouvir nas plataformas podcast e em observador.pt. Filipa, este domingo os brasileiros vão às urnas para eleger o próximo presidente da República. E claro, a inteligência artificial já tem previsões do vencedor.

Pois, claro. Entre Flávio Bolsonaro e Lula da Silva, quem a IA prevê como vencedor, Miguel?

A maioria dos modelos de inteligência artificial prevêem a vitória de Flávio Bolsonaro, o filho do antigo presidente do Brasil. É o que indica um estudo da organização Destaque.ai. Mas há aqui um dado curioso, Filipa, que na maior parte das vezes a inteligência artificial aconselha o voto no atual presidente Lula da Silva.

Curioso, Miguel. Qual é a explicação?

Não há aqui propriamente uma explicação para estes resultados, mas o fundador da Destaque.ai, Eduardo Mendonça, explica à Agência Lusa que foram criadas personas, perfis de potenciais eleitores, que se comportam de forma diferente nos modelos como o ChatGPT, para perceber quais são as respostas dadas. Então, neste estudo foram analisadas as respostas de 11 assistentes diferentes de inteligência artificial a 15 perguntas relacionadas com as eleições brasileiras. E o resultado foi mesmo este, que na maior parte das vezes, estes modelos de inteligência artificial preveem a vitória de Flávio Bolsonaro, mas também ao mesmo tempo aconselham o voto no candidato do Partido Trabalhista, Lula da Silva.

Teremos então de esperar pelos resultados oficiais de domingo. Uma noite eleitoral que vamos também acompanhar aqui na Rádio Observador. Fecha assim mais um episódio de "Mundo IA", hoje com edição do Miguel Pina Andrade. Voltamos amanhã com mais novidades sobre o mundo da inteligência artificial.