Eu acho que os verdadeiros líderes são aqueles que mobilizam a população em torno de um projeto político positivo, com o qual podemos estar em desacordo. Mas mobilizam, não vão atrás dos ódios do povo, canalizam o povo pra aquilo que é um programa político positivo. Estamos a perder isso.

Se nos dissessem que o governo escolhe todos os dias as notícias que vemos e as que não vemos, as horas a que vemos, as músicas que as acompanham, que escolhe os vídeos que vemos e por que ordem, seleciona as reações aos vídeos que podemos ver e que não podemos ter nenhuma interferência nesta escolha, então acharíamos que estávamos a viver numa ditadura. Mas é exatamente isso que está a passar com os algoritmos. Vivemos já numa algoritmocracia. É a tese de Adolfo Mesquita Nunes, advogado há mais de duas décadas, é professor da Nova SBE, foi deputado, vice-presidente do CDS e secretário de Estado do Turismo no governo de Passos Coelho. Nos últimos anos tem-se dedicado ao estudo da inteligência artificial, em particular à sua regulamentação e aos desafios, riscos e dilemas legais que esta tecnologia coloca às empresas e à sociedade. Por isso este livro, "Algoritmocracia: Como a IA está a transformar as nossas democracias". Um alerta e um manifesto que pretende refletir sobre a forma como a inteligência artificial está a alterar o espaço político, amplificando populismos, radicalizando discursos, fragilizando a confiança nas instituições. Será que vamos conseguir um dia regular os algoritmos, mesmo sabendo que nunca os vamos compreender na totalidade? Vamos conhecer melhor este homem lúcido e corajoso, mas com aquela coragem que Voltaire dizia não ser uma virtude, mas uma qualidade comum aos loucos e aos grandes homens. Bem-vindo, Adolfo.

Olá, obrigado.

Muito obrigado por ter aceitado este meu convite.

Obrigado por essa introdução.

Eu é que te agradeço, pelo amor de Deus, agradeço de estar aqui. A primeira pergunta que eu vou fazer é: por que o teu nome? Toda a vida brincaram contigo, Hitler e não sei o quê. Toda a vida.

Claro, 48 anos a ouvir as mesmas piadas.

E por quê?

Era o nome do meu bisavô.

Avô? Ah, bisavô.

Era o nome do meu bisavô e o meu pai quis homenagear o seu avô.

Muito bem, é o nome de família, ok.

É o nome de família, portanto, com a curiosidade que ninguém na minha família me trata por Adolfo, porque a minha mãe não queria que eu me chamasse Adolfo, e portanto deu-me o nome de Miguel, e foi por Miguel que a minha família me tratou.

Toda a vida foi.

Se eu for na rua e chamarem Miguel, eu olho pra trás, porque pode ser pra mim. Portanto, Adolfo é o nome de família, mas na minha família ninguém me trata por Adolfo. São os paradoxos da nossa vida.

Sim, e os cá e na política.

Amigos de infância, Miguel.

Até porque Miguel há muitos.

É verdade, mas amigos de infância e amigos da Covilhã, muitos Miguel.

Terra da tua família.

Mas Adolfo, claro, depois já ninguém quer chamar Miguel quando se tem um nome tão famoso.

Tu falaste da tua família paterna, que era da Covilhã, industriais do têxtil. Esta ligação à Beira Baixa é de fato uma âncora pra ti, não é? E traz-te recordações espantosas de férias com os primos todos e com avós. Ainda vais lá de vez em quando? Tu, aliás, és deputado municipal, não é?

Sou deputado municipal na Covilhã, é verdade. E sim, a Serra da Estrela, que muita gente só conhece do inverno ou da neve, é deslumbrante também no verão e parte das nossas férias de verão, com os dias muito grandes e com aquelas férias enormes que tínhamos, eram passados na Serra da Estrela.

Muito bem, de onde é que vem esse teu apelo do Direito? Por que o Direito? Tens mais família? Por que de repente quer tirar Direito e depois mestrar em Ciências Jurídicas Políticas?

Porque sempre gostei daquilo que deve ser, das regras, de como as coisas devem ser, como é que elas se devem ordenar, como é que elas se devem organizar. E quer o Direito, quer a política, fornecem instrumentos para essa ordenação. Portanto, de alguma forma, um interesse pela organização da sociedade.

Mas depois tu és muito desregulado.

É verdade.

Não gostas do regulamento.

Com alguma cabeça, acho eu.

Sim, minimamente controlado.

Desregulado no sentido que não gosto de normas.

Sim, liberal.

Não gosto de normas e de padrões, mas gosto que a sociedade tenha regras e gosto do justo e de procurar aquilo que é justo. Portanto, eu acho que o apelo do Direito e das políticas públicas vem daí. Depois, se foi conseguido ou não, o tempo dirá.

Entretanto, há mais de 20 anos que exerces advocacia e és da Peres Lorca, aliás, desde a dois anos integraste o primeiro ano de início desta sociedade de advogados aqui em Lisboa. Foi um grande momento no mercado jurídico em Portugal. E aliás, já este ano foste o country co-chair.

É verdade.

É uma espécie de gerente local do escritório em Lisboa.

Não, felizmente não me calha essa difícil tarefa, que é aliás mais importante, mas tenho muito função de representação institucional.

De fato, já há uns anos que tu foste bastante pioneiro até na análise dos desafios, dos riscos, dos dilemas legais da inteligência artificial. Ainda hoje aconselhas muito empresas e assim, o que fazer, como fazer, os cuidados a ter. Com o que se sabe, porque não se sabe

Cada vez mais. A inteligência artificial traz muitas oportunidades, muitos riscos e muitas questões sobre o que se pode ou não fazer. Quando não há leis, quando não há regulação, muitas empresas querem saber o que podem fazer, como podem fazer e a que riscos estão sujeitas. E eu comecei a trabalhar nisso muito cedo, percebi muito cedo que era uma área que me interessava e que iria ser necessária.

Gostas muito de tecnologia. São desafios que tu gostas?

Sim, sendo que este tem, em particular, desafios que são não apenas económicos, não apenas jurídicos, mas também éticos, culturais, que têm a ver com a natureza humana. E por isso eu acho que é um tema riquíssimo. Não conseguimos discutir inteligência artificial num programa. Não conseguimos discutir todas as suas implicações. E isso, para mim, seduz-me bastante, estarmos a viver este momento e poder tentar interpretar e ajudar as pessoas a interpretar aquilo que se está a passar.

De facto, é uma ferramenta útil e muito importante, mas como todas as ferramentas que aparecem, como foi a internet, como foi a televisão, como foi muita coisa, energia atómica, energia nuclear, pode ter perigos graves e mesmo hoje, empresas que usam inteligência artificial têm cometido erros graves, por exemplo, nos recursos humanos e na seleção de candidatos, e este tipo de coisas.

Já aconteceram escândalos.

Entregam a um algoritmo virtual e entregam a um algoritmo até coisas já de governos, que entregam a assistentes. E, de facto, às vezes as coisas nem sempre correm bem. Tem que se ter muito cuidado.

Como acontece com o ato humano. Só que com o ato humano nós temos imensas regras e, sobretudo, sabemos quem é o responsável. Foi a pessoa que fez, foi a pessoa que decidiu.

Aqui não tem cara.

Aqui muitas das vezes não tem cara, a responsabilidade dilui-se muito. Muitas vezes os sistemas são muito opacos, pouco transparentes e, portanto, é difícil perceber o que é que aconteceu e por quem é que a responsabilidade se deve apurar. E por isso é que é necessário criar quadros dentro das empresas, dentro das entidades públicas, de governação, na inteligência artificial, para a cada momento sabermos sempre quem é o responsável, quem é que podia ter evitado o risco. Não há risco zero, nem eu acho que deva existir risco zero, mas acho que há necessidade acautelar riscos, porque eles existem como qualquer outra tecnologia. Esta não é diferente. O potencial desta é muito diferente.

Sim, claro.

Mas proteger-nos do risco não é uma coisa nova.

Ao mesmo tempo, ouve-se muitas vezes falar que a advocacia é uma das profissões que a inteligência artificial poderia substituir um dia. Isso assusta-te? Dedicaste também por causa disso ou isso nem sequer te passou pela cabeça?

Não me assusta nada. Haverá muitas partes da minha profissão que podem perfeitamente ser substituídas por sistemas de inteligência artificial, desde que devidamente supervisionados, e portanto, terá que existir sempre um humano por aí. Mas há um conjunto de outras áreas que exigem contexto, sofisticação, criatividade e capacidade de ir para além daquilo que está determinístico. E eu acho que aí o direito continua a ser essencial. Portanto, haver advogados continua a ser essencial. Fora toda a quantidade de problemas jurídicos que a inteligência artificial cria. Portanto, durante muitos anos eu vou ter bastante trabalho. Não estou preocupado com isso.

Muito bem. A nível do teu sentir político, é muito curioso, porque a tua família é muito alargada no espectro político e dão-se lindamente e é a prova, desde miúdo, que tu tens em casa e em férias e com os teus tios, com os teus primos, que se pode amar quem discorda de ti. Isso é muito importante. Isso devia ser uma lição para todo o Parlamento, por exemplo.

É uma lição que nunca me foi propriamente transmitida tal qual. É uma experiência, é uma vida vivida. E de facto, à minha mesa vai do MRP até o CDS, espero eu, se calhar, também haverá já quem tenha já fugido aí. Mas essa convivência permite-te perceber que quem pensa de forma muito diferente de ti está bem-intencionado, tem as suas visões, tu consegues perceber por que pensam daquela forma, apesar de discordares em absoluto.

Exatamente.

E, portanto, não tens que diabolizar o outro, não tens que achar que o outro só pensa de forma diferente porque está ao serviço de uma qualquer conspiração.

Mas hoje em dia, como sabes, e tu ali também falas disso, os populismos levam a que haja muito esta radicalização da sociedade, que está a aumentar, está a crescer. E de facto, se não pensas como os populistas de esquerda, és o inimigo, e se não pensas como os populistas de direita, és o inimigo e és um alvo a abater.

E começa a ser cada vez mais difícil termos conversas.

Os moderados, como tu dizes, são os apátridas de hoje. É um artigo que escreveste.

Sim, de alguma forma. Mas começa a ser difícil ter conversas sobre política em que as pessoas não comecem a incompreender-se, que é um fenômeno que não é propriamente estranho, mas durante muitas décadas nós pudemos falar de política calmamente e discordando de forma até veemente. Começa a ser difícil, e eu gostava que as pessoas refletissem um pouco sobre por que isso acontece, que isso não é uma fase, é algo que está a enraizar-se na nossa sociedade. Tem muito a ver com a polarização e penso eu, com a nossa exposição àquilo que os algoritmos nos mostram. E eu acho que devia merecer reflexão, porque tem consequências que não são apenas políticas, tem consequências nas nossas vidas, nas nossas famílias e nos nossos grupos de amigos. E portanto, seria bom termos um pouco mais de Empatia, tentar pôr-me nos sapatos dos outros, como se diz, e tentar perceber o porquê que pensam dessa forma e tentar criar pontos de entendimento.

Tu próprio ficaste aflito com esta questão. Mesmo no teu espaço político começou a haver esta radicalização. Criticaram-te por citar o Papa Francisco, porque é associado à esquerda, por estares no lançamento do livro do Daniel Oliveira. Como é que é possível? É porque és amigos deles. Por dizeres olá, boa noite à Mortágua quando entras num debate de televisão, acham: "Pronto, já se está a render, já está do lado dela."

Sim. Tudo isso aconteceu.

São regras de boa educação, são regras de cortesia política. Mário Soares e Pedro Passos Coelho falavam-se no Parlamento com o maior dos respeitos.

E a frente da amuralha do Mário Soares.

E não podiam discordar mais.

Eu acho que os verdadeiros líderes são aqueles que mobilizam a população em torno de um projeto político positivo, com o qual podemos estar em desacordo, mas mobilizam, não vão atrás dos ódios do povo.

Exatamente.

Canalisam o povo pra aquilo que é um programa político positivo. Estamos a perder isso. Hoje convencionou-se que um bom líder é aquele que diz exatamente aquilo que o povo quer ouvir.

Exatamente.

E com certeza que um líder político não pode estar divorciado daquilo que a população diz, mas um líder é um líder, tem que estar a ver pra além daquilo que são-

Tu falas no teu livro de um exemplo da Thatcher, por exemplo, e do Pedro Passos Coelho, por exemplo, também.

À direita, dou dois exemplos, dou o Mário Soares à esquerda.

Que tomaram umas medidas impopulares, de facto, mas com a visão do Estado lá frente.

E ficaram pra sempre. Ou seja, o seu legado, eles são hoje reconhecidos. Um ainda está vivo, portanto, não falemos dele no passado.

Claro que sim. Mas sim, claro, é mencionado ainda hoje.

Ficaram e estão pela sua capacidade de liderança.

Exatamente.

E acho que era importante que na política houvesse essa capacidade de poder ver pra além daquilo que é os ódios, as emoções do momento. Eu acho que a política não tem que ser tecnocrática, não tem que ser fria. A política deve ser feita também com emoção e até com amor, mas as instituições, os governos, os tribunais, os parlamentos, servem para trazer um módico de racionalidade à discussão. Nós não temos justiça feita pelas próprias mãos, nós não temos uma democracia direta em que o povo decide ali numa assembleia o que é que se faz, precisamente porque a sociedade entende que é preciso um espaço de moderação, de sensatez, de ponderação, onde essas paixões devem ficar à porta. Infelizmente, isso não está a acontecer e hoje vemos um pouco por toda a Europa, e não só, como se convencionou que as emoções da sociedade e os seus preconceitos, e os seus ódios podem alimentar políticas e isso, de facto, é algo que preocupa imenso.

E culpa também do algoritmo e de preferir essas ondas de choque, digamos assim, e esse ressentimento, e essa raiva, e tudo isso. Também, como estava a falar, nos debates, o que vende é quem consegue fazer reels e então abandona o debate e chama palavrões ou não sei o quê.

Os algoritmos não preferem propriamente nada. A única coisa que os algoritmos fazem é medem muito bem aquilo que desperta o nosso interesse.

O nosso engajamento, não é? A adesão àquela-

Exatamente, o engajamento. E a verdade é que é verdade. Se nós clicamos mais em vídeos em que há um debate político muito mais aceso ou que há acusações fortes ou vídeos sobre coisas que nos fazem medo, que nos criam ansiedade, ressentimento, tudo aquilo que é insólito, é onde nós clicamos mais, e os estudos mostram isso, então os algoritmos dão-nos isso. Os algoritmos não têm querer, aquilo que eles querem é dar-nos aquilo que nós aparentemente queremos ver.

Nem têm medida ética, não têm esses valores morais e éticos. Claro.

O que é que acontece hoje no comentário político, acho que isso é muito evidente, é que todos se adaptam aos algoritmos. Vamos lá ver, nós quando pomos uma fotografia no Instagram, também nos adaptamos ao algoritmo, porque nós vamos escolher a nossa melhor fotografia, que é aquela que vai ter mais likes. Todos nós nos adaptamos ao meio pelo qual queremos chegar às pessoas. E portanto, também os comentadores que querem ser mais populares e mais convidados, também começam a tornar-se mais violentos do ponto de vista do discurso, das acusações e até mesmo da sua postura gestual, porque é isso que vai garantir aqueles 15 segundos de reels, que depois vão viralizar e vão fazer com que seja convidado outra vez pra ir àquela hora falar à televisão. E portanto, também os atores políticos, não apenas os políticos, mas também os restantes atores do ecossistema político, jornalistas e entrevistadores incluídos nos títulos que colocam e nas perguntas que fazem, procuram-

Querem vender, né?

Procuram que os algoritmos potenciem aquilo que essas pessoas estão a fazer. Por isso, o algoritmo não tem quereres, digamos assim.

Sim. Como tu dizes aquele exemplo muito bom das vacinas. A vacina há 0,5% tem efeitos secundários, mas o outro título que diz: "Já morreu uma pessoa dentro desses 0,5%", claro que o título que vai vender é: "A vacina pode matar." Óbvio, né?

Ou seja, eu acho que esse exemplo, embora é um exemplo inventado, mas pras pessoas perceberem, vamos imaginar que há um estudo que diz que as vacinas podem causar em 0,05% dos casos efeitos oncológicos. E há dois jornalistas que escrevem dois títulos. Um descreve: "Estudo mostra que vacinas podem causar efeitos oncológicos em 0,05% dos casos." O outro escreve: "Estudo mostra que vacinas podem causar câncer."

Exato.

Os dois títulos, nenhum deles é propriamente falso. Há um que claramente é enganador e é sensacionalista, mas ele objetivamente-

Sim, mas não está errado, não é mentira

...tem ali o mínimo de verdade.

Sim.

Para os algoritmos, estes dois títulos são completamente iguais, é indiferente. O que os algoritmos vão ver é que este segundo título tem muito mais cliques, atrai muito mais a clicar.

Atrai muito mais, exatamente.

E portanto, é esse o título que os algoritmos vão começar a espalhar pelas redes.

Exato.

Mas qual é o efeito disto depois? O efeito disto depois é dizer assim: "Olha, o Adolfo clicou num link que diz vacinas e câncer, portanto ele está muito interessado neste tema. Dá-lhe mais." O algoritmo vai dizer: "Ele está interessado, portanto vamos lhe dar mais sobre isso."

Ou coisas ali à volta.

E portanto, vamos começar a receber mais títulos e textos sobre vacinas e câncer.

Exatamente.

Ora, isto vai criar um círculo vicioso em que eu vou começar a ser absorvido por um problema que se calhar não existe ou não existe como está configurado, e que eu não senti antes.

Sim.

Pronto, agora multipliquemos isto por tudo o que está a acontecer. Vídeos sobre criminalidade, vídeos sobre pessoas que acham que as crianças são educadas aos três anos já pra terem sexo nas escolas, o que quer que seja. E vamos começando a ficar mais radicais. Por quê? Porque vamos ser expostos desproporcionalmente a um tema.

Exatamente. As questões mais furaporantes aparecem mais vezes e com mais intensidade.

E com coisas que nos criam ansiedade e estupefação. A verdade é muito menos sexy. E, portanto, os algoritmos não é que não gostem da verdade.

Só um superlíder carismático é que pode trazer uma verdade e isso ser uma coisa mais clicada, porque não é. Normalmente, a mentira é muito mais atrativa, é muito mais criativa, não tem limites.

Sim, e como os populistas, tipicamente, não têm os limites da verdade, mentem de forma persistente e como método. Não é que os políticos não mintam, mas os populistas têm a mentira como método. Os limites da realidade são mais bafejados pela boa vontade do algoritmo. Por quê? Precisamente por dizerem coisas tão insólitas que causam bons títulos e causando bons títulos, causam bons cliques.

A economia da atenção, como tu falas no teu livro. É a economia da atenção. E é isso que rege este processo social.

As pessoas hão de perceber isso.

Rende dinheiro a pessoa fazer muitos cliques.

Fechamos o jornal e vamos fazer outra coisa qualquer, o jornal tem um fim, ou um livro. As redes sociais nunca têm um fim. O scroll é infinito. Por quê? Porque para nós ficarmos agarrados. E há muitas funcionalidades das plataformas eletrónicas com o objetivo de nos deixarem lá mais tempo. É um negócio da atenção, por quê? Porque quanto mais tempo estivermos, não só mais publicidade vemos, e isso é um modelo de negócio, mas outra coisa, que talvez as pessoas sintam menos, quanto mais tempo nós lá estivermos, mais os algoritmos vão saber sobre nós. Vão saber que eu prefiro ver vídeos à noite, que eu gosto de ver informação de manhã, que eu passado dois minutos e meio largo o vídeo. Portanto, vão me dizer assim: "Não sugiras mais vídeos de mais de dois minutos e meio, porque ele não vai ver."

Continua a reunir dados sobre isso.

Vai começando a afinar para nos dar aquilo que aparentemente nós mais vamos querer. E isto tem um lado positivo, que é, se eu não gosto de música heavy metal, por que o YouTube ou o Spotify me hão de recomendar heavy metal? E começam a me recomendar coisas que eu gosto, mas aqui afunilam. Tornam-nos menos expostos ao outro e aos gostos dos outros.

Isso é muito mau. As bolhas, tu falas. Milhares de bolhas.

Do ponto de vista da empatia, isso é...

Nós deixamos de saber o que é que os outros, os filmes que eles viram e os livros que eles leram. Isso fecha-nos. Não é aquela coisa de ler um livro que toda a gente sabe: "Viste o filme de ontem na televisão?" Que havia só um canal. Hoje em dia não é assim. Bem, quando eu era pequeno tinha os de Espanha também.

Tínhamos a televisão espanhola, de facto.

Mas de facto, isso acabou. As pessoas vivem nas suas bolhas.

Sim, ou seja, não é só a questão de eu já não saber o que os outros gostam, é o efeito que isso tem. Porque o efeito que isso tem é: eu deixo de compreender o outro, eu deixo de achar que aqueles gostos, que aquela forma de ver ou de pensar são normais. Eu começo a achar que não faz parte do mundo normal aquele tipo de ideias ou aquele tipo de convicções. Portanto, isto tem consequências políticas, porque a democracia vive de tu achares que o outro, que é teu adversário, pensa de forma radicalmente diferente de ti, mas tem tanto direito a pensar quanto tu.

E mais, eles conseguem personalizar o vídeo que tu vês sobre o mesmo assunto de um jogo de futebol, uma cena, outra pessoa ao teu lado vê, viu outro. E portanto, não teve o teu ponto de vista. Tudo isso tem este impacto social que as pessoas não têm noção.

Sim. Ou seja, nós antes podíamos ver na televisão uma reportagem sobre uma manifestação em que houve violência, em que manifestantes partiram lojas e polícias bateram em manifestantes, e nós víamos esse vídeo e cada um de nós tinha interpretações diferentes, porque uns são mais favoráveis à polícia, outros mais aos manifestantes. Mas quando discutíamos essa manifestação, estávamos a discutir as mesmas coisas.

Partíamos do mesmo vídeo, o que já não acontece.

Agora, imagina a situação em que eu só vejo o vídeo de manifestantes a baterem em lojas.

A partirem lojas, a quebrarem lojas.

E tu só vês o vídeo dos polícias a bater nos manifestantes. Quando nos encontramos pra discutir a manifestação, nós estamos a falar de coisas completamente diferentes e achamos que o outro está maluco.

Adolfo, temos que pedir aqui um brevíssimo intervalo. Adolfo Mesquita Nunes, já voltamos à conversa. Até já. Estamos a conversar com Adolfo Mesquita Nunes. Ele é um advogado que tem trabalhado desde há alguns anos no direito da inteligência artificial e que nos traz o seu livro "Algoritmocracia: Como a Inteligência Artificial Está a Transformar as Nossas Democracias". Um alerta e um manifesto que pretende refletir sobre a forma como está exatamente a alterar também o espaço político. Será que a democracia está, de facto, em risco? Há duas coisas que eu queria falar aqui e que tu falas no teu livro. De facto, li de fio a pavio. Está muito bem construído o livro com essa questão. São 120 e tal questões que tu pões neste livro. Construíste todo o livro, 128 pra ser específico, com base neste diálogo, entre alguém que não acredita como tu nas mesmas coisas. Então tu respondes, foi um truque também, eu acho que é uma técnica que tu usaste, mas é um truque, correu muito bem. Este livro, que não se lê como romance, pode-se ir por capítulos e por temas, que é muito curioso. Mas há aqui duas coisas que tu falas aqui que pra mim foram um bocado assustadoras e que nunca tinha pensado nisso. Uma é, eu sei que o algoritmo não tem valores éticos e não é uma pessoa, e sei que é importante e bom, o Google já fazia isso, tu pesquisas uma coisa de uma viagem à Indonésia, já sabes, como tu foste, por exemplo, que adoraste, já sabes que vais receber imensas coisas sobre Your Guide, Your To Guide, vai não sei o quê, não sei que mais, sobre a Indonésia, sobre a Tailândia, etc. Pronto, Filipinas, o que tu quiseres. Isso é uma coisa, porque é à volta do que tu gostas. Os colchões, pronto, dá coisas sobre dormir, o sono, vão aparecer coisas extra. O Google já fazia isso. Este dá-te, de repente, um vídeo do nada, de áreas que tu não pediste e que não sabias que gostavas ou que nem sequer tinhas procurado, coisas que eles introduzem. Por quê? Por carga d'água, e que não tem nada a ver com os teus gostos. Isso é um. Outra é Como potencia. Como tu explicas aqui no livro, começa a pesquisar sobre caminhada, daí a uns dias está te a dar sobre a ultramaratona ou sobre vida saudável, iogurtes light, e depois está a dar já sobre dietas citogénicas e não sei o quê. Potencia, aumenta esses dois efeitos.

Há aquele provérbio português "quem diz mata o outro esfola". Nós começamos a ouvir o mata, o mata já se tornou vulgar, passamos para o esfola e depois vamos continuando. Os algoritmos estão sempre a dar-nos qualquer coisa que nos prenda a atenção e que nos mantenha interessados. Quando já nos deu as caminhadas, passa-nos a dar as corridas e depois as ultramaratonas. E há vários estudos que mostram que há esse efeito e acaba por ser um efeito que em matérias políticas acaba por ser radicalizador. Se eu todos os dias estou a ver vídeos em que há criminalidade, eu convenço-me, mesmo que eu nunca a sinta no meu quotidiano, que esse é um problema e é o problema principal, e que quem não vê aquele problema é um problema.

Como tu dás o exemplo daqueles refugiados do Bangladesh que estão a assaltar uma pessoa. Mil vezes repetido, as pessoas acham que é verdade. Esta comunidade tem que ser expulsa.

Exatamente. E não vale a pena pensar que nós não somos influenciados, porque somos. Como é evidente que somos influenciados, todos nós somos influenciados.

Tu próprio saíste da rede do X por causa disso. Sentiste: "Isto está a fazer mal, e então abandonaste".

Senti que me está a fazer mal, de facto. E depois os algoritmos não só estudam aquilo que nós somos, como criam padrões sobre nós, pensando em todas as outras pessoas do mundo que têm gostos parecidos com os nossos e vão descobrir relações. É muito interessante ver, e falo disso no livro, que há estudos sobre pessoas que começam a pesquisar sobre fóruns New Age, com vida saudável, sem químicos, etc., e rapidamente começam a ver conteúdos antivacinas. Por quê? Porque os algoritmos fazem uma relação estatística em que a maior parte das pessoas que começou a ver isto também é desconfiada de vacinas, e portanto vai lhe sugerir esse conteúdo. Sabe o algoritmo que está a sugerir algo sobre vacinas? Não, o algoritmo não sabe absolutamente nada, só vai buscar aquilo que estatisticamente faz sentido. Nós temos aqui uma manipulação, se quiseres, sem manipulador. Nós podemos questionar se o Elon Musk utilizou os algoritmos para nos direcionar para determinadas coisas. Mas mesmo que ele não tenha feito isso, esta manipulação, este condicionamento, ele existe. É novidade? Não, no sentido em que sempre fomos condicionados por professores, por amigos, por jornais, por jornalistas. Mas nós sabíamos quem eram. Eu dou este exemplo, aconteceu há pouco tempo nestas eleições presidenciais, o João Cotrim de Figueiredo, houve um momento em que se queixou de que não tinha a mesma visibilidade na televisão do que os outros candidatos que disputavam a segunda volta. E pôde fazer vários vídeos interpelando os diretores de informação das televisões.

"Eu já estou em terceiro nas sondagens, por que eu não estou nos quatro principais?" É verdade.

Agora, ele tinha a quem se dirigir. Mas se ele quisesse refilar com o fato de os vídeos dele não aparecerem nas redes sociais.

Já não podia.

Refila com quem?

Com quem, exato.

Bate à porta a quem?

Não há uma cara. É a grande diferença.

E eu acho que as pessoas não têm esta noção. São mesmo os algoritmos que definem aquilo que nós vemos todos os dias. Nós quando abrimos o nosso telemóvel, nós quando temos todos estes vídeos a recomendar, não fomos nós que escolhemos aquilo. É verdade que, em princípio, aquilo será adaptado a alguns dos nossos gostos.

E às vezes perguntam: "Quer dar mais conteúdos dentro disto?"

Mas são perguntas muito tênues que não nos permitem verdadeiramente organizar aquilo que nos está a aparecer. Por isso a pergunta com que abriste o programa é mesmo verdade. Se nos dissessem que era o Estado que todos os dias organizava o feed de notícias que víamos no telemóvel, nós talvez aceitássemos.

O que ordena, quando, é impressionante.

Mas é isso que acontece com os algoritmos.

Não ver os comentários. Eu quero ver os comentários deste vídeo, e ele não me dá os comentários.

Eu quero ver o que é que dizem os outros. Nós somos consumidores mais passivos de informação. Nós antes tínhamos que comprar jornal ou tínhamos que ver o telejornal.

E quando não gostávamos, podíamos mudar ou podíamos escrever uma carta a protestar.

Agora, ligamos o telemóvel e aparece-nos muita coisa que não são notícias, mas que ajudam a termos uma imagem do mundo. Podem ser vídeos de influencers, podem ser sátiras. Isso ajuda-nos a ter opinião sobre o mundo. E isso é novo. Essa parte sim é nova, é não termos agente, não termos a quem refilar, nem sequer podermos pedir para fazer as coisas de forma diferente.

E eu acho que inicialmente achavas que era completamente anódino, o algoritmo, na sua inteligência artificial. Mas desde que, por exemplo, o Musk comprou o X, e o Musk tem aquela orientação muito dele, muito política, muito para a direita e salvação nazi, tu já achas: "Não acredito que não haja uma influência qualquer neste dono desta plataforma, que vire tudo um bocadinho isto para a direita, para o lado que ele quer."

Eu no livro levanto essa hipótese, mas não me interessava por aí, no sentido em que eu não quis perder leitores para o problema. Eu queria alertar para o problema, e eu acho que o problema acontece mesmo que ele não tenha essa mão invisível nesse sentido. E como aquilo que eu queria era que o leitor se convencesse que temos um problema, em que temos que fazer um debate em sociedade sobre o que está a acontecer, eu optei por não elaborar muito essas teorias, mas levanto a possibilidade, que é perfeitamente legítimo, que nos questionemos se isso não acontece.

Isto, de facto, já vivemos com a inteligência artificial todos os dias e é uma ferramenta importantíssima, mas isto para as democracias é um perigo que conduz os nossos pensamentos, condiciona. O que tu vês não é igual ao que vê o teu vizinho. Como tu dizes, as morais e éticas não existem, os algoritmos não mentem. Não mentem, porque é uma coisa que está lá, estás e...

Para mentir é preciso saber o que é verdade e ter a intenção de fugir à verdade. Os algoritmos não são humanos, não sabem nada disso.

Exatamente. Tu dizes que o erro não está em utilizá-los como auxiliares, mas sim em ver neles uma espécie de oráculo. E isso é que tu dizes que é grave. Agora, como é que a pessoa na política, a democracia que está sob ataque, tu traz vários exemplos aqui, já as democracias iliberais que nós estamos a assistir na Europa, como tu reparas nisso Como é que tu consegues regulamentar uma coisa que é muito difícil? Eles condicionam o debate político, é de fato uma nova ditadura, digamos assim. Agora, as soluções. Proibir não é o caminho, tu és a primeira pessoa a dizer isso, sempre foste liberal também nisso. Como defendermos, como regular? Não podes controlar os conteúdos, que isso também tem a voltar à censura, exceto aqueles que já são controlados, a coisa da pedofilia, a questão do incitamento à violência, o discurso de ódio. Há coisas que já existem, mas ter esse poder de personalizar os algoritmos, tu dizes. Dizem que é impossível, mas como se a inteligência artificial vai curar cancros, não é? Há aqui um contrassenso, como é que é impossível? Este middleware é uma boa ideia.

Nós não podemos aceitar que existam realidades na nossa vida que têm efeitos positivos, mas também efeitos negativos e que nós não podemos estabelecer regras sobre elas. Nós temos sinais de trânsito, não é porque nos apeteceu. Temos sinais de trânsito, porque um dia havia carros.

Não é para condicionar a nossa autonomia.

Não é. É porque havia carros a mais e era mais fácil organizar com sinais de trânsito e com regras de prioridade como é que as coisas passavam, que é para depois ser fácil de imputar responsabilidades e quem é que tem a responsabilidade.

Os testes dos medicamentos e os rótulos das comidas. Como tu dizes, o pionés.

Exato. Nós andamos de avião não é porque simpatizamos com o piloto, nós andamos de avião porque acreditamos que há um conjunto de regras.

Que vai dar o seu melhor, como tu dizes. O piloto hoje vai dar o seu melhor.

Exatamente, o piloto vai dar o seu melhor.

Não fico nada descansado.

Que é um conjunto de regras.

Exato, claro.

E portanto, se isto tem este impacto aqui e noutras áreas da nossa vida, então era o que mais faltava que nós não pudéssemos pensar em regras. E a sua dificuldade técnica não nos deve impedir de debater qual é a melhor forma de lá chegar. As propostas que faço, eu assumo desde logo, são um começo de conversa, porque o que eu acho que era mesmo relevante era termos esta discussão, porque é desta discussão de várias perspectivas de regulação que nós podemos chegar a uma regulação inteligente. E qual é que é a melhor regulação precisa sempre de reflexão e de debate, que é aquilo que eu procuro fazer com o livro. Não sou o único a fazer, como é evidente.

Já há países, a Suíça, por exemplo, está em busca dessa regulação, não é?

A Suíça está a discutir introduzir na Constituição o direito fundamental à integridade cognitiva.

Reconhece que este problema é real, portanto.

Reconhece que hoje somos profundamente influenciados por algoritmos que, por serem opacos, por serem invisíveis, por não terem responsáveis, são muito mais insidiosos e nós não nos apercebemos da sua manipulação. Eu digo isto muitas vezes, mas nós temos, quem tem, relógios digitais que começam já a sugerir-nos muita coisa para fazermos na vida, a que horas dormir, correr, criam pressa até para nos fazer sentir que estamos demasiado sedentários, etc. Esse gênero de sugestões e de inputs que os relógios vão dar, vão aumentar brutalmente sobre a nossa vida. Vão nos dizer que estamos muito nervosos com a conversa, que se calhar é melhor acabarmos a conversa.

A acusação de tudo, exato.

E portanto, significa que nós vamos mesmo ser muito influenciados. Quão influenciados? Depende de nós, como é evidente, e depende do tipo de regras que queremos definir. Porque a sociedade está muito habituada a criar regras para quando determinado tipo de fenômenos impacta no nosso livre-arbítrio. Nós não regulamos, por exemplo, a droga. Nós podemos dizer: "Bom, a pessoa, o viciado em cocaína, é livre de continuar viciado em cocaína, portanto, eu não tenho que meter no assunto." A sociedade não diz isso. A sociedade diz: há um momento a partir do qual a pessoa que fica viciada em cocaína deixa de ter liberdade. Ele já não está a decidir.

É inimputável.

Não é isso, mas quer dizer, inimputável não, porque juridicamente é um outro conceito. Mas digamos assim, é uma pessoa que já não está a conseguir decidir.

Já não tem a vontade.

Ele já não consegue.

Já não é livre. Ok.

Já não é livre. A mesma coisa acontece com o álcool ou com o jogo. Ou com o tabaco.

Portanto, as regras são diferentes.

E portanto, há regras para fenômenos aditivos. Por quê? Porque se reconhece que mesmo que seja a pessoa a querer, aquele querer está já muito limitado o seu livre-arbítrio. E aquilo que se está a estudar e eventualmente a comprovar, é o efeito aditivo destes mecanismos. E por isso se discute sobre se deve ou não deve ser proibida as crianças de terem redes sociais. Não é tanto para proibi-las de estar tanto tempo ao telemóvel, que seria uma questão. Mas para mim não é isso. Para mim é se conseguimos ou não conseguimos demonstrar que elas estão construídas para viciar. E se estão construídas para viciar no momento em que as pessoas ainda estão a formar a sua consciência, a sua personalidade.

Como há para o álcool.

Exatamente.

Por exemplo, a questão da Europa, o AI Act europeu, o Digital Services Act, estas leis europeias estão no bom caminho ou ainda é muito ténue?

Eu até acho que neste momento, quando se começa a regular este gênero de tecnologias, o risco de se ficar obsoleto é grande.

Sim, é rápido.

E o risco de não se estar a ver todos os problemas também é grande, mas tem de se começar. E eu acho que a Europa fez bem. Se nós vamos ter inteligência artificial a fazer diagnósticos médicos, eu acho que tem que haver regras para garantir que os sistemas de inteligência artificial que são utilizados nos hospitais funcionem bem. A mesma coisa, se os juízes vão utilizar sistemas de inteligência artificial para os ajudar a fazer sentenças, então convém que haja regras sobre os sistemas, porque nós temos regras sobre os juízes, e temos, e cheios de impedimentos. A que propósito é que não vamos ter regras sobre os sistemas que vão começar a decidir por eles, ou pelo menos, ou com eles.

Exatamente.

Se vamos ter a nossa rede de abastecimento de água e de eletricidade a ser gerida por inteligência artificial, então é bom que haja regras. Da mesma maneira que temos para as redes físicas, da mesma maneira que temos para os juízes. Portanto, eu acho que a Europa aí esteve bem e é falso que os Estados Unidos não regulam. Os Estados Unidos regulam, há bastante já estados com regras, mas sobretudo os Estados Unidos têm uma forma diferente de atuar. Os Estados Unidos começam logo com os reguladores a cair em cima das empresas e a aplicar multas. O sistema jurídico é distinto.

Ok.

Portanto, não é verdade que os Estados Unidos sejam um país sem regras. Aliás, até acho cômico que se diga que os Estados Unidos é um país desburocratizado. Os Estados Unidos têm leis completamente absurdas, há muitos anos, em muitas áreas.

Em muitos estados, exatamente. Mas também há a resistência das grandes tecnológicas que dizem que essa regulação e esse middleware é tecnicamente inviável. Eles próprios não querem aplicar isso, mas tem que ser obrigatório.

Middleware é, no fundo, obrigar.

Eu gostei imenso desta ideia, é um filtro.

Exato.

Que tu dizes, pode escolher o modo cronológico, o modo editorial, personalizado, desligar algoritmos.

Personalizar.

Modo família, estou com família a ver coisas.

E dizer: "Eu quero este tipo de conteúdos, ou eu quero conteúdo curado por este outro."

Modo debate.

Exatamente. Enfim, há várias sugestões que eu achei.

Tremendo. Francis Fukuyama.

Exatamente, foi o Fukuyama que começou por falar do middleware Pode ser tecnicamente desafiante, mas estamos a falar de inteligência artificial. Quando estamos a falar de inteligência artificial capaz, como disseste há bocado, de potenciar a descoberta da cura pro câncer, como se diz, não se vai dizer que não se pode arranjar uma forma de eu poder personalizar os algoritmos que todos os dias utilizo.

Digo mesmo as obras. O IP3 não se pode transformar em uma estrada que passa junto a uma montanha. Pelo amor de Deus, nós fizemos o Canal da Mancha, temos um túnel com 50 km onde passam comboios de alta velocidade debaixo do mar. Como é possível haver um problema de engenharia com uma montanha?

Dito isto, eu não tenho uma visão diabólica destas empresas.

Não diabolizo esta tecnologia também.

Não, muito menos.

É uma ferramenta.

Parte do livro foi escrito em colaboração e em diálogo com a máquina.

É muito curioso tu estares a dizer isso.

Eu nunca tinha contado o número de perguntas que fiz, quer saber que foram 128. Algumas delas foram sugeridas por LLMs e muitas das vezes, muitos dos exemplos-

Language Models, ChatGPTs.

ChatGPTs. E muitos dos exemplos que eu dou pra tentar explicar as coisas, eu pedia ao ChatGPT que nos desse. Isto é, por exemplo: "Por favor, explica-me o algoritmo como se estivesses a falar com uma criança de 11 anos". E ele deu-me um ótimo exemplo, que eu depois afinando, aqui e ali utilizei. E isso é assumido no livro.

Outra coisa de preocupante que é, às vezes engana-se. E pede desculpa. Nunca se retrata, mas pede. Aconteceu com a Ursula von der Leyen, aconteceu isso com ela uma vez e contou numa entrevista que pediu um preço de uma margarina, não sei o quê, e depois ela disse: "Não, mas esse foi o preço de há 20 anos e hoje. E tu trocaste". E o ChatGPT respondeu: "Tens razão, troquei. Tu é que tens razão".

O fato dele nos dar sempre razão mostra que, em primeiro lugar, não está ali ninguém com um pensamento estruturado.

Sim. É uma escrita sem pensamento.

Tirando em questões determinísticas, em que ele nos vai dizer que dois mais dois são quatro, embora seja possível levá-lo a dizer que não são, em determinados contextos. Mas tirando questões determinísticas, tudo o que seja questões de contexto, o que eu acho da Revolução Francesa, o que eu acho da Guerra Civil, etc. Ele tenderá a concordar sempre comigo. E por isso, pode ser útil para desenvolver os meus argumentos, mas não é útil para me dar uma visão do mundo se eu não lhe estiver a pedir, mostra-me visões contraditórias. Por isso é que eu digo que não usem isso como um oráculo, em que eu pergunto o que foi a Revolução Francesa e vou aceitar aquilo que lá está.

Exatamente. Sem mais nada, sem um contraditório.

Sem mais nada.

Exato.

E atenção, nas enciclopédias nós também tínhamos isso, mas as enciclopédias estavam assinadas e havia uma curadoria editorial e acadêmica.

Um conceito de curador, exatamente.

E claro, depois há visões muito diferentes e a história tem disso.

Claro que sim.

Só que se nós tivéssemos um professor que todos os dias nos dissesse uma coisa diferente sobre o mesmo tema, nós íamos dizer: "Este tipo não é um bom professor". Estes modelos de linguagens são esse professor que está sempre a mudar de opinião. E por isso devemos usá-lo para muita coisa, mas nunca achando que é um oráculo.

Com critério. Muito bem. Investir em literacia mediática digital deveria ser uma prioridade de segurança nacional. Tu, Hélder, concordas com isto, que é muito importante investir nesta literacia?

Sim, acho mesmo que é uma das questões mais-

Por causa das fake news e por causa de tudo

...mais importantes na educação hoje, é criar literacia. Não apenas a literacia de perceber o que é a inteligência artificial e o que não é.

Exatamente. E como usar.

Mas literacia sobre como usar, como fazer perguntas, como utilizar estes modelos de forma que possamos tirar o melhor partido deles. E significa continuar a ter muito conhecimento. Eu só consigo detectar que a resposta que o modelo de linguagem natural me está a dar é pobre, porque eu tenho ideia de que há mais coisas do que aquela. Se eu não souber disso, se eu não tiver já conhecimento de base, eu vou aceitar aquela resposta. Como nós aceitamos sobre qualquer coisa sobre a qual nós não dominamos nada, e muitos de nós não dominam quase nada de quase tudo. E depois dominamos alguma coisa em algumas áreas. Era importante perceber como é que nós educamos estas pessoas, a nós, as novas gerações, para saber desconfiar do verdadeiro, do falso, porque esse é o outro desafio das nossas sociedades. As pessoas hoje já veem deepfakes. Os deepfakes vão ficar ainda cada vez melhores e mais sofisticados. Eles vão imitar a nossa voz, vão imitar tudo.

É o Pedro e o Lobo que tu contas.

O que acontece-

O filho que fora pro pai aflito. E um dia começou a vir mesmo o filho aflito, e não acreditou.

Exato. E o que acontece quando nós, como sociedade, deixamos de acreditar naquilo que vemos e que ouvimos? Porque o nosso filtro inicial para acreditar nas coisas é aquilo que vemos e aquilo que ouvimos. Se vemos uma fotografia, se vemos um vídeo que mostra alguma coisa.

Ficava como provado. Era o VAR.

Pronto, é o VAR. Podemos, enfim, tentar ver, mostrar lá a câmera do outro lado. Claro que sim. Mas nós acreditávamos. Agora, nada do que nos é dado por filme nós vamos acreditar, nós vamos duvidar. Ora, o que acontece quando nós deixamos de ter este filtro, este critério? Passamos a acreditar naquilo que já acreditávamos.

As meias-verdades, os fatos alternativos, como tu dizes.

Acreditamos nos nossos preconceitos, acreditamos naquilo que nos dá jeito.

Isso é assustador. Por isso é obrigatório, esta é a última dica que eu deixo. Quero agradecer muito, Adolfo Paisquita Nunes, a tua disponibilidade em vir aqui.

Obrigado.

Ao convidado extra, "Algoritmocracia: Como a IA está a transformar as nossas democracias", uma edição da Dom Quixote, como diz o Paulo Portas, seu amigo, e no prefácio, um livro essencial para quem quer perceber a política dos nossos dias. Bem-hajas, Adolfo, e até sempre. Muito obrigado.

Obrigado, meu.