Muito bom dia, "Magnifica Humanitas", magnífica humanidade. A primeira encíclica de Leão XIV foi, como se esperava, sobre a inteligência artificial e também como se esperava, a sua referência primeira foi a "Rerum Novarum", de Leão XIII, que fundou a doutrina social da Igreja no final do século XIX. 135 anos depois, face ao que podemos ver como uma nova revolução industrial, o papa americano procura não só responder às dúvidas, ansiedades e desafios colocados pela inteligência artificial, como faz pondo toda a centralidade no homem e nas suas imperfeições. É sobre tudo isso que vamos falar no "Contra-Corrente" de hoje e também sobre o que Leão XIV quis dizer quando falou de guerra e paz. José Manuel, bom dia.

Bom dia.

É uma encíclica surpreendente?

Não diria. Não diria que seja surpreendente, mas é uma encíclica que tem uma solidez que me parece bastante grande. E que, como tu de resto referiste, não é surpreendente no sentido em que havia muitas indicações de que Leão XIV iria por este caminho. Por duas ordens principais de razões. Primeiro, pelo nome que ele escolheu. Nós falámos disso aqui há pouco mais de um ano, quando ele foi eleito papa, escolheu o nome Leão. Quem era o último papa Leão? Era o papa Leão XIII e o papa Leão XIII, em 1891, tinha feito publicar uma carta encíclica, que ainda hoje é daquelas que mais influenciaram, não apenas o que é a Igreja Católica, mas também o que é a política, diria que sobretudo na Europa, mas não só. Por quê?

A "Rerum Novarum".

É, a "Rerum Novarum". É uma carta encíclica que estabeleceu duas referências. Uma referência antissocialista. Podemos considerar que é uma reação que levou tempo, levou mais de 40 anos, é uma reação no final do século XIX àquilo que aconteceu em meados do século XIX, em particular o manifesto do Partido Comunista, do Karl Marx e do Friedrich Engels. É uma encíclica que diz: "Temos aqui um problema, temos muitos operários pobres, temos muitos trabalhadores pobres, isso é um problema, mas a solução não é o socialismo". Ao mesmo tempo, é uma encíclica que, reafirmando o princípio da propriedade privada, não a estabelece como um valor intocável e é também crítica do liberalismo. Estamos também a falar de um tempo em que a Igreja tinha vindo de um período em que podemos dizer que ela era vista, não quer dizer que fosse sempre, mas pelo menos era vista como sendo uma espécie de força reacionária. Estamos a falar de um século de revoluções, o século XIX na Europa. É um século de profunda transformação, aparecem os nacionalismos, não há referências a isso. Essa encíclica vai ter vários desenvolvimentos que são relevantes. Ele vai dar origem, basicamente, à chamada doutrina social da Igreja. A doutrina social da Igreja é fundamental pra construção do Estado Social Europeu, pra aquilo que viriam a ser os partidos democratas cristãos, que são os principais responsáveis pela União Europeia. Eram os partidos que estavam no poder. Os líderes europeus, França, Alemanha e Itália, os mais importantes eram democratas cristãos, todos eles. É muito relevante. E depois temos um outro aspecto, que também tem relevância pra União Europeia, que é a primeira encíclica que faz referências a esta encíclica, que é uma encíclica de Pio XI, "Quadragésimo Anno". É uma encíclica que celebra os 40 anos e que introduz um conceito que ainda hoje eu diria que é muito mal entendido, que é o conceito da subsidiariedade. Que ideia é esta? A ideia da subsidiariedade é a ideia de que se deve procurar resolver os problemas próximo dos problemas e que eles só escalam pro nível superior se não houver solução mais próxima. Isto é algo que está embebido, designadamente nas instituições europeias, infelizmente, com cada vez menos presença, porque há uma tendência para fugir pra cima, em vez de ser ao contrário, pra tentar resolver localmente. E isso é um tema de todos os sistemas políticos e designadamente o sistema político europeu. Há depois desenvolvimentos, por exemplo, com Paulo VI, há uma encíclica que tem relevância no que se refere à colocação num plano semelhante ao "Quadragésimo Anno", portanto, 80 anos, ao tema do subdesenvolvimento dos países pobres. Já não são apenas os trabalhadores pobres, são os países pobres. É importante. E finalmente, temos uma encíclica que é muito relevante, que é a "Centesimus Annus", do São João Paulo II. E por que é importante? Porque ela sai em 91, portanto 100 anos, e que ano é 91? Noventa e um é dois anos depois da queda do Muro de Berlim. É uma encíclica que consagra a condenação daquele sistema que acabava de ruir. Encíclica, naturalmente, muito inspirada pela própria experiência pessoal de João Paulo II, que era o papa polaco. E talvez a encíclica que mais conciliaA Igreja com o chamado liberalismo económico. Depois dessa encíclica, há, primeiro com Bento XVI e depois talvez até mais com Francisco, um certo retomar noutros domínios de críticas ao liberalismo. Esta encíclica, na minha perspectiva, atenção, estamos a falar de uma encíclica densa, longa e que precisa de ser lida mais que uma vez. Eu nem sequer consegui lê-la toda.

Esta, a do Leão XIV.

Leão XIV. Magnifica Humanitas. É uma encíclica que vai ter que ser mastigada. Até porque o Leão XIV não gosta de soundbites. Não escreve pra soundbites. Às vezes vai sacar uma frase ou outra como sendo um soundbite, mas nós temos que ler tudo, porque a seguir há qualquer coisa que tira um pouquinho o valor do soundbite e vou falar um pouquinho disso.

Tem muitas nuances nesta parte da inteligência artificial.

Tem nuances. Isto era o caminho que se previa que ele fizesse. Aliás, isto que eu estou a referir, a recapitulação do que foi a evolução das relações da Igreja, está na própria encíclica. Ele faz isso na encíclica. Está lá esta recapitulação da matéria dada. Outra coisa é um tema que ele falou várias vezes. Ele falou várias vezes em inteligência artificial, o que não surpreende de um bispo que vem dos Estados Unidos, que é o país onde isso tem explodido literalmente. Não há aqui surpresa. Há algo que eu queria chamar a atenção, uma maior lentidão e uma maior urgência. A maior lentidão é: os últimos papas têm publicado a sua primeira encíclica menos de um ano passado da sua eleição, exceto Paulo VI. Esta encíclica levou mais de um ano. Não foi muito mais de um ano, foi um ano e uns dias, mas levou mais de um ano. O que também é um sinal, que está a ser visto como tal, do próprio papel do Papa na sua redação. Um papel que terá chegado, e aqui talvez também haja seguramente uma novidade, que se notará naquilo que alguns autores, sobretudo autores da anglo-saxónica, já referem, que é: isto tem um inglês muito bom. O inglês em que ela está escrita é melhor do que o habitual, porque habitualmente a versão inglesa era uma tradução ou da versão italiana.

Da língua materna do Papa.

Da língua materna do Papa. Não é o caso desta vez. A língua materna do Papa é o inglês e as pessoas referem isso. Há aqui dedo dele, claramente. Talvez até por contraste com o anterior papa, que talvez delegasse mais nessas tarefas, designadamente nalguns dos seus conselheiros mais próximos. E há também uma maior urgência, porque, por exemplo, a "Rerum Novarum" surge, como eu referi, mais de 40 anos depois do Manifesto do Partido Comunista, mais de 20 anos depois da Comuna de Paris. É uma reação, mas uma reação que nós podemos considerar quase um século depois do início da Revolução Industrial, se considerarmos os ludistas no Reino Unido e essas coisas todas. É mais de um século depois. E aqui não, aqui a inteligência artificial não está sequer toda desenvolvida e já temos uma encíclica, o que é muito relevante.

Aliás, ele próprio sublinha isso no texto. Diz: "É difícil escrever sobre este tema que está todos os dias a mudar".

A evoluir. E desse ponto de vista, houve um cuidado que me parece muito importante e talvez também novo, que é ter tido como colaboradores, não só pessoas da Igreja que estão dentro desta matéria, portanto, acadêmicos, penso que jesuítas, que são grandes especialistas em inteligência artificial, mas também os que estão a fazer isto. Ele tinha anteontem, na apresentação, um dos homens da Anthropic, o cofundador. Não é um detalhe, é uma coisa muito relevante. E também é novidade ele próprio ter apresentado. Habitualmente não é assim. A encíclica é publicada e pronto. E ali houve uma conversa de imprensa alargada com o cuidado de explicar o que lá está. Agora, indo ao ponto que me parece a mim talvez o mais interessante, para já, daquilo que eu posso ler, que é o próprio nome, "Humanis Dignitatis", dignidade humana, e o fato de, no fundo, há muito aqui a mensagem de que as máquinas, os algoritmos, não podem superar o homem, e não devem, e não se deve almejar, ambicionar esse objetivo. A ideia de que vamos ter sociedades que superam os nossos próprios limites e constrangimentos, é algo que para o Papa, para o Leão XIV, é negativo. E é negativo com argumentos que às vezes são surpreendentes. Há um ponto, que aliás é hoje também sublinhado num texto que aqui publicamos do André Azevedo Alves, que é uma passagem que, como disse, não tem nada de soundbite, mas que eu acho que é extraordinariamente rica, que é este ponto, eu vou ler: "Para suprimir totalmente a dor, seria necessário, no fundo, extinguir também o amor e o desejo. Realmente, quem ama e deseja não pode evitar passar pela provação e pelo sofrimento. E por isso, ao longo dos anos, guardamos dentro de nós ensinamentos que ficam gravados como cicatrizes, lembranças do caminho percorrido entre liberdades e quedas, sonhos e desilusões. E só graças à inteira ligação desses elementos que no coração acontecem aqueles prodígios da alma que nos fazem experimentar o sabor mais doce da nossa humanidade". É algo que isto consegue. Mas repara, o que há aqui é dizer assim: a máquina não pode fazer isto. Ele está aqui a contrariar aquilo que é uma tendência nossa, que é uma tendência até às vezes muito ligada àquilo que nos oferecem, por exemplo, as aplicações de inteligência artificial, as máquinas, essas coisas todas, que é oO prémio imediato, o imediatismo. Nós queremos uma coisa, temos já.

A sabedoria instantânea.

Tudo isso. Tudo aquilo que não implica esforço, dor, sofrimento, uma coisa que é a recompensa diferida. Eu tenho que esforçar-me para no futuro ter essa recompensa. Não é ter a recompensa amanhã, não é fazer isto aqui e já tenho a seguir um reforçado ou prémio, que é uma coisa infantil. Todos nós somos pais, sabemos que é uma coisa infantil. O já é uma coisa muito infantil. E nós temos sociedades que não é apenas serem transhumanistas, neo-humanistas. São sociedades que têm esta urgência. O que, por exemplo, no domínio da política é complicadíssimo, mas no domínio da papacidade também é muito complicado. Porque, por exemplo, no que se refere a coisas que para a Igreja e para os católicos são muito relevantes, que é instituições que exigem em si próprio nós abdicarmos, por exemplo, o casamento. É um sacramento. O casamento na Igreja não é só um contrato que se faz e desfaz, é um sacramento, portanto, é uma coisa que tem uma dignidade de tipo diferente. Isso implica dor, implica às vezes compromissos, implicam coisas que não são apenas termos tudo o que queremos imediatamente. E desse ponto de vista, este desenvolvimento do que é dignidade humana e do que essa dignidade humana implica noutros domínios. Por exemplo, ele volta a falar do capitalismo e procura enquadrar o capitalismo em valores de outra dimensão, nomeadamente dizer: o lucro não pode ser o único objetivo, porque há valores da sociedade. E nas empresas sabe-se isso. Há uma lógica, que é uma lógica que nós podemos dizer dos resultados trimestrais, portanto, em que é preciso sempre que a empresa se valorize na bolsa, e a empresa se valorize na bolsa, se houver empresas cotadas têm que ter resultados para imediatamente as ações valorizarem, portanto, aquilo ter valor.

O papa chama-lhe o síndrome Babel.

Mas também sabemos que há outro lado, muitas empresas consideram que faz parte das suas obrigações não apenas entregarem aos seus acionistas resultados, mas entregarem aos seus trabalhadores condições que lhes permitam progresso, uma vida decente e muitas pessoas entregarem também à sociedade, terem um valor social. E nós hoje vemos, por exemplo, uma coisa que é muito frequente, que é: as empresas publicam quais são os seus objetivos sociais, qual é o seu programa, quais são os seus valores. Hoje é muito fácil, nós vamos aos sites, há sempre lá uma parte dedicada a isso.

Isto tem vindo a ser valorizado.

Tem vindo a ser valorizado e isto é um caminho que tem vindo a ser feito. E ele sublinha muito.

Eu não tenho a certeza, Zé Manuel, se isso é um caminho que não será de alguma forma interrompido, sobretudo no pilar social, com as posições da administração norte-americana. Porque tudo isto vinha um bocadinho na linha da administração norte-americana, na linha de Davos, dos excessos do capitalismo. Mas um dos alertas do Papa nesta encíclica é para os riscos associados ao excesso de tecnocracia.

Sim.

E esses riscos associados ao excesso de tecnocracia são mais fáceis de as pessoas entenderem, até porque já experimentaram os efeitos disso por causa da pandemia.

Pandemia, as crises que existem, as crises são momentos de dificuldade, mas atenção, a tendência que nós temos, porque vivemos no mundo ocidental, vivemos na Europa, em Portugal, é encontrar nas entrelinhas recados para a administração americana.

Não, eu não diria.

Atenção, há muita coisa aqui que nós pensando bem, há muitas coisas que têm a ver com o que se passa no terceiro mundo, com o que se passa na China. Há coisas que nós diríamos: "Isto é um chapéu que cabe muito bem ao Putin". Só que isto nunca é direto.

Exatamente. Isto não é uma mensagem para os Estados Unidos. Isto é uma mensagem global.

Global. Claro que é global. Toca muitos pontos. Temos muitos convidados e, portanto, eu queria só acrescentar aqui um ponto, que é um ponto que chamou a atenção de muitos órgãos de informação, o que é normal, que é uma passagem em que ele refere que se ultrapassou a noção de guerra justa. Isto parece muito conjuntural. Por quê? Por causa do debate recente que houve entre o Papa e a administração americana. E quando digo a administração americana, não digo só Trump, porque também houve ali, não diria uma discussão direta, mas uma troca de argumentos com J. D. Vance, que é católico, e em relação ao qual há alguma expectativa relativamente ao livro que ele vai publicar este ano ainda, que é um livro sobre a sua confissão, que ele de origem não era católico, é um livro que é aguardado com muita expectativa. E havia ali uma espécie de troca de argumentos sobre a noção de guerra justa. A noção de guerra justa não é alheia à doutrina da Igreja. A noção de guerra justa é algo que vem de Agostinho de Hipona, Santo Agostinho, e o Papa é um agostiniano, é da ordem dos agostinhos. Portanto, tudo isto estáTudo isto é indissociável. E de repente ele diz: "Ultrapassada a noção de guerra justa", quer dizer, já não há guerras justas.

Não sei se tu tiveste essa dúvida. O verbo que ele utiliza é: "É importante reafirmar que foi superada a teoria da guerra justa". O verbo superar aqui não é muito claro.

Mas ele a seguir, por exemplo, se formos ver a nota que ele coloca nesse ponto, a seguir há uma nota, e vemos que a nota remete para o Catecismo da Igreja Católica. E o Catecismo da Igreja Católica, no ponto 2309, considera, no fundo, desenvolve um bocado essa ideia. Portanto, diz o que é e o que não é. E diz: em condição é que a legítima defesa pela força das armas se justifica. E como é que isso deve ser aplicado ou não. E depois, inclusive, nessa nota, há citações diretas do Catecismo. Portanto, não há aqui qualquer ruptura. Podemos dizer que este tema é um tema que tem ganho relevo, mas o próprio Catecismo diz que a avaliação disso deriva do poder político. Ponto que talvez seja aquele que vai dar, creio eu, alguma discussão. É a noção da guerra preemputiva. Qual é a diferença? O Catecismo tem uma coisa muito curiosa. O Catecismo nos fala do direito de legítima defesa, mas as condições têm que ser cumulativas, não é apenas uma delas preencher-se. Uma das condições que é considerada necessária para poder recorrer à guerra é estarem reunidas condições sérias de êxito. Isto é, reagir pela guerra, a guerra desesperada apenas para marcar um ponto, não. Mesmo que os outros motivos, a agressão, achar-se que aquilo vai causar danos irreversíveis, estejam compreendidos. Não há aqui a ideia do sacrifício inútil. Ele diz que tem que estar tudo preenchido. E a ideia preemputiva. O que é uma guerra preemputiva? A guerra preemputiva é aquela quando vês o teu inimigo, o teu adversário, o teu agressor, a preparar-se para uma guerra, atacares antes.

Foi o argumento utilizado pela administração Bush.

Não, há muitos momentos destes. Estamos muito centrados no Meio Oriente. Podemos usar aqui dois exemplos do momento em que houve uma guerra preemputiva, que de alguma forma permitiu que a guerra se resolvesse depressa, e outra em que não houve e ia sendo um desastre. Guerra de 67, a Guerra dos Seis Dias. Na Guerra dos Seis Dias, o Nasser, o Egito e a Síria, Assad, estão a preparar-se para atacar Israel, e Israel ataca primeiro e resolve a guerra em seis dias. E depois temos a guerra de Yom Kippur, a guerra de 73, em que na altura Golda Meir tinha os sinais, mas não reagiu aos sinais e os tanques sírios quase que chegaram à Galileia. E os tanques egípcios atravessaram o Sinai, entraram pelo Sinai adentro. Depois no fim, Israel voltou a ganhar, mas foi com um sacrifício brutal. O papa está a dizer é que 67 não podia ser. É preciso esperar este lado, é preciso esperar a agressão. O que parece estar a dizer, eu acho que há aqui, e quando traz este exemplo, que é muito claro.

E também tem que estar a falar da atualidade.

Claro, há muitas outras questões que têm a ver com outros momentos da atualidade. Tem a ver com outros momentos da atualidade, com esta questão: não podemos permitir que haja uma arma nuclear, porque no momento em que haja isso, o ataque pode ser devastador, que é o caso do Irão, ou outros momentos. Há aqui um tema, que é um tema de doutrina, mas que já estava previsto no próprio Catecismo. E este Catecismo, no essencial, ainda foi feito por Bento XVI. E foi feito por Bento XVI no tempo em que ele era, agora chama-se de Castelo da Doutrina da Fé, já não se chamava Santa Inquisição, mas tinha outro nome. Eu acho que nós vamos continuar a discutir isto durante mais tempo. Não sei se esta encíclica vai ter o impacto. Eu diria que dessas várias encíclicas sobre estas matérias, porventura as mais influentes é naturalmente a "Rerum Novarum", depois, mas também é importante a "Centesimus Annus", seguramente a "Centesimus Annus", e agora vamos ver até que ponto é que essa também é muito relevante, sendo que ele, ao dar esta importância ao tema da dignidade humana como sendo o critério último, é uma coisa que não é preciso ser católico para entender. No fundo, dizer: "Eu não estou contra a tecnologia", mas não quero ser enfeitiçado por ela. E não haja a ilusão de que nós podemos superar a humanidade, porque no fundo, isto também é muito religioso.

Superar o humano.

Superar o humano. Não haja essa ilusão. Estamos apenas a começar a ler e a perceber.

Na perspetiva da ruptura que a inteligência artificial promete, esta encíclica promete ser tão influente quanto a encíclica que marcou a doutrina social da Igreja.

A tal de 1891 escrita por Leão XIII.

Repara, ele fez isso, ele não teve nenhuma dúvida.Assinou no dia em que tinha sido assinada.

No 100º aniversário.

No 135º aniversário e publicou no 135º aniversário. Portanto, escolheu o nome Leão. Não há aqui lugar para dúvida.

Já temos em linha o primeiro convidado do Contracorrente, Adolfo Mesquita Nunes, autor do livro "Algoritmocracia: Como a Inteligência Artificial Está a Transformar as Nossas Democracias". Portanto, o Adolfo Mesquita Nunes tem obra publicada sobre a inteligência artificial. Bom dia, Adolfo.

Olá, bom dia.

Bom dia. Suponho que tenha também já deitado os olhos sobre esta encíclica "Magnifica Humanitas". Na sua opinião, qual é o contributo do Papa Leão XIV para este crescente e diário debate sobre o uso e os limites éticos da inteligência artificial?

Nós tendemos sempre para um certo presentismo. Para achar que aquilo que estamos a viver são coisas que vão marcar um antes e um depois, e provavelmente posso estar a ser vítima desse presentismo, mas eu acho sinceramente que esta encíclica tem a capacidade de poder ser aquilo que a "Rerum novarum" foi para a doutrina social da Igreja e que enquanto fui dirigente e militante de um partido democrata cristão, foi um dos textos mais influentes e mais importantes para as democracias cristãs europeias. E por que eu acho que pode ser um contributo ainda maior? Precisamente pela dimensão das revoluções que estão em causa. A Revolução Industrial foi uma revolução brutal do ponto de vista da disrupção que trouxe, do ponto de vista económico, social, cultural, e trouxe desafios muito importantes, sobretudo para os mais vulneráveis. Aquilo de que nós estamos a falar hoje na revolução da inteligência artificial, tem uma dimensão ainda mais exponencial. Nós não estamos apenas a falar de um desenvolvimento tecnológico que pode criar desigualdades ou disrupções na economia, mas estamos a falar de algo que pode ser profundamente transformador da própria existência humana e eu acho que é isso que também resulta da encíclica e que está claramente expresso no título da mesma, que é a dignidade da pessoa humana, que é o princípio estrutural. E a inteligência artificial, a partir do momento em que permite que deleguemos nela os nossos processos cognitivos, os nossos processos de decisão, as nossas próprias angústias, e a partir do momento em que passamos a depender destes sistemas para tomar decisões simples nas nossas vidas, convida a uma reflexão sobre os limites dessa delegação e sobre o que essa delegação altera ou traz para a sociedade e para a humanidade. Eu acho que traz bastante matéria para reflexão.

Bastante matéria para reflexão, é um texto bastante denso, materializado em imensos parágrafos sobre a inteligência artificial. Há aqui frases poderosas e que convidam à reflexão. Por exemplo, uma delas em que o Papa diz que os usos manifestamente anti-humanos, como a manipulação da informação ou a violação da privacidade decorrente do uso da inteligência artificial. Isto é uma mensagem direta do Papa, um convite direto do Papa à regulação da inteligência artificial, Adolfo Mesquita Nunes?

Penso que sim, mas até diria que essa observação da encíclica é aquela que provavelmente será muito consensual. Ou seja, poucas pessoas defenderão que a inteligência artificial deve servir para manipular. Portanto, no fundo, trata-se de olhar para a inteligência artificial e ver de que forma ela embate nos quadros regulatórios que nós já temos. Eu acho que há outros aspectos que são trazidos na encíclica que eu acho que são importantes e que esses sim convidam a uma reflexão que não é tantas vezes feita. Os sistemas de inteligência artificial e os algoritmos estão pensados para a eficiência. Ora, se nós começamos a delegar as decisões das nossas vidas, das nossas empresas, das nossas sociedades e sistemas de inteligência artificial, nós estamos a tornar como se a eficiência fosse o alfa e o ômega daquilo que é o nosso processo decisório. E o nosso processo decisório, enquanto humanidade, felizmente, não tem apenas a eficiência como eixo. Temos a caridade, temos o amor, temos a justiça, temos a equidade, a proporcionalidade, coisas que fazem muitas vezes com que tomemos decisões que não são as mais eficientes do ponto de vista da eficiência estrita, mas são aquelas que correspondem melhor ao nosso quadro de valores. Ora, se nós começarmos a delegar e delegamos de forma cega, sem perceber o que estamos a delegar em sistemas de inteligência artificial que são persuasivos e que nos dão boas respostas do ponto de vista da eficiência, o risco que nós corremos como sociedade, desde nós autonomamente às empresas, às sociedades, às políticas públicas, porque os Estados também vão utilizar a inteligência artificial, é passarmos a ter uma substituição deste quadro moral por um quadro de eficientismo, sem que nos tenhamos apercebido que isso aconteceu, porque nós não estamos propriamente a escolher abdicar desses valores, mas apenas estamos a ser persuasivamente levados a tomar determinado tipo de decisões porque são eficientes. No fundo, aquilo que vamos ter que a coragem, a autoridade e a autonomia com que vamos ter que dizer: "Ok, a máquina defende esta posição, esta ideia, esta decisão, mas eu não quero ir por aí". E o custo de dizer que não queremos ir por aí, vai ser um custo maior socialmente se nós não estivermos preparados para aceitar esse custo como sendo o custo normal.

Há uma frase na encíclica que se resume a duas palavras, mas que é absolutamente poderosa, que é um título que diz apenas e só: permanecer humanos.

Exato. Eu acho que a encíclica, ao escolher a dignidade da pessoa humana, está a fazer aquilo que eu acho que era mesmo essencial trazer para a discussão, que é exatamente onde é que nós podemos estar a ser transformados na nossa natureza por estesMas isto não é uma visão tecnopessimista ou uma visão avessa à tecnologia. Não, é saber olhar e saber perceber que esses efeitos estão a acontecer. Repare, há até uma certa, eu agora não vou conseguir ter esta palavra, que nunca consigo dizer, antropomorfização. Não consigo dizer, desculpem, é daqueles trava-línguas que eu não consigo. Mas a forma como nós tratamos os sistemas de inteligência artificial e queremos que eles sejam quase humanos, na forma como dialogamos com eles, é, para mim, um perigo nesse sentido, porque convida-nos a esquecer que estamos a lidar com sistemas, com máquinas, que ainda para mais nós não controlamos, nós não sabemos como funcionam. Elas não estão a ser comandadas por nós ou só estão a ser comandadas de certa forma. Quando grandes empresas de inteligência artificial lançam a ideia de termos amigos por inteligência artificial e que vai ajudar a combater a solidão, e que vai ajudar a combater uma certa sensação de desacerto que muitos de nós sentimos nas nossas vidas em sociedade. O perigo é que passemos, de facto, a perder esta componente humana. E temos de nos lembrar que do lado de lá não está absolutamente nada. Está uma sequência plausível de palavras.

Uma ilusão, como escreve o Papa. Há o erro de criar a ilusão de estarmos perante um sujeito pessoal autêntico.

Mas essa ilusão está a ser construída passo a passo. Sei que muitas vezes nos apressamos e às vezes pode ser tentador pensar que nós saberemos lidar com isso, ou seja, que iremos sempre preferir um humano e o toque humano estará sempre presente e não temos que ter receios disso. Eu, sinceramente, não sou tão otimista nesse quadro. A forma como nós tendemos a preferir relações em que não somos julgados, em que não somos desafiados. Houve uma polêmica há pouco tempo numa entrevista em que alguém comparava a forma como lidamos com animais e como já os preferimos às pessoas. Tem muito a ver também com o fato de os animais não nos desafiarem tanto do ponto de vista relacional. E termos amigos com inteligência artificial, aquilo que nos está a conduzir é para essa desumanização. Há pouco tempo foi noticiado no Japão, em populações mais velhas, quando perguntados sobre se queriam ter cuidadores humanos ou autómatos, que muitos responderam que queriam autómatos. E a resposta não podia ser mais humana, porque não querem ser um fardo para outra pessoa e, portanto, sentem-se mais confortáveis em ser um fardo para um autómato. Ou seja, há muitas razões que nos podem levar a essa delogação. Peço desculpa, Helena, interrompi.

Não, por amor de Deus. Adolfo, aqui a questão é: nós identificamos os problemas e a encíclica, de facto, nesta área da inteligência artificial identifica. Eu também não a li toda, como é óbvio, li a parte da inteligência artificial que me interessa especialmente. A encíclica identifica muito bem os desafios, faz aqui alguns apelos, mas esses apelos exigem uma vontade ética e moral, e a vontade ética e moral nem sempre é fácil de se afirmar. O meu ponto é se nós não estamos já naquela fase em que não somos capazes de parar a força com que esta ruptura tecnológica se está a afirmar. E como é que fazemos? Porque o Papa diz: é preciso criar responsáveis, no sentido da responsabilização anglo-saxônica.

Ele usa a palavra accountability.

Exatamente. É preciso regular, mas é preciso mais do que isso. É preciso desarmar, mas desarmar a própria inteligência artificial. O ponto é: esse desarmamento depende de características do humano que o humano está a desistir de ter, para o transferir para a IA. Se é que me fiz entender. Como é que nós conseguimos vencer esta batalha? É um enorme desafio sem a espiritualidade, diria eu.

Perfeito. A Helena assistiu há pouco, fui convidado por si para um debate há pouco tempo, onde eu bati um pouco e até citei a Doutrina Social da Igreja ainda antes desta encíclica.

Pois foi. Quase que antecipou a encíclica papal quando falou da Doutrina Social da Igreja ligada à inteligência artificial.

É verdade. Agora está-me a escapar a palavra em português. Eu dou muito boas-vindas, quem sou eu para dar, mas este contributo, esta encíclica é mesmo essencial por quê? Porque tipicamente quando debatemos a inteligência artificial e debatemos os seus limites, os seus riscos, há quase a ideia de que estamos apenas a falar de tecnologia e que quem aparece a falar de regulação, de limites, que tem sido o meu caso, aparece como sendo alguém que quer regular a economia, que quer perturbar a inovação. E era importante que alguém com a autoridade do Papa pudesse vir dizer que não é disso que estamos a falar. Nós não estamos a falar dos sucessos que uma revolução tecnológica pode ter. Não é disso que se está a falar. Do que se está a falar é de algo muito mais profundo, que tem a ver com a existência humana e que isto nos está a alterar. E está a alterar-nos de uma forma que pode ser preocupante. Portanto, trazer este cenário e este debate é que vai permitir que possamos ter então agora uma conversa sobre regulação, sobre limites, sobre o governance que devemos ter relativamente à inteligência artificial, que seja fundado nestas preocupações e que não seja confundido com qualquer tipo de "eu quero regular a inteligência artificial apenas porque sim, porque não posso ver nada a mexer e tenho que ir regular". É um exercício dificílimo, porque ao mesmo tempo nós estamos todos os dias a ser convidados e se repararem, é isso que nos dizem, é que a inteligência artificial é melhor do que nós, mais inteligente do que nósQue nós não precisamos de nos preocupar com tudo que nos preocupávamos antes, porque a inteligência artificial vai fazer por nós. E não é a mesma coisa. A comparação que muitas vezes faz com a máquina de calcular. Quando começamos a usar a máquina de calcular, qual foi o problema? As pessoas também diziam que íamos deixar de saber fazer matemática. É que a máquina de calcular é totalmente determinística, ela não tem nenhum poder criativo. A máquina de calcular, a única coisa que faz é substituir-nos nas tarefas aritméticas, mas ela não pode criar absolutamente nada de novo. Não nos dá respostas, não dialoga conosco, não nos sugere o que podemos fazer. Estamos a falar de algo que entra no processo cognitivo, e entra muitas vezes no processo cognitivo sem que nós nos apercebamos. Eu ironizo isto muitas vezes com muitos dos meus amigos que utilizam o devices, que já lhes dizem que horas é que eles se devem deitar, o que é que eles devem ir comer. E eles tomam essas decisões, com certeza, com livre-arbítrio. Mas vamos agora pensar no que é a multiplicação destes devices, que vão existir para nos tornar mais produtivos, para nos tornar capazes de fazer mais e melhor, mais eficientes, a multiplicação de pequenas decisões em que eles nos estão a influenciar. E o nosso livre-arbítrio só existia se nós estivermos conscientes do que estamos a fazer. E depois, arbitrariamente, decidimos delegar. E esta discussão é mesmo importante. E por isso é que eu me atreveria a dizer que, contextualizando sempre nesta ideia de presentismo, de que podemos ser sempre vítimas, de que esta encíclica vai ter uma importância determinante e seria importante que nós pudéssemos discuti-la enquanto instrumento da doutrina social da Igreja, olhando para a relevância do que foi a "Rerum Novarum", isto é, não como uma espécie de preocupação meramente religiosa, porque não é, mas como um enquadramento daquilo que é a forma como a nossa sociedade deve lidar com isto. E não acreditar quando nos disserem que isto é apenas tecnologia. Ou a frase que nos é dita muitas vezes: "Mas não queres que se descubra a cura do cancro?" Como se o trade-off fosse este. Como se tivéssemos que delegar tudo para conseguir chegar à cura do cancro, que é uma coisa que todos nós, com certeza, ambicionamos.

Sendo que esta tecnologia, a inteligência artificial, não é moralmente neutra, como escreve o Papa, o que lança também um grande desafio, Adolfo Mesquita Nunes, ou não?

Eu tenderia sempre a dizer, até há pouco tempo, que a tecnologia é mais ou menos neutra, ela depende de quem a utiliza. Portanto, eu posso ter armas de guerra, elas são neutras no sentido em que quem as utiliza é que é gente, e é accountable por elas, e portanto, o sentido moral é-lhes dado por quem as utiliza. O que é diferente aqui, e por isso faz sentido que o Papa faça essa referência? Aqui como estes processos de inteligência artificial vão ser processos decisórios, vão estar integrados nos nossos processos de decisão empresarial, no Estado, na nossa autonomia individual, como já dei exemplos, o risco que existe, de facto, é que nós estejamos a ser influenciados, sem saber, no nosso processo de tomada de decisão, por estes sistemas. E por isso eles deixam de ser neutros. A forma como eles estão programados, a quem é que eles respondem, como é que o algoritmo está desenhado, que incentivos é que nos está a dar, então já não é neutro. E por isso faz sentido que o Papa fala disso. Aliás, quando nós hoje temos esta conversa sobre a soberania digital, e que não é só a soberania digital, é mais do que isso, mas quando hoje vemos a Europa preocupada com a soberania digital e com a cloud soberana, não é outra coisa senão o reconhecimento de que estes sistemas desenhados, construídos, parametrizados por terceiros, podem ter comportamentos e podem estar dependentes de ordens que não as nossas, de valores que não os nossos, e por isso obriga-nos a querer ter maior soberania e maior controle sobre eles. É evidente que nós não vamos ter controle sobre tudo e, portanto, haverá que ter uma discussão sobre até onde é que vai este conceito de soberania, mas do ponto de vista individual, eu acho que nós temos de ser convidados a perceber que temos de ter com os sistemas de inteligência artificial o mesmo tipo de relação de desconfiança que temos se tivéssemos a delegar aquilo numa pessoa ou numa entidade. Ou seja, se pensarmos que é o Estado, portanto, neste caso, o Luís Montenegro, que se é primeiro-ministro, mas outros primeiros-ministros que todos os dias decidem o que é que nós vemos no nosso telemóvel, que é como os algoritmos funcionam, nós não íamos gostar de saber. Bom, então nós também gostávamos, eu acho que devíamos querer saber, ok, então eu quero saber quem é que está a desenhar esses algoritmos que decidem todos os dias o que é que eu vejo no telemóvel. Só para dar um exemplo de por que faz sentido não falar de neutralidade aqui, ou pelo contrário, por que faz sentido dizer que desta vez podemos não estar perante uma tecnologia neutra.

Há aqui um outro aspecto que o próprio Papa desafia o setor a aprofundar a investigação, que é o facto da inteligência artificial, em muitos casos, ser uma caixa negra. Em que não se sabe muito bem até como é que funciona. E têm existido ultimamente alguns exemplos.

Isto tem de ser património de todos, que é uma coisa que ele também diz em relação não apenas à inteligência artificial, mas em relação a tudo. Portanto, aos recursos, por exemplo, às terras raras, se quisermos. Não é uma coisa que possa ser apropriada por uma parte da humanidade.

Não só ser apropriado, como precisa que se perceba melhor o que ela é para reduzir os riscos da sua utilização.

Vamos dar um exemplo que eu acho que vocês, enquanto órgão de comunicação social, são obrigados por lei a dizer quem são os vossos acionistas, quem é que vocês são, quem é que vos paga o salário. Por quê? Porque se entende que é preciso transparência. E é um valor que a sociedade entende que é importante por causa do papel que a imprensa tem e que os órgãos de comunicação social têm. Essa ideia de transparência tem de ser passada também para esses sistemas, quando estes sistemas decidem e controlam uma quantidade de coisas, e bem. Ou seja, eu não estou a dizer que o Estado não deve ter sistemas de inteligência artificial na Justiça, que não deve ter na saúde. Pelo contrário, deve tê-los, porque precisamos de Estados mais eficientes, com capacidade de tomar melhores decisões. Não é isso que está em questão. O que está em questão é a transparência para podermos tomar decisões e escolher em determinado momento se queremos ou não queremos fazer esse tipo de delegação. Mas o Emmanuel está a falar de uma coisa que eu acho que é mesmo importante, que é a concentração de poder. Eu tenho refletido um pouco sobre isto, porque como sou mais liberal, tenho uma tendência para pensar que tudo aquilo que seja limitar poder de empresas me faz mais confusão, porque eu tipicamente prefiro limitar o poder do Estado, mas eu sou liberal por causa das liberdades individuais. E se é verdade que historicamente o liberalismo se preocupa com os poderes do Estado, é porque é no Estado que tipicamente estava o monopólio do poder. E é de onde podem vir as maiores ameaças às minhas liberdades individuais, pelo menos com uma força e uma pujança que eu tenho mais dificuldade em combater. O que eu tento dizer agora é que em muitas áreas, os Estados têm menos poder do que estas empresas. Empresas essas que têm uma enorme capacidade de ditar, inclusivamente, a forma como nós fazemos a guerra ou a paz. Este exemplo da Anthropic que recusa que o Departamento de Guerra dos Estados Unidos utilize os seus sistemas de inteligência artificial, e parece-me que por um bom motivo. Isto é, eu não quero que o Departamento de Guerra dos Estados Unidos utilize sistemas de inteligência artificial que permitam que armamento decida autonomamente e sem intervenção humana quando e quem disparar. Ao mesmo tempo, isto significa que é uma empresa privada que neste momento determina em que condições é que se faz a guerra ou a paz e que pode escolher quem são os exércitos que utilizam ou que não utilizam esta ferramenta.

E se neste momento é moralmente positivo, não sabemos o que é que outra fará.

Ou seja, há uma ideia aqui, que o Emmanuel chamou a atenção e que o papa chamou, a ideia de que há uma enorme quantidade de poder que nós estamos a atribuir, que estamos a delegar e que também convida a uma reflexão sobre o que é que são estas empresas. Porque nós tipicamente estamos habituados a pensar em Estados por um lado e empresas por outro, mas eu não tenho neste momento uma classificação que possa sugerir, mas eu creio que na ordem geopolítica, nós quando sentamos no G20, na OCDE, na NATO, nas Nações Unidas, os Estados, eu sinto sempre que faltam naquelas cadeiras estas empresas, porque elas têm mais poder e mais capacidade de intervenção no mundo e, portanto, orquestrar o mundo ou procurar orquestrar de alguma forma, sem contar com estas. E aliás, o papa recebeu, como é conhecido, algumas destas empresas, e faz sentido que o faça, mas qual é o estatuto delas? Elas ainda são tidas como empresas, mas eu não sei por quanto mais tempo é que as relações internacionais ou a ciência política não encontrarão uma outra classificação, porque isto é completamente diferente.

É tudo diferente e é tudo novo. Está tudo plasmado na encíclica escrita pelo Papa Leão XIV, "Magnífica Humanidade". Obrigado, Adolfo Mesquita Nunes.

Obrigado.

Por ter estado connosco aqui no "Contra Corrente". Padre João Basto, como é que a comunidade católica deve receber esta mensagem do Papa Leão XIV?

Olá, bom dia. Obrigado pelo convite. Eu não sei como é que a comunidade católica vai receber. Agora, o papa deixa claramente indicações de como deve receber, porque nós já ouvimos falar aqui há bocado com o Adolfo Mesquita Nunes sobre a questão da accountability. E o papa diz que isto não é só para os outros, é também para a Igreja. E nomeadamente, já que estamos num órgão de comunicação social, há um número em que ele fala precisamente do papel que a comunicação social teve na altura da crise dos abusos sexuais, de ser um dos meios que favoreceu esta prestação de contas. E portanto, o papa diz a certa altura, há um capítulo precisamente que tem este título, algo também para a Igreja. Portanto, a Igreja tem que refletir esta ideia de prestação de contas, de deixar de ter decisões unilaterais e portanto, não é algo que possa ser só para os outros, é também uma mensagem para dentro de casa, se quisermos dizer assim.

Era expectável que o Papa Leão XIV escrevesse a sua primeira encíclica sobre a inteligência artificial?

Era pelo menos expectável que escrevesse algo ligado à doutrina social da Igreja. Pelo menos pelo nome, isso indicaria esse caminho. Se bem que é um corte até com os dois pontificados anteriores, quer com Bento XVI, quer com o Papa Francisco e até com João Paulo II, porque os três escreveram as primeiras encíclicas sobre questões muito doutrinais. O Papa João Paulo II escreveu a "Redemptoris Homini", o Bento XVI escreveu a "Deus Caritas Est". São tudo questões ligadas a quem é Deus. E depois o Papa Francisco não escreveu uma encíclica logo pela sua própria mão. Há ali um documento que é misto, ele e o Papa Bento XVI, e o primeiro que ele publica é algo muito programático, muito prático sobre como é que a Igreja deve lidar com o seu dia a dia, com o dia a dia das comunidades, etc. Portanto, isso até é uma inovação neste sentido, ele ter utilizado a doutrina social da Igreja como o pano de fundo do seu primeiro documento. Ainda assim, eu creio que há aqui, nós muitas vezes falamos muito sobre o mundo ocidental e a cultura ocidental. E há aqui um ponto, que acho que já foi tocado aqui no "Contra Corrente", que é a ideia que claramente a visão cristã do mundo difere de outras visões cristãs e que difere, nomeadamente, sobre a questão da criação, o que é o mundo e o que são os limites. Isso, aliás, há um teólogo indiano, o Raimon Panikkar, tem um livro chamado "Myth, Faith and Hermeneutics", em que fala precisamente sobre istoOs mitos orientais tendem a achar que a diferença é algo que nós devemos combater, ou seja, a diferença é algo necessariamente errado, que nós combatemos chegando a uma espécie de unidade universal, uma espécie de nirvana ou um estado de ataraxia, onde as nossas diferenças e sentimentos, sofrimentos, são totalmente anulados. A Grécia, depois com o epicurismo, o estoicismo, adoptou um bocado esta tendência oriental. A matriz judaico-cristã é totalmente diferente. O que marca a criação de Deus, logo no início, e já podem ir ver o extraordinário podcast "As Histórias da Bíblia", que nós falamos já sobre isso. Mas a questão é: o que marca o-

Mas nós esquecemos de referir isso no início, padre João Basto.

Podem ir ver o episódio dois e agora estou cá em abril, na segunda temporada. O que marca claramente o mundo cristão e a matriz judaico-cristã é a ideia da diferença. Deus cria separando a luz das trevas, o mar da terra. Quando há o dito pecado original, a ideia de comer a maçã, qual é que é o problema ali? É Eva e Adão que não se consciencializam que para ter tudo, têm que reconhecer o limite. Há uma coisa que eles não podem tocar. Para ser humano, nós precisamos de reconhecer o limite. E o Papa, logo ao início, diz que um dos problemas que nós atravessamos é a ideia de que os limites, as falhas e as imperfeições humanas são algo que nós temos que suplantar para atingir uma espécie de perfeição sem falhas. E o Papa diz: "Aliás, a perfeição não existe sem falhas".

O Papa escreve que os limites hoje se apresentam como defeitos a corrigir.

Exatamente. E acho que a matriz judaico-cristã é precisamente o contrário. Não existe aqui claramente uma espécie de utopia que nós procuramos e que vai resolver de uma vez por todas todos os problemas. Nossa utopia, entre aspas, a existir, não é propriamente esta, mas isto choca claramente com o modelo atual, que deriva até dos modelos hindus e budistas de eliminação da diferença como algo positivo e que nos permite chegar a um estado de perfeição total.

O que esta encíclica nos pode dizer sobre o que poderá ser o papado de Leão XIV, padre João Basto?

A encíclica, eu acabei de lê-la ontem, é uma encíclica muito estruturada. Nesse sentido, se calhar, pode diferenciar um bocadinho daquilo que era o estilo do Papa Francisco. O Papa Francisco tinha uma ideia, se calhar, de uma linguagem muito mais inventiva do que tem o Papa Leão XIV. Eu li na versão portuguesa, mas eu sei que há aqui uma versão inglesa que até pode ser mais original.

Os ingleses estão a dizer que está melhor escrita do que é habitual, o que é sinal que foi escrito em inglês.

O que é raro, porque os documentos eram escritos em espanhol no tempo do Papa Francisco, o original, mas anteriormente em italiano e muito mais anteriormente o latim. Claramente, há aqui alguém que já naquele confronto com o presidente americano, mostra que não tem medo de se posicionar, porque também já no pós-encíclica, este texto da "Magnífica Humanidade", já há muitas pessoas que dizem que está a igreja numa atitude quase pré-moderna a dizer que a inteligência artificial não é neutra e, portanto, nós precisamos de regular, meter aqui grandes travões, mas não me parece isso. Ou seja, acho que o Papa denota claramente que nós vivemos num tempo das heresias. A heresia não é necessariamente um erro, é uma verdade incompleta. É isso que a palavra heresia do grego original quer dizer. E nós vivemos claramente um tempo em que temos versões incompletas da humanidade. O Papa a certa altura diz claramente: como num ecossistema, nós precisamos de respeitar vários fatores. Nós hoje temos interpretações do ser humano que são claramente unidirecionais. O Papa refere precisamente isso, a questão: focar unicamente a inteligência. A inteligência, nós precisamos ser ultraprodutivos, ter as coisas muito rápido, eficientes.

A hipereficiência.

Hipereficiência. Depois, nós temos outra questão ligada à sensibilidade. Nós temos visões também deturpadas e fixistas daquilo que é sensibilidade, afetividade, isso depois leva a todas aquelas dimensões de ansiedade, etc. Portanto, nós temos que olhar para o ser humano como um todo e não como uma espécie de ramificação de um só fator. Parece-me que isso é uma dimensão que o Papa foca muito na encíclica.

Poderá ser um papa mais focado nas questões, peço desculpa aqui pela linguagem simples, mas em questões mais terrenas e menos teológicas?

Não, porque isto parte de uma visão teológica do mundo. Nós temos a ideia que uma visão teológica é uma visão de sacristia, uma visão de beatas de igreja. Ora, isso não é verdade. A teologia é uma ciência tão válida como qualquer outra, é uma forma de conhecimento e por isso até se posso aproveitar este microfone para dizer que a teologia merece cidadania, porque a teologia tem algo a dizer sobre a economia, a política, a forma como nós vivemos em sociedade e não é meramente um discurso sobre Deus. Agora, quando nós falamos de economia e o Papa tem uma parte sobre economia, sobre trabalho, sobre até a própria ideia de família, etc. Tudo isso parte de uma perspectiva de relação com Deus. E a verdade é que o Papa logo ao início mostra, também na linha daquilo que Santo Agostinho tinha feito na "Cidade de Deus", que existem duas alternativas: ou nós seguimos o caminho da cidade terrena, que é o caminho do egoísmo e que ele fala como a síndrome de Babel, utilizando a imagem da torre de Babel, dos homens que sem qualquer limite empreendem uma torre para chegar a Deus.

Ele dá outro exemplo que é a reconstrução de Jerusalém.

Exatamente, que é o outro lado.

Que é um episódio da história da Bíblia, pouco conhecido da Bíblia, porque é um livro de Neemias.

Sim, que às vezes é tido até como um certo nacionalismo judaico e, portanto, no lado cristão é pouco lido, mas a ideia de que Neemias, quando chegam do exílio da Babilônia, o povo é deportado, chegam a uma cidade totalmente arrasada, Jerusalém, sem qualquerOs babilónios tiravam a inteligência às pessoas mais importantes e deixavam, entre aspas, uma expressão um bocado foleira, a raia miúda da cidade para não lhes dar a possibilidade de se reconstruírem. E quando eles regressam, eles têm a necessidade de reconstruir a cidade, mas não o fazem através de uma ordem unidirecional ou com a tentativa de restaurar a cidade original. Eles usam, até de uma ideia um bocadinho democrática, de conversar com todos e com a ajuda de todos reconstruir a cidade.

Quase comunitária.

Uma ideia muito comunitária que depois vai bater com a ideia que o papa diz e que já se falou aqui no final da primeira parte, que é a destinação universal dos bens. A ideia de que um dos problemas da inteligência artificial é precisamente o fato disto pousar sobre pessoas muito específicas, sob um domínio muito privado, sobre o qual nós depois não podemos regular. E esta espécie de díptico, Babel ou a reconstrução de Jerusalém em pronomes, funcionam quase como um quadro onde nós podemos ler as decisões.

Muito bem. Helena Garrido, tu leste a encíclica ou partes da encíclica. Que reflexões te mereceram esta carta do papa ao mundo?

Eu olhei, sobretudo, para a perspectiva mais da rutura que nos promete que a inteligência artificial antecipa. E sublinhava aqui vários aspetos. Isto é uma espécie de um alerta e uma espécie de vamos acordar e não olhar para a inteligência artificial apenas com o superentusiasmo que alguns, pelo menos, nem todos, mas já lá vou. Eu começaria por quatro ou cinco aspetos. O primeiro é o alerta para os riscos do excesso de tecnocracia, que a inteligência artificial pode reforçar, com uma ditadura da eficiência induzida por critérios de maximização do lucro e pelo foco no PIB como medida de crescimento. Isto associado aos enormes riscos de agravamento histórico das desigualdades. Esta busca excessiva da eficiência já teve custos para a comunidade e por esta via as pessoas podem perceber melhor estes alertas. Basta pensar o que o objetivo da eficiência máxima nos custou no tempo da pandemia, quando descobrimos que nem máscaras conseguíamos produzir. O papa diz, por exemplo, quando a eficiência se torna a medida do valor, o ser humano é tentado a pensar-se como um projeto a otimizar, mais do que como uma criatura chamada à relação e à comunhão. Nós neste momento já temos problemas desses. Nós no nosso dia a dia, quando pedimos, por exemplo, quando precisamos de alguém que nos vá arranjar alguma coisa a casa, ligado a alguma empresa das telecomunicações, por exemplo, a pessoa está perseguida pelas aplicações e a relação humana que se estabelecia muitas vezes é rompida, porque a aplicação exige que a pessoa faça aquilo num determinado tempo, porque senão ela vai ter custos. Isto já está a acontecer. Depois, estes riscos de desigualdade transcendem os próprios problemas que foram levantados com a revolução industrial, porque neste momento nós até podemos, como o papa diz, em nome do progresso, pode chegar-se a imaginar que há sacrifícios necessários, que há pessoas que têm de ser sacrificadas.

São danos colaterais.

Exatamente, em nome do progresso. Depois, há um alerta muito interessante também que é: a inovação em geral precede a ética e a moral que essa própria inovação exige. E esta tecnologia é talvez bastante mais perigosa do que as outras, pois a IA não é neutra. Um apelo muito importante que é: é preciso saber como é que a IA funciona por dentro. E nós não sabemos. Nós já temos exemplos, e é deste ano, do início deste ano, de uma empresa que é a Pocket OS, que faz software para aluguel de automóveis, em que tinham um agente para fazer a gestão de tarefas rotineiras e este agente apagou toda a base de dados da empresa, apesar de ter ordens específicas para não fazer. E quando se pergunta: "Explica porque é que fizeste isso", ele pede desculpa, diz: "De fato, eu não devia ter feito, mas fiz". E portanto, isto revela bem que não se conhece bem. E outra das mensagens que pode ser a resposta aos desafios que aqui estão presentes é a responsabilização e a regulação com aquilo que o José Manuel referiu, que é a apropriação, a chamada destes grupos de empresas para si próprios. É preciso que prestem contas do que estão a fazer, isso é muito importante. E o que diz o papa é que a tarefa hoje não é apenas ético-técnica. Também um outro aspeto interessante, que é o aspeto ambiental. Não se esquece do aspeto ambiental.

Sim. Do consumo de recursos envolvidos na computação.

Exatamente. E isto leva-nos a não esquecer que este papa é americano e leva-nos a olhar para aquilo que se está a passar nos Estados Unidos, que é já uma reação muito negativa em relação à inteligência artificial.

Padre João Bastos.

Sim, pegando nestas questões que a Helena referiu, acho que há três pontos que gostava de destacar. Primeiro é a diferença ao seu predecessor onomásticoQuando Leão XIII fez a "Rerum novarum", ele claramente tinha uma visão sobre o trabalho, nesse caso, sobre a revolução industrial, mas que criticava, por um lado, as soluções mais coletivistas, como criticava soluções mais capitalistas.

O excesso de liberalismo.

Ou seja, ele criticava um lado e outro. E quando nós lemos esta encíclica, nós vemos que isso não acontece. O Papa critica muito um lado e parece que não critica o outro com a mesma proporcionalidade. Eu creio que isso também é um sinal do que mudou neste espaço de tempo, nestes mais de 100 anos.

Não posso dizer porque neste momento nós não corremos.

Neste momento não se coloca essa questão. Retiramos os princípios, mas o tema não se coloca, não é uma agenda, não faz parte da agenda.

Não, precisamente. É isso que eu queria mesmo dizer. O facto de ele depois entronca na ideia de que a inteligência artificial não é neutra. E, portanto, eu acho que ele não tem a necessidade de fazer isso, precisamente por causa desta afirmação que ele repete várias vezes. E se nós quisermos dar um exemplo.

Ou seja, o coletivismo, neste momento, coletivismo no sentido do socialismo, como se entendia no século XIX, não é neste momento um problema.

Sim, não é uma questão.

Todos os países, incluindo países socialistas, enfrentam este grande desafio que é imposto à humanidade pela inteligência artificial.

Sim, e um exemplo que me parece que pode ajudar a perceber o que nós estamos aqui a falar é, por exemplo, nós distinguirmos a enciclopédia, por exemplo, da inteligência artificial. Este é um exemplo muito básico. Ou seja, uma enciclopédia, nós sabemos quem fez, ou uma espécie de estatuto editorial de enciclopédia. Temos ali uma diversidade que eu à procura da palavra animais e aparece uma palavra antes e depois que eu não pedi ou que não está nos meus gostos. A inteligência artificial não tem esse tipo de circunstâncias. E isso leva-nos a, se calhar, ter um olhar menos ingênuo face à inteligência artificial e que deriva também a uma parte muito grande do documento. O documento, o PDF tem 90 páginas, se fosse paginado teria outro tamanho.

Eu estou a dizer que em livro deve ser quase 200.

Que é sobre as escolas e a educação. Porque nós devemos perguntar, e o próprio senhor professor, quantos trabalhos da escola do senhor professor são feitos pela inteligência artificial? Semana passada saiu um estudo que nos Estados Unidos 45% das teses de doutoramento ou foram feitas com a IA, com um auxiliador ou apoio, ou totalmente pela IA.

Mas não tem diferença ser auxiliador ou ser totalmente IA.

Sim, auxiliador. Eu posso dizer auxiliador são 25% e totalmente IA são 20.

Mas o próprio ensino está todo ele desafiado e em profunda reflexão de mudança.

E o Papa até cita Platão para dizer que o estudo e a educação exige esforço, exige um contacto com algo que tem um treino e uma paciência de que nós não estamos habituados. O Papa realmente salienta que a inteligência artificial tem três dimensões. Primeiro, uma facilidade muito grande da obtenção de resultados. Nós chegamos ali e obtemos. Temos uma certa aparência de objetividade. Daí o Papa várias vezes criticar que a inteligência artificial não é neutra. E depois uma simulação de conversa humana. Eu tenho alunos que conversam com a inteligência artificial sobre assuntos íntimos e privados, à procura de uma resposta que não querem conversar com os pais ou com os professores ou com as pessoas que estão à volta.

Ontem vinha uma peça no Telegraph, penso que era no Telegraph, ou vi vários, sobre uma tendência no Reino Unido, que aqui penso que são sobretudo rapazes, de criarem namoradas virtuais. Quer dizer, criam namoradas virtuais.

Já tivemos o caso daquele miúdo que teoricamente se suicidou na sequência de um agente IA.

Sim, mas era um agente. Eles criam o tipo de mulher ou rapariga ou de namorada ideal e depois passam a relacionar-se. Até porque antes de chegar à IA, as pessoas já se habituaram à relação virtual.

Exatamente.

E realmente o Papa fala disso. Nós temos que desarmar a inteligência artificial. Nós falámos disto, a parte militar, a parte económica, mas ele diz até a nível cognitivo. Nós estamos claramente influenciados cognitivamente pela inteligência artificial. E não é por acaso, penso eu, isto é um exemplo caricato, que nas escolas por este país fora, a epidemia além da inteligência artificial, seja a caderneta de cromos do mundial, porque é uma coisa altamente analógica e os miúdos estão todos. Eu tenho miúdos do décimo segundo ano a fazer caderneta.

Se fossem só miúdos.

Se fossem só miúdos, mas as escolas estão infestadas com esta pandemia. Acho que o Papa deve fazer uma encíclica sobre cadernetas, sobre a caderneta de cromos do mundial. Mas realmente isso mostra claramente que num meio muito digital, pode haver a necessidade de compensar com algo extremamente analógico. Os miúdos dizem: "Professor, o que eu gosto é de abrir o saquinho e tirar os cromos e colar aquele som que aquilo faz". É claramente analógico num meio totalmente armado com inteligência artificial. Nós estamos a pedir aos miúdos muitos trabalhos, muitas coisas, e sabemos que estamos a ser enganados por eles e classificamos aquilo positivamente.

Nesse sentido, o Papa também convoca o mundo a educar-se para um jejum.

Sim, exatamente.

É precisamente nessa altura, quando ele fala do jejum da IA. Achei graça a essa passagem desta encíclica escrita pelo Papa Leão XIV. Padre João Basto, do ponto de vista teológico, há aqui alguma inovação?

Eu acho que o ponto de vista teológico, talvez, aquilo a que chamaria evolução, mas é algo que nós já falámos e que me parece que é uma perspetiva diferente. Nós até agora, claramente influenciados pelos primeiros teólogos, mas depois pela sistematização de Aristóteles e Tomás de Aquino, a realidade era neutra e nós podíamos usar bem ou mal a realidade. E o Papa chega a uma altura em que diz que embora a tecnologia não seja um paradigma antagónico à fé cristãNão se trata de saber se a tecnologia é usada de maneira correta ou incorreta. Esta tecnologia, em si só, até por questões que a Helena já levantou, até questões ambientais, não é neutra. E este salto é um salto, eu não queria chamar aqui inovador, porque inovador em coisas da Igreja é sempre mal visto, mas é diferente de uma abordagem que foi sendo tida de olhar para a realidade como um lugar bom, neutro e que nós podemos nos apropriar ou podemos usar de maneira benigna.

Muito bem. Padre João Basto, tenho o tempo contado.

Vou fazer tamanho.

Vai gravar mais um.

Vai gravar mais um episódio das Histórias da Bíblia, que vai ter a oportunidade de escutar nas plataformas de podcast e também em observador.pt. Subscreva o podcast.

Sim, o podcast e este também, já agora.

Padre João Basto, muito obrigado por ter aceitado o convite para estar aqui conosco. Eu perdi-me aqui no meu próprio pensamento, porque a produção estava a falar comigo, via headphone, para me dizer que há um novo convidado em linha no Contracorrente. É o teólogo Bruno Nobre. Bom dia.

Bom dia.

Bom dia. Repito a mesma pergunta que fiz aqui ao padre João Basto há instantes. Esta encíclica contém em si mesma alguma novidade, alguma evolução do ponto de vista teológico?

Eu não creio que haja muita novidade. Aquilo que há é uma articulação muito cuidada, aprofundada, bem fundamentada, daquilo que vem sendo o posicionamento da Igreja em relação à inteligência artificial, em relação a muitos aspetos da doutrina social da Igreja, em relação ao tema da guerra. De uma forma que tem muito em conta as circunstâncias contemporâneas. Eu acho que essa é talvez a grande novidade. Recolhe aquilo que tem sido o pensamento dos últimos papas, o que tem sido já o pensamento que vai ganhando forma do Papa Leão, com uma sensibilidade muito grande, e isso nota-se perfeitamente. Eu estou ainda a digerir a carta, é uma carta muito longa. Mas vai-se percebendo que há aqui uma interação muito clara com aquilo que são os problemas contemporâneos. Eu diria que aquilo que esta encíclica faz é aplicar toda a sabedoria que a Igreja foi acumulando ao longo de séculos e concretamente durante o século XX, no âmbito da doutrina social da Igreja, àquelas que são as problemáticas contemporâneas. Claro que saltam aqui à vista algumas afirmações que têm tido algum impacto, como por exemplo, o facto de o papa pedir desculpa pelo atraso na denúncia da escravatura. Não é novo, mas claramente é uma afirmação muito corajosa e realmente muito importante. Também a afirmação muito clara de que a doutrina da guerra justa, de algum modo, está ultrapassada. Portanto, aquilo que é aceitável é a legítima defesa, mas não se deve ir além disto. Não é novo, mas é uma afirmação bastante clara daquilo que já vinha sendo afirmado. Não creio que haja novidades extraordinárias, mas eu diria que temos aqui um documento muito sólido, muito profundo, muito bem articulado, que a partir da sabedoria que a Igreja foi acumulando, a partir dos seus recursos, responde, acho eu, de forma muito notável, àquilo que são os desafios do nosso tempo e concretamente da IA.

Na sua perspetiva, então a abordagem que o papa faz em relação à IA é apenas a sequência lógica da doutrina social da Igreja?

Eu não sei se é apenas, porque de facto a inteligência artificial traz uns desafios que são gigantes. Isso não há dúvida. O papa diz que nós estamos numa mudança de época. O Papa Francisco já tinha dito isso, e é verdade. Nunca se trata simplesmente de aplicar princípios que a Igreja já tem a um novo contexto. O contexto é tão diferente, que é preciso ter um pensamento de alguma forma novo. Mas realmente aquilo que o papa faz é, em grande medida, aplicar os princípios da doutrina social da Igreja à nova realidade. Com claramente um conhecimento grande daquilo que é a inteligência artificial, quais são as oportunidades, quais são os riscos. Mas não é por acaso que o papa começa nos primeiros capítulos por rever a história da doutrina social da Igreja, por apresentar os seus princípios, para depois tentar mostrar como estes princípios, aplicados a este contexto, podem ser particularmente úteis. São uma espécie de bússola moral que o papa oferece. De alguma forma, os princípios fundamentais claramente que se mantêm. Aquilo que está no centro é o ser humano, é a dignidade da pessoa humana, que de alguma forma pode ser questionada por uma utilização pouco ética da IA. Mas sim, o contexto é novo e é preciso reflexão nova, diria eu.

E nessa reflexão nova, o que identifica como é acrescentar valores que são necessários nesta nova revolução tecnológica? É alertar para valores que se podem perder? O que identificou neste acrescentar à doutrina social da Igreja como novo?

Pois, eu acho que há aqui um...

Eu sei que é difícil, porque é preciso digerir ainda o documento. É muito longo, muito densoCom muitas referências. Eu sei que é difícil, mas numa primeira leitura, o que é que tem?

A leitura que eu fiz é uma leitura preliminar, uma leitura rápida.

Exato, todos nós.

Estou a dar entra ao documento. Mas eu diria que aquilo que é fundamental e que o Papa diz de diferentes maneiras e de algumas formas até muito bonitas, eu acho que aquilo que é fundamental é esta capacidade de preservar aquilo que é genuinamente humano. Eu acho que esta é talvez a mensagem.

Que liga o título.

E que liga o título. Portanto, eu acho que o Papa percebe que há na inteligência artificial recursos extraordinários, que podem ser utilizados para que a humanidade possa crescer, para que possamos ultrapassar muitos dos nossos problemas. Mas eu acho que aquilo que é fundamental é preservar aquilo que é genuinamente humano. Portanto, não se trata de superar o ser humano, não se trata de fazer uma humanidade diferente com recurso à tecnologia, trata-se de preservar aquilo que é genuinamente humano. Eu acho que este apelo, que depois na prática vai ser muito exigente de implementar, eu acho que é particularmente importante. Eu acho que o Papa também diz algo que eu acho que percebemos muito bem. Esta ideia de que quando o ser humano se torna autossuficiente, e por isso ele utiliza esta imagem da torre de Babel, quando se torna insuficiente e quando, de certa forma, se quer manipular a si próprio, acaba por se equivocar. A história diz-nos isto. A narrativa bíblica diz isto, mas a longa história da humanidade também nos diz isto. Portanto, trata-se de, por um lado, viver mais a partir do dom, reconhecer que a nossa vida é dom e, portanto, nós não podemos reduzir tudo a algoritmos.

Exato.

E pronto, e depois preservar aquilo que é dom.

É dom e é limitada, portanto, não é perfeita e a imperfeição é importante. Faz parte.

E a imperfeição é importante. Isso é muito importante também. Eu acho que isso é muito importante. Portanto, agradeço essa nota, porque no fundo eu acho que o Papa nos convida aqui a reconciliarmos com a nossa finitude, com as nossas limitações.

O que vai muito contra corrente aquilo que é um pouquinho o espírito do tempo que vivemos.

Vai muito contra corrente. De certa forma, aquilo que se espera de todos nós é que sejamos uma espécie de super-homens. E o Papa aqui convida-nos a reconhecer a nossa fragilidade. A fragilidade é aquilo que nos abre à relação. De certa forma, a grandeza do ser humano, por paradoxal que possa ser, está na nossa fragilidade. Aqui até citando o Papa naquilo que ele diz: "É precisamente na nossa limitação", estou a citar, "que encontram espaço a compaixão, a sincera preocupação perante as necessidades dos outros, a generosidade que surpreende mesmo no meio da escuridão e do fracasso, a experiência espiritual e a adoração de Deus". E depois ele conclui: "A finitude, quando é acolhida na verdade, não empobrece o ser humano, mas abre-o ao reconhecimento do rosto de Deus e do outro". Esse, sim, sem dúvida, é um aspeto absolutamente central. Diante da IA que parece oferecer-nos a onipotência, o Papa convida-nos a acolher a nossa fragilidade como dom.

Há uma passagem, há vários parágrafos nesta encíclica, onde se fala do risco da inteligência artificial provocar exclusão, desemprego. O Papa depois, a determinada altura, no parágrafo 155, citando ou remetendo para a encíclica Rerum Novarum e para a história da doutrina social da Igreja, entende que este parágrafo é uma espécie de convocatória à participação da humanidade na participação e, nomeadamente, através de associações, sindicatos, cooperativas e assistência social?

Sim, eu creio que sim, de alguma forma, sim. Aquilo que o Papa diz, e eu acho que isto é particularmente interessante, é que o trabalho dignifica. E, portanto, o trabalho deve ser protegido. Nós temos a consciência de que com o avanço da IA, muitas tarefas que eram executadas por um ser humano vão passar a ser executadas por máquinas. E de certa forma, nós vamos lendo isto. Há muitos autores que dizem que de certa forma nós vamos ser reduzidos ao ócio.

Andamos a dizer isso há mais tempo. Eu já me lembro do Keynes ter textos a dizer isso.

E cada vez trabalhamos mais.

Cada vez trabalhamos mais, exatamente.

Isso é verdade. Agora, eu acho que é mesmo importante que o Papa venha dizer: nós, seres humanos, precisamos de trabalhar. E de certa forma precisamos de defender o trabalho, porque o trabalho dignifica-nos. Portanto, sim, eu acho que há imenso para pensar. O que significa trabalhar no tempo da IA? O que significa que todos possam trabalhar? Como é que nós podemos garantir que não vamos ter uma enorme quantidade de seres humanos que ficam relegados à execução de tarefas que são meramente repetitivas ou que não têm mesmo emprego? Eu não sei, eu acho que o Papa vai dando algumas respostas. Aliás, eu acho que é interessante porque o Papa neste documento levanta questões, mas também dá muitos critérios e muitas respostas. Não sabemos exatamente como é que vai ser, mas eu acho que há aqui critérios. Portanto, esta importância de que a IA seja inclusiva e permita a participação de todos na vida da sociedade é particularmente importante. Claro que esta dimensão do trabalho soa aqui muito com a Rerum Novarum, este documento que dá origem à doutrina social da Igreja moderna. E portanto, é muito interessante que passados mais de 100 anos, voltemos aquiPara reconhecer que o trabalho é importante, dignifica e de alguma forma tem que ser protegido.

O cofundador da Anthropic que esteve na apresentação da encíclica, defendeu que há um dever de apoiar quem perder empregos, o que pode acontecer e que ele próprio antecipa que pode atingir proporções históricas. Neste momento, o que está em causa são empregos de colarinho branco, para simplificar.

Estão a maioria dos empregos hoje em dia.

Que são a maioria dos empregos. Exatamente. A primeira fase com a robotização até foi um pouco aquelas pessoas que trabalhavam nos armazéns e isso liberta um pouco as tarefas rotineiras.

Olha, Helena, nós temos ambos anos suficientes na nossa profissão para sabermos que antes, a jusante na linha de produção, tínhamos não sei quantas pessoas a trabalhar que hoje desapareceram. Inúmeras. A relação nas empresas de mídia era um jornalista para cinco outros trabalhadores, agora é um para um.

E o desemprego está em 6%, não é?

E o desemprego está em 6%.

O desemprego baixou.

Isso é clássico. Agora, há a modificação do trabalho.

Muito.

Agora, pode haver também algo que nós também hoje notamos, que é o trabalho que não é substituído pela inteligência artificial é o menos qualificado de todos. Portanto, isso pode colocar um problema de dualidade nas sociedades, porque ainda se torna mais gritante as diferenças entre aqueles que têm trabalhos qualificados, que a própria inteligência artificial faz subir, e os trabalhos que desaparecem, e aí as pessoas ficam com fontes de rendimento muito baixas.

Exatamente. Uma das reflexões que o Papa faz, de alguma forma, é que há aqui um risco, como disseste, de agravamento das desigualdades sociais na sequência da aceleração com que esta tecnologia está a ser aplicada. Também identifica isso, professor?

Sim, sem dúvida. Isso é muito claro. Eu acho que há aqui várias formas de desigualdade, e também de exclusão. Uma delas é que nem todas as pessoas terão acesso igual às ferramentas de inteligência artificial. O Papa diz isto: nem todos teremos acesso igual. Desde logo, há uns que utilizam dados e há outros que produzem dados. Muitos de nós somos, de certa forma, fontes de dados, mas há outros que depois podem utilizar os dados que nós produzimos, que a nossa vida de alguma forma produz. Depois, a nível mesmo de ferramentas de IA, eu acho que muitos de nós não temos acesso a ferramentas de IA pagas, e faz toda a diferença. Uma grande parte da humanidade não pode utilizar ferramentas de IA pagas, é um fator enorme de desigualdade. E depois aquilo que dizia o Manuel Fernandes, que eu acho que é da máxima importância, que é contrariamente àquilo que se possa pensar, haverá uma série de tarefas que são mais repetitivas, mais básicas, de certa forma, que precisarão de mão de obra humana. E nós podemos ter aqui uma humanidade a duas velocidades. A humanidade que pensa, que é capaz de pensamento crítico ou que está num nível, e depois pessoas que são uma espécie de novos escravos, que estão a desempenhar aquelas tarefas mais repetitivas, que continuarão certamente a ser necessárias. Depois há aqui uma outra forma de exclusão, que eu acho que é também particularmente importante, que tem a ver com esta pretensa neutralidade ou objetividade da IA. Sabemos que ela não existe, portanto, a IA não é neutra, não é objetiva, ela replica muitos dos nossos preconceitos e portanto a IA pode, de uma forma muito eficaz e por isso muito perigosa, perpetuar e aprofundar formas de exclusão que já existem, de uma forma que pode ser mesmo muito descontrolada. Portanto, é outra forma de exclusão à qual temos que estar muito atentos.

Este apelo é um apelo à comunidade, mas é um apelo fortíssimo às empresas que estão a desenvolver os algoritmos de IA, não é? Na sua perspetiva.

Eu acho que é um apelo às empresas, e eu acho que esse é um dos problemas, acho que temos consciência disso, a IA está na mão de empresas, não está na mão do Estado, e está na mão de umas poucas empresas.

Exato.

Portanto, há aqui uma questão ética, e depois também há claramente uma questão de regulação, de regulamentação. Como é que nós vamos regulamentar? Como é que vamos ter leis que impeçam a utilização injusta, perigosa da IA? Eu acho que a reflexão do Papa está muito no plano ético, mas há aqui muitas decisões que têm que ser tomadas pelo poder político também. Agora eu acho que estamos numa situação que é particularmente vulnerável, porque de facto umas poucas empresas têm um poder enorme.

Era a reflexão que deixava o Adolfo Mesquita no início. Aí não é muito diferente do que se passou também no tempo da primeira revolução industrial, designadamente nos Estados Unidos, que porventura o que o Papa conhece melhor, onde também foi necessário até uma intervenção pública do primeiro Roosevelt, para quebrar os monopólios, quebrar os oligopólios que existiam em várias áreas.

E é provavelmente o que vai acontecer aqui.

Fala-se disso há bastante tempo, houve algumas medidas, mas não ainda nesse sentido. Mas a IA é diferente do que se passou nas redes sociais

nas Googles desta vida, nas Microsofts desta vida, porque o que também aconteceu é que a velocidade de substituição de umas empresas por outras também tem sido muito grande.

E há aqui um aspecto que o papa refere, que é esta ambição do transumanismo e da ideologia do pós-humanismo, que pode criar aqui também alguns riscos. Mas eu gostava também, antes de nos despedirmos do professor, de lhe perguntar se também não é indiferente o fato de o papa ser americano. E, neste momento, nós nos Estados Unidos, é talvez o primeiro país em que isto está a acontecer, estamos a assistir a uma espécie de revolta antitecnológica, com vários projetos de bases de dados a serem rejeitados pelas próprias comunidades e com até o FBI a apontar para riscos de grupos extremistas antitecnológicos. Pensa que a atenção e também a profundidade com que o papa aborda esta questão dos riscos da IA podem radicar também para o fato de ser americano e de perceber tão bem aquilo que se está a passar, porque os Estados Unidos estão, de facto, na crista da onda nesta área.

Sim, eu acho que é possível. Não há dúvida que desde o início o papa mostrou uma sensibilidade muito grande para as questões éticas ligadas à IA. Eu diria duas ou três coisas. Em primeiro lugar, nós temos um papa que é bastante jovem. Tem 70 anos. Além do mais, estudou matemática. Portanto, eu diria que o papa Leão é provavelmente o primeiro papa que certamente utilizará com muita agilidade ferramentas informáticas e digitais. Não tenho nenhuma dúvida em relação a isso.

E que percebe bem os seus riscos, como matemático.

Percebe bem os seus riscos. E depois é verdade que eu vivi nos Estados Unidos, estudei teologia nos Estados Unidos. Sabemos que os americanos tendem a ser bastante pragmáticos, gostam muito de tecnologia e, portanto, não duvido que o papa Francisco também tenha uma sensibilidade muito particular para estas questões, porque primeiro teve um contacto grande com a ciência. É claramente um homem do nosso tempo. Não que o papa Francisco não fosse, mas claramente o papa Francisco, sabemos, tinha um domínio muito menor destas ferramentas. E depois é alguém que vem de um país que valoriza muitíssimo a tecnologia, onde há também reações no sentido contrário, como estava a ser dito. Mas curiosamente, eu acho que um dos aspetos talvez mais importantes deste documento é que apresenta uma perspetiva que me parece muito equilibrada. O papa reconhece de uma forma muito explícita que a IA é uma ferramenta. Ele diz que a inteligência da IA não é comparável à inteligência humana, é simplesmente uma imitação, mas ele reconhece que abre oportunidades imensas. Claro que também com muitos riscos, mas eu diria que a apreciação é, de certa forma, muito positiva. A inteligência artificial é uma criação do ser humano e de certa forma é uma extensão da inteligência humana.

Sim, ele não se coloca contra.

Exatamente. Esta perspetiva que eu acho que é positiva, de acolher aquilo que são as potencialidades da IA, para depois reconhecer o que são os seus riscos, os cuidados que precisamos de ter, a reflexão ética que é necessária e todo o esforço de regulamentação. A mim parece-me que isto é muito equilibrado. Claro, o papa vem de um contexto onde há muito extremismo, como nós sabemos, mas o papa eu acho que faz uma proposta que é particularmente equilibrada. E que, se calhar, até vem de uma sensata, prudente e vem, se calhar, do conhecimento de uma sociedade como a americana, que é muito polarizada e onde há muitos extremismos. É possível. Ele que é um homem claramente muito ponderado, muito sensato, estará atento àquilo que são posições mais extremistas e quer apresentar uma proposta que seja isso, prudente, sensata, profunda, que nos ajude a pensar. Eu diria que o Papa Leão, e termino com isto, uma característica dele eu acho que é a prudência. Ele é de facto um homem prudente, profundo, tranquilo. Este documento também é um documento tranquilo, mas ao mesmo tempo muito lúcido e muito corajoso, diria eu. A última coisa também que eu diria que é interessante, e isso é algo que me faz lembrar um bocadinho a perspetiva do Papa Francisco, é que o Papa Leão, neste documento, na verdade, aborda os grandes problemas da humanidade no tempo presente e fala de uma forma muito integrada. A IA não está separada da guerra, não está separada do trabalho, não está separada da família. Há aqui uma visão muito integrada daquilo que são as oportunidades e os desafios do mundo em que vivemos. Eu acho que isso é particularmente útil e importante.

Seria incompreensível, Bruno Nobre, que a Igreja se colocasse fora do debate sobre a inteligência artificial?

Sim, seria totalmente incompreensível. O ponto de partida da reflexão da Igreja e da proposta que a Igreja tem para oferecer é sempre o ser humano. E a inteligência artificial, como eu dizia há bocadinho, é um produto da inteligência humana. Eu acho que nós não podemos pensar a IA sem referência ao ser humano. Voltando àquela abertura magnífica da "Gaudium et spes", este documento tão importante do Concílio Vaticano II, as alegrias e esperançasAs tristezas e angústias dos homens e mulheres do nosso tempo são as esperanças, alegrias, angústias e tristezas da Igreja. Portanto, diante de uma transformação que é tão profunda, a Igreja não pode deixar de oferecer a sua reflexão. E fá-lo através de recursos que são muito valiosos. Porque a Igreja, ao longo de séculos, foi fazendo uma longa reflexão e amadurecendo uma longa reflexão sobre quem somos enquanto seres humanos. O papa diz que a IA não vai suplantar o ser humano. Eu acho que a bússola fundamental que nós precisamos é olhar para a humanidade, quem é que nós somos, quem é que é o ser humano.

E aceitar a nossa imperfeição.

Aceitar a nossa imperfeição. E isso faz parte da reflexão que os cristãos têm a oferecer sobre o ser humano. A Igreja Católica sempre teve, também com dificuldades, mas sempre teve um desejo muito grande de diálogo com o mundo e com os seus problemas. Seria totalmente incompreensível que numa fase destas, que é tão sensível, a Igreja não dissesse algo. Eu acho que se o fizesse, a pouco e pouco seria reduzida à irrelevância.

Estaria de fora de um grande debate.

Estaria fora de um grande debate.

De um grande debate. Bruno Nobre, agradeço-lhe. Muito obrigado.

Muito obrigada.

Muito obrigado. Helena Garridos, é um debate que é muito complexo, direi até demasiado complexo para início.

Exato. Eu diria que esta encíclica é sobretudo oportuna, porque os desafios que hoje se colocam. Nós estamos a entrar numa fase que pode acelerar nos próximos cinco anos. E esta aceleração está a ser sentida sobretudo em comunidades como a comunidade americana. Eu gostaria de pôr aqui alguma luz sobre o que se está a passar nos Estados Unidos. As sondagens revelam que os americanos estão mais apreensivos do que entusiasmados com esta inovação. Houve 48 projetos de data centers avaliados em $156 mil milhões que foram bloqueados no ano passado nos Estados Unidos. São dados do Data Center Watch, citados pelo Wall Street Journal, e 20 que estão em vias de ser bloqueados este ano. As pessoas não querem data centers no seu quintal, não querem na sua comunidade.

Nem sempre pelos bons motivos.

Exatamente. Mas qual é que é o medo das comunidades? Nós temos de levar isto também em consideração, obviamente. Qual é o medo das comunidades? A subida do preço da eletricidade, o Papa fala disso, as questões ambientais e faz o apelo aos investigadores para que encontrem meios, que encontrem uma via para que a IA não precise de tantos recursos, água e energia. E depois, qual é a outra preocupação? É a preocupação com a perda de empregos. E outra preocupação que também aqui foi referida pelo padre João Basto, que é a preocupação com a educação dos filhos. Tudo isto está a gerar uma onda de preocupação com a inteligência artificial, que inclusivamente existem já relatórios que são citados pela Wired do FBI, que dizem que há aqui problemas, que podem aparecer aqui movimentos extremistas anti-tecnológicos. Tudo isto faz com que esta encíclica seja especialmente importante.

E é curioso, porque começam a aparecer nos Estados Unidos também, nesta linha, textos a recordar o que foram os ludistas.

Sim.

Os ludistas foram aqueles movimentos que destruíam as máquinas no tempo da primeira revolução industrial. E há textos a recordar isso no sentido de dar enquadramento. Mas desse ponto de vista, esta encíclica tem duas coisas que me parecem até importantes, considerando isso, que é por um lado, há o que diz: nós temos que acentuar daqui o lado da humanidade, no sentido daquilo não substituir a humanidade, mas não é algo que diz: "Vamos acabar com isto."

Não, de todo.

De todo.

Aliás, há muita preocupação de dizer: "Não somos contra a tecnologia". Citado de forma super livre. Não está aqui em causa a instituição.

Explicar, integrar, tirar partido. E depois há outra coisa que também me parece que tem muito a ver com o seu nome e com a humanidade, que é: as máquinas não têm moral. As máquinas não têm moral e nós precisamos de moral. No caso concreto da Igreja Católica, como é natural, a moral é algo, que ainda há pouco numa situação que foi aqui lida, já não me recordo exatamente por quem, que é o rosto de Deus. Deus como o referente último da moral. E esse aspeto é algo que é mais fácil, sobretudo para quem é religioso, perceber até que ponto há limites na máquina. Se bem que a máquina, como dizem em muitos outros sítios, pode ajudar em muitas coisas.

Isto pode ser um contributo muito importante para abrandar a velocidade e, por outro lado, para pacificar as almas mais preocupadas com o futuro.

O problema não é abrandar, o problema é não deixar descarrilar, mais do que outra coisa qualquer.

Muito bem.

E daí a importância da longa parte que é dedicada ao tema da guerra. E na guerra, muito a utilização da máquina, quer dizer, da inteligência artificial, a tomar decisões. Tomar decisões que no fundo são morais.

Isso era todo outro tema, porque temos depois os robôs humanoides que podem ser usados na guerra.

Deixamos isso para outro "Contra Corrente".

Exato, prometido.

Até amanhã.

Até amanhã.