Neil Lawrence conhece os dois lados: o mundo académico e o lado de uma big tech, a Amazon, na qual implementou sistemas de aprendizagem automática porque queria perceber o impacto da tecnologia no “mundo real”. “Estava realmente muito interessado nos desafios que surgem quando se implementa, na prática, a aprendizagem automática — sentia que isso só se aprendia dentro de uma empresa”, explica, em entrevista, ao Observador. O autor esteve em Lisboa para uma conferência da Fundação Francisco Manuel dos Santos, para apresentar o seu novo livro Humano, Demasiado Humano, que se foca no papel dos humanos na expansão da IA.

O especialista britânico trabalhou para a Amazon a partir do Reino Unido, mas reportando a Seattle, a casa-mãe da tecnológica. Ainda que admita que era “uma empresa super interessante para trabalhar”, saiu em 2019 e passou a concentrar-se, em exclusivo, ao mundo académico. “Sempre quis levar as lições [obtidas da experiência empresarial] para um ecossistema mais amplo”, explica, assumindo que poderia ter algumas “restrições” no que dizer se ainda continuasse numa empresa.

Com o distanciamento conquistado pela passagem do tempo, Lawrence é capaz de tecer críticas ao “vaporware” que diz existir à volta da inteligência artificial (IA), em que as big tech revelam ao mercado que estão a trabalhar em tecnologias para impedir “outras empresas mais pequenas de se envolverem no processo”.

Lawrence, que, além de professor catedrático de machine learning na Universidade de Cambridge, é também investigador no Instituto Alan Turing, considera que há uma “bolha de entusiasmo” à volta da IA e lamenta que o debate se tenha reduzido “às vozes com perspetivas mais simplistas” em relação à tecnologia. E diz sem rodeios: a visão de uma distopia dominada por uma ideia da ficção científica, uma Skynet saída de um Exterminador Implacável, é “absurda”.

Atenção dada à IA é “bênção mista” que reduziu “a qualidade do debate”

Já trabalha com aprendizagem automática há muito tempo. Mas, nos últimos dois anos, a inteligência artificial parece ser aquilo de que toda a gente fala, ficou mais mainstream. Sendo alguém com trabalho na área, como é que se sente a ver toda a atenção que agora é dada ao tema?
Isso é algo de que falo no livro: é uma bênção mista. Por um lado, a qualidade do debate tem sido muito reduzida porque, quando há tanto interesse, as vozes dominantes são aquelas que têm as perspetivas mais simplistas. Isso tem sido incrivelmente prejudicial na tentativa de garantir que é produzido algo equitativo e de resolver os problemas que já conhecemos. Há uma década que há debate público. Nós sabemos que tipo de problemas é que as pessoas querem resolver: querem uma educação melhor, um sistema de saúde melhor, mais apoio social e segurança. E, para muitos de nós que estamos na área, tem sido esse o foco. Mas, claro, agora há uma grande bolha de entusiasmo em Silicon Valley e em Wall Street. As empresas que estão a dominar [o tema] têm um registo muito pobre na apresentação de soluções nessas áreas. Já tentaram fazê-lo várias vezes e, em alguns casos, causaram muitos danos.

Quando fala dessas empresas está a referir-se às grandes tecnológicas [Amazon, Apple, Meta, Alphabet e Microsoft]?
Sim, que são aquelas que estão hoje a dominar a narrativa porque é mais fácil criar problemas que as pessoas não sabiam que tinham e depois resolvê-los. É esta a forma de funcionar das tecnológicas, certo? Mas não devemos descartá-las. [A tecnologia] é uma peça importante de uma economia em evolução. Mas, fundamentalmente, se se perguntar às pessoas sobre os seus problemas, dizem que gostariam de ver mais avanços nomeadamente um melhor trabalho na saúde ou na educação. E, de certa forma, as tecnologias digitais criaram vários problemas nesses domínios. Acho que, para aqueles de nós que têm estado a pensar cuidadosamente sobre este tema, que pensam sobre o que é preciso fazer para implementar estas tecnologias de uma forma que seja benéfica para a sociedade… Isto causou alguns problemas porque o debate se alterou — em inglês temos as palavras shysters e grifers, as pessoas que estão a tentar ganhar dinheiro depressa ou a exagerar as afirmações. Mas é claro que isto acontece, não se pode parar.

O desafio é encontrar um equilíbrio: queremos que a sociedade tenha conhecimento e seja envolvida. Mas o problema é que, neste momento, a conversa é dominada por pessoas com interesses próprios e perspetivas muito simplistas. E essas perspetivas estão ligadas ao futuro das empresas, que estão a envolver-se numa batalha para manter o domínio de uma das áreas mais lucrativas que a economia já viu.

Há discussões sobre a IA ser a quarta revolução industrial, está de acordo com essa perspetiva?
Se isto é a quarta revolução é a primeira que foi batizada antes de acontecer. A revolução nunca parou. Se formos até ao final do século XVIII e começarmos a pensar em termos de inovação — da transição do poder do vapor, o trabalho humano — foi tudo um processo contínuo com muitos poucos períodos em que não houve mudanças dramáticas a acontecer. Por exemplo, há 40 anos, os programas da BBC sobre a inovação do circuito integrado falavam de como as máquinas registadoras mecânicas com centenas de partes iam ser substituídas por um pequeno chip. Estavam a dizer as mesmas coisas que as pessoas dizem hoje sobre esta tecnologia. E, claro, estavam certas. Mas, desde então, a indústria mudou significativamente. Está muito mais globalizada, também devido às economias de escala à volta do fabrico de chips. Há uma questão interessante: se se olhar para a disrupção que aconteceu entre 1946 e 1986 e também para o que mudou entre 1986 e, digamos, 2026… o que esperamos que aconteça nos próximos 40 anos? A mudança foi enorme mas ainda estamos a lidar com as consequências das mudanças ocorridas desde 1960, ou seja, com processos com os quais ainda não lidámos na totalidade. É uma mudança grande, mas faz parte de uma mudança em curso. A IA é também uma mudança dramática, mas estou cauteloso em relação à sua excecionalidade, é que há muitas lições a tirar do passado. Fico nervoso quanto a essa excecionalidade, como se os fatores económicos não entrassem em cena. As pessoas vão tentar controlar e dominar [a IA] e, através do domínio económico, dominar o poder — bem, isso é tão velho quanto Maquiavel, não é?

[No podcast “Somos Todos Malucos“, António Raminhos fala sobre os nossos medos, ansiedades e superações em conversas descomplicadas e divertidas em torno da saúde mental. Ouça aqui o novo episódio, que também está disponível na Apple Podcasts e no Spotify]

Disse que a discussão em torno da IA é simplista. Também devido às perspetivas de boomers [entusiastas da IA] contra os doomers [pessimistas]?
Sim, vimos isso com as duas cimeiras [dedicadas à IA], não vimos? Quer dizer, é ridículo. Tivemos uma cimeira ridícula sobre um risco técnico existencial [refere-se à primeira, no Reino Unido]. E depois tivemos outra, mais de impulso sobre os grandes futuros da IA [este ano, em Paris]. Claro que a verdade deve estar algures no meio.

Em que ponto é que se encontra nesse debate?
A IA é uma tecnologia que se for implementada de forma sensata e inteligente pode fazer uma diferença enorme e ser benéfica para as pessoas. Mas se for implementada de forma descuidada pode tornar ainda piores vários problemas sociais que já enfrentamos. A noção de que está tudo condenado, a do risco existencial, é absurda. É simplesmente absurda, é uma enorme distração. E a ideia utópica de que vai surgir uma IA a controlar as nossas vidas é também absurda.

Mas estes extremos unem-se na sua simplicidade e no falhanço de compreender a complexidade da sociedade moderna e das instituições que nos apoiam e garantem que temos uma voz representativa na gestão da sociedade. Ambas as visões são extremamente nocivas para as lições que foram difíceis de conquistar como a natureza social e técnica da sociedade. E é uma grande pena que, desde que o ChatGPT foi lançado, a qualidade do debate se tenha degradado até este ponto. E tem muito a ver com o aumento do nível de hype e da atenção.

Em 2023 foram divulgadas duas cartas, uma sobre o risco existencial da IA e outra a pedir uma pausa no desenvolvimento de modelos de IA. Não assinou nenhuma. Porquê?
É muito simples: se aquilo que se está a ler parece tirado de um capítulo de um livro de Isaac Asimov [autor de livros de ficção científica como Eu, Robô e da saga Fundação] é porque provavelmente não faz sentido. Era um livro que eu iria ler, parece um início incrível: todos os criadores de IA decidiram que haveria uma pausa de seis meses. Sabemos que é um ponto da narrativa propício a acontecer alguma coisa ridícula e tudo descarrilar. É este o tipo de escrita de Asimov.

A ironia é que muitas destas pessoas com estas visões ingénuas são obcecadas por ficção científica. Acho que leram alguns dos livros quando ainda eram demasiado jovens para compreender as nuances destas histórias. Ouvimos as pessoas a dizer “vamos aplicar as regras da robótica de Asimov” [1. Um robô não pode magoar um ser humano ou, por inação, deixar um ser humano magoar-se. 2. Um robô tem de obedecer a ordens humanas exceto quando se infringe a regra 1. 3. Um robô deve proteger a sua própria existência desde que não entre em conflito com a regra 1 e 2]. São histórias.

Quando agora olhamos para a forma como a sociedade funciona, temos um grande número de mecanismos para gerir e controlar novas inovações tecnológicas. Não são perfeitos, mas não são tontos. O problema é que interagir com estes mecanismos é um bocadinho mais evoluído do que declarar ‘vamos ter uma carta internacional’, que não é aplicável. O ponto é a aplicabilidade destas coisas. Quando estamos a ouvir constantemente as vozes que dominam o debate a dizer que deveria haver proibições ou que temos de fazer isto ou aquilo… Bem, nós ainda não lidámos, por exemplo, com as minas terrestres, que já têm muitos anos e causam problemas horríveis. Acham que basta escrever só uma carta?

Do risco de “cair nas mãos erradas” ao esforço “para preservar” a humanidade. As motivações de quem pede “pausa” nas experiências de IA

A carta sobre o risco de extinção era bastante curta…
Sim. E, de certa forma, o que é interessante em relação aos signatários é que uns estão a avisar sobre a ameaça de risco existencial enquanto estão a trabalhar de forma árdua para explorar e implementar a tecnologia. Estão todos no mesmo grupo, mas há realmente uma parte que está preocupada.

Investigadores e líderes de empresas alertam para “risco de extinção” trazido pela inteligência artificial

No caso das pessoas que estão a trabalhar e ao mesmo tempo têm essas preocupações, considera que este é um comportamento habitual?
Está familiarizada com o conceito de vaporware?

Acho que sim.
Vou usar como exemplo os primeiros tempos do DOS [sistema operativo de disco], em que as pessoas queriam que evoluísse para o sistema de janelas [tipo de interface na utilização dos computadores]. Várias empresas começaram a trabalhar em sistemas de janelas para a interface do utilizador. Quando a Microsoft começou a dizer ‘estamos a trabalhar num’ demorou três edições até acertar. Mas anunciavam constantemente que estavam a trabalhar nisto, mesmo antes de existir — o que é uma espécie de vaporware. Afasta as outras empresas mais pequenas de se envolverem no processo. E isto é algo que já é conhecido há muito tempo em Silicon Valley. Se é uma conspiração consciente? Realmente não importa. Mas dá para ver os interesses dos players dominantes a prometer este grande produto e a dizer que estão a investir determinado valor.

Depois as empresas mais pequenas sentem: ‘bem, não consigo competir’. Outro grande exemplo foi o chip da Intel, quando estava a passar da arquitetura de 32 para 64-bit. A Intel disse que estava a trabalhar nisso, afastou muitos outros fabricantes do negócio, incluindo a DEC, que achou que não conseguia competir. Depois, quando foram lançados, não funcionavam. E a AMD teve de desenvolver rapidamente um processador de 64-bit. É esse o conceito de vaporware: anunciar-se que isto vai existir e criar-se um espaço à volta disso. É um processo que vemos frequentemente em Silicon Valley. E o que estamos a ver é uma vaporware da AGI [inteligência artificial geral, que em teoria conseguirá superar a inteligência humana].

“A noção de inteligência artificial geral é simplesmente absurda”

É possível atingir a AGI?
Primeiro, a noção de AGI é simplesmente absurda. Dou o seguinte exemplo com os veículos: Se preciso de ir até ao fim da rua e voltar, o melhor é ir a pé. Se preciso de voltar para Londres, a melhor opção é ir de avião. Qual é o veículo geral? Algo que é útil em todas as circunstâncias. Mas isso é uma ideia absurda, porque, sem descrever o objetivo e o contexto, não conseguimos pensar no veículo certo. Acontece o mesmo com a inteligência. Se pensarmos na inteligência partindo do princípio de que é a utilização de informação para a tomada de decisões, querem-se sistemas diferentes para contextos diferentes. Não há uma AGI [rejeitando a ideia de algo geral].

E estamos a otimizar isto para que enquadramento temporal? Queremos que aconteça neste tempo de vida, no dos nossos filhos ou enquanto a existência humana sobreviver no planeta Terra? As decisões são diferentes. Esta noção de que a AGI poderá existir é profundamente problemática. E depois há a questão [de afirmações como] ‘ah, e vamos ser a empresa que consegue criá-la e isto vai custar 100 mil milhões de dólares, portanto está fora do vosso alcance’ [de outras empresas]. É isso que neste momento está a dominar a narrativa.

Por vezes parece que quem está a tentar desenvolver a AGI também teme o que possa fazer e as consequências, não?
É novamente onde estas duas ideias se juntam. E é por isso que o debate é absurdo, porque estamos só a ouvir pessoas muito simplistas. Por exemplo, na minha comunidade há pontos de vista com mais nuances. Mas é bastante difícil descrever essas nuances de uma maneira que faça manchetes e é por isso que ouvimos falar o mesmo conjunto de pessoas. E é por isso que as empresas de Silicon Valley adotam esta linguagem.

Porque está tudo nos seus interesses e é por isso que estão todas alinhadas em relação a ameaças existenciais, porque se nos preocuparmos com as ameaças existenciais não nos estamos a preocupar com os perigos reais que estamos a viver, como os perigos online. Molly Russell, uma rapariga do Reino Unido, suicidou-se após ler sobre o tema em fóruns online e o seu pai, Ian Russell, está a fazer uma campanha a defender regras de segurança online que consigam proteger as crianças contra este tipo de material que se podem encontrar online.

É uma questão que é muito diferente no Reino Unido. [A legislação] É difícil de aplicar… Por exemplo, a Apple recusa backdoors [forma de acesso à informação de uma conta, que pode ser pedida pelas autoridades]. Não estou a dizer que é certo ou errado, só que é uma questão. Por segurança, se a polícia quer encontrar uma rede de pedofilia e não consegue aceder às comunicações porque estão encriptadas, isso é um problema. Estas são questões práticas que existem e há empresas que não querem ser reguladas.

Mas essa já é uma questão com alguns anos…
Sim, ou mesmo as redes sociais e a forma como se relacionam com os media. Isso penaliza a imprensa e o jornalismo, que é uma instituição principal da democracia. É este tipo de coisas que já sabemos que existe e que é parte da revolução digital. As questões não vão desaparecer e várias coisas podem acontecer com o aparecimento da IA, podem ser melhores ou piores. Nem sequer sei qual é a resposta certa, mas sei apenas que a qualidade do debate tem sido extremamente pobre.

As pessoas que acenam com o risco existencial são mais de dizer: ‘não se preocupem porque há um papão da IA que vem aí’. Como é que um bicho-papão da IA é diferente daquela que já existe, o da grande assimetria de poder que as grandes empresas têm, inclusive na decisão automática sem envolvimento humano. Seria realmente terrível se déssemos todo o poder a uma big tech e depois executassem [o processo de decisão] através de IA. Isso seria terrível. Mas já é terrível que haja tanto poder e decisões feitas de forma automática sem percebermos as consequências.

Com a IA o poder dessas empresas parece estar apenas a ser reforçado, não?
Sim, acho que o desafio é que isto é um grande problema. É uma ameaça existencial a estas grandes empresas e é isso que não está a ser falado. Têm plena consciência de que esta tecnologia mina toda a base de como mantêm o controlo. É por isso que não tenho a certeza quanto à questão de esta ser uma quarta revolução industrial. As tecnologias digitais são a nossa infraestrutura de informação moderna — a topografia da informação, como digo no livro. Mas se recuarmos até 3500 antes de Cristo, quando as pessoas começaram a escrever, quem conseguia escrever e ler tinha poder, eram os escribas. Hoje, [o poder] está nas instituições, no jornalismo, no sistema judicial, nas instituições à volta de critérios de responsabilidade. O poder vem de uma interação com a palavra escrita. E, quando se substituiu a palavra escrita pela tecnologia digital, percebeu-se que os novos escribas são os engenheiros de software. O que são os novos grémios? As grandes tecnológicas. Mas herdaram responsabilidades? Não. As pessoas que controlam a infraestrutura de informação abdicaram dessa responsabilidade. Mas têm enormes quantidades de poder. Agora, esta tecnologia é o equivalente à democratização de acesso.

Pela primeira vez, uma pessoa comum pode falar com um computador e ter o computador a fazer o que quer. Ganhou isso só a absorver a cultura humana e isso quer dizer que, de repente, qualquer pessoa pode falar com uma máquina e pedir-lhe que traduza alguma coisa para a sua infraestrutura de informação. A grande diferença entre a inteligência da máquina e as nossas é a velocidade de acesso à informação.

As grandes empresas de tecnologia já fizeram muito dinheiro, mas esta tecnologia já não é só para engenheiros de software, já não são só as grandes tecnológicas que podem aceder ao poder extremo. Qualquer pessoa pode falar com a sua máquina, em vez de ter de usar uma app que é fornecida pela Apple, por exemplo. É possível imaginar um futuro em que se pede ao telefone para fazer alguma coisa, como se pediria a um amigo. Do ponto de vista das empresas de tecnologia, isso é um futuro terrível já que o controlo total depende do domínio de uma tecnologia e têm de manter as pessoas afastadas desse acesso. É semelhante à transformação que aconteceu quando o clero perdeu o controlo da infraestrutura de informação: já não era só o clero que sabia ler e escrever, era toda a gente.

Considera que é isso que justifica estes investimentos de milhares de milhões que as empresas de tecnologia estão a fazer em IA?
Bem, isso é parte do vaporware, certo? O que foi interessante na questão da DeepSeek e da forma como tudo se esfumou depressa é que, nos EUA, agora há uma espécie de mantra de que [a IA] é a única forma de proteger os negócios, é por isso que vai custar tanto e, portanto, só pode ser feito por três ou quatro empresas. Não sei se viu a intervenção de Marc Andressen [investidor norte-americano] no New York Times a dizer porque é que ia votar em Trump. É referido que falaram com a administração Biden e foi dito que só iam permitir à Google, à Microsoft e a outra empresa controlar a tecnologia. E diz que saiu [da reunião] e decidiu que ia votar em Trump. É muito revelador porque foi nesse momento que este grupo de altruístas tinha persuadido o governo do risco — nos EUA e no Reino Unido também — de que esta tecnologia era tão poderosa que iria precisar de proteções para os players estabelecidos. É claro que estão interessados em vender esta narrativa.

Agora, isso desapareceu e vimos que na cimeira mais recente [de IA, em Paris] já ninguém disse isso e a DeepSeek também minou essa narrativa que estão a tentar promover de que a única forma de construir isto é ter um enorme investimento financeiro e enorme computação — que hoje em dia é verdade — mas isso acontece porque a indústria avançou agora mais do que o mundo académico. Recorreram a ideias do mundo académico e injetaram dinheiro e dados e foram muito além da capacidade de acompanhamento da comunidade académica. O que significa que, desde há algum tempo,  não está a ser desenvolvido mais pensamento [sobre formas de avançar na IA]. E há formas muito mais eficientes de atingir o mesmo resultado, porque as pessoas pararam de pensar [nas questões] e estão só a executar. Podemos esperar não fazer as coisas assim nos próximos 20 anos, haverá formas mais baratas e melhores.

Quem dá mais para avançar na IA? “Big Five” abrem os cordões à bolsa, mesmo com os avisos de bolha

Como por exemplo?
Já vimos com a DeepSeek, que, de alguma forma, mostrou — independentemente da questão de ter usado ou não o ChatGPT, o que é a grande ironia — que é mais barato e que não é preciso tanto. Mas o que foi realmente engraçado é que, em vez de o mercado colapsar e fazer cair o projeto Stargate, voltaram ao mantra. Quem já está investido na noção de vaporware da AGI não pode simplesmente sair porque isso ia ter implicações nos valores multimilionários das empresas. Têm de lutar por isto porque é a sua razão de existir, passa tudo pelo controlo da arquitetura de informação.

A longo prazo, temos a esperança de que, como a democratização da informação, isto aproxime os cidadãos comuns que querem usar essa tecnologia para os problemas que têm na educação, saúde, apoio social. Mas, de momento, o que está a acontecer — não é uma conspiração, porque as pessoas são incentivadas a ir na mesma direção — é um combinação de vaporware de Silicon Valley sobre a AGI e o investimento de Wall Street que resulta nestes valores muito inflacionados, concordando que o futuro vai ter estas grandes empresas a dominar. Agora, não quer dizer que não possam dominar — e acho que é esse o verdadeiro problema que temos pela frente. Pela forma como as coisas estão neste momento, parece que vão manter o poder e que a tecnologia [de IA] poderá não ser implementada como gostaríamos.

Bolha na IA? “É complexo”, mas “diferente de qualquer bolha que já vimos antes”

Considera que se está a formar uma bolha em torno da IA? Já houve avisos, como o de Paul Krugman.
É muito complexo.

Paul Krugman. “Febre” da IA faz lembrar bolha das “dotcom”, mas esta pode acabar com um “resgate dos manos das techs”

Há startups de IA que estão a receber avaliações elevadas sem ainda terem lançado produtos, por exemplo.
Sim, absolutamente. Mas é complexo. Recuemos até 2001 e ao rebentar da bolha das dotcom. Se se olhar para a avaliação da Amazon na altura e se comparar com a de hoje, realmente está muito mais alta atualmente. Na altura do rebentar da bolha das dotcom, as pessoas estavam muito menos interessadas no desfecho a longo prazo daquelas empresas. Não percebiam o mantra da Amazon em relação ao futuro, que iria dominar no setor — e agora toda a gente acredita no mantra da Amazon. É a única empresa que entrou num mercado que já existia e cresceu, até dominá-lo. Mas até olhando para a Tesla: Musk quer colonizar Marte porque a única forma de vender Teslas suficientes é se povoar Marte? Nenhum desses valores faz sentido.

Se alguma vez viu alguma coisa sobre o escândalo Madoff, as pessoas que tinham uma probabilidade maior de acreditar em Madoff, de acreditar que ele era um bom tipo, eram as que tinham investido mais dinheiro. E agora estamos a falar de grandes fundos soberanos a fazerem parte disso… um SoftBank, um fundo soberano da Arábia Saudita, o fundo de investimento de Abu Dhabi. Bolha pode nem ser a palavra certa… O ouro é uma bolha porque toda a gente concorda que é valioso? Se todos continuarem a concordar que é, então o valor mantém-se. Bolha parece algo que vai rebentar e o problema é que não consigo ver bem como é que isso vai acontecer. Bem, esta é a resposta longa. A resposta curta é: sim, é uma espécie de bolha, mas penso que é diferente de qualquer bolha que já vimos antes.

Porquê?
Penso que o que está a acontecer é que muitos destes investimentos vêm de grandes fundos, fundos soberanos com um enorme excedente comercial, que não têm qualquer incentivo para retirar o seu dinheiro porque isso faria com que o valor do fundo caísse a pique. Não sei o que vai abalar a confiança. É difícil porque, historicamente, estas empresas foram sobrevalorizadas durante muito tempo. Concordo com a ideia de que há uma bolha, mas, ao mesmo tempo, a gravidade não as afetou.

DeepSeek foi “um susto”, mas “haverá muitas mais”. AI Act foi “apressado”

Mas a DeepSeek foi um momento de susto para a indústria?
Foi um susto mas, como disse na altura, haverá muitas mais DeepSeeks.

DeepSeek, a startup chinesa que “abana” a indústria da inteligência artificial ao prometer fazer mais com menos

Vindas da China ou de outros pontos do mundo?
Podem vir de qualquer lugar. Acho que uma das coisas com que temos realmente de nos preocupar é fazer com que viessem da Europa. E penso que um dos grandes problemas que temos é o pensamento pouco inteligente a este respeito, certamente no Reino Unido, e também acho que vindo da Comissão Europeia.

Em relação à Comissão Europeia, que opinião tem do AI Act?
Ainda não olhei em detalhe. Para ser sincero, assumi que era tão tonto que iria desaparecer com o passar do tempo, porque foi muito apressado. Até o primeiro rascunho era pobre, mas melhorou.

Quando fala em rascunho está a referir-se ao que já tinha a abordagem por patamares de risco ou ainda outra fase?
Ainda antes disso. Houve mesmo uma altura em que nem sequer mencionavam o risco. A abordagem de risco é um pouco mais sensata, porque não é possível falar de IA sem falar do contexto de implementação. Não faz sentido. É como falar de regulamentar os computadores: bem, onde está a ser utilizado o computador? Está a ser utilizado numa companhia aérea, num carro, para tomar uma decisão financeira, uma decisão médica, para jogar Tetris no quarto de um adolescente? A regulamentação correta depende do contexto.

O Reino Unido analisou isto há uns anos e considerou que o lugar certo para regulamentar é no ponto de implementação. Faz o que se chama de análise de lacunas e sobreposições nas áreas que cobrem, tenta-se ver onde pode ser necessária uma nova regulamentação e tenta-se resolver as ambiguidades sobre quem deve intervir. Mas esta é uma política sofisticada que implica trabalhar em várias frentes. Vê-se isso na Lei dos Mercados Digitais (DMA). Portanto, veem-se aí movimentos sensatos na regulamentação existente, mudando a noção de mercado digital para algo um pouco diferente da noção de um mercado de capitais típico.

Não estou a dizer que a regulamentação é perfeita, mas é este o tipo de coisa que se quer ver. O que se tem com o AI Act ​​é um desejo de ser visto como o primeiro a regular a IA, como se houvesse um prémio envolvido por isso, como se representasse alguma coisa.

AI Act. Parlamento Europeu aprova primeiro regulamento para a inteligência artificial

Foi anunciado como um motivo de orgulho. [O AI Act foi anunciado como o primeiro enquadramento de IA a nível mundial]
Como um motivo de orgulho, sim. E foi feito muito rapidamente porque as eleições europeias estavam a aproximar-se — portanto, isso é um desastre. Mesmo que seja necessário regulamentar a IA, não sei as respostas certas para todas estas coisas, é difícil de ver. Certamente é preciso fazer o exercício de análise de lacunas e sobreposições antes de decidir formar uma regulamentação específica de IA. E este é um exercício bastante grande.

Não quero dizer que não haja nada de bom nesta lei ou que não haja princípios bons, mas estão a ser feitos da forma errada. O que se pretende é que haja um tipo de ambiente onde os especialistas da sociedade civil, da indústria e do setor público se possam reunir e ter uma conversa fora do brilho do hype. Mas tudo isto aconteceu em público, quase como uma resposta à carta. E isso normalmente representa sempre má legislação.

Existe um grande risco de que o tipo de ingenuidade que está presente em muitas destas legislações signifique que não serão aplicáveis ​​e isso vai prejudicar a legislação que já existe. Foi interessante que mesmo o AI Act avançou para a abordagem baseada no risco, que foi um reconhecimento de que é preciso ter em conta o contexto da implementação, mas não foi suficientemente longe. No caso do AI Act, acho que foi um erro aprová-lo, mas posso estar enganado. Teve um efeito terrível, que foi o de dar má fama à regulamentação, que é uma posição realmente horrível.

“Quando se impõem leis realmente tolas enfraquece-se a noção de lei”

Uma das críticas que é feita à Europa é a de que está a tentar regulamentar demasiado. E JD Vance [vice-presidente dos EUA], na cimeira de IA em Paris, fez uma espécie de alerta sobre territórios que estão a tentar regulamentar demasiado. Considera que o AI Act pode funcionar como um ponto de divisão entre os EUA e a Europa?
É bem possível. Mas pior ainda é que uma peça de regulamentação tenha minado a noção de regulamentação e com isso esteja a minar o Estado de Direito. Quando se impõem leis realmente tolas enfraquece-se a noção de lei. Nos países onde as leis são excessivamente burocráticas acaba-se por ter um sistema paralelo por trás do sistema jurídico e a regulação perde as suas capacidades, que são uma questão positiva. Ser claro sobre, por exemplo, a propriedade intelectual e o seu uso na implementação de modelos é uma forma das indústrias criativas explorarem novos caminhos. Ou uma rota para os particulares ou para as pequenas empresas trabalharem. Mas quando a lei não é clara, é extremamente difícil. E é quando a lei não é clara que as grandes entidades dominam. Vemos isto regularmente nos Estados Unidos onde há o termo do uso justo, ainda não é claro o que significa uso justo.

O conceito do uso justo é uma termo muito usado por estas empresas, até na IA, certo?
Absolutamente. E o que aconteceu nos Estados Unidos é que as implicações são que estas empresas já tomaram tudo o que é protegido por direitos de autor. Sei que as pessoas podem dizer, bem, a OpenAI ou a Anthropic não são incumbentes, mas estas empresas também estão a ser utilizadas pelas big tech para fazer coisas que nunca fariam sozinhas. Não veríamos violações de direitos de autor [alegadamente por parte de empresas de IA] feitas por uma grande empresa, porque o que estaria em risco seria muito elevado.

E já foram anunciadas investigações sobre as relações entre Microsoft, Google e Amazon e as empresas de IA, por exemplo.
Sim. No Reino Unido, por exemplo, a CMA [Autoridade de Concorrência e Mercados] iniciou investigações sobre a natureza destas ligações. E isso não me surpreende nada, porque é exatamente para contornarem. Tenho a certeza de que a Microsoft está em conformidade com a lei dos direitos de autor, porque seria muito arriscado. Mas seria do interesse deles, digamos, empurrar para um startup.

Podemos voltar a ter um grande caso de antitrust como o da Microsoft nos anos 90? Também há um em curso em relação à Google… Mas que termine com uma divisão das empresas na Microsoft acabou por não acontecer]?
Há muitas coisas sobre as quais estou a especular, mas não acredito que possamos confiar nos processos de concorrência para nos tirar desta. O interessante é: como é que a Google, o Facebook e todos os outros conseguiram emergir e desenvolver-se na presença destas grandes empresas? Grande parte disso é devido ao software de código aberto. O software de código aberto é apoiado por uma comunidade ampla, incluindo muitos académicos e foi o que permitiu à Google construir sistemas de internet em grande escala para suportar o seu algoritmo de pesquisa.

E a Meta também usa open source, pelo menos na IA.
Sim. A Meta é a única empresa do grupo [das big tech] que apoia ativamente o código aberto. Existem estruturas de software que são basicamente escritas, muitas vezes, por académicos ou por entusiastas nos tempos livres. O que [as big tech] estão a tentar impedir é que as pequenas empresas tenham acesso à mesma tecnologia e as ameacem, da mesma forma que a Google conseguiu emergir como uma empresa tecnológica de grande escala. O que a DeepSeek mostrou é que isto não vai funcionar dessa forma.

Mas o verdadeiro problema, por exemplo, no Reino Unido, foi a forma como, sob o governo Rishi Sunak [ex-primeiro-ministro] endereçou o ecossistema de código aberto. O governo não se moveu legislativamente, mas foi muito contra o código aberto. Enquanto Macron, em França, também com a influência de Yann LeCun [um dos “padrinhos” da IA, vencedor de um prémio Alan Turing e atualmente líder da investigação de IA da Meta, a partir de Paris], investiu massivamente e investiu no ecossistema de código aberto.

E podemos ver que o Reino Unido está a cair em termos das suas capacidades de código aberto, independentemente das suas medidas, em relação a França. Este é o tipo de conspiração que surgiu desta coligação das tecnológicas. Não é bem uma conspiração, mas surge desta união das pessoas que acreditam em ameaças existenciais e das grandes empresas tecnológicas, porque era do interesse de ambos impedir o código aberto, enquanto a grande maioria das pessoas pensa ‘bem, sabemos que pode haver perigos com o código aberto e teremos de estar atentos, mas esta é a via pela qual ocorrerá a próxima onda de disrupção’.

Falando do seu livro, o que é que então torna os humanos diferentes nesta lógica que fala entre o tal vaporware e o hype da IA?
A ideia principal do livro é que o que nos diferencia não são as nossas capacidades, mas sim as nossas limitações, vulnerabilidades e a forma como as ultrapassamos. E é isso que leva à riqueza da cultura humana. Quando operamos em conjunto para alcançar coisas é porque criámos culturas e formas de comportamento que nos encorajam e nos elevam a tornarmo-nos melhores do que somos individualmente. E isso é algo extraordinário. Temos de lembrar-nos do que valorizamos sobre as instituições democráticas e lembrar-nos do horror da autocracia de outros tempos.

No final do livro, falo sobre Karl Popper, da sociedade aberta e dos seus inimigos. Popper diz que a forma como se lida com a autocracia e a tirania é capacitando os indivíduos a fazerem a coisa certa e encorajando-os. Mesmo que seja numa escala pequena, conta como fazer a coisa certa socialmente — e acho que podemos chegar lá. Acho que este é um momento assustador, um momento assustador em termos de corrermos o risco de perder tudo o que Popper mencionava em 1944, um momento muito sombrio.

Quando diz assustador, não está a falar apenas de IA…
Bem, esse é um dos problemas. Este é um fenómeno muito mais abrangente, tem a ver com controlo digital, com o facto de esse controlo estar concentrado nas mãos de poucos e isolar as pessoas, regressando à era dos escribas mesopotâmicos, mas à escala de 300 milhões de pessoas nos Estados Unidos e da capacidade de uma entidade entrar e assumir o controlo dessa administração. Esta é uma ameaça socio-técnica bastante assustadora, não são precisos robôs assassinos. O lado positivo da IA ​​é que a tecnologia poderia colocar novamente as pessoas em contacto, poderia levar-nos de volta ao ponto de termos novamente o controlo. A IA dá-nos essa possibilidade, é certamente a primeira vez que as pessoas comuns podem falar com os seus computadores.

Em linguagem natural.
Em linguagem natural, com a sua própria intenção. E o computador não se comporta como na ficção científica e diz: “Ah, para ter uma Coca-Cola, vou matar estas 17 pessoas no caminho da máquina da Coca-Cola”. Simplesmente comporta-se de uma forma humana razoável, mas ainda ainda pode ser melhorado. Há muito trabalho a ser feito para acertar esta interface de comunicação, para que a máquina não esteja a manipular e que consiga refletir sobre qual é a intenção do utilizador humano. Mas também controlar isso, porque isso dá agora aos humanos individuais um grande poder em diferentes domínios. Portanto garantir que fica o mais equilibrado possível, mas nunca vamos conseguir fazer algo perfeito.

Como vê esta proximidade entre o novo governo dos EUA e os grandes titãs da tecnologia?
Bem, é o que eu chamo no livro de oligarquia digital. Preocupa-me há dez anos e já acontecia há dez anos… Aconteceu e está a manifestar-se agora mais rapidamente. Há uma versão inicial do livro em que me preocupei com a manipulação através da tecnologia. Em 2015, escrevia no Guardian a dizer: “parem de falar sobre a ameaça existencial técnica, preocupem-se com essa noção do sistema zero”, a capacidade das pessoas nos manipularem e a oligarquia digital. Estava a tentar escrever algo que tentasse alertar naquela altura sobre o que vimos com a Cambridge Analytica ou a Agência de Pesquisa da Internet da Rússia. Não lancei um livro suficientemente rápido antes de que tudo isto acontecesse. (risos) Creio que não haveria tempo suficiente, mas as pessoas rapidamente compreenderam que havia um problema.

O que é interessante agora é que estamos a ver a extensão deste problema. É quase como se a maré estivesse a subir, mas ainda não saímos da praia. A maré ainda está a subir. Nessa questão a oligarquia digital, tal como a vemos, deixa-me profundamente preocupado, porque é apenas uma extrapolação do que estava a falar há dez anos. Mas vamos tentar ser otimistas, a cultura é uma força extraordinária, e uma das razões para escrever um livro como este é expor ideias que ajudem as pessoas a compreender o que se passa e porque é que isto é um problema. E quanto mais pessoas entenderem isso, maior será a probabilidade de conseguirmos reagir. Salvação talvez seja uma palavra demasiado forte, mas de certa forma a salvação virá.

Há razão para esse otimismo?
Penso que podemos ser otimistas de que isso acontecerá se desenvolvermos um pensamento com mais nuances em relação a esta tecnologia, porque há as pessoas que a compreendem e que estão a trabalhar para o resultado certo. E, já agora, isto pode vir da direita ou da esquerda, desde que não venha da extrema-direita ou da extrema-esquerda, desde que não venha desse ponto de vista utópico ou distópico.

As pessoas de que precisamos para agir criativamente têm de estar ao centro, as pessoas que concordam com as instituições democráticas e que compreendem a importância destas instituições, mesmo com falhas, se puderem recuperar a sua confiança e as suas ferramentas através da IA, então acho que voltaremos a um futuro brilhante, onde o poder é redistribuído entre o que Popper chama de engenheiros sociais fragmentados [em contraponto com os engenheiros sociais utópicos].