Esta é a história do dia da Rádio Observador: a inteligência artificial é mesmo perigosa?

"Open the pod bay doors, Hal. I'm sorry, Dave. I'm afraid I can't do that. What's the problem? I think you know what the problem is just as well as I do. What are you talking about, Hal? This mission is too important for me to allow you to jeopardize it."

Dave é um ser humano e o Hal é um computador, um supercomputador, o Hal 9000. São duas personagens do filme "2001: Uma Odisseia no Espaço", de Stanley Kubrick, que estreou há 55 anos e é inspirado num conto de Arthur C. Clarke. Hal é o computador que gere a nave Discovery e torna-se de tal forma autônomo e perigoso que os tripulantes decidem desligá-lo. Neste diálogo, que ainda estamos a ouvir em fundo, Dave está numa pequena nave fora da Discovery e Hal não o deixa entrar. Explica que percebeu a conspiração dos humanos através da leitura dos lábios e prefere matar um homem do que pôr em risco aquilo que acredita ser a sua missão. Um grupo de cientistas e empresários, como Elon Musk, assinou recentemente um pedido para que a indústria da inteligência artificial pare pelo menos durante seis meses. O avanço tecnológico é tal que há receios sobre o futuro. Receios éticos, filosóficos, tecnológicos também. Há até quem preveja um futuro muito sombrio. Diz que se nada mudar, a vida na Terra pode ser posta em causa pela inteligência artificial. Vou conversar com Arlindo Oliveira, investigador, professor do Instituto Superior Técnico, é também presidente do INESC, o Instituto de Engenharia de Sistemas e Computadores. Eu sou o Ricardo Conceição, não sou uma máquina, e esta é a história do dia. Bem-vindo, professor Arlindo Oliveira.

Olá, muito obrigado pelo convite. É um prazer estar aqui.

Podemos dizer que a inteligência artificial é uma máquina ou um software que tem capacidade para aprender e desenvolver-se? Isto é uma explicação simplista, será um pouquinho por aqui?

Sim, a inteligência artificial, de facto, como foi criada, tem um contexto mais vasto. Tem capacidade para fazer outras coisas, como planear ou procurar soluções em espaços muito complicados, mas a capacidade para aprender é o que tem feito a diferença. Aliás, é uma ideia antiga. O Alan Turing em 1950 escreveu que a melhor maneira de fazer uma máquina inteligente seria possivelmente criar uma máquina que tivesse a capacidade de aprender. E a última década mostrou-nos que essa é, de facto, a abordagem correta. Portanto, esta capacidade de aprender a partir de experiência ou a partir de dados é, de facto, uma das características marcantes da inteligência artificial e da inteligência, e é a capacidade que tem criado estes desenvolvimentos recentes de agora, quer em visão, onde é possível que estas máquinas vejam e percebam o que veem, quer em processamento de língua natural, como os modelos de linguagem que são tão populares desde há três meses, quatro meses a esta parte.

E nesta altura, precisamente, em que ponto é que estamos aqui no capítulo da inteligência artificial? Consegue explicar-nos aqui em que patamar é que estamos?

Sim, isto tem tido um desenvolvimento muito mais progressivo do que eventualmente seja a perceção pública. A inteligência artificial desenvolve-se há mais de 70 anos. Já há muitas coisas que ao princípio se pensava que exigiam inteligência, como por exemplo, jogar xadrez, jogar Go, que é um jogo mais complexo, ou planear soluções, sei lá, fazer os horários de uma escola, os horários de uma empresa de comboios. São tudo coisas que se pensava que exigiam inteligência, mas depois quando se percebeu que havia algoritmos específicos que faziam isto através de procura, etc, caiu um bocadinho o desinteresse. As pessoas: "Ah, isto afinal para jogar xadrez basta ter um grande computador que testa muitas variantes", etc. E portanto, coisas que se pensavam que eram inteligência artificial, depois quando se realizaram, as pessoas desvalorizam um pouco. "Ah, tá bem, isso de achar o caminho mais curto entre dois pontos no mapa, afinal não é preciso inteligência nenhuma, basta correr um algoritmo". Duas coisas que se mantinham um bocado fora disto, que era difícil resolver até há 12 anos, 10 anos atrás, era a visão. Era difícil ter uma câmera que a partir de uma fotografia ou de um vídeo percebesse o que está a ver, ou reconhecesse pessoas, ou pudesse descrever uma cena. E era difícil ter sistemas que percebessem a língua, quer natural, quer falada, quer escrita. E foi nestes domínios que a chamada revolução da aprendizagem profunda, deep learning, veio trazer alterações significativas, como eu disse, na última década, mais ou menos, desde que conseguimos fazer sistemas que de facto conseguem reconhecer faces, reconhecer pessoas, descrever cenas, reconhecer objetos, até guiar um carro, embora ainda com limitações, e também perceber a linguagem. E isso tem vindo a evoluir nos últimos 10 anos. Em 2017, houve uma espécie de uma pequena revolução, que foi uma nova arquitetura das chamadas redes neurais, que chamam os transformadores. E estes transformadores têm sido usados mais recentemente com muito sucesso para processar a linguagem. Mas, por exemplo, o que está por trás do ChatGPT, que agora toda a gente conhece, é o GPT-3, que foi lançado há quase três anos. E antes do GPT-3 havia o GPT-2 e havia outros. Portanto, isto é mais progressivo do que as pessoas pensam. O GPT-3 já conversava muito bem com as pessoas. Dizia uns disparates, mais que o ChatGPT, mas já era uma coisa muito convincente. Eu há anos que faço apresentações com as conversas com o GPT-3. Quando agora veio o ChatGPT, a sua popularidade, toda a gente comentou e toda a gente ficou a perceber: "Espera aí, a inteligência artificial de facto deu um salto grande, porque já podemos conversar com os computadores em linguagem corrente."

Mas isso quer dizer que estas máquinas e a inteligência artificial tornam a nossa vida mais fácil. Por exemplo, é mais fácil e mais rápido ir, em teoria, do ponto A ao ponto B quando vamos de carro, quando o GPS nos ajuda.

Exatamente. Uma coisa tão simples como essa, como o caminho mais curto entre dois pontos no mapa, veio originalmente de pesquisas em procura, procura numa estrutura que se chamam grafos, que podem pensar que é um mapa, e que na altura depois inventou-se este caminho mais curto entre dois pontos, o algoritmo para calcular, que é um algoritmo relativamente simples, e nessa altura deixou de se considerar até inteligência artificial, embora tenha tido a origem em pesquisas que foram feitas por pessoas de inteligência artificial. E outros algoritmos de procura, por exemplo, soluções em jogos, qual é a melhor jogada num jogo de xadrez, continuam a usar esses mesmos algoritmos e são algoritmos de IA, de inteligência artificial, mas não muito considerados, não são considerados muito difíceis. Esta capacidade para comunicar em língua natural é que veio surpreender um pouquinho as pessoas, porque nós sempre olhámos para os computadores como coisas muito rígidas, que têm de ser programadas numa linguagem específica, que não tem flexibilidade, etc. E, portanto, talvez tenha sido este efeito surpresa e também a profundidade do conhecimento destes sistemas. Foram treinados em grandes volumes de dados e que exibem um conhecimento relativamente profundo do mundo. Enfim, se é profundo ou não, é uma discussão complicada, mas exibem um conhecimento que é ao menos aparentemente profundo do mundo. Conseguem responder a perguntas complicadas.

Vamos então olhar para o lado negro da força. Quais são, em sua opinião, os contras ou quais podem ser os contras da inteligência artificial? E já lá vamos discutir o que está aqui em causa com a carta que foi enviada à indústria.

Sim. Há muitos anos que se estudam e colocam questões sobre a aplicação da inteligência artificial. Em particular, por exemplo, na Europa, há duas diretivas que já foram aprovadas, a diretiva dos mercados digitais e a diretiva dos serviços digitais, que têm muito a ver com a inteligência artificial, e está em grande discussão uma coisa que se chama o Artificial Intelligence Act, o ato da inteligência artificial, que é uma diretiva que regula a utilização da inteligência artificial. Portanto, problemas ou desafios com a aplicação da inteligência artificial são bem conhecidos. Muitos deles têm a ver com a exploração de dados, com a análise de dados. Perdemos a nossa privacidade quando os nossos dados são analisados. Podemos ser expostos a informação falsa ou simplesmente dirigida, que nos leva a ter perspetivas erradas do mundo.

Não é.

Podemos ser bombardeados com operações de marketing dirigido que não queríamos, etc. Outras empresas podem conhecer as nossas preferências e usar isso para diversos fatores. Portanto, tudo isso são riscos da inteligência artificial. Pode haver enviesamentos, há sistemas que podem, sei lá, em entrevistas de emprego, podem selecionar homens em vez de mulheres ou novos em vez de velhos, ou o que for. Portanto, há muitas questões relacionadas com riscos de análise de dados e com a inteligência artificial. Um risco que também tem estado sempre presente, já é uma questão antiga, é a possibilidade destes sistemas virem a tornar-se tão eficazes que substituem os seres humanos em muitas tarefas, em muitos trabalhos. E nesse caso levanta-se ali o espectro do desemprego, do desemprego causado pela tecnologia. Uma coisa que não é nova, é uma coisa que tem pelo menos 250 anos, desde os primeiros teares automatizados. Na altura havia os luditas que se insurgiam contra o aparecimento destas máquinas que teciam tecidos e substituíam as pessoas, mas nestes 250 anos essa questão ocorreu muitas vezes. Neste momento, a questão talvez seja um pouquinho mais premente, porque temos sistemas que de facto parecem ser cada vez mais poderosos. Podem substituir professores, ou juristas, ou analistas, ou contabilistas, aparentemente com alguma competência. Portanto, levanta-se aqui a questão: será que não vamos ter profissões de colarinho branco que vão ficar sem suficientes empregos? Portanto, este é o medo do desemprego. E essa é uma das questões, já agora, que foi levantada nessa carta que refere.

Já voltamos à conversa com o professor Arlindo Oliveira, presidente do INESC. Vamos falar sobre outros grandes receios em relação à inteligência artificial, por exemplo, se as máquinas vão ou não ficar mais espertas do que nós. Já está disponível o penúltimo episódio da série de podcast "O Sargento na Cela 7". São seis ao todo e o último sai na próxima terça-feira. Este quinto episódio concentra-se na Guiné Conakry e numa operação secreta, a Operação Mar Verde. "O Sargento na Cela 7" tem narração do ator PP Rapazote e música original de Noiserv. E está disponível no site do Observador, nas plataformas de podcast e também no YouTube. Estamos de regresso à conversa com o professor Arlindo Oliveira, investigador e professor no Instituto Superior Técnico, é também presidente do INESC. Professor, falávamos dessa carta, Elon Musk da Tesla, também Steve Wozniak, o cofundador da Apple, e também o acadêmico Stuart Russell, que é o autor de "Inteligência Artificial: Uma Abordagem Moderna", uma obra muito importante neste universo. Assinaram essa tal carta em que se pede seis meses de pausa no desenvolvimento da inteligência artificial. Há portugueses entre os subscritores desta carta. O senhor assinou-a?

Não, eu não assinei. Estive a analisar a carta, estive a ver as razões apontadas. Há algumas razões que me parecem importantes e genuínas e que poderiam ser atendíveis. Por exemplo, de alguma maneira implícita, que isso está a evoluir muito rapidamente e que a sociedade precisa de tempo pra analisar estas tecnologias, para se adaptar, pra elaborar regras de utilização e eventualmente legislação. Portanto, é um argumento que me parece razoável, mas a carta também levanta algumas outras questões, nomeadamente se devemos criar sistemas cuja inteligência vai ser superior à do homem, colocando em risco a humanidade, se devemos criar sistemas que substituam os seres humanos em todas as profissões e algumas outras perguntas as quais eu acho que estão desligadas, estão desadaptadas do momento atual. Esses grandes modelos de linguagem, como eu disse, não têm motivações próprias, não têm realmente uma verdadeira compreensão do que estão a dizer, são geradores estatísticos de palavras. E, portanto, eu acho que muitos dos riscos que são apontados na carta são exagerados.

Mas não há esse risco daquilo que já vimos na ficção científica, em filmes e em livros, de as máquinas ficarem mais espertas, e perdoe-me usar a expressão esperta, do que nós? E sendo a máquina incapaz de sentir emoção ou ter uma grade de valores e olha para os seres vivos como um conjunto de átomos que podem ou não ser dispensáveis, não corremos o risco das máquinas ficarem de tal maneira espertas que nos tornemos a nós dispensáveis?

Eu não sei se esse risco existe ou não. Sei que é um risco longínquo, do ponto de vista em que nós estamos muito longe de ter alguma arquitetura de um sistema de inteligência artificial que consiga ter esse tipo de comportamento, que teria ter uma intenção, teria ter algum tipo de sentienncia, algum tipo de consciência. Nós não sabemos como programar isso. Esses sistemas às vezes parecem que estão perto disso, mas realmente não estão, estão muito longe. Eu não digo que esse risco é inexistente, que a probabilidade desse risco seja zero, mas acho que estamos muito longe disso. E por outro lado, acho que os benefícios que estes sistemas podem trazer em termos de aumento de produtividade, em termos de arranjar novas soluções pra problemas sérios que temos, como aquecimento global ou poluição, são muito maiores do que os potenciais riscos nesta fase. Eu pessoalmente não dou muito peso a esse risco de as máquinas virem a ter a sua própria autonomia e as suas próprias ambições e estarem desalinhadas dos nossos interesses. Mas é um problema importante, é um problema que várias pessoas se preocupam, por acaso o Stuart Russell publicou há pouco tempo um livro exatamente sobre esse problema do alinhamento. Ou seja, temos de garantir, quando fizermos esses sistemas, que as suas motivações, os seus objetivos estão alinhados com os objetivos da humanidade. Nós temos essa situação que referiu de que para maximizar a produção de clipes, que é um exemplo muito conhecido, o sistema transforma toda a Terra numa fábrica de clipes, matando todos os seres humanos. Parecem cenários um bocadinho longínquos, de ficção científica. Há pessoas que se preocupam com essa questão, mas também há propostas. O Stuart Russell tem propostas pra garantir esse alinhamento. A minha posição pessoal é que entendo que o que se ganha em conhecimento e em funcionalidade nestes sistemas mais do que compensa o risco eventual, que eu acho baixíssimo ou inexistente, desse medo de sermos suplantados pelas máquinas. Mas as pessoas não têm todas a mesma opinião e por isso é que esta questão é complicada e por isso é que alguns famosos cientistas assinaram e outros igualmente famosos cientistas não assinaram, porque a visão é muito diferente sobre essa possibilidade e sobre esse risco.

Mas as máquinas podem, na sua opinião, e dir-me-á se já podem ou não, ser autoprogramáveis, ou seja, a máquina consegue programar-se ela própria ou precisará sempre do dedo do homem?

Não, por enquanto, não. Estes modelos são modelos que não só não se programam como não fazem nada. São modelos que eventualmente poderão ser interligados a sistemas, à base de data, etc., mas ainda estamos longe de o modelo se autoprogramar e se modificar de maneira a ficar mais inteligente. Isso não está nestas possibilidades desses modelos. Como eu disse, eles são modelos que geram palavras de uma maneira estatística. Já há modelos desses há muitos anos. Não é há três meses, há modelos de geração de texto há dezenas de anos. Estes são mais poderosos. Têm estatísticas mais profundas, foram treinados com mais dados, mas não há nenhuma possibilidade destes sistemas entrarem nessa espiral de inteligência, onde se programariam a próxima versão ainda mais inteligente. O que é mais, nem sequer sabemos se isso algum dia será possível ou como é que poderia ser feito, mas estamos seguramente muito longe disso. Eu acho que todos os investigadores da área, com uma ou duas honrosas exceções, de facto acham que esse não é um problema. Acho que foi o Andrew N. Geek que disse: "Estar preocupados com essa possibilidade é como estarmos preocupados com o excesso de população em Marte. Ainda nunca conseguimos meter sequer uma pessoa em Marte e já estamos a falar do problema do excesso de população."

Ou seja, no arranque do episódio, ouvimos aquele diálogo entre o computador, o HAL 9000, e o astronauta Dave, e o computador não deixava o ser humano entrar na nave, na Discovery, porque sabia que se o homem entrasse, ele, o computador, seria desligado. Este é um cenário de ficção científica, de Kubrick e de Arthur C. Clarke. O que o professor estava a explicar há pouco é que nós, enquanto humanidade, vamos sempre conseguir ter o controle da máquina, vamos sempre saber que há um sítio onde podemos carregar para desligar a máquina e não correr esse perigo. É essa a sua visão?

Eu acho que se tivermos as coisas bem feitas Não só teremos sempre essa possibilidade, como essa necessidade nem se vai colocar. As pessoas que trabalham nesta área, chama-se do alinhamento, basicamente é garantir que os sistemas terão sempre objetivos alinhados com os nossos objetivos.

Mas também há sempre pessoas mal-intencionadas.

É verdade. Se as coisas forem bem feitas, a princípio teremos esses sistemas sempre alinhados com os interesses da humanidade, do planeta e do sistema da ecologia, e não desalinhados. Agora, tudo pode correr mal. Mas se me perguntarem se esta tecnologia é mais perigosa para a humanidade do que as bombas nucleares, eu diria que tenho mais medo das bombas nucleares, cuja função é essencialmente unicamente destrutiva. Também é preciso dizer que a inteligência, de facto, é uma força poderosa e se for usada para o mal, se for usada por agentes numa guerra ou numa guerra de desinformação, tem de facto riscos significativos. O problema é que nesta fase também não podemos proibir um agente autónomo, seja um país como a União Soviética ou a Coreia do Norte, que decida continuar a desenvolver esta tecnologia. Portanto, nós pararmos de desenvolver e deixar o desenvolvimento só para países em que não confiamos, também não parece ser uma grande estratégia.

E é por isso que acha que a pausa também não faz muito sentido, não é? Porque poderá haver sempre alguém que pode continuar.

É por isso que acho que a pausa não faz muito sentido. E para dizer a verdade, muitas das pessoas que também subscreveram a pausa, também são pessoas que não estão ligadas às empresas que estão mais avançadas nesta área e acham que a pausa também lhes daria uma oportunidade para recuperarem esse atraso. Há aqui várias motivações para a pausa. Existirão genuínas preocupações com a opacidade destes sistemas e com os riscos inerentes. E depois existem outras motivações menos claras, que estão relacionadas com questões de concorrência e questões de abordagem. Há pessoas que não concordam com esta abordagem ou que acham que há um exagero na propaganda que está a ser feita aos modelos de linguagem. Tudo isso são preocupações genuínas, mas o que realmente estamos a ver é uma polarização, uma diversificação de opiniões sobre um tema, tal como vemos polarização e diversificação de opiniões sobre muitos outros temas, seja o aborto, a Segurança Social, etc. Esta é mais uma questão que dividiu as pessoas de acordo com diversas linhas de pensamento.

Muito obrigado, professor Arlindo Oliveira.

Muito obrigado eu, foi um prazer conversar consigo e espero que as pessoas se interessem e aprendam mais sobre este interessante tópico.

Arlindo Oliveira é professor e investigador no Instituto Superior Técnico e presidente do INESC, o Instituto de Engenharia de Sistemas e Computadores. Esta foi a História do Dia. E quem nos ouve através da aplicação do Spotify no telemóvel, pode responder a uma pergunta e tem duas respostas possíveis. Atenção que só funciona na app do Spotify. E a pergunta que deixamos para este episódio é: faz sentido parar o desenvolvimento da inteligência artificial? Pode responder sim ou não, e depois de responder, terá acesso à estatística das respostas que já foram dadas. E já agora, classifique a História do Dia na aplicação que usa para nos ouvir em podcast e partilhe os nossos episódios, porque para nós a classificação e a partilha são mesmo muito importantes. Este episódio contou com a colaboração do jornalista Manuel Rocha Leite, sonoplastia do Bernardo Almeida e a música do genérico é do João Ribeiro. Eu sou o Ricardo Conceição. Até amanhã.