817kWh poupados com a
i

A opção Dark Mode permite-lhe poupar até 30% de bateria.

Reduza a sua pegada ecológica.
Saiba mais

GettyImages-1258941916
i

Mustafa Suleyman criou duas empresas de IA: a DeepMind, comprada pela Google em 2014, e a Inflection AI. Em março, foi contratado para liderar a divisão de IA da Microsoft

Bloomberg via Getty Images

Mustafa Suleyman criou duas empresas de IA: a DeepMind, comprada pela Google em 2014, e a Inflection AI. Em março, foi contratado para liderar a divisão de IA da Microsoft

Bloomberg via Getty Images

“A segurança da IA está longe de ser um problema resolvido”, diz cofundador da DeepMind

Mustafa Suleyman está no centro da evolução da inteligência artificial. Pede que se olhe para os riscos do que vai ser "o poder e o desafio do século", mas que não será exclusivo das big tech.

O britânico Mustafa Suleyman passou uma boa parte da vida a correr atrás do sonho da inteligência artificial (IA). Cofundou a empresa de investigação de IA DeepMind, que vendeu à Google em 2014, mudou-se para a big tech para liderar os esforços de IA, saiu para criar outra empresa, a Inflection AI, e atualmente é o CEO da divisão de IA da Microsoft.

Ao todo, são mais de 15 anos a acompanhar por dentro a evolução do mercado da IA, desde os jogos de AlphaGo em que a tecnologia conseguiu derrotar um humano até à explosão dos grandes modelos de linguagem (LLM). E, muito devido à DeepMind, Suleyman tornou-se um dos nomes mais conhecidos do setor.

Mas é também a convivência próxima com o que diz ser “o poder e o grande desafio do século XXI” que o leva a fazer um extenso aviso sobre os riscos da IA, que ganha forma em livro. Em “A Próxima Vaga”, que assina com o escritor britânico Michael Bashkar, pede “urgentemente respostas à prova de bala quanto ao controlo e à contenção da vaga iminente”, a expressão usada para se referir às tecnologias centradas em IA. Só com essas respostas, acredita, é que será possível “a manutenção das salvaguardas e possibilidade do Estado-nação democrático”. O problema é que “ninguém tem esse plano”, admite no livro, publicado recentemente em Portugal pela Clube do Autor.

Livro A Próxima Vaga, Mustafa Suleyman

A edição portuguesa foi editada este mês. A versão original foi lançada nos EUA no ano passado

Ao longo de mais de 300 páginas, o criador de uma das empresas de IA mais conhecidas do mundo fala das consequências desta tecnologia caso não seja desenvolvida e implementada com responsabilidade e ética. Em respostas por escrito às questões do Observador, Suleyman rejeita que este manifesto possa contribuir para mais pessimismo. Na obra, usa a expressão “aversão ao pessimismo” – quando os alertas são tão catastróficos que tendem a ser ignorados. “A minha esperança é o contrário: que se faça incidir um holofote sobre estas questões e que se definam todos os factos de forma cuidadosa e explícita”, explica.

PUB • CONTINUE A LER A SEGUIR

“Achei que este era o momento certo [para lançar este livro], porque a IA está finalmente a atingir o nível de capacidades e preeminência que sentia que estava a caminho”. Além disso, também ajuda haver “interesse popular nas capacidades tecnológicas que estão a avançar rapidamente”.

Numa das passagens do livro, conta que há alguns anos fez uma apresentação para CEO, fundadores de empresas e outros nomes relevantes da indústria nos Estados Unidos a mostrar os problemas de uma IA sem lei. “Invasões maciças de privacidade”, um “apocalipse de desinformação” e uma tecnologia “passível de ser transformada em arma, criando um conjunto letal de novas armas cibernéticas” foram alguns dos avisos. E, no fim, projetou uma imagem da série Simpsons, com personagens armadas com forquilhas. Mais um alerta: “As forquilhas vêm aí, vêm atrás de nós, os criadores de tecnologia. Cabe-nos garantir que o futuro seja melhor do que isto”, sugere.

Para já, não sente culpa de que o trabalho que desenvolveu possa ter contribuído para os cenários que teme. “A minha carreira tem sido dedicada a sublinhar e a tentar responder aos riscos e problemas”, rebate. “Em tudo o que tenho feito tenho trabalhado para garantir que isto corre bem para toda a gente.”

“Muita gente que está a trabalhar em IA está a fazê-lo porque sabe que esta tecnologia vai ter um enorme contributo benéfico e reconhecem que chegar até aí significa passar por um conjunto de questões regulatórias e éticas que simplesmente não podem ser contornadas.”

Não há só pontos negativos. Suleyman acredita que “a IA vai dar o contributo mais positivo e extraordinário para o bem-estar humano”, destacando um “enorme impulso de riqueza, igualdade social e crescimento económico”. Ainda que a apresentação aos tecnólogos da Costa Oeste dos EUA possa ter sido recebida com rostos inexpressivos, anos depois há quem tenha mudado de ideias. “Muita gente que está a trabalhar em IA está a fazê-lo porque sabe que esta tecnologia vai ter um enorme contributo benéfico e reconhecem que chegar até aí significa passar por um conjunto de questões regulatórias e éticas que simplesmente não podem ser contornadas.”

“Não é toda a gente assim”, admite, “e há quem tente pôr essas questões de lado e talvez não goste de algumas das mensagens deste livro”. “Não estou aqui para desvalorizar nada”, assegura. Prefere uma abordagem mais equilibrada. “Assim como acredito que é importante realçar os riscos, também penso que não podemos menosprezar os pontos positivos.”

O perfil de Suleyman: um tecnológo e empresário “otimista por omissão”

Mostrar Esconder

Podia ser teólogo ou filósofo, mas hoje em dia assume-se como um “tecnólogo e empresário”. Suleyman nasceu em 1984, no norte de Londres, fruto de um casamento entre um taxista sírio e uma enfermeira inglesa. Não era uma família abastada – como contou ao Guardian, cresceu numa relativa pobreza.

Os pais divorciaram-se quando tinha 16 anos. Tanto o pai como a mãe mudaram-se para o estrangeiro, deixando-o com o irmão mais novo em Inglaterra. Mais tarde, conseguiu uma bolsa de estudos para Mansfield College, em Oxford, para estudar filosofia e teologia. Já era um interesse com alguns anos, que surgiu enquanto passava horas a ler.

“Mansfield é um sítio incrível para estudar teologia e o meu tutor era um dos líderes nessa área”, disse à Business Insider em 2019. Mas também era um curso “muito teórico”, principalmente para quem “é um empreendedor de coração”, confessou ao Guardian no ano passado. Esteve só um ano em Oxford.

Suleyman tinha pequenos negócios desde miúdo. Aos 11 anos, montou com o melhor amigo um esquema de venda de doces no recreio da escola. “Íamos a um retalhista comprar por atacado e arrendávamos os cacifos de outros alunos para guardar os doces. Começámos a contratar outros miúdos para vender por nós nos intervalos. Tornou-se algo bastante grande antes de os professores terminarem tudo.” Mesmo enquanto estudava em Oxford tinha uma banca de sumos de fruta e milkshakes em Camden Town. “Senti que estava numa torre de marfim quando realmente podia estar a ganhar dinheiro e a fazer o bem.”

Quando desistiu do curso, trabalhou para o então presidente da Câmara de Londres, Ken Livingstone, e criou um serviço de aconselhamento telefónico sem fins lucrativos. Só mais tarde é que chegou a DeepMind, que Suleyman cofundou em 2010, e que se tornou numa das empresas mais conhecidas quando se fala em IA. Com Demis Hassabis, irmão de um amigo de escola de Suleyman, um prodígio do xadrez e criador de videojogos, e Shane Legg, especialista em investigação de IA, a empresa começou a dar nas vistas.

Em 2014, o trio de fundadores vendeu a empresa à gigante Google, alegadamente por mais de 500 milhões de dólares, e a DeepMind passou a ser um dos grandes motores da investigação em IA da Google. Suleyman atravessou o Atlântico e mudou-se de Londres para Palo Alto, na Califórnia.

Foi durante vários anos responsável pelas políticas de IA da Google. Até que, em 2022, abandonou a tecnológica para criar mais uma empresa de IA, a Inflection, que quer criar um assistente pessoal de IA para cada pessoa.

Este ano, voltou a surpreender ao ser contratado pela Microsoft. Em março, Satya Nadella anunciou que Mustafa Suleyman foi o escolhido para liderar uma nova organização dentro da empresa, chamada Microsoft AI, “focada nos avanços do Copilot e outros produtos de IA de consumo e investigação”. Suleyman e Hassabis, que eram parceiros de empresa e amigos há vários anos, são agora concorrentes, já que o segundo é o CEO da Google DeepMind.

“Regulação é essencial mas só por si não é suficiente”

Para este especialista a IA precisa de regulação e acredita que “a maioria das grandes empresas de [tecnologia] responsáveis vai receber bem essa regulação”. “Tornou-se claro que a tecnologia precisa disso.”

Sugere a adoção de um modelo que apelida de contenção. “Não é parar o desenvolvimento tecnológico ou os seus benefícios, mas sim garantir que a sociedade mantém um controlo forte em relação a essas questões. O objetivo é atingir um equilíbrio entre todos os bons elementos, com um programa abrangente de controlo e mitigação de risco.” O cofundador da DeepMind deixa várias sugestões, que vão desde auditorias até à realização de alianças ou à criação de uma Autoridade de Auditoria de IA, para aumentar a transparência no uso de modelos.

Na visão de Suleyman, “a regulação é essencial mas, por si só, não é suficiente” ou capaz de executar o modelo de contenção que defende. “O panorama inteiro [de IA] está a avançar muito depressa e a expandir-se a demasiados territórios para que a regulação seja uma espécie de bala mágica.” Faz questão de clarificar que “é um enorme defensor da regulação, mas que é preciso apoio”, já que a “segurança da IA está longe de ser um problema resolvido”.

A contenção é o modelo sugerido por Suleyman para responder aos riscos da IA. “Não é sobre parar o desenvolvimento tecnológico ou os seus benefícios, mas sim sobre garantir que a sociedade mantém um controlo forte dessas questões."

“Acho que precisamos de novos trabalhos sobre como auditar sistemas de IA e novas estruturas tanto para as empresas como para a governança internacional.” Considera também que são precisos mais “críticos a trabalhar do lado de dentro e não agir apenas depois dos factos consumados”.

Uma das críticas mais frequentes no panorama da IA está no facto de as empresas em destaque nesta área serem big tech, temendo-se que o poder da IA fique demasiado concentrado. Nomes como a Microsoft e a Google têm estado no pelotão da frente e as ligações que estabeleceram com as startups-estrela da área (OpenAI e Anthropic) já levantam dúvidas quando se fala de concorrência. Suleyman acredita que “a IA não vai continuar nas mãos das grandes tecnológicas”. “Vai difundir-se muito depressa”, realçando que já começam a ver-se sinais desse movimento: “Já estamos a ver que, com alguns modelos de código aberto, o que é tecnologia de ponta e extremamente cara num mês torna-se barata e amplamente acessível no seguinte. Por isso a ideia de que só as grandes empresas vão ter estes modelos e competências não é verdade.”

Regulador americano quer analisar investimentos das big tech em empresas de inteligência artificial

GettyImages-1760207403

Sam Altman, o CEO da OpenAI, e Mustafa Suleyman, fotografados numa sessão da Cimeira de Segurança da IA em 2023, organizada pelo Reino Unido

Bloomberg via Getty Images

Em vários casos, os executivos das big tech têm sido chamados por governantes para discutir o tema da regulação. Até Suleyman já marcou presença em eventos do género, tanto na Europa como nos EUA. O agora chefe da Microsoft AI considera que “seria muito estranho se as big tech não tivessem um lugar à mesa” de discussão. “Ignorá-las ou exclui-las seria contraproducente do ponto de vista da contenção” que defende. O facto de as tecnológicas de grandes dimensões estarem envolvidas no debate pode resultar a sugestões de medidas que lhes sejam favoráveis?

É preciso o “equilíbrio certo de incentivos, cultura interna, investimentos internos e regulação externa”. Do ponto de vista de regulação, “tentar trabalhar sem qualquer contributo [destas empresas] seria como voar de forma cega”. O especialista em IA defende que “os governos precisam de ter recursos suficientes, com talento e capacidade para compreenderem e reagirem aos desenvolvimentos tecnológicos com a sua própria especialização”.

Presidente da Signal não teme que IA “salte da jaula e nos domine”. “Perigo” está no poder de quem a controla

Os riscos e benefícios da IA “são mais compreendidos agora”. “É motivo para um grande otimismo”

Mesmo que os avisos sobre uma possível “catástrofe” da IA sejam sérios, Suleyman continua a considerar-se um otimista. Mas o facto de as consequências da IA “serem de uma forma crescente mais compreendidas e levadas a sério a um nível mais geral”, fora do mundo académico, é para ser celebrado.

Inevitavelmente, menciona o ChatGPT como um dos responsáveis. “Foi a tecnologia de consumo com o crescimento mais rápido da história”, frisa. Lançado em novembro de 2022, a ferramenta de IA generativa precisou de apenas uma semana para chegar a um milhão de utilizadores. “Ao longo de 18 meses a IA explodiu na consciência pública, vemo-la nos jornais, nas redes sociais, é discutida por legisladores e políticos. Está nos produtos que centenas de milhões de pessoas usam todos os dias”, exemplifica. “Por isso, nesse sentido, os riscos – e os benefícios – têm mais atenção e são mais compreendidos do que nunca. E isso é bom.

Considera que toda a gente deve estar “super envolvida nesta transição”. Por agora, é um sinal positivo que, entre as várias abordagens diferentes, existam vários países a colocar a segurança da IA na agenda política. “Se me dissessem há dois ou três anos que a Casa Branca assinaria uma ordem executiva sobre IA eu ficaria muito surpreendido. A União Europeia tem sido obviamente uma líder e está a fazer um excelente trabalho, assim como os EUA e o Reino Unido.”

UE dá “luz verde” final às primeiras regras mundiais sobre inteligência artificial

“É sempre difícil dizer como é que qualquer grande mudança de plataforma tecnológica se vai desenrolar, mas sinto que o mundo está muito mais preparado agora do que estava quando foi o primeiro lançamento.” Agora, existe “um público massivo e estão em curso respostas de governos e empresas. E isso é um motivo para um grande otimismo.”

 
Assine o Observador a partir de 0,18€/ dia

Não é só para chegar ao fim deste artigo:

  • Leitura sem limites, em qualquer dispositivo
  • Menos publicidade
  • Desconto na Academia Observador
  • Desconto na revista best-of
  • Newsletter exclusiva
  • Conversas com jornalistas exclusivas
  • Oferta de artigos
  • Participação nos comentários

Apoie agora o jornalismo independente

Ver planos

Oferta limitada

Apoio ao cliente | Já é assinante? Faça logout e inicie sessão na conta com a qual tem uma assinatura

Ofereça este artigo a um amigo

Enquanto assinante, tem para partilhar este mês.

A enviar artigo...

Artigo oferecido com sucesso

Ainda tem para partilhar este mês.

O seu amigo vai receber, nos próximos minutos, um e-mail com uma ligação para ler este artigo gratuitamente.

Ofereça artigos por mês ao ser assinante do Observador

Partilhe os seus artigos preferidos com os seus amigos.
Quem recebe só precisa de iniciar a sessão na conta Observador e poderá ler o artigo, mesmo que não seja assinante.

Este artigo foi-lhe oferecido pelo nosso assinante . Assine o Observador hoje, e tenha acesso ilimitado a todo o nosso conteúdo. Veja aqui as suas opções.

Atingiu o limite de artigos que pode oferecer

Já ofereceu artigos este mês.
A partir de 1 de poderá oferecer mais artigos aos seus amigos.

Aconteceu um erro

Por favor tente mais tarde.

Atenção

Para ler este artigo grátis, registe-se gratuitamente no Observador com o mesmo email com o qual recebeu esta oferta.

Caso já tenha uma conta, faça login aqui.

Vivemos tempos interessantes e importantes

Se 1% dos nossos leitores assinasse o Observador, conseguiríamos aumentar ainda mais o nosso investimento no escrutínio dos poderes públicos e na capacidade de explicarmos todas as crises – as nacionais e as internacionais. Hoje como nunca é essencial apoiar o jornalismo independente para estar bem informado. Torne-se assinante a partir de 0,18€/ dia.

Ver planos