Emily Bender é linguista e, em 2021, deu nas vistas na comunidade académica quando assinou um artigo científico no qual os modelos de linguagem eram chamados “papagaios estocásticos”. Ou seja, limitam-se a repetir informação sem realmente perceber o contexto. Alex Hanna é socióloga com uma especialização em processamento de linguagem natural e inteligência artificial (IA), e atualmente é diretora de investigação do DAIR (Distributed AI Research Institute). Antes disso, trabalhou como investigadora de ética de IA na Google.

Bender e Hanna conheceram-se em plena pandemia, justamente pelo ceticismo em relação ao entusiasmo que já se vivia à volta da IA. Após várias conversas, criaram um podcast onde escrutinam os vários anúncios feitos pela indústria tecnológica. Em maio, deram o passo seguinte e publicaram nos EUA e no Reino Unido o livro “The AI Con”, algo como a fraude ou o golpe da IA em tradução livre para português. A premissa do livro centra-se justamente no hype, o entusiasmo excessivo, à volta da IA. Ao longo da obra, a dupla oscila entre o sarcasmo e a apresentação de vários efeitos colaterais da IA em áreas como o emprego ou as questões sociais.

Em entrevista ao Observador, a dupla aborda algumas das teorias mordazes do livro, desde a ideia de que está a ser criada uma bolha amparada por uma “acumulação de riqueza sem precedentes” por parte das big tech até a crítica aos investimentos multimilionários baseados apenas “em FOMO”, ou seja, no medo de ficar de fora.

Há céticos em silêncio porque são “economicamente dependentes” das empresas: “Ninguém quer morder a mão que o alimenta”

Comecemos pelo princípio: porque é que pensam que a IA é uma fraude, um golpe?
Emily Bender (EB): Acho que falamos sobre isto a vários níveis. O primeiro ponto é que a inteligência artificial não se refere a um conjunto coerente de tecnologias, mas aquilo que está a deixar toda a gente particularmente entusiasmada agora são os grandes modelos de linguagem — a que também chamamos máquinas sintéticas de extrusão de texto. E isto basicamente é o que chamamos de truque de salão [parlor trick], uma espécie de truque de magia que se alimenta de uma ilusão. E a ilusão está ligada à forma como compreendemos a linguagem.

Temos estes sistemas que são muito bons a imitar o uso humano da linguagem. E, como estamos a ver um uso humano da linguagem, que normalmente quer dizer que há uma pessoa ali, percecionamo-la como fazemos sempre: começamos a pensar no que é que aquela pessoa está a tentar dizer ao escolher aquelas palavras. Ou seja, estamos a imaginar uma linha por trás daquele texto que não está ali. E é muito difícil não pensar assim, pela forma como a linguagem está a ser usada. Portanto, é nesta base de um truque de salão que estão a ser construídas mais coisas.

Alex Hanna (AH): E outro nível de fraude é usar este truque para sinalizar que, como é bom a fazer uma coisa, no sentido de gerar texto plausível, que parece ser bem composto, também é bom a fazer outras coisas.
Há uma espécie de movimento para antropomorfizar estas tecnologias, sugerir que são mais do que realmente são. Até pelas referências a inteligência, a robôs, a esta espécie de lugares-comuns da ficção científica. ‘Bem, temos estes grandes modelos de linguagem, então o que deve estar a acontecer é algum tipo de inteligência por trás das palavras’ — que certamente não é o que está a acontecer. São máquinas de extrusão de texto sintético que estão a gerar texto baseado no que está nos dados de treino, nas palavras seguintes mais prováveis, etc. E a partir daí usamos isso como referência para outras coisas em que talvez possa ser bom, seja a “raciocinar” ou a “argumentar” ou a fazer coisas de forma “criativa”. Isto é mais um exemplo de fraude. E tudo isto é embrulhado de uma forma que permite chegar aos dólares do capital de risco e a construir enormes centros de dados. São estes os diferentes tipos de camadas de fraude.

E quando é que começaram a sentir que isto era uma vaga de hype da IA? Foi depois do lançamento do ChatGPT [novembro de 2022] ou era algo que já sentiam antes?
EB: Ainda antes. A Alex e eu conhecemo-nos através de conversas online em que estávamos de forma individual a trabalhar para contrariar este hype da IA. No meu caso, diria que comecei ativamente a trabalhar nisto em 2019. Antes disso, estava muito preocupada com os impactos sociais da tecnologia de linguagem mas não me tinha realmente focado no ângulo do hype da IA.

AH: Tenho estado focada nos perigos das tecnologias de IA acho que desde 2016, 2017. Uma boa parte vem da minha experiência como socióloga, não como cientista informática. Estava a fazer vários artigos sobre aprendizagem automática a partir da minha própria dissertação, que é focada em movimentos sociais. A partir daí fui ficando mais interessada nestas comunidades de conhecimento focadas nos perigos destas tecnologias. Já nos focávamos nas alegações de hype de muitas destas tecnologias. A Emily e eu acabámos por escrever alguns artigos com outras co-autoras em 2020 e 2021. E depois começámos o podcast.

ChatGPT dá conversa à internet. Os limites, perigos e promessas do novo fenómeno da inteligência artificial

Referem-se ao artigo sobre os papagaios estocásticos? [Um termo cunhado num artigo científico de 2021, que descreve os LLM como um papagaio que imita a linguagem humana, mas que não tem compreensão ou intenção.]
AH: Não participei nesse artigo, mas a Emily sim. Tivémos dois artigos “Data and its discontents” e “AI and the everything in the Whole Wide Wold Benchmark”. Depois continuámos a falar sobre o hype da IA e lançámos nosso podcast antes do lançamento do ChatGPT, que foi lançado uns meses mais tarde. Foi muito bem coordenado (risos).

E como é que esse podcast foi recebido pela comunidade académica? Qual tem sido a reação ao vosso ceticismo em relação à IA?
AH: Depende do lado da academia em que se está. Muitas pessoas dentro dos estudos cruciais de tecnologia, campo linguístico, sociólogos são fãs, dizem que permite eliminar o que é ‘treta’. Já tivemos muita gente que nos diz que isso é necessário. Do outro lado do espectro, temos pessoas que estão muito empenhadas na investigação de IA, que provavelmente não conhecem este podcast ou que ficam muito ressentidas com ele — mas que possivelmente não gostam das nossas agendas de pesquisa assim de uma forma geral. Acho que, no meio, haverá muita gente, mas também não tenho um contacto regular com a comunidade linguística, a Emily tem mais.

Acho que o podcast é mais para pessoas que tipicamente não estão tão envolvidas nas discussões académicas. É frequente que haja pessoas interessadas nisto de uma perspetiva tecnológica mas que não sabem bem o que fazer. Portanto é útil para elas ter um podcast que talvez as deixe com mais conhecimento sobre a linguagem, mas que precisam de quem as guie. No livro até temos uma passagem chamada “as vossas guias para o hype da AI” — é assim que nos vemos.

EB: Sim. Voltei da reunião anual da Associação para Computação Linguística (ACL) e senti que havia uma mistura na plateia. Há pessoas que estão muito, muito entusiasmadas com a ideia da IA e que acreditam que os grandes modelos de linguagem são um passo no caminho para essa ideia. E isso é frustrante para mim porque é esta a área que desenvolve estas coisas — estas pessoas sabem como é isto funciona, deviam saber mais. Mas não é toda a gente assim..

Acho que há muitas outras pessoas que estão céticas ou que querem ver mais casos de uso para os LLM — pessoalmente, discordo — mas ao menos estão a olhar para isto sem verem uma forma de IA. Ou talvez adotem uma terminologia de IA mas sem terem uma crença profunda nisto. E depois também há outras pessoas que apreciam muito a perspetiva cética que temos no livro e no podcast, algumas delas sentem que não estão numa posição em que podem dizer estas coisas de forma tão aberta como nós e que apreciam que o façamos. Depois também há quem esteja a lutar para contrariar o hype.

Mas porque é que sentem que há esse sentimento que leva essas pessoas a não poderem demonstrar o ceticismo abertamente?
EB: Há muitas pessoas que são economicamente dependentes. A área da linguística computacional tem atualmente muita representatividade na indústria, portanto em muitos casos os empregos das pessoas estão dependentes de fazer parte de projetos. Há em ensaio incrível da Meredith Whittaker [presidente da fundação Signal] chamado “The Steep Cost of Capture” [o elevado custo da captura, em tradução para português], em que nota o quão os académicos na área das ciências da computação estão dependentes da indústria. Muita, muita gente tem dupla afiliação, ou seja, têm um título académico mas também estão a trabalhar para uma empresa. E mesmo aqueles que não estão, esperam conseguir bolsas ou financiamento dessas empresas ou esperam poder mandar os seus estudantes para essas empresas. É como diz o ditado: ninguém quer morder a mão que o alimenta.

Presidente da Signal não teme que IA “salte da jaula e nos domine”. “Perigo” está no poder de quem a controla

Em relação a essa ligação às empresas, como é que veem este fenómeno da guerra de contratações da IA, em que as big tech estão a fazer contratações multimilionárias? Sentem que, como estão a contratar muitos investigadores do lado académico, empresas como a Meta ou a Google correm o risco de deixar a área académica vazia de talento?
Alex Hanna: Sim. Quer dizer, isso já está a acontecer. E essa é uma dinâmica que a Meredith destaca nesse artigo. Existe um outro artigo chamado “The Grey Hoodie Project”, que de certa forma já mostrava os paralelismos entre o meio académico, as grandes empresas tecnológicas e também as grandes empresas de tabaco e de petróleo. Esse artigo quer demonstrar empiricamente a quantidade de financiamento para investigação que é canalizada para os departamentos [das universidades]. Algo que surge frequentemente é uma espécie de porta giratória entre a academia e as grandes empresas tecnológicas. Às vezes vemos as pessoas simplesmente a abandonar o barco: vimos inúmeros académicos abandonarem completamente a academia ou a manterem uma filiação simbólica com um departamento académico e irem depois à procura destas enormes quantidades de dinheiro.

Conseguimos pensar em várias pessoas que fizeram isso, é uma dinâmica muito comum. Mas acho que outra coisa é que isto também está a impedir outros tipos de investigação nas ciências da computação. Por exemplo, pessoas que podiam estar interessadas em desenvolver trabalho em áreas como cibersegurança, linguagens de programação, bases de dados ou todas estas coisas que ainda precisam de ser investigadas e que são áreas de investigação interessantes por si só, acabam por ser abandonadas porque toda a gente está a colocar IA em tudo.

Sentem que o lado linguístico da investigação era diferente antes da ascensão do ChatGPT?
EB: Dentro da linguística propriamente dita há pessoas que estão entusiasmadas com o uso de grandes modelos de linguagem para responder a questões linguísticas. Por exemplo, analisar quanta informação sobre a estrutura da linguagem é aparente apenas a partir da forma. É possível questionar isto de forma razoável usando grandes modelos de linguagem e tecnologias relacionadas. Algo como o ChatGPT, em que o conjunto de dados subjacente é desconhecido, não é um objeto legítimo de estudo científico do ponto de vista linguístico. Portanto, se estamos interessados ​​saber o que se pode aprender com ele enquanto corpus ou uma coleção do uso da língua, mas não temos acesso a essa coleção, então não podemos fazer ciência.

Creio que existe algum entusiasmo em relação aos grandes modelos de linguagem, mas não muito na linguística propriamente dita em relação aos modelos de linguagem fechados [modelos cujo conjunto de dados de treino não é totalmente conhecido]. Diria que no campo da linguística computacional, também conhecido como processamento de linguagem natural, que é um campo interdisciplinar que envolve linguística, ciência da computação, engenharia elétrica, entre outros, a conversa mudou bastante. E é extremamente frustrante porque as práticas de revisão [de artigos] têm, de certa forma, empurrado a questão para esta expectativa de que se está sempre a testar tudo com “os modelos de última geração”, que na verdade não são de última geração em nenhum sentido interessante, porque as práticas de avaliação estão muito, muito fragmentadas. Quando se tenta submeter um artigo a uma conferência há alguém que diz logo “bem, não testou isto com o Llama ou com o ChatGPT, por isso não vamos aceitar o artigo”. Aí houve uma grande mudança.

Quando fui presidente da Associação de Linguística Computacional [ACL] tive a oportunidade de fazer um discurso presidencial intitulado “A ACL não é uma conferência de IA”. Como pode imaginar, esta palestra recebeu críticas mistas — algumas pessoas ficaram muito satisfeitas e outras aborrecidas.

“Para muitos empregadores a IA é uma dádiva de Deus”

O vosso livro tem várias referências às múltiplas consequências em diferente áreas desta onda de hype da IA, muitas vezes com resultados negativos ou possivelmente negativos. Nesse sentido, o que é que acham que está a motivar estas projeções crescentes de adoção da IA? Faz sentido adotar algo que pode ter ou que já está a ter consequências negativas?
AH: A nível industrial, a premissa de grande parte da tecnologia de IA é a de que será um multiplicador da produtividade. Ou seja, ou permitirá que algumas pessoas façam mais com menos ou permitirá que classes inteiras de pessoas sejam substituídas. Depois, há a ideia para muitos empregadores de que a IA é uma dádiva de Deus. Ou seja, se consigo ter pessoas mais produtivas com este tipo de tecnologia, poderei despedir mais pessoas e obter mais resultados. E também há a ideia de que vai ser algo que estará mais sob o controlo de um gestor de nível médio ou um gestor de nível C [direção de topo]. Para mim é este o grande conceito por detrás de todo o projeto.

Na prática, é um projeto de produtividade em que estas ferramentas podem substituir muito do que está a acontecer no mundo do trabalho. Em vez de pagar a um engenheiro principiante, há uma subscrição de 300 dólares por ano do Cursor ou algo do género. Essa é a promessa de grande parte destas questões.

Às vezes falamos com as pessoas e dizem: “O meu chefe está super interessado nisto [IA] — normalmente é um homem — e tentei falar com ele sobre isto, sobre como não há resultados concretos ainda, como não há garantias.” E a resposta é “isso não é um argumento convincente, vamos avançar mais”. É uma premissa um pouco ridícula.

Muito deste [processo de adoção de IA] assenta na promessa de substituir a mão-de-obra, é por isso que há tanto investimento no ecossistema de IA, não só por parte das grandes empresas de capital de risco, mas também por várias big tech que investem em hiperescala e em infraestruturas de cloud. Dou como exemplo um relatório feito por um dos meus estagiários no DAIR, Nathan Kim, sobre os grandes investimentos em tecnologia e os valores de investimentos na cloud. Não estão a ser feitos só pela Andreessen Horowitz ou pela Sequoia Capital, mas os fornecedores de hyperscalers cloud também estão a investir muito na construção de centros de dados, uma boa parte disto é para o investimento em IA.

“Precisamos de menos cabeças.” A IA já está a mexer com os empregos no setor tecnológico

Falando ainda sobre as empresas, uma afirmação recorrente é a de que quem não aplicar IA no seu ambiente de trabalho ou nos seus processos de negócio ficará obsoleto no futuro. Consideram que isto é mais um exemplo de hype?
EB: Sim, sem dúvida. Especificamente esse enquadramento mostra o quanto este hype está ligado ao FOMO, ao medo de perder algo. É uma ideia de que falamos no livro: “Se tu não fizeres isto, então alguém vai fazer e ficarás a comer pó”. Essa é uma ótima maneira, penso eu, de distrair as pessoas do facto de que não há bem um ponto a atingir, uma linha de chegada. Isto significa que, em vez de mostrar às pessoas uma boa avaliação da tecnologia e apresentar um caso de uso que prove porque é que isto vai ajudar, a narrativa é outra: “Bem, toda a gente está a fazer isto, por isso é melhor fazer também, caso contrário vou ficar para trás”.

Outra versão desta pergunta que nos fazem muito é no contexto da educação. Se não se ensinar os alunos a usar isto, vão ficar para trás. E a minha resposta meio sarcástica é “para onde é que vai toda a gente?” Porque é que queremos correr em direção a um futuro onde, superficialmente, a promessa é de que não precisamos de continuar a trabalhar, que tudo ser vai ser feito automaticamente? Acho que as pessoas que são valorizadas apenas pela lente do seu trabalho podem tornar-se desnecessárias e inúteis. Então, porquê correr em direção a essa falsa imagem que está a ser pintada? Na verdade estamos é a avançar cada vez mais para a centralização de recursos e uma expropriação crescente.

A centralização de recursos faz com que as empresas fiquem cada vez mais ricas, mas também estamos a acelerar para um futuro em que parece estar tudo bem se não conseguirmos pagar cuidados de saúde a toda a gente — porque vamos usar chatbots para tratar as pessoas que não têm dinheiro para pagar aos médicos. Não há problema em não podermos pagar uma boa educação para todos, porque vamos colocar as crianças à frente de chatbots. O primeiro futuro é falso, não vamos chegar lá. O segundo, infelizmente, é real. E não é real no sentido em que estas coisas podem tornar-se médicos ou professores, mas é real no sentido em que, se não fizermos nada a esse respeito, vamos ficar presos a chatbots quando deveríamos ter serviços sociais a sério.

AH: Sim. Existe um termo para isto nas ciências sociais, que vem da sociologia organizacional, chamado isomorfismo institucional. É a ideia de que as empresas tendem a adotar os comportamentos e as práticas de outras empresas, não porque haja algum valor em fazê-lo, mas apenas porque as outras empresas estão a fazê-lo. Estamos a ver isto a acontecer em questões como reestruturação. Pessoas que estão a dizer “precisamos de adotar isto, mesmo que não saibamos como é que vai funcionar para nós, temos integrar isto em algum ponto para fazer parte da economia da IA”, o que quer que isso queira dizer.

“A AGI, basicamente, não significa nada”

Em relação ao objetivo de chegar a uma inteligência artificial geral [AGI, em inglês]… é algo que vos parece alcançável ou que deva ser ambicionado?
AH: Escrevemos um artigo de opinião chamado “O Mito da AGI” para a Tech Policy Press. Em primeiro lugar, a AGI não tem uma definição coerente. Há uma ideia vaga que a OpenAI tem, em que fala “em sistemas altamente autónomos que superam os humanos na maioria dos trabalhos economicamente valiosos”. Temos várias questões em relação a isso: a principal é o que significa “superar”? E isso realça a crise e a avaliação que estas tecnologias têm. E o que é que implica “trabalho economicamente valioso”? E a que é que se referem quando falam em “altamente autónomo”? É uma daquelas questões em que olhamos e pensamos “acho que nenhuma destas palavras significa o que pensas que significam”. Essa é uma parte da questão.

Mark Zuckerberg [CEO da Meta] não tem uma definição coerente. Depois, numa espécie de acordo que foi reportado entre a Microsoft e a OpenAI, falava-se numa versão em que um sistema destes pudesse gerar cem mil milhões de dólares em lucro [segundo um artigo do site Information, as duas empresas consideram que terão atingido a AGI quando chegarem 100 mil milhões de dólares de lucro]. Mas atualmente a OpenAI gera à volta de 10 ou 20 mil milhões de dólares por ano [em receitas], e eles não conseguem justificar a enorme fatura ligada à construção de centros de dados e o investimento em IA crítica.

O outro lado da moeda é que a AGI, basicamente, não significa nada. Em segundo lugar, esta noção de inteligência, especialmente a de inteligência geral, tem esta história obscura de estar enraizada na eugenia — uma espécie de investigação que se centrava na classificação de pessoas por inteligência, esta espécie de história do teste de QI [quociente de inteligência], a história da frenologia.

Falámos muito sobre isso no capítulo dois do livro em relação à inteligência. Não tem um núcleo académico sólido, os investigadores de IA dizem que há uma noção de inteligência e que é preciso fazer essa referência. E as referências que fazem são todas baseadas nestas teorias racistas da pseudociência. Se se falar com neurocientistas cognitivos que são atores éticos dirão que “bem, existem diferentes tipos de inteligência, diferentes tipos de conjuntos de pensamentos e classificá-los em ordens únicas de inteligência é um projeto perigoso”.

IA “parece uma bolha há já alguns anos”

Ao longo do livro, afirmam que “basta embrulhar uma startup em algo que tenha IA para receber uma avaliação muito elevada”. Há constantemente notícias sobre novas startups criadas por executivos saídos de empresas como a OpenAI, Anthropic, entre outros. Estamos a caminhar para um ponto de bolha com a IA?
EB: Terminámos o manuscrito do livro em setembro de 2024 e parecia mesmo que tínhamos atingido o pico e que era quase certo que a bolha estava prestes a rebentar. Até comentámos que o mundo seria melhor se este livro não fosse tão necessário em maio de 2025 [altura de lançamento nos EUA], como parecia na altura. Infelizmente, não estamos nesse mundo e parece uma bolha há já alguns anos. A bolha existe e ainda não vimos o outro lado dela, o que é espantoso.

Não sou economista, sou basicamente uma leiga, mas o meu palpite é que entrámos nesta bolha com uma acumulação de riqueza sem precedentes em alguns pontos. Há enormes reservas que estão a ser utilizadas, tanto em termos de capitalização das grandes empresas tecnológicas, como dos capitais de risco e de pessoas que controlam esta riqueza que estão a comportar-se como verdadeiros crentes nesta questão [da IA] e que continuam a insuflar a bolha — mas isto não pode continuar para sempre.

AH: Sim, é bastante preocupante. Não quero ser demasiado marxista em relação a isto e recorrer à velha piada sobre os economistas marxistas terem conseguido prever as últimas crises, não queria ser tão óbvia em relação a isto… (risos). Mas a ideia de que se está a investir tanto capital nesta tecnologia que, na verdade, não é totalmente explícita… Quando se olha para estudos sobre produtividade, o que é que se vê? Vê-se que a IA não está a gerar assim tanto lucro, tem a forma de uma bolha.

Fizemos um episódio terrível do nosso podcast, terrível porque olhámos para o livro “Superagency”, do investidor Reed Hoffman [cofundador do LinkedIn]. O subtítulo [do livro] é “o que pode correr bem com o nosso futuro da IA”. Ou seja, “em vez de nos focarmos nas coisas más, que tal focarmo-nos nas coisas boas”? E isso é uma abordagem bastante leve em factos. Tanto disto está a tentar dar força ao potencial da IA… E está a ganhar muito o formato de bolha.

Temos centenas de milhares de milhões de dólares em investimentos nesta tecnologia e, no entanto, da receita que está a ser gerada, apenas uma fração dos lucros é capaz de pagar por tudo isto. Não sei como é que isto vai acabar, preocupa-me que grande parte do investimento que está a ser feito esteja, de certa forma, a sustentar a economia dos EUA e a economia mundial. E não será nada bom quando explodir ou se esvaziar através de outros meios.

E é um motivo de preocupação para vocês que as mesmas grandes empresas tecnológicas que estão a ser investigadas por terem monopólios ou por terem problemas com o manuseamento de dados ou simplesmente por mudarem o ecossistema da internet sejam as mesmas que estão na vanguarda do desenvolvimento da IA?
AH: Sim, é preocupante. Mas, pelo menos nos EUA, os casos anticoncorrência não estão a concentrar-se nos monopólios de IA. Estão a concentrar-se em agrupar, no caso da Google, a natureza particular do monopólio da pesquisa. Já no caso da Meta, nos EUA concentra-se na compra do Instagram. Estes casos de concorrência andam muito devagar. A compra do Instagram pela Meta já é uma notícia antiga neste momento, mas ainda está na ordem do dia. De qualquer forma, não está a focar-se na construção de data centers. A questão principal é que estas estas empresas têm um papel muito duvidoso em relação à regulação e aos tipos de barreiras de segurança, mas controlam tanto dinheiro, têm tanto potencial de lobby e têm tantos outros tipos de domínios, que é muito difícil responsabilizá-los, especialmente com administrações que são mais compreensivas com as suas atividades.

Sentiram uma mudança nessa atitude em relação a estas empresas com a mudança de administração nos EUA?
AH: Definitivamente a atitude mudou. No livro falamos sobre a Comissão Federal de Comércio [FCT], a presidente Lina Khan e a sua capacidade de analisar muitos dos piores abusos destas empresas, especialmente em relação à publicidade enganosa e às alegações de protecção do consumidor. A Comissão de Igualdade de Oportunidades de Emprego (EEOC) da administração Biden também conseguiu olhar para algumas das alegações à volta de discriminação. Mas agora estas agências foram neutralizadas, minimizadas ou ativamente antagonizadas pela administração Trump. Não posso falar sobre como as coisas estão a correr na UE, mas, pelo menos nos EUA, não é uma boa altura.

EB: Vemos um pouco o que está a acontecer no Reino Unido, que é a mudança para um governo mais liberal não ter representado um afastamento do entusiasmo pela IA. É muito frustrante. Tivemos um episódio do podcast sobre um relatório de IA que saiu com o selo do governo do Reino Unido mas que, na verdade, foi escrito por um consultor lobbista muito empenhado no desenvolvimento da IA. E continuamos a ouvir relatos do género “vamos incluir a IA em tudo”, mesmo num governo que se apresenta como oposto ao trumpismo.

Doomers e boosters “são duas faces da mesma moeda”

Ao longo do vosso livro definem muitos conceitos, um deles é a divisão entre os doomers e os boosters na área da IA [pessimistas e impulsionadores]. Alguns dos principais executivos nesta área, por exemplo Sam Altman, estão constantemente a elogiar a IA, mas também parecem temer as consequências, têm uma posição um pouco ambivalente. Como olham para esta questão?

EB: Esse é um exemplo do pessimismo que, como como falamos no livro, é apenas mais um exagero, um exemplo de hype. Os doomers gostam de dizer que [a IA] é tão poderosa que nos pode matar a todos. Por partes: a questão de ser “tão poderoso” quer dizer basicamente ‘ouçam o que estamos a dizer, deem-nos muito dinheiro, deixem-nos fazer o que quisermos, porque somos nós que temos a tecnologia poderosa’. Acho que o mais importante nesta parte do livro é que estamos a mostrar que o boosterism e o doomerism são, na verdade, a mesma coisa e que não é aceitável cair na narrativa de que são os dois extremos do espectro e que todos precisam de se enquadrar em algum ponto intermédio. Na verdade, são duas faces da mesma moeda e há muito espaço fora disso, que está muito mais fundamentado na realidade.

AH: O próprio Altman… Ele é obviamente um impulsionador, tem muito a ganhar sendo um. Não temos visto muito pessimismo explícito da parte dele. Mas há pessoas que já trabalharam em IA e depois tornaram-se pessimistas. Um bom exemplo disso é o Geoffrey Hinton, que passou anos a trabalhar com redes neuronais e — gosto deste termo que a Emily usa — decidiu levar o ‘seu divã de desmaios’ em digressão e alertar para os males desta tecnologia. Tem recebido muita atenção por parte da imprensa. Diz que estas tecnologias são demasiado poderosas e, como tal, precisamos mesmo de encontrar uma forma de lhes impor restrições. Recentemente disse que temos de treinar a IA para ser mais como “mães”, o que é muito ridículo.

“Padrinho” da Inteligência Artificial deixa alerta: “É difícil ver como se evitará que maus agentes usem esta tecnologia para coisas más”

Em que sentido?
AH: De que precisam de cuidar da humanidade, em vez de estarem otimizadas para a sua própria perpetuação. O que, de certa forma, corrobora a minha afirmação de que muitas destas pessoas ligadas à tecnologia, especialmente os homens, querem um tipo de máquina muito efeminada, querem que as máquinas, de alguma forma, façam o trabalho de secretária ou de cuidadora. Porque que não os veem como trabalhos reais e, portanto, podem ser resolvidos com um conjunto de tokens. O facto de termos pessoas como Hinton, em oposição a Altman, está a desviar-nos de um raio de ação em que temos de ser muito críticos em relação a esta tecnologia. No livro, falamos sobre como os propulsores e os pessimistas são, na verdade, dois lados da mesma moeda.

Mas sentem que as pessoas que questionam ou que não estão a embarcar nesta onda de hype da IA ​​estão a ser deixadas para trás?
EB: Não diria que estão a ser deixadas para trás, mas há uma quantidade desproporcional de atenção que está a ser dada aos doomers e aos boosters. Não fiz um estudo sistemático da cobertura mediática, mas há artigos que ou falam apenas sobre os impulsionadores ou apenas com os pessimistas. Ou, quando falam com os dois, há o que chamo de ‘caixa dos céticos’: um artigo a falar sobre como uma nova tecnologia é maravilhosa e depois de oito, nove, dez parágrafos há os “céticos”. Se sou citada, normalmente estou na ‘caixa dos céticos’. E não gosto dessa caixa dos céticos, porque basicamente cimenta este enquadramento dos impulsionadores e pessimistas.

Depois há aquela coisa do “ok, mas temos de deixar espaço para quem diz o contrário”. Na verdade, não aprecio o termo “cético” em relação à IA, porque limita a questão a “é a IA boa?” ou “é a IA possível?”. E essa não é essa a questão que me interessa, o que me interessa é como é que construímos sistemas onde as pessoas podem cuidar umas das outras.

Regulação “é peça importante”, mas não o único caminho

E como é que se pode fazer isso, ter esses sistemas que cuidam das pessoas? A regulação é um caminho?
EB: Acho que a regulação é uma peça importante, mas não acho que seja a única forma. Aplicar a regulação que já existe, aplicar regulação mais forte à volta da minimização de dados, proteger os direitos laborais, a transparência à volta da automação… E depois ter também algum tipo de regulação que vá contra a acumulação de riqueza que estamos a ver.

AH: Além disso, não só regulação. Temos visto algumas estratégias muito eficazes por parte de sindicatos, de organizações que estão a pensar sobre que aspeto pode ter uma nova economia que funcione para as pessoas. Os sindicatos são uma boa força para isso, centram-se muito na ideia da IA no mundo do trabalho e de como isso está a mudar a forma como os trabalhadores são vistos e a forma descartável como são tratados. Estamos a ver uma resistência muito grande por parte de sindicatos na América, a National Nurses United. Também estamos a ver isso internacionalmente, no Reino Unido, por exemplo, há a UTAW, um sindicato dos trabalhadores tecnológicos. E estamos a ver formas cada vez mais eficazes de contrariar esta tendência e mais estruturas alternativas e instituições que querem novas formas de economia.

EB: Acho que sim, a regulação e a contra-governança. E acho que também há muito trabalho a fazer à volta da construção da narrativa. Falámos há pouco sobre como os casos de antitrust contra as empresas que estão a impulsionar a IA são muito lentos. Uma coisa que quero acrescentar à lista de preocupações é que estas empresas são tão grandes e tão poderosas que conseguem definir os termos do debate e podem fazer estas afirmações sobre inevitabilidade. Do género “esta tecnologia é tão grande que é impossível fugir”. Acho que há muito espaço para as pessoas em comunidades mais pequenas garantirem que podemos contar as nossas próprias histórias. O DAIR tem eventos maravilhosos à volta de imaginar futuros alternativos. Eu e a Alex estivemos na Worldcon, a Convenção de Ficção Científica, em Seattle, e foi muito interessante ver que histórias podem ser contadas, que mundos imaginamos e como é que podem ser usados para percebermos o nosso mundo.

O que é que seria um bom exemplo de um mundo com IA?
EB: Bem, não tem necessariamente de ser com IA, é esse o ponto. Um bom mundo com tecnologia ou com um bom uso da tecnologia é um mundo em que a tecnologia é controlada pelas pessoas em quem essa tecnologia vai ser usada. Toda a gente dá como exemplo a Te Hiku Media em Aotearoa, na Nova Zelândia. É uma organização que quer desenvolver tecnologia de processamento de linguagem para a língua Te Reo Maori, a língua indígena da Nova Zelândia. Recolheram um conjunto de dados através da partilha comunitária, tinham gravações, uma estação de rádio. E houve um projeto comunitário para transcrever essas gravações. Isso criou um conjunto de dados subjacente necessário para a criação de tecnologia da fala — ou seja, de fala para texto e de texto para fala. Criaram intencionalmente um acordo sobre os dados, que mantêm sob o controlo da comunidade e fora do alcance de empresas externas com fins lucrativos, que apenas querem alegar que também têm esta linguagem.

AH: Pensando em projetos que se concentrem não apenas no uso da tecnologia. A visão que queremos não passa por dizer, “bem, vamos adotar o ChatGPT mas para o bem”, porque isso dá a entender que “então o resto do ChatGPT é usado para o mal”. A questão é como construir esta tecnologia de forma a que os dados sejam recolhidos de forma a respeitar as pessoas representadas nos dados, sejam elas quem os produz ou quem está neles representado. Controla a infraestrutura e implementa-a seletivamente. Portanto, se estivermos a pensar em possíveis futuros, pode parecer que, se houver utilização da tecnologia, haverá muitas pequenas instâncias de modelos a serem treinados localmente e implementados em cenários muito restritos e bem avaliados. Estas tecnologias não têm como objetivo resolver um problema social. O ponto de partida deve estar nas comunidades e no que elas precisam, porque essa avaliação não vai partir da tecnologia.