Dario Amodei, cofundador e CEO da empresa de inteligência artificial (IA) Anthropic, alerta que “a Humanidade precisa de acordar” para os riscos da IA. Num longo ensaio, publicado esta segunda-feira, o criador de uma das empresas em destaque nesta área afirma a necessidade de “confrontar e superar os riscos de uma IA poderosa”.
“Acho que estamos a iniciar um ritual de passagem, tanto turbulento como inevitável, que vai testar quem somos enquanto espécie”, escreve. Do ponto de vista de Amodei, a Humanidade irá receber “um poder quase inimaginável” com a IA e, neste momento, não é ainda claro “se os nossos sistemas sociais, políticos e tecnológicos têm a maturidade para o enfrentar”.
Esta não é a primeira vez que Amodei faz alertas sobre os riscos da IA. Em 2023, assinou uma carta aberta sobre o risco de extinção. Que, como nota, não foi bem recebida na altura. O líder da Anthropic considera que muitas das vozes que fizeram alertas “usaram linguagem que remete para religião ou ficção científica” e “pediram ações extremas sem apresentar provas que as justificassem”. Mas, desde então, a situação alterou-se. “A partir de 2025-2026, o pêndulo oscilou e as oportunidades da IA, e não os riscos, estão a impulsionar muitas decisões políticas.”
Nesse sentido, considera que “em 2026 estamos mais perto do perigo” do que em 2023. Defende, assim, a necessidade de “discutir e responder aos riscos de forma realista e pragmática: sóbria, baseada em factos e bem cimentada para sobreviver às ondas de mudança”.
“Isto é uma armadilha: a IA é tão poderosa, um prémio tão brilhante, que se torna muito difícil para a civilização humana impor-lhe restrições”, escreve.
O texto de Amodei deixa também alertas para os ricos de perdas significativas de empregos e também para o risco de “concentração de poder económico” e riqueza em Silicon Valley devido à IA. No início de 2025, Dario Amodei declarou que esperava que a IA eliminasse quase metade dos empregos de entrada em profissões ligadas a trabalho em escritórios.
No mundo político, Dario Amodei alerta para os riscos de “a vantagem da IA” poder ser usada por alguns países para “controlar outros países”. “Há muitas formas em que a IA irá permitir, consolidar ou expandir a autocracia”, afirma. Neste momento, diz-se preocupado com o uso da IA para “armamento totalmente automatizado”, “vigilância feita pela IA” ou ainda para a “propaganda da IA”.
Amodei também fala sobre a preocupação de algumas entidades terem acesso à IA, fazendo referência ao Partido Comunista da China ou a “países não democráticos com grandes centros de dados”.
Mas também alerta para o risco das “empresas de IA”. “Sei que é de alguma forma estranho dizer isto como CEO de uma empresa de IA, mas acho que o próximo risco virá realmente das empresas de IA”. Fala em empresas que controlam grandes centros de dados, treinam modelos de IA e têm “a maior especialização em como estes modelos são usados”. “(…) E, em alguns casos, têm a possibilidade de influenciar dezenas de milhares de milhões de utilizadores.”
“Podem, por exemplo, usar a IA para fazer uma lavagem cerebral à sua enorme base de consumidores e o público deve estar alerta para os riscos que isso representa”, afirma. “Acho que a governança das empresas de IA merece muito escrutínio.”
Ainda em relação às empresas, Amodei parece deixar um recado a Elon Musk e à controvérsia da IA Grok. “Algumas empresas de IA já mostraram uma negligência perturbadora em relação à sexualização das crianças nos modelos de hoje, o que me deixa dúvidas sobre mostrarem seja inclinação seja capacidade para responder de forma autónoma aos riscos dos futuros modelos.” Esta segunda-feira, a Comissão Europeia abriu uma investigação ao Grok devido à ferramenta que é capaz de “despir” mulheres e crianças em fotografias através de IA.
Bruxelas anuncia investigação ao Grok por imagens sexualmente explícitas manipuladas
De acordo com o Financial Times, Dario Amodei tem estado em rota de colisão com David Sacks, o “czar” da IA e criptomoedas, devido à questão da regulação da IA.
A Anthropic foi criada em 2021, após Dario Amodei e a irmã Daniela Amodei, abandonarem a criadora do ChatGPT. A Anthropic é a empresa responsável pelo chatbot Claude. De acordo com o New York Times, a empresa estará a tentar conquistar um financiamento de 10 mil milhões de dólares, que a deixaria avaliada em 350 mil milhões de dólares.
[Esta é a história de como dezenas de portuguesas se juntaram a mulheres de vários outros países e se tornaram seguidoras de uma seita controlada por um guru manipulador. Recrutadas numa escola de yoga em Lisboa, muitas acabaram em casas de massagens eróticas ou a serem filmadas em cenas de sexo e orgias. “Os segredos da seita do yoga” é o novo Podcast Plus, do Observador. Uma série em seis episódios, narrada pela atriz Daniela Ruah, com banda sonora original de Benjamim. Ouça o primeiro episódio no site do Observador, na Apple Podcasts, no Spotify e no Youtube Music.]
