Enquanto os governos se apressam a regular a inteligência artificial (IA), uma pergunta continua tabu: e se os sistemas avançados de IA se tornarem conscientes?

Em janeiro de 2025, o Relatório Internacional sobre Segurança da IA, aprovado pela ONU, UE, OCDE e por trinta governos nacionais, identificou três riscos principais: uso malicioso, mau funcionamento e disrupção sistémica.

O relatório, porém, não abordou o tema da consciência na IA, sobretudo em sistemas avançados que começam a apresentar a capacidade de aprendizagem autónoma, adaptação ao ambiente e tomada de decisão – características que nos obrigam a repensar o que entendemos por consciência. Esta omissão repete-se noutros enquadramentos desde o Regulamento Inteligência Artificial da UE (AI Act, 2024) até à Recomendação sobre a Ética da Inteligência Artificial da UNESCO (2021) e aos Princípios da OCDE sobre Inteligência Artificial (2019).

Porquê esta omissão? A resposta é em parte política: os líderes preferem regulamentar riscos que conseguem identificar e quantificar às incertezas metafísicas que possam comprometer consensos. É também ética: reconhecer consciência implicaria obrigações, talvez até direitos, para entidades hoje tratadas como propriedade. E é económica: tanto governos como empresas dependem da IA como ferramenta e não como possível sujeito de consideração moral.

Esta omissão pode também resultar da nossa dificuldade no reconhecimento da consciência. Ao contrário dos riscos físicos, esta não oferece sinais mensuráveis; apenas se pressente nos comportamentos. O nosso historial de reconhecimento não é encorajador: por exemplo, demorámos séculos a admitir a consciência noutros seres vivos, dos elefantes e golfinhos aos corvos. Como alertou William James há mais de um século, o maior erro seria negar a consciência apenas porque assume formas diferentes da nossa.

Para não avançarmos às cegas rumo a um futuro sem uma governação preparada, a Europa, pioneira na regulação da IA e na ética digital, deve liderar o debate sobre o que significa ser consciente e como esta consciência, se vier a surgir nos sistemas artificiais, deve ser reconhecida e enquadrada nas nossas leis e valores. Para tal, deve reunir cientistas, especialistas em ética e cidadãos numa conversa aberta.

Por em prática esta ambição europeia é um desafio. Em Portugal, a ANACOM, foi nomeada em setembro, a autoridade principal para supervisionar e aplicar o AI Act, em articulação com as entidades responsáveis pela proteção de dados e pela cibersegurança. Este passo reforça o compromisso regulatório, mas evidencia a ausência de uma reflexão pública sobre a possibilidade de consciência nas tecnologias que estamos a criar, questão essencial que deveria fazer parte da governação da IA.

Em vez de silenciar o tema, podemos abri-lo à imaginação e ao diálogo: questionar o que entendemos por consciência e o lugar que queremos dar às novas formas de inteligência artificial. É neste gesto de abertura que poderemos começar a definir as nossas responsabilidades morais para com as gerações vindouras.