Pode a Inteligência artificial (I.A.) desenvolver consciência?

A resposta é não. Não a mesma consciência que os mamíferos apresentam. Nestes a consciência é como um iceberg. Tem uma área visível, que cada um pode verificar e que corresponde ao conhecimento que cada um tem de si próprio e do mundo que o rodeia. Mas tem também uma área submersa, não acessível ao conhecimento directo e que corresponde ao subconsciente e inconsciente. A consciência é global, inclui o visível mas também o submerso.

A confusão mais comum com a consciência é considerar-se que esta se limita apenas à parte visível, à mesma a que se tem acesso instantâneo. Mas não é assim, a consciência é muito mais do que isso.

Olhando só para a sua componente visível, é habitual confundi-la com a inteligência cognitiva. E estas não são exatamente a mesma coisa. A área visível da consciência, para além da inteligência cognitiva, inclui também a área das emoções, e ambas as formas de inteligência, a cognitiva e a emocional, não se encontram separadas, dão sempre respostas articuladas – todos temos momentos de maior racionalidade e outros em que as nossas reacções são mais guiadas pelas emoções.

A inteligência cognitiva tem ainda um outro componente mais ligado à lógica e que se designa por inteligência logico-matemática. Esta é essencialmente a fração que reconhecemos nas máquinas com I.A., e que corresponde no caso do ChatGPT às redes neuronais e algoritmos de aprendizagem profunda. Mas do conjunto da consciência a I.A. apresenta apenas uma pequena parcela da “ponta do Iceberg”, a que lhe é fornecida pelas capacidades lógico-matemáticas. Sem as estruturas neuronais e mediadores químicos responsáveis pelas emoções, as máquinas com I.A. têm capacidades fantásticas, mas não têm, nem poderão ter, o génio, a intuição, o bom-senso, ou a satisfação e o prazer de um objectivo cumprido. Nunca saíram da banheira a gritar “eureka”, ou se “acordadas” por uma maçã que caiu por perto, nunca vão dizer, – … tu queres ver que … ! Para se ter a consciência dos mamíferos é indispensável ser-se um mamífero. Não basta copiar uma característica isoladamente.

A consciência é uma construção progressiva que evoluiu desde o período pré-câmbrico. Nos mamíferos mais complexos a inteligência cognitiva foi o último componente a surgir na escala da evolução. Tanto a inteligência cognitiva como a lógico-matemática são características da consciência, e não o inverso. A consciência funde-se com o ser biológico e sem ser biológico não há a consciência.

O dilema do comboio é um desafio psicológico encenado no campo da ética, desenvolvido por Philippa Foot na década de cinquenta e que pode ajudar a ilustrar as diferenças entre a consciência humana e a inteligência das máquinas. Neste repto com características de drama psicológico, o desafiado (“o inquirido”) é colocado perante o seguinte cenário: um comboio em movimento descontrolado encaminha-se para uma curva onde certamente vai descarrilar e provocar a morte dos seus dez ocupantes. Para evitar esta catástrofe, “o inquirido” tem a possibilidade de activar um botão que fará desviar o comboio do seu trajecto. Contudo, ao fazê-lo, vai colocar o comboio num novo trajecto onde se encontra um idoso que não tem como ser avisado para se afastar. Do ponto de vista do drama psicológico o cenário em que somos colocados é o de, para proteger a vida de 10 pessoas irmos condenar à morte uma outra. Nesta situação a maioria dos inquiridos, onde me não incluo, opta por salvar dez sacrificando um.

Apesar da resposta para alguns parecer óbvia (as coisas podem complicar-se se o idoso por exemplo for um familiar ou alguém conhecido), para um humano uma decisão nestas circunstâncias é sempre motivo de angústia. Quer a opção seja a de agir por indução ou por omissão, no final há sempre perda. Uma máquina, um algoritmo de I.A. não tem pesadelos, suores frios, ou angústia pela decisão que tomar. As máquinas não têm sentimentos. Para terem sentimentos, as máquinas teriam de ser biologia, química orgânica, i.e., teriam de ter vida.

Se isolar uma célula do seu organismo, ela tenta adaptar-se, tenta sobreviver. Não o vai conseguir por muito tempo, mas vai tentar. Se retirar um parafuso ou um chip de uma máquina de I.A., vai apenas ter um elemento isolado sem nenhuma das características do conjunto. Fora do sistema é apenas matéria inorgânica, destituída de actividade própria, destituída de vida.

A mesma célula que retirou, vai morrer por estar fora do seu meio, mas se recolocada não vai retomar as suas funções, não vai readquirir vida. A morte é uma emergência da qual não há retorno. O parafuso ou o chip que retiramos da máquina de I.A., o mesmo que nunca funcionará fora do seu ambiente, vai funcionar de novo se recolocado de onde tinha sido retirado. Se a vida é a característica mais elementar da consciência, a morte é a emergência onde ela se extingue. As máquinas, a I.A., ou qualquer dos seus componentes não têm vida nem morrem.

A I.A. tem alguns desempenhos que nos recordam os dos humanos, mas enquanto nestes últimos o resultado final advém da potenciação das capacidades de cada uma das suas unidades e cada uma destas partilha características do conjunto, na I.A., o desempenho é apenas global. As propriedades que reconhecemos ao conjunto não ocorrem individualmente em nenhum dos seus componentes. As partes contribuem para o resultado final, não partilham as características do conjunto, i.e., cada componente da I.A. não apresenta I.A.. No ser vivo cada uma das suas unidades isoladamente tem vida.

Na biologia a globalidade é holística. As partes contribuem para o conjunto, partilham características do conjunto, mas o conjunto é muito mais que a soma das partes. O ser humano é muito mais que isso. O ser humano é o resultado de 4 biliões de anos de evolução. Uma evolução que começou com o L.U.C.A. (Last Universal Common Ancestor), um antepassado que surgiu da química orgânica e emergiu sucessivamente como procariota, eucariota, protozoário e organismo multicelular. Desde o início desta aventura houve interação com o meio e seleção de acordo com as disponibilidades que este ia favorecendo. Foi da interação com o meio circundante que o que reconhecemos como senciência se desenvolveu porque era útil para os animais que a possuíam. Era útil e ficou para ser passada à descendência e ao longo da cadeia evolutiva.

A inteligência cognitiva foi a última característica a ser integrada na consciência. Foi sobre as estruturas anatómicas dos sentimentos e emoções que a inteligência cognitiva se desenvolveu. A consciência humana resulta da interação entre o neocórtex e as outras estruturas responsáveis pela senciência. Sem as estruturas responsáveis pela senciência, que em boa verdade são o organismo, não há reconhecimento do “self” – reconhecimento do “Eu”, i.e., da consciência. Se um neocórtex fosse isolado do restante organismo, algo semelhante à I.A., saberia que dois mais dois eram quatro, mas nunca desejaria ter cinco. Limitava-se a observar e registar. E é isso que um algoritmo inteligente como o do ChatGPT faz. Aprende, evolui numa aprendizagem não supervisionada mas não sente, não tem motivações.

Um dos autores que mais se dedicou ao estudo da consciência foi António Damásio. Para ele, a consciência, surgiu no período pré-câmbrico, e à medida que os organismos foram sendo mais complexos, assim a consciência foi evoluindo mantendo sempre as estruturas que já tinham dado provas de utilidade (testadas pela seleção natural).

Segundo Damásio podemos estratificar a consciência em três níveis. Na sua base encontramos um “self” conhecedor em que o objecto do conhecimento é o próprio organismo. A integração deste conhecimento é efectuada ao nível das estruturas neurológicas centrais primitivas (tronco cerebral). Admite-se que animais com menor grau de complexidade (peixes e repteis) já a tivessem. A nível superior, na sede da inteligência cognitiva (neocórtex) não se tem uma informação detalhada do que se passa no restante organismo, mas alguma informação consegue chegar ao nível superior. É por isso que quando o organismo apresenta algum problema, sente que algo não está bem. Não consegue localizar exactamente onde está o problema, mas sente desconforto, dor, má disposição, etc.

Este nível mais básico de consciência, António Damásio designou-o por proto-eu (proto-consciência). É maioritariamente uma área inconsciente (e que resulta do mapeamento – coleção de imagens – dos estados físicos e fisiológicos que o organismo gera a cada instante) a que não tem acesso de forma objectiva, mas da qual tomamos conhecimento quando nos sentimos bem, ou quando sentimos que algo está errado.

A nível mais superior encontramos uma área que envolve estruturas mais complexas do cérebro médio (amígdala, área límbica). Esta área surge no processo evolutivo dos animais que com estas estruturas desenvolveram uma consciência mais elaborada. Surgem assim os sentimentos primitivos de medo, fome, e procura de satisfação sexual. Estes são os sentimentos básicos de que temos conhecimento e a sua origem remete-nos para a amígdala e outros núcleos circundantes que evolutivamente surgiram nos répteis. É por terem esta origem na escala evolutiva que quando somos dominados por estes sentimentos básicos dizemos que é o nosso cérebro reptiliano em acção. Este patamar de consciência é ainda dominado por uma outra estrutura, a região límbica que surgiu nos mamíferos, e por isso mais tarde na evolução, e à qual atribuímos as capacidades da senciência. Esta estrutura é responsável por sentimentos ou emoções como horror, tédio, calma, empatia, dúvida, nojo, satisfação, inveja, alegria, etc.

Este patamar de consciência, que Damásio designa por Eu-nuclear (consciência-Nuclear), é a sede das relações do organismo com o exterior. Estas estruturas do cérebro recebem as informações resultantes do mapeamento das estruturas neurológicas subjacentes, mas também de estruturas superiores da inteligência cognitiva.

As máquinas e a I.A., não têm amígdalas nem nenhuma das outras estruturas responsáveis por este nível de consciência, pelo que lhes é impossível apresentarem sentimentos e expressarem emoções. Podem desenvolver parcialmente formas de inteligência mas não têm as ferramentas adequadas para desenvolverem uma consciência como a humana ou dos mamíferos sencientes.

A nível do neocórtex os mamíferos superiores desenvolveram um outro “up-grade”. Este Damásio designou-o por consciência autobiográfica (Eu-autobiográfico). Aqui arquivamos as nossas experiências enquanto organismo autónomo. Esta estrutura e este nível de consciência é responsável pelo engenho humano, pela nossa cultura e civilização. É aquilo que Pierre Teilhard de Chardin etiquetou de “noosfera”.

Estes três níveis da consciência trocam informação entre si. Quando nos sentimos doentes somos incapazes de trabalhar e produzir. Quando nos sentimos doentes não nos peçam para elaborar raciocínios complicados. Os níveis não funcionam separadamente e entre o segundo e o terceiro há uma ampla troca de informação. Foi porque o homem primitivo sentiu fome que aguçou o engenho para satisfazer essa necessidade. Sem a necessidade básica esse engenho nunca teria sido posto em prática.

As máquinas, nomeadamente a I.A., destes três níveis só possuem o superior. É por isso que sem instruções não têm “agency”, ou seja a capacidade de agir ou tomar uma decisão.

Bom isto era assim até há bem pouco. Com os algoritmos de aprendizagem profunda esta realidade foi ultrapassada quando à I.A. se lhe deu instruções para melhorar a sua capacidade de aprendizagem e a sua performance. De certa forma induzimos-lhes uma configuração particular de “agency” e não sabemos qual o caminho para onde a vai levar. Contudo, e apesar desta nossa ignorância, não é possível que elas no seu desenvolvimento façam um caminho inverso e adquiram uma “consciência” semelhante à humana. Agora a parcela de “consciência” que resulta da inteligência cognitiva que possui, acoplada à “agency” que lhe facultamos, essa forma parcial de “consciência”, essa pode seguramente ser-lhe reconhecida. Sabemos o que lhe está vedado, mas qual o caminho que vai tomar, se é que vai tomar algum, isso não sabemos.

Na física e em biologia as transições de fase são evoluções que se comportam como singularidades. Emergem e o que daí resulta não mais se rege pelas leis que lhe estavam subjacentes. É um caminho para um domínio onde, sem entendermos as perguntas, não conseguimos antever as respostas. E isto causa-nos desconforto e medo. Aqui chegados, o nosso cérebro reptiliano alerta-nos para o perigo de algo correr mal. Intuímos e sentimos isso, ainda que não saibamos porquê!