A inteligência artificial pode não destruir a verdade. Pode tornar impossível demonstrá-la.

Durante vários séculos, a humanidade lutou pelo acesso à informação.

A invenção da imprensa democratizou o conhecimento. A alfabetização ampliou a participação cívica. A Internet colocou uma quantidade de informação sem precedentes à distância de um clique.

Seria, por isso, razoável imaginar que a verdade nunca esteve tão acessível.

Porém, talvez estejamos prestes a descobrir precisamente o contrário.

Imagine um mundo onde fotografias, vídeos, áudios e documentos possam ser produzidos por sistemas de inteligência artificial com um realismo praticamente indistinguível da realidade.

Imagine que qualquer prova pode ser fabricada.

Mas imagine também que qualquer prova autêntica pode ser descartada como sendo uma fabricação.

Não estamos apenas perante um problema de desinformação.

Estamos perante a possibilidade de um fenómeno muito mais profundo. Aquilo a que poderíamos chamar um colapso epistémico (para efeitos deste artigo), isto é, o momento em que uma sociedade deixa de conseguir distinguir, com um grau razoável de confiança, entre a verdade e a mentira, entre a realidade e a ficção, perdendo assim a base factual comum sobre a qual assentam o debate público, a cooperação e a própria democracia.

A diferença é enorme.

Mentiras sempre existiram. Propaganda sempre existiu. Manipulação sempre existiu.

O que poderá ser verdadeiramente novo é a perda da própria capacidade coletiva para distinguir, com um grau razoável de confiança, aquilo que aconteceu daquilo que nunca aconteceu.

E isso altera tudo.

A democracia precisa de factos antes de precisar de opiniões

Costuma dizer-se que a democracia vive do pluralismo. É verdade.

Mas existe uma condição anterior.

A democracia não exige que os cidadãos concordem sobre valores, ideologias ou prioridades.

Exige apenas que partilhem uma realidade suficientemente comum para que essas divergências possam ser discutidas.

Hannah Arendt alertava para a importância da verdade factual.

As opiniões podem divergir infinitamente.

Os factos, embora frequentemente difíceis de apurar, constituem o ponto de partida sem o qual a deliberação política deixa de fazer sentido.

Quando desaparece esse terreno comum, o conflito político muda de natureza.

Já não discutimos diferentes interpretações da realidade.

Passamos a discutir realidades diferentes.

E uma democracia dificilmente consegue sobreviver durante muito tempo quando cada grupo acredita habitar um universo factual distinto.

As democracias não morrem apenas quando deixam de existir eleições livres.

Podem começar a morrer quando deixa de existir uma realidade suficientemente partilhada.

O dividendo do mentiroso

Existe ainda um paradoxo menos conhecido.

Durante muitos anos preocupámo-nos com a possibilidade de as pessoas acreditarem em notícias falsas. Talvez esse nem seja o maior problema.

Quando qualquer fotografia, vídeo ou gravação pode ser fabricado por inteligência artificial, acontece algo mais subtil: qualquer prova verdadeira pode ser rejeitada como sendo falsa.

Na literatura, este fenómeno é conhecido como “dividendo do mentiroso” (liar’s dividend).

O mentiroso beneficia precisamente porque a existência de falsificações plausíveis lhe permite negar acontecimentos que efetivamente ocorreram.

Basta imaginar um governante apanhado num vídeo autêntico a cometer uma ilegalidade. Num mundo saturado de deepfakes, poderá limitar-se a afirmar que também esse vídeo foi fabricado. Quanto mais convincentes forem as falsificações, mais fácil será desacreditar provas verdadeiras.

E a ironia é extraordinária.

Uma tecnologia capaz de produzir mentiras perfeitas pode transformar-se também na melhor proteção para quem pretende esconder verdades.

O nosso cérebro não evoluiu para este mundo

Na verdade, do ponto de vista da Psicologia Evolucionista, talvez nada disto seja surpreendente.

O cérebro humano não evoluiu para avaliar milhões de mensagens produzidas diariamente por desconhecidos, algoritmos ou inteligências artificiais.

Durante centenas de milhares de anos vivemos em pequenos grupos onde a credibilidade era avaliada através da observação direta do comportamento, da reputação, da coerência entre palavras e ações e dos custos associados à mentira.

Confiávamos menos nas palavras do que nas pessoas.

A evolução moldou mecanismos sofisticados para avaliar quem era digno de confiança.

Não moldou mecanismos para distinguir um vídeo verdadeiro de um deepfake produzido por um algoritmo.

Privados dos sinais tradicionais de credibilidade, recorremos inevitavelmente aos atalhos cognitivos que sempre utilizámos.

Assim, acreditamos mais facilmente naquilo que confirma as nossas crenças, naquilo que é repetido pelo nosso grupo e naquilo que é afirmado por pessoas em quem já decidimos confiar.

Quanto maior a incerteza, maior tende a ser a dependência da identidade da fonte.

Isto significa que, paradoxalmente, quanto mais informação existe, menos avaliamos a informação em si. E mais avaliamos quem a transmite.

A ecologia da confiança

Sabemos que existe uma tendência para pensar na confiança como uma característica individual.

Na realidade, a confiança é também uma propriedade das sociedades.

Tal como um ecossistema depende de condições que tornam a vida possível, uma democracia depende de uma verdadeira ecologia da confiança: um conjunto de instituições, normas e mecanismos que tornam possível distinguir informação credível de informação manipulada.

Falamos das universidades, dos tribunais, do jornalismo profissional, do método científico, das regras de produção da prova e dos sistemas de autenticação.

Todos estes mecanismos existem por uma razão muito simples. Reduzem a incerteza.

Nunca eliminam completamente a mentira, mas tornam-na mais difícil e mais dispendiosa.

Talvez tenhamos assumido, durante demasiado tempo, que essa ecologia sobreviveria automaticamente à revolução digital.

Hoje percebemos que não.

O recurso mais escasso do século XXI

Durante muitas décadas acreditámos que o maior desafio seria democratizar o acesso à informação. Conseguimo-lo!

O problema é que informação e conhecimento nunca foram sinónimos.

Muitas vezes, nem sequer andam de braço dado.

Muito menos informação e verdade.

Por tudo isto, talvez o recurso mais escasso das próximas décadas já não seja a informação.

Nem sequer a atenção.

Será, cada vez mais, a autenticidade verificável.

Isto significa que teremos de aprender uma competência nova.

Durante anos ensinámos pensamento crítico e continuaremos a precisar dele. Sem dúvida.

Mas hoje isso já não chega.

Teremos igualmente de aprender a avaliar credibilidade num mundo onde os sinais tradicionais de autenticidade podem ser fabricados com uma facilidade crescente.

O mundo mudou. A nossa natureza não

Como aqueles que me leem sabem, costumo dizer que o mundo mudou. A nossa natureza não.

Continuamos a decidir em quem confiar utilizando um cérebro concebido para pequenos grupos de caçadores-recoletores, enquanto navegamos num ambiente informacional global povoado por inteligências artificiais capazes de imitar, com uma precisão crescente, praticamente todos os sinais que, durante milénios, aprendemos a interpretar como prova de autenticidade.

Talvez, por tudo isto, a grande batalha das próximas décadas não seja entre seres humanos e inteligência artificial.

Será, antes, entre a confiança e a incerteza.

Porque, no dia em que deixarmos de conseguir distinguir, de forma credível, a verdade da mentira, não perderemos apenas uma capacidade cognitiva. Arriscamo-nos a perder uma das condições fundamentais que tornaram possível a própria civilização.