Os economistas têm a mania de tirar conclusões a partir de observações não controladas, por muito que tentem defender que o são. Por isso, estas observações, em grande parte dos casos, não valem nada. No entanto, há algumas que pelo facto de não dependerem dos dados, amadurecem como válidas e com o passar do tempo começam a chamar-lhe de “lei”. Charles Goodhart é um economista (ainda é vivo) que estudou a política monetária do Reino Unido e que, no âmbito do seu estudo, verificou algo que passou a ser generalizado e que se insere na ideia, para todos percebermos, que se a medida passa a ser o objetivo, então o objetivo inicial perde-se e é abastardado.
Para explicar melhor, vamos imaginar, completamente no abstrato, que temos um país com um problema de dívida soberana, que se encontra acima da medida do PIB, isto é, cento e tal por cento. Peço, então, emprestado com o argumento de que é para poupar para dias difíceis, aumento a dívida bruta, mas deixo a dívida líquida constante porque pedi emprestado para depositar. No entanto, deposito num balcão do banco central que está obrigado a pegar nesse dinheiro e a comprar a minha dívida. Soa a trambiquice, certo? Mas não é, já que estamos a falar de bancos centrais e estados que, embora no abstrato, não fazem trambiquices por definição.
Voltando à ideia, a minha dívida bruta subiu em termos absolutos, a dívida líquida manteve-se constante, peguei nesse dinheiro e meti a circular no mesmo sítio de onde meço o PIB. Sem grande razão, também aumentei o PIB, bastando para isso aumentar os salários das pessoas que trabalham para o Estado, ou reduzindo-lhes o horário para ter que contratar mais. Ou seja, o importante é que pague mais pelo mesmo produto, para fazer circular o dinheiro.
Como a medida do PIB subiu, porque fiz o dinheiro circular, a dívida pública em unidades do PIB desceu, a dívida líquida ficou inalterada e digo que este país abstrato está mais rico! Só preciso de garantir que não crio mais dívida para além daquela que me serve para esta fabricação da medida, bastando para isso subir os impostos. Subo os impostos, aumento os custos e fico com um país mais rico. Certo? Afinal, há uma epistemologia do Sul não sujeita aos ditames do Norte colonialista, capitalista e patriarcal que explica a criação de riqueza e bem-estar a partir da magia da folha de Excel.
Como devia ser óbvio para toda a gente (e está provado que não é), neste exemplo abstrato o país não ficou mais rico, eu só manobrei as medidas. Podem os “cientistas” sociais ficar descansados que não, não existe uma epistemologia do Sul. O objetivo inicial, que seria ter um país mais rico, foi substituído pelo objetivo de ter medidas mais positivas. E o que aconteceu foi que, na realidade, o país ficou mais pobre.
Peguei neste exemplo completamente abstrato (nem sei onde tal país poderia existir) para falar da crescente preocupação que as pessoas têm com a maior automatização dos processos económicos com recurso àquilo a que se chama de inteligência artificial.
Numa das várias vezes que escrevi aqui sobre o assunto, alguém referiu nos comentários que eu abuso da abstração, por isso quando li sobre a Lei do Doutor Goodhart e sobre o país abstrato, achei que era altura de voltar ao tema que explica a razão pela qual não devemos temer a inteligência artificial.
Não é complicado perceber que até para nós humanos é difícil separar aquilo que é a medida do objetivo, do objetivo. Nós vivemos num constrangimento cerebral de necessitar de ter números para medir, não conseguimos atingir um nível de complexidade na nossa perceção que nos leve mais longe e, por isso, precisamos de reduzir o mundo a números para o entendermos. Se isto é verdade para nós humanos é, por consequência, verdade para aquilo que construímos. Para todo o processo que queiramos automatizar, a máquina terá que fazer medidas e agir no sentido de melhorar essas medidas. E, como a máquina vai querer melhorar as medidas e não o objetivo para que foi construída, a Lei de Goodhart vai impor-se. A Lei de Goodhart é ainda mais válida para uma “economia” de máquinas do que é para uma economia de humanos, passe o disparate. Isto para dizer que, mesmo que exista um milagre matemático nos próximos anos que permita que a tecnologia ultrapasse os limites existentes da aprendizagem mecânica (e eu espero fazer parte desse milagre), nunca o ser humano será tirado do processo porque é ele o único capaz de separar a medida do objetivo, do objetivo em concreto.
Claro que para isso, recordando o exemplo do país abstrato que ninguém sabe onde é, são necessários seres humanos que saibam fazer esta distinção. E isto está longe de ser fácil porque até os seres humanos são condicionados desde pequenos a tomar as medidas como absolutas e portadoras da verdade, quando a Física nos mostra exatamente o contrário. Nenhuma medida é absoluta, nem nenhuma se adequa a 100% àquilo que é o objetivo subjacente.
Apesar de sabermos tudo isto, o nosso mundo está repleto de “máquinas” que vivem de medidas, desde o exemplo das finanças públicas, passando pela economia das empresas, até ao nosso sistema educativo. Quantas vezes teremos de discutir se os exames são um instrumento educativo ou passaram a ser um objetivo em si mesmo que abastarda o objetivo subjacente que é o de ter os miúdos educados? No presente estágio da tecnologia, não há nada, absolutamente nada, que nos impeça de ter o processo de exames completamente mecanizado. A questão passa por perceber quem é que vai avaliar se o aluno esteve perto, ou longe, de resolver a questão.
Se formos colocar medidas de eficiência nos hospitais de, por exemplo, maior velocidade nas consultas, vamos com certeza fazer as consultas mais rápidas. Vai morrer mais gente, mas as consultas serão mais rápidas. Se passarmos a ter robôs como médicos, é garantido que o objetivo de velocidade das consultas será cumprido se o robô, sem outro instrumento de diagnóstico, receitar aspirinas a toda a gente. Mas isto também é válido para os humanos, a diferença é que se o humano confiar cegamente na medida, não se vai distinguir em nada do robô, tirando o facto de ser mais lento.
A ideia de que não nos devemos focar na medida, mas sim na física da questão, é uma receita universal. Se cairmos naquele caso singular de cumprir a medida e satisfazer o objetivo, melhor. Mas essa não é a regra geral. E se o fizermos isso para nós, seres humanos, percebemos que conseguiremos programar todas as máquinas e mais algumas, mesmo aquelas que ainda hoje não existem, para efetuar medidas e reagir de acordo com as mesmas. Mas nunca conseguiremos programá-las para distinguir a medida do objetivo. O problema, esse, é quando nós nem mesmo as máquinas compostas por seres humanos conseguimos influenciar para seguirem o objetivo e não a medida dele, como o caso do país abstrato mostra. No abstrato, claro.
(As opiniões expressas neste artigo são pessoais e vinculam apenas e somente o seu autor)
Co-Fundador da Closer, Professor e Investigador
