A influência que os mecanismos de inteligência artificial trazem para a ciência jurídica, em particular para o processo penal, é tão disruptiva que se afigura quase semelhante a uma revolução científica ao estilo de Thomas Kuhn e as suas disruptivas quebras de paradigma. Mas a barreira entre o proibido e o permitido, entre o desejável e o inconcebível, estende-se por um território que não é novo nem desconhecido para os penalistas.

O terreno fértil para o surgimento destas ferramentas advém dos contrabalanços com que os juristas se deparam diariamente, concretamente, dos modelos de segurança e liberdade. Há algo de libertador na crença de que estas ponderações são passíveis de ser mecanizadas, que é possível instruir um sistema para fazer escolhas justas, imparciais, que vão além da falibilidade humana. No entanto, se há algo que esta crença (e o seu demonstrado equívoco) ensinam é que o problema é apriorístico. A alimentação dos sistemas de inteligência artificial com a informação necessária para lhes ensinar a justiça pretendida detém a virtualidade contraprodutiva de perpetuar os erros de julgamento próprios do ser humano.

Este problema torna-se particularmente evidente quando olhamos para a forma como a inteligência artificial pode ser usada no terreno, sobretudo nos mecanismos preditivos, passíveis de ser utilizados em fases anteriores (pré-inquérito), com marca indelével no cômputo do processo. Os chamados mecanismos de previsão espacial, como o Pre-Pol, em Los Angeles, não fazem mais do que atualizar uma prática antiga: mapear zonas de maior risco para orientar patrulhas e distribuir recursos. A lógica promete eficácia e segurança (mais polícia onde há mais crime) mas esconde armadilhas. A primeira é o efeito circular. Quanto mais uma área é vigiada, mais crimes ali se registam; e quanto mais crimes se registam, mais o algoritmo insiste que aquela área é perigosa. O resultado é um loop que confirma as premissas que o alimentam e aprofunda desigualdades. A isto somam-se os riscos de enviesamento social e étnico, alimentados por pequenos incidentes ou comportamentos rotulados como suspeitos, sobretudo em bairros vulneráveis (ou identificados como perigosos).

Mais inquietantes são os mecanismos de previsão pessoal, que procuram calcular a probabilidade de alguém vir a cometer um crime. Chicago chegou a elaborar listas de indivíduos “de risco” (usando o CVMR); Londres mantém bases de dados para identificar potenciais membros de gangs (Gangs Violence Matrix); e modelos como o COMPAS são usados para avaliar a reincidência na fase de redação da sentença. Aqui, os perigos multiplicam-se: violações de privacidade, reutilização de dados para fins alheios ao seu propósito inicial, erosão da autonomia das forças policiais (que podem confiar mais nos alertas da máquina do que na sua perceção) e um abalo sério aos pilares do processo penal, da presunção da inocência ao direito ao fair trial.

No fundo, estas tecnologias revelam uma tensão estrutural: entregam precisão matemática, mas operam sobre os mesmos dados, preconceitos e estruturas sociológicas que pretendem ultrapassar. A sua sofisticação digital não apaga a pergunta essencial: que justiça é possível quando o futuro de uma pessoa passa a ser inferido por um algoritmo que aprende, inevitavelmente, com os enviesamentos do passado?

E se a questão parece passível de ser respondida com recurso a uma aposição de critério humano, de avaliação posterior de resultado, de exigências de fundamentação, a verdade é que a sua inexplicabilidade e (por vezes) opacidade afiguram-se como um entrave à bondade desta solução. Por um lado, a dificuldade própria da conjugação da compreensão jurídica com o necessário entendimento científico do funcionamento destes sistemas, como duas formas de linguagem diferentes, complexifica a possibilidade de uma concreta e exaustiva fundamentação do porquê do seguimento (ou não) de um resultado alcançado pelo sistema de inteligência artificial. A esta dificuldade acresce, por vezes, a falta de transparência de alguns sistemas que inviabilizam, desde logo, o conhecimento do seu processo decisório (algo que, por seu lado, é legalmente exigido ao decisor humano). Se uma investigação foi iniciada, por exemplo, com recurso a um mecanismo preditivo, ou se a possibilidade de reincidência foi determinada por um sistema que não é apreensível ao julgador mas que lhe foi disponibilizado como uma voz de justiça, como pode este ultrapassar tal conhecimento para proferir uma decisão além-máquina?

A promessa de eficiência não pode substituir o dever de julgar (nem de escolher o que julgar) e muito menos relativizar as garantias que definem o processo penal. A verdadeira revolução, se vier, não será tecnológica, mas jurídica: a de resolver se nos mantemos perante um sistema de justiça alicerçado na compreensão humana, ou se rompemos o paradigma e avançamos para uma procura por um sistema analítico de justiça.

Este artigo foi publicado no âmbito de uma parceria com a Morais Leitão