Um sistema de pesquisa que recomenda comer uma pedra por dia para melhorar o estado de saúde. Um resumo de notificações no telemóvel que lamenta a morte de um amigo que não aconteceu. Um chatbot que recomenda o suicídio a quem procura ajuda para fazer os trabalhos de casa. Um site governamental que ajuda empresas a fugirem à lei…

Estes são quatro casos recentes de erros causados por sistemas de inteligência artificial, desenvolvidos por empresas insuspeitas de falta de competência tecnológica: a Google, a Apple e a Microsoft.

No entanto, não devemos ficar preocupados, pois este tipo de erros parece só acontecer do outro lado do Atlântico. Neste nosso cantinho, sabemos fazer sistemas de inteligência artificial “sem falhas e infinitamente escaláveis” que podem ser usados para resolver problemas simples como substituir técnicos do INEM no atendimento de chamadas, em que “ninguém distingue que não está a falar com outro humano”. Ou, pelo menos, assim reportava recentemente uma jornalista na primeira página do Expresso, tendo-se ficado a saber que o Ministério da Saúde reuniu de imediato com a empresa que se propunha a disponibilizar o tal sistema de forma gratuita.

Não conhecemos a solução que foi oferecida ao Governo. Ainda assim, estou certo de que terá limitações. Será que isso importa? Parafraseando o matemático George Box, todos os sistemas têm falhas, mas alguns são úteis. Aquilo que verdadeiramente interessa ao avaliar a adopção de tecnologias é saber se são melhores do que a alternativa existente. O requisito não deve ser ter um sistema que não falhe, mas sim um sistema que falhe menos (ou que falhe melhor, com erros menos graves).

No caso do INEM, sabemos que o sistema actual está longe de ser perfeito, como ficou visível na sua crise mais recente. É perfeitamente razoável presumir que existe forma de automatizar algumas das tarefas hoje executadas por técnicos, cometendo menos erros e prestando um melhor serviço, mesmo sem sistemas perfeitos. Torna-se, por isso, ainda mais incompreensível a promessa de um “sistema sem falhas”.

Se um sistema se baseia em inteligência artificial, temos muita dificuldade em prever de que forma errará, mas sabemos que acontecerá. Em determinadas circunstâncias, os erros têm um prejuízo aceitável: um sistema de atendimento ao cliente que não seja capaz de responder a uma pergunta é incómodo, mas não grave. No entanto, quando falamos de sistemas críticos (como os que são usados na indústria automóvel, por exemplo), os erros podem ter consequências inaceitáveis, potencialmente fatais.

Neste caso, temos razões para nos questionarmos sobre a adequabilidade da solução apresentada ao Governo. Um sistema de suporte a fisioterapia tem uma tolerância à falha muito superior à de um sistema de suporte à emergência médica. Quando as inevitáveis falhas acontecerem, quando ambulâncias não forem enviadas para onde eram necessárias, quando as expressões dos doentes forem mal entendidas, quando as recomendações dadas não forem clinicamente correctas, o país não julgará o sistema comparando com a alternativa existente hoje (falível), mas com a expectativa de perfeição que foi criada pelas promessas impossíveis de cumprir. A adopção de tecnologia nos serviços públicos, de que tanto precisamos, será atrasada por frustrações e receios de que erros semelhantes voltem a acontecer.

O entusiasmo excessivo do Governo e do Ministério da Saúde perante esta proposta deveria incomodar-nos a todos. O Governo e o Ministério da Saúde deveriam saber identificar promessas irreais. Deveriam entender que a automação tecnológica, principalmente na era da inteligência artificial, traz ganhos de eficiência de tal ordem que se exige um investimento sério e estruturado, sem precisar de ir atrás de “borlas” difíceis de explicar. Deveriam criar capacidade e conhecimento na Administração Pública para evitarem delegar a sua estratégia tecnológica em empresários, comentadores ou jornalistas.

Precisamos urgentemente de ter no Estado quem perceba de tecnologia e acredite no seu potencial transformador na Administração Pública, sem receios infundados e sem expectativas irrealistas. Até lá, quem prometer soluções simples e rápidas, mesmo que falsas, será rei aos olhos dos nossos governantes.