1 Entre 2013 e 2019, mais de 26 mil famílias nos Países Baixos – muitas de origem migrante – foram indevidamente investigadas por fraude fiscal. Em causa esteve um sistema automatizado criado pela autoridade tributária holandesa, que usava critérios opacos para identificar potenciais fraudes nos pedidos de subsídio à infância. O caso levou à queda do Governo liderado por Mark Rutte – ainda que este já tivesse outros planos políticos – e gerou um debate europeu sobre o uso de algoritmos pela administração pública.

O escândalo ficou conhecido como o “Caso dos Subsídios à Infância” e tornou-se num dos episódios mais destacados de discriminação institucional por meio do uso público de algoritmos no contexto europeu. O sistema automatizado, concebido para detetar irregularidades nos pedidos de apoio para cuidados infantis, considerava fatores como o rendimento, a estrutura familiar e a nacionalidade dos requerentes. Por exemplo, ter dupla nacionalidade bastava para que um pedido fosse sinalizado como de risco elevado.

Na prática, esta opção levou à investigação injustificada de milhares de famílias, sobretudo de origem marroquina, turca e de outros países não europeus. Muitas foram obrigadas a devolver montantes elevados ao Estado, vendo-se privadas de apoios essenciais e, em casos extremos, algumas perderam a guarda dos filhos.

2 Em dezembro de 2020, uma comissão parlamentar concluiu, no relatório Ongekend Onrecht (“Injustiça Sem Precedentes”), que os direitos fundamentais de milhares de cidadãos foram violados de forma sistemática no âmbito do chamado “Caso dos Subsídios à Infância”. Posteriormente, a Autoridade de Proteção de Dados dos Países Baixos (Autoriteit Persoonsgegevens) confirmou que a Autoridade Tributária violou gravemente o Regulamento Geral sobre a Proteção de Dados, ao processar dados pessoais — incluindo a nacionalidade — sem base legal adequada e em violação do princípio da lealdade e licitude do tratamento de dados.

A reação pública foi imediata. Em janeiro de 2021, Mark Rutte apresentou a demissão do seu Governo, tendo admitido que “A lei foi aplicada de forma errada durante anos”, assumindo responsabilidade política pelo sucedido. Foi um momento raro na política europeia: a queda de um executivo devido ao uso abusivo de tecnologia automatizada.

O caso expôs os riscos da crescente dependência de algoritmos em decisões públicas, sem supervisão humana adequada nem mecanismos de transparência. A verdade é que os próprios funcionários não sabiam ao certo como o sistema assente no algoritmo decidia quem investigar. A reação pública veio também da Amnistia Internacional, que o classificou como uma “máquina xenófoba”, tendo alertado que outros países poderão estar a aplicar sistemas semelhantes, com impacto potencialmente devastador. Após o escândalo, a autoridade tributária dos Países Baixos foi multada em 2,75 milhões de euros.

3 Atualmente, a questão já não é saber se devemos regular o uso da Inteligência Artificial (IA), mas sim como fazê-lo de forma eficaz, proporcional e célere. Esta mudança de paradigma fica evidente com a recente decisão dos Estados Unidos ao rejeitar, por esmagadora maioria (99 votos contra e apenas 1 a favor), a proposta de moratória de 10 anos sobre a legislação da IA. O voto revelou um raro consenso bipartidário e assinala o fim do mito de que regulamentar a IA sufoca a inovação — mesmo no país do Silicon Valley. Aliás, nos próximos anos, é expectável uma crescente proliferação de legislações estaduais nos EUA, cobrindo áreas sensíveis como deepfakes, proteção de menores online, direitos dos trabalhadores, treino de modelos e segurança de veículos autónomos.

No plano internacional, esta decisão envia um sinal claro à Europa, de que a regulação deixou de ser uma opção teórica para se tornar uma necessidade prática. O foco deve, por isso, centrar-se no desenho de regras adequadas, eficazes e respeitadoras dos valores democráticos. Mais, no contexto europeu, o Regulamento sobre a Inteligência Artificial, recentemente aprovado pela União Europeia, embora concebido sobretudo para harmonizar o mercado interno, deve ser plenamente integrado na regulação do uso de IA pelo setor público. Mais, também a Convenção-Quadro do Conselho da Europa sobre Inteligência Artificial deve ser considerada na regulação da IA de uso público. Isto é especialmente relevante no caso dos sistemas de IA classificados como de alto risco, como aqueles que afetam o acesso a prestações sociais, educação ou justiça.

Para além da importância dos casos concretos, que podem desencadear mecanismos de responsabilização política e administrativa, é essencial que cada Estado-Membro estabeleça normas específicas para o uso da IA pelos poderes públicos. Essas normas devem garantir a proteção dos direitos fundamentais e o respeito pelos princípios estruturantes do Estado de Direito democrático, sobretudo quando estão em causa decisões automatizadas com impacto significativo na vida dos cidadãos.

4 O momento atual exige uma regulação da IA que assegure não apenas a eficiência e inovação no setor público, mas que também garanta segurança, transparência e respeito pelos princípios fundamentais que norteiam a atuação das instituições públicas – é este equilíbrio que se exige de um legislador informado e ponderado.