O debate sobre armas autónomas de IA foi sendo reduzido a uma pergunta melodramática: devemos proibi-las ou permiti-las? Mas nem a boa lei nem a boa moral podem assentar numa alternativa tão bruta. A questão decisiva não é se uma arma é “autónoma” em abstracto; é saber que tipo de decisão lhe é entregue, em que contexto opera, contra quem actua e quem responde pelos seus actos.
A expressão “armas autónomas” mistura realidades muito diferentes. Não é moralmente a mesma coisa um sistema concebido para perseguir e matar pessoas num ambiente complexo e um sistema defensivo limitado a interceptar mísseis, drones ou embarcações hostis dentro de um perímetro estreito e previamente definido. Confundir estas situações produz calor ideológico, mas pouca lucidez moral.
É aqui que a tradição da guerra justa continua a ser útil. Agostinho recordava que é a culpa da parte agressora que obriga o sábio a empreender uma guerra justa, e que mesmo essa guerra continua a ser matéria de pesar. A sua preocupação principal era a libido dominandi, o desejo de dominar, que transforma a força em instrumento de orgulho e não de protecção. Um sistema concebido para caçar pessoas num ambiente civil denso, escolhendo as suas vítimas com base em correlações estatísticas, aproxima‑se perigosamente desse vício.
Tomás de Aquino, depois, afinou a análise: para que uma guerra seja justa, requerem-se autoridade legítima, causa justa e intenção recta. Só quem tem cuidado do bem comum pode declarar guerra; a causa deve responder a uma falta real e grave; a intenção tem de visar o bem ou evitar um mal. A questão, portanto, nunca foi glorificar a violência, mas submetê-la a um juízo moral rigoroso.
Ora, esse juízo não desaparece quando entram algoritmos em cena. Uma máquina não absolve ninguém. Não escolhe sozinha os dados com que foi treinada, os padrões que reconhece, os limiares de risco que adopta, o espaço em que pode actuar, nem as regras de empenhamento sob as quais dispara. Tudo isso foi decidido antes por pessoas: engenheiros, programadores, comandantes, autoridades políticas e militares. A responsabilidade não se evapora; desloca-se para montante.
É precisamente por isso que o debate público está mal formulado. O verdadeiro problema moral não é a existência de alguma autonomia técnica, mas a abdicação de controlo humano responsável em decisões letais. Se um sistema for concebido para identificar seres humanos como alvos num ambiente urbano denso, com ambiguidade contextual e risco grave para civis, então há forte razão para proibição. Nenhum algoritmo lê uma rendição, percebe o pânico de uma criança ou capta, com segurança moral suficiente, as nuances de contexto de que depende a distinção entre combatente e inocente.
Mas há um outro caso, muito diferente, que o moralismo apressado tende a ignorar. Um sistema defensivo orientado apenas contra objectos — por exemplo, um interceptor de mísseis ou um sistema naval contra embarcações hostis em aproximação — pode, em certas circunstâncias, proteger melhor os inocentes do que um operador humano fatigado, lento ou sobrecarregado. Se a sua função é estritamente defensiva, o seu “envelope” é estreito, o alvo é material e não pessoal, e a sua actuação é auditável e subordinada a comando humano, então a autonomia não agrava necessariamente a injustiça; pode, pelo contrário, reduzir o dano.
A própria lógica tomista da legítima defesa ajuda a ver isto. Em Summa Theologiae IIa IIae, q. 64, a. 7, Aquino admite que um acto possa ter dois efeitos: salvar a vida e matar o agressor. O acto será lícito quando a preservação da vida for o fim pretendido e a força usada não exceder o necessário. Aplicado ao campo tecnológico, o princípio é claro: se um meio mais rápido e mais preciso pode impedir um ataque iminente com menor risco para civis, não deve ser excluído apenas porque contém processos automatizados.
É verdade que a encíclica de Leão XIV, Magnifica Humanitas, insiste, com razão, em “desarmar” a inteligência artificial e em rejeitar a normalização tecnocrática da violência. Esse aviso é importante, sobretudo contra a tentação de transformar a eficiência em critério supremo e de reduzir pessoas a padrões de dados. Mas precisamente por isso importa distinguir com rigor entre tecnologias que obscurecem o juízo moral e tecnologias que, sob autoridade humana responsável, podem servir a defesa dos inocentes.
A legislação séria devia começar aqui. Não com a pergunta teatral sobre se as “armas autónomas” são boas ou más em bloco, mas com perguntas mais austeras: o sistema visa pessoas ou objectos? Opera em cidade, em mar aberto ou em espaço aéreo delimitado? As suas decisões podem ser reconstruídas? A cadeia de responsabilidade é clara? Quem autorizou, quem definiu os parâmetros e quem responderá se tudo correr mal?
Respondidas estas perguntas, o mapa torna-se mais nítido do que admitem tanto os entusiastas como os abolicionistas. Sistemas concebidos para seleccionar e matar seres humanos sem controlo humano efectivo, sobretudo em ambientes complexos, devem ser proibidos. Sistemas estritamente defensivos, confinados a interceptar objectos hostis dentro de envelopes estreitos, previsíveis e auditáveis, não deveriam ser lançados para o mesmo saco apenas porque partilham o adjectivo “autónomo”. Confundir os dois não é vigilância moral; é preguiça moral. Nenhuma máquina decide sozinha — e é precisamente por isso que nenhuma máquina deve servir de álibi para quem decide.
