Um relatório militar obtido pelas forças armadas dos EUA quase levou o país a desencadear uma operação contra um navio chinês no Médio Oriente sob a presunção de que este estava a transportar componentes de um programa de armas nucleares. A informação era afinal falsa e foi fabricada por inteligência artificial.
Este incidente ocorreu na primavera deste ano, em plena guerra dos EUA contra o Irão, noticia a CNN internacional em primeira mão, tendo confirmado junto de quatro fontes não identificadas mas com conhecimento do caso.
A estação norte-americana avança que tudo começou quando um analista de dados do Comando de Operações Especiais dos EUA elaborou um relatório com recurso a uma ferramenta de inteligência artificial que, por sua vez, identificou que o navio chinês de bandeira chinesa estava a transportar material passível de ser usado para constituir um programa de armas nucleares.
Segundo as fontes da CNN internacional, o analista recorreu a um chatbot para verificar alguns relatórios de informação relativos ao manifesto do navio, tendo esses documentos sido criados pelo Comando de Operações Especiais do Pacífico dos EUA, sediado no Havai.
No entanto, esta ferramenta de IA terá identificado incorretamente o material que a embarcação chinesa transportava, cometendo o erro de misturar informações de acesso público com dados confidenciais recolhidos pelo Governo norte-americano, fabricando assim um resultado falso.
O problema, no entanto, é que esse mesmo analista recorreu uma vez mais a IA para compliar estas conclusões erróneas num relatório de informações militares padrão — que, pela sua natureza, é automaticamente tido como confiável pelas chefias quando o recebem.
Por essa razão, foi considerado seguro determinar que o navio chinês em causa transportava material nuclear, levando as forças armadas dos EUA a entrar em ação para intercetá-lo, numa operação onde chegaram a descolar aviões militares e foram destacados membros armados para abordar a embarcação. Só numa situação limite é que os responsáveis analisaram mais profundamente o relatório e chegaram à conclusão que era “inteiramente falso”, afirma uma das fontes contactadas pela CNN internacional.
No entanto, a mesma assume que esse erro “quase desencadeou uma guerra”, já que qualquer operação dos EUA contra um navio chinês implicaria o risco de tornar-se num conflito armado entre as duas nações mais poderosas do mundo.
Até ao momento, não foi possível apurar qual foi a carga identificada incorretamente nem se o chatbot que o analista usou era um produto comercialmente disponível ao público ou um produto desenhado especialmente para o governo dos EUA. No entanto, uma das fontes admite que “as ferramentas internas são, na sua maioria, apenas cópias dos produtos comerciais com um toque de maquilhagem”.
Este incidente, até hoje desconhecido, sublinha os riscos cada vez mais severos da integração da IA nas operações militares. Segundo a CNN internacional, os observadores e analistas temem que as ferramentas de inteligência artificial possam levar a erros de cálculo catastróficos se os estados-nação se basearem em dados de má qualidade ou corrompidos.
Essa ameaça torna-se ainda mais aguda tendo em conta que países como os EUA estão a integrar a IA em quase todas as facetas da sua atividade, mesmo tendo em conta que esta tecnologia, ainda que altamente poderosa, é propensa ao erro, como este episódio demonstrou.
