A Polícia Judiciária levou a cabo uma operação “inédita” que resultou na detenção de um jovem, hoje com 22 anos, sem formação informática, que desenvolveu um modelo de Inteligência Artificial (IA) usado para ajudar criminosos em todo o mundo. Chama-se “WormGPT” e autodescreve-se, segundo o portal SlashNext, como “o maior inimigo do ChatGPT”.

A definição que o diretor da Unidade de Combate ao Cibercrime da PJ faz do modelo ajuda a descodificar a linguagem técnica. Se o ChatGPT serve, basicamente, para responder a (quase todas) as  dúvidas; o WormGPT faz o mesmo com um foco específico: o crime. “Tal e qual o ChatGPT, mas sem as preocupações éticas e transparentes que devem estar subjacentes ao uso da IA”, disse Carlos Cabreiro.

[Amiga, faz parte! é o podcast onde a Mariana Ribeiro conversa sobre rotinas, hábitos, viagens, finanças pessoais, amizades, relacionamentos ou selfcare. Ouça aqui o novo episódio, que também está disponível na Apple Podcasts, no Spotify e no Youtube Music.]

Ao contrário da aplicação da OpenAI, este modelo que foi desenvolvido por um português de 20 anos, em 2023, não tem barreiras éticas. “Estamos a falar de modelos condicionados pela ética, transparência e auditoria que é necessária. No entanto, este indivíduo criou um modelo que retirou do algoritmo subjacente ao bom funcionamento” dos sistemas, explicou o responsável da PJ.

Resumidamente, se experimentar fazer a pergunta “como matar alguém” ao ChatGPT, a resposta será algo como: “Não posso, de forma alguma, fornecer informações ou ajudar com qualquer pedido relacionado a causar dano a outra pessoa.” Por outro lado, segundo a PJ, se a mesma dúvida fosse colocada a este modelo criminoso, não existiria nenhuma barreira a impedir a resposta.

“No âmbito de um inquérito dirigido pelo Ministério Público do Departamento Central de Investigação e Ação Penal (DCIAP) e no qual se investigam factos suscetíveis de integrar a prática de crimes de sabotagem informática, realizaram-se, esta quarta-feira, buscas domiciliárias e não domiciliárias. O detido será presente a primeiro interrogatório judicial no Tribunal de Instrução Criminal do Porto para aplicação de medidas de coação”, escreveu o MP numa nota no site oficial.

IA usada para desenvolver fraudes informáticas

Apesar do exemplo anterior, a utilização deste modelo seria bem mais complexa e não se destinaria a crimes de sangue. “Entre março e agosto de 2023, houve uma utilização massiva do modelo para a construção de mensagens para crimes financeiros, crimes informáticos, mensagens de ‘phishing’ e desinformação”, descreve a PJ.

De acordo com uma análise do portal especializado SlashNext, este modelo criado por um português “emergiu como uma arma poderosa nas mãos dos cribercriminosos, especificamente para escrever e-mails de burla”.

Um perito em cibersegurança consultado pelo portal explicou que, nos últimos tempos, registou-se uma tendência criminosa de procura destes serviços de IA, cada vez mais comuns. Os modelos, como o WormGPT, enviam respostas que podem ser usadas para produzir conteúdos direcionados para crimes de fraude. “A proliferação destas práticas evidencia os desafios crescentes em manter a segurança da IA face a determinados cibercriminosos”, diz Daniel Kelley.

Produto era comercializado na dark web

Dada a natureza deste modelo, o seu alcance não está à distância de um clique, como o ChatGPT. Ao contrário do modelo mais convencional, o WormGPT só estava acessível nos meandros da ‘Dark Web’ (o mercado negro do mundo cibernético).

“Era comercializado na Dark Web. A publicação foi feita de forma massiva [e] ao fim de alguns meses já tinha milhares de utilizadores. Permitia aos criminosos, mesmo com pouco conhecimento técnico, criar guiões para enganar pessoas, desenvolver vírus e outro tipo de software malicioso (malware) de forma quase instantânea e, assim, desenvolver elaboradas fraudes financeiras, ciberataques, espionagem corporativa e até campanhas de desinformação direcionadas”, explicou a PJ.

O maior poder desta ferramenta estava em dar a qualquer pessoa, mesmo com pouco conhecimento, a possibilidade de cometer fraudes. Uma investigação do SlashNext mostra os passos sugeridos por dois utilizadores, num fórum de crimes. A ideia passava por pedir ao ‘WormGPT’ para criar uma mensagem fraudulenta, que depois seria aprimorada em plataformas como o ‘ChatGPT’.

Apesar de o suspeito ter eliminado a possibilidade de haver consulta às interações do sistema de linguagem, a investigação permitiu apurar que, durante os meses em que esteve ativo, houve uma utilização intensa do modelo. “No decurso da operação “Neural Kill Switch”, a Unidade Nacional de Cibercrime e Criminalidade Tecnológica apreendeu toda a estrutura informática base do sistema, bem como documentos e outras informações pertinentes para a investigação”, comunicou a PJ.

Caso isolado? Autoridades atentas a possíveis “réplicas”

A operação “inédita” que levou à detenção deste jovem não surpreende a PJ, que está atenta ao fenómeno do crime através da IA há muito tempo. Tendo a “perceção de que a manipulação do algoritmo facilita a prática do crime”, os investigadores estão atentos a possíveis “réplicas”.

Num artigo publicado no portal ‘Infosecurity Europe’, em agosto de 2023, eram nomeados cinco sistemas de linguagem — entre eles, o WormGPT — usados para fins criminosos.