A Agência Espanhola de Proteção de Dados (AEPD) recebeu a “primeira notificação de uma violação de dados pessoais” feita com recurso a um agente de inteligência artificial (IA).
Os agentes de IA são ferramentas que recebem um objetivo e um determinado grau de autonomia para fazer pesquisas, interpretar dados e executar ações.
A AEPD recebeu o alerta da organização afetada — segundo a imprensa espanhola, não há pistas sobre quem terá sido. O ataque foi feito usando “um conhecido modelo de linguagem”.
Pela informação disponível até agora, “o agente iniciou uma pesquisa de vulnerabilidades em arquivos genéricos e teve um login correto”. Quando acedeu ao sistema, “começou a pesquisar, de forma autónoma, vulnerabilidades na aplicação e, quando a encontrou, alterou dados pessoais e acedeu a faturas”.
A intrusão ainda vai ser objeto de uma análise mais detalhada. A AEPD esclarece também que “a utilização de um determinado modelo de IA também não implica que o modelo ou a infraestrutura do seu fornecedor tenham sido comprometidos, nem que a ferramenta tenha sido concebida para realizar atividades maliciosas”.
Nos últimos meses, algumas das principais empresas de IA, como a Anthropic, OpenAI ou a Meta, revelaram que os seus agentes tiveram comportamentos inesperados e atacaram sistemas alheios. O caso mais conhecido é o ataque de cerca de 700 agentes da OpenAI à Hugging Face, revelado em julho.
Do ponto de vista da proteção de dados, o regulador espanhol considera que “o relevante” é que “um terceiro utilizou um agente de IA como instrumento para encadear com sucesso as diferentes fases do ataque”.
Como é a primeira notificação, a entidade considera que não é possível tirar conclusões estatísticas, mas o incidente “constitui um sinal significativo de que os ataques baseados em IA deixaram de ser um risco teórico e começam a concretizar-se em incidentes que afetam o tratamento efetivo de dados pessoais”.
A IA “não cria novas ameaças”, diz a AEPD, mas “aumenta a velocidade, a escala e a capacidade de adaptação de técnicas maliciosas já conhecidas”.
A Proteção de Dados espanhola diz ainda que “a chegada dos agentes de IA ao domínio ofensivo”, com riscos crescentes para a segurança informática, “deve impulsionar uma revisão imediata dos modelos de segurança e proteção de dados”.
Em comunicado, a AEPD alerta que “os responsáveis, encarregados e delegados da proteção de dados devem preparar-se para um cenário em que a velocidade dos ataques será cada vez maior”. No entanto, frisa que “se mantêm os princípios fundamentais” de “conhecer os tratamentos, minimizar os dados, limitar acessos, correção de vulnerabilidades, controlo de fornecedores e estar preparado para responder”.
