Rodrigo da Fonseca é especialista em proteção de dados e cibersegurança. Obrigado pela disponibilidade em falar com o Rádio Observador.

Obrigada, bom dia.

A Comissão Europeia abriu uma investigação à rede social X em causa as práticas do Grok, a ferramenta de inteligência artificial desta rede, que terá criado no mínimo três milhões de imagens sexualmente explícitas não consensuais com mulheres e crianças. Rodrigo, pergunto se do ponto de vista da proteção de dados, que barreiras é que podem ter sido aqui ultrapassadas?

Hoje em dia há toda uma série de regulação europeia, desde o RGPD à Digital Services Act, ao próprio AI Act, que procuram garantir que este tipo de situações, ou seja, de captura de imagens e sua manipulação, que causam danos, obviamente, às pessoas visadas, que isto é tutelado pelas próprias redes. E sendo isto divulgado desta forma massiva e não havendo mecanismos da própria rede para fazer essa anulação e suspensão das contas, é evidente que a rede poderá ter de responder por esses dados. Estamos a falar de uma coima que é lançada e agora o próprio X tem direito ao seu contraditório. Mas entendo, e vemos que há mais do que motivos para que este processo de infração seja pelo menos instaurado, fazendo agora a discussão normal da parte do X, para poder defender-se e demonstrar que, não obstante ter havido estes resultados, que eles tudo fizeram o que estava ao seu alcance para cumprir com a lei.

Um dos casos que se verifica mais são, por exemplo, situações em que uma mulher publica uma fotografia na rede social X e nos comentários aparecem utilizadores a pedir ao Grok que gere, por exemplo, uma fotografia, mas com essa mulher em roupa interior. Isto é legal? Primeira pergunta. E quando uma pessoa publica uma fotografia nesta rede, pública, está já sujeita a que isto possa acontecer?

De facto, está sujeita. Ponto. Está, o que acontece? Depois, há uma série de discussões sobre deepfakes e os limites dos deepfakes que não são claros. Se eu criar um deepfake para efeitos humorísticos, será que eu posso criar esse deepfake, desde que fique claro que é um deepfake? Ninguém diria que isso é um problema. Agora, se nós utilizamos e fazemos um deepfake que coloca a pessoa numa situação de exposição artificial da sua intimidade, é evidente que isso também não é o resultado desejado. O deepfake em si e a criação do deepfake pode ser perfeitamente ingênuo e legítimo ou não. E daí haver estas dificuldades da própria inteligência artificial de travar e compreender quando é que pode e quando é que não pode, e o utilizador abusar quando não deveria, porque cada um de nós também consegue perceber que um deepfake humorístico não tem problema nenhum, desde que fique óbvio que é humorístico, já colocar uma pessoa, uma mulher que faz uma publicação sua logo numa devassa na sua caixa de comentários, é uma coisa completamente inadmissível. E estas coisas não são binárias ou lineares. E há aqui uma responsabilidade, obviamente, da própria rede social e eventualmente da capacidade que a inteligência artificial pode ou não pode ter ainda para arbitrar este tipo de situações. E essa discussão vai ser necessariamente tida neste contexto. E também há uma atitude dos utilizadores que é francamente corrosiva. Não vamos ignorar que a inteligência artificial faz isto por estímulo de pessoas em concreto, e não propriamente por sua autorrecriação. E esse lado também deve ser altamente censurado e discutido.

E quando fala em discutir esse lado, podem estar, por exemplo, em cima da mesa sanções para cidadãos, para utilizadores que incorram nessas práticas?

Não diria que não. Nós sabemos, por exemplo, que as pessoas que se comportam indevidamente em estádios de futebol, uma das punições é impedi-los de estar e entrar em estádios durante um período. Há sem dúvida aqui um papel das redes sociais e dos próprios donos das redes sociais, do X e companhia, para garantirem que estas ferramentas travam de raiz estas iniciativas. E é preciso perceber se tecnicamente isto é viável ou não, e o X o fará e o discutirá. Mas não vamos ignorar que na outra ponta e no outro eixo, há pessoas, e estamos a assistir cada vez mais uma degradação do comportamento das pessoas nas redes, que não é propriamente aceitável e não pode ser imputado de uma forma completa só às próprias redes sociais. Isso seria infantilizar e desresponsabilizar pessoas que na maior parte das vezes são supostamente adultas e supostamente responsáveis.

Uma das medidas que está em cima da mesa, de acordo com o Politico, além da imposição de uma mudança no algoritmo, é o fecho do Grok por completo. Isso parece-lhe razoável ou sequer possível de acontecer?

Uma coisa é aquilo que é a amplitude da moldura penal e da moldura sancionatória. E dentro daquilo que é a amplitude da medida sancionatória, pode haver, por exemplo, uma suspensão até que o X demonstre que consegue tutelar adequadamente os resultados deste tipo de deepfakes, ou pode passar, por exemplo, por desativar esta funcionalidade no X enquanto ela não estiver madura. Esta ideia que também qualquer ferramenta pode ser lançada a título experimental enquanto ela não está madura, não é aceitável. Se neste momento o X não consegue garantir que estas coisas funcionam E utiliza casos reais de uma forma experimental para melhorar a sua tecnologia, tem muito que se lhe diga. Parte da moldura pode passar por aí. Vai depender muito também da capacidade que o X possa ter de demonstrar que consegue introduzir limitações, porque estamos aqui a falar, sobretudo, de limitações à própria inteligência artificial. Grande parte do problema da inteligência artificial é que ela tem um enorme potencial, mas que depois precisa de ser limada, apurada, e muito disso passa por retirar potência ao próprio LLM que trata destes temas para garantir que ele certo tipo de coisas detecta e não faz. E nós temos assistido a inúmeras, que nós chamamos em inglês de guardrails, as limitações do potencial da inteligência artificial para impedir certo tipo de resultados e muito disso tem sido feito em cima da experiência. As coisas correm mal e vão lá e corrige-se. E o que é preciso também é perceber se o X tem essa capacidade de rapidamente endereçar uma solução que trave este problema, ou se ela está ainda com uma tecnologia de tal maneira imatura que todos nós estamos a ser uma espécie de ratinhos da Índia, como cobaias para melhorar o seu próprio algoritmo em tempo real, que é uma coisa que não é propriamente aceitável, dada até a extensão dos danos que o Grok e o X têm vindo a causar em situações em concreto, como aquelas que descreveu, que são números muito elevados. Muita dessa discussão passa por aí. Numa segunda dimensão, não podemos ignorar que há uma guerra cultural entre a Europa e estes fabricantes de tecnologia sobre a forma como a inteligência artificial deve ser desenvolvida e implementada. E há uma certa visão que entende que tudo que seja criar dificuldades regulatórias a estas ferramentas são traves ao progresso. Essa é uma linha, e é uma linha do senhor Musk e de outros. Depois, há pessoas na Europa que entendem que a tecnologia e a inovação são fantásticas, mas que ela tem que ter aqui uma mediação legal que garanta que coisas fundamentais, como por exemplo, aquelas que referiu, direitos fundamentais à nossa intimidade, à nossa reserva da vida privada, não podem ser terraplanadas em função do progresso. E é isso que está a discutir-se. E isto é uma boa lição para todos aqueles que acham constantemente que a tecnologia devem ser bombas de Hiroshima e que se for necessário lidarmos com três milhões de mortes, que é o custo do progresso. E na Europa nós entendemos que isso não é bem assim, e estas entidades e estes conflitos resultam dessa grande tensão. A Europa não gosta de redes sociais. A Europa não gosta daquilo que as redes sociais estão a fazer à democracia. A Europa não gosta do que as redes sociais estão a fazer às crianças. E muita desta discussão regulatória passa de uma desconfiança profunda sobre as intenções de quem está a desenvolver estas ferramentas. Estes processos têm, numa primeira instância, a discussão concreta do que está a ser apelado, mas têm depois aqui uma discussão implícita, que é que nós não gostamos assim tanto do que são as consequências destas redes sociais e parte da punição pode passar desta batalha cultural da Europa contra estes grandes players.

Ou seja, este processo faz parte dessa guerra cultural.

Faz parte dessa guerra cultural, que tem depois ferramentas jurídicas e armas de arremesso que visam, pelo menos, disciplinar estruturalmente o desenho destas ferramentas que os fabricantes não se preocupam em salvaguardar. Há uma forma de sancionar, que é com multas de valores, que são sempre valores considerados excessivos, mas que é a única forma que nós temos de conseguir que quem desenvolve estas ferramentas não se preocupe apenas e só em sugar e lançar dopamina, mas também se preocupe em conseguir ter resultados que minimizem os danos, porque o que nós verificamos é que muitas destas ferramentas não têm ABS, não têm travões, não têm cinto de segurança e é considerado tudo ótimo desde que o carro ande a 200. E isso não é saudável, como todos temos percebido, porque começamos agora a lidar com os danos destas ferramentas e os danos são brutais.