A Comissão Europeia anunciou esta segunda-feira uma investigação ao Grok, a ferramenta de inteligência artificial da rede social X, por disseminação de imagens sexualmente explícitas manipuladas na União Europeia (UE), incluindo conteúdos que possam constituir abuso sexual de menores.
Em comunicado, o executivo comunitário dá conta de uma nova investigação formal contra o X, ao abrigo da Lei dos Serviços Digitais (DSA, na sigla em inglês), para “avaliar se a empresa avaliou e mitigou adequadamente os riscos associados à implementação das funcionalidades do Grok […] na UE”.
“Estes riscos incluem a disseminação de conteúdos ilegais na UE, como imagens sexualmente explícitas manipuladas, incluindo conteúdos que possam constituir material de abuso sexual de menores”, revela a instituição, acusando o X de “expor os cidadãos da União a danos graves”.
Em comunicado, Henna Virkkunen, vice-presidente executiva para a soberania tecnológica, segurança e democracia, afirma que “os deepfakes [imagens manipuladas através de IA] sexuais de mulheres e crianças são violentos, inaceitáveis e uma forma de degradação”. “Com esta investigação, vamos apurar se o X tem cumprido com as suas obrigações legais ao abrigo do DSA [Lei dos Serviços Digitais] ou se está a ameaçar os direitos dos cidadãos europeus — incluindo os direitos das mulheres e crianças — um dano colateral deste serviço.”
A Comissão Europeia pretende investigar se o X está “a agir de forma diligente para avaliar e mitigar riscos sistémicos”, incluindo aqueles que possam ter “efeitos negativos em relação a violência baseada em género ou consequências negativas sérias para o bem-estar físico e mental” dos utilizadores. A investigação também pretende verificar se foi feito e enviado à Comissão Europeia “um relatório ad hoc de avaliação de risco das funcionalidades do Grok no serviço X com impacto crítico no perfil de risco do X antes da sua implementação”.
A Comissão explica que irá agora recolher mais informação, por exemplo através de pedidos de informação ao X, e também fazer “entrevistas e inspeções” sobre o tema. Admite a possibilidade de “impor medidas interinas na ausência de ajustes significativos ao serviço do X”.
Bruxelas já fez mais investigações ao X. Em dezembro de 2023, também no âmbito do DSA, abriu uma investigação à empresa para perceber se estavam a ser “avaliados e mitigados” os riscos nos sistemas de recomendação.
Já em dezembro do ano passado, a Comissão Europeia aplicou uma multa de 120 milhões de euros ao X, após considerar que a empresa estava a violar a lei comunitária. Na altura, Bruxelas considerou que a empresa tinha um “design enganador” com o visto azul e também “falta de transparência no repositório de publicidade”.
O Grok, o serviço de IA do X, foi implementado em 2024 na rede social controlada por Elon Musk. Um dos exemplos mais frequentes de uso do Grok passa pelas interações com as publicações dos utilizadores e pela ferramenta de geração de imagens.
Como é que o Grok, chatbot de Elon Musk, aprendeu a elogiar Hitler?
Após terem sido lançados alertas sobre as consequências desta funcionalidade do Grok, a própria rede social anunciou a 15 de janeiro a retirada desta funcionalidade que permite “despir” pessoas em fotografias.
“Implementámos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis. Esta restrição aplica-se a todos os utilizadores, incluindo assinantes pagos”, anunciou a empresa.
Rede social X vai impedir Grok de “despir” pessoas reais em fotografias
