O agente de Inteligência Artificial (IA) da rede social X, Grok, reconheceu esta sexta-feira que foram publicadas na sua plataforma imagens sexuais de menores, utilizando aquela tecnologia, e admitiu ser um crime.

Grok adiantou estar a trabalhar num acordo, dado que poderá enfrentar punição nos Estados Unidos se não tomar medidas.

Respondendo a um relatório de um caso envolvendo um menor, Grok disse que tinha “identificado falhas nas salvaguardas” do X e que iria “corrigi-las urgentemente”, declarou que “o material de abuso sexual infantil (CSAM) é ilegal e proibido” e afirmou que a xAI, a sua empresa, está “comprometida em evitar estes problemas.”

Noutra resposta, refere que, ao abrigo da lei federal dos EUA e outras regras, “uma empresa pode enfrentar penalizações criminais ou civis se facilitar conscientemente, ou não impedir o CSAM gerado por IA após ser alertada”, acrescentando que as consequências variam segundo a jurisdição ou as provas de inação.

A mensagem surge após denúncias de que os assinantes do X Premium estão a usar a IA da Grok para gerar imagens não consensuais de pessoas — na sua maioria mulheres — de biquíni ou roupa interior, uma tendência preocupante, o que levou utilizadores de todo o mundo a pedir uma maior restrição da ferramenta e a eliminação do conteúdo gerado.

Na quinta-feira, Grok respondeu, num tom menos grave, a essas denúncias sobre imagens de IA de mulheres de biquíni ou pouca roupa, explicando que “há casos isolados em que os utilizadores pediram e receberam imagens de IA retratando menores com roupa mínima” e que “a xAI tem salvaguardas, mas estão em curso melhorias para bloquear completamente essas solicitações”.

O magnata Elon Musk, proprietário da plataforma, minimizou as denúncias na quinta-feira, ao publicar uma foto sua de biquíni, depois de pedir à Grok para modificar uma imagem gerada por IA de outra pessoa deste tipo para que se parecesse com ele, pedido que a ferramenta executou sem problemas, e comentou: “Perfeito”.

Por seu lado, o Governo francês anunciou esta sexta-feira que apresentou uma queixa junto da Justiça e do organismo de verificação de conteúdos ilícitos online Pharos contra a inteligência generativa Grok da rede social X por criar e divulgar “conteúdos de caráter sexista e sexual”.

Num comunicado, os ministros da Economia, Roland Lescure; da Inteligência Artificial e Economia Digital, Anne Le Henanff; e da Igualdade entre Homens e Mulheres, Aurore Bergé, indicaram que dão este passo amparando-se no artigo 40 do Código Penal. E fazem-no porque dizem que “nestes últimos dias” Grok permitiu gerar e divulgar “conteúdos de caráter sexista e sexual, em particular na forma de vídeos falsos (deepfakes) com pessoas, sem o seu consentimento”.