A ferramenta de inteligência artificial Grok vai deixar de permitir editar fotografias de pessoas reais retirando-lhes a roupa ou trocando-a por roupa mais reveladora. A notícia surge no mesmo dia em que foi conhecida a abertura de uma investigação devido à proliferação online de imagens de mulheres e crianças nuas geradas com o Grok, assistente de inteligência artificial (IA) criado pela empresa de Elon Musk.
“Implementámos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis. Esta restrição aplica-se a todos os utilizadores, incluindo assinantes pagos”, lê-se num anúncio no X, que opera esta ferramenta, escreve a BBC.
A mudança foi anunciada horas depois de o procurador-geral da Califórnia ter anunciado que estava a investigar a disseminação de deepfakes sexualizados gerados por IA, incluindo de crianças, produzidos pelo modelo de IA. O procurador acusou a xAI de ter divulgado a capacidade de despir pessoas “como uma ferramenta de marketing, o que, previsivelmente, levou à proliferação de conteúdos sexualizados sem o consentimento dos indivíduos envolvidos”.
Já na semana passada, uma análise conduzida pela organização não-governamental (ONG) AI Forensics a mais de 20 mil imagens geradas pelo Grok concluiu que mais de metade retratava indivíduos com pouca roupa — 81% dos quais eram mulheres e 2% dos quais pareciam ser menores de idade.
