820kWh poupados com a
i

A opção Dark Mode permite-lhe poupar até 30% de bateria.

Reduza a sua pegada ecológica.
Saiba mais

This photo illustration created on July 18, 2023, in Washington, DC, shows an advertisement to create AI girls reflected in a public service announcement issued by the FBI regarding malicious actors manipulating photos and videos to create explicit content and sextortion schemes. Photo apps digitally undressing women, sexualized text-to-image prompts creating "AI girls" and manipulated images fuelling "sextortion" rackets -- a boom in deepfake porn is outpacing US and European efforts to regulate the technology. (Photo by Stefani REYNOLDS / AFP) (Photo by STEFANI REYNOLDS/AFP via Getty Images)
i

Em julho, o FBI divulgou um aviso sobre a utilização de sistemas de inteligência artificial para manipular imagens de mulheres com conteúdos explícitos

AFP via Getty Images

Em julho, o FBI divulgou um aviso sobre a utilização de sistemas de inteligência artificial para manipular imagens de mulheres com conteúdos explícitos

AFP via Getty Images

Lei não está preparada para a manipulação de imagens por IA. E quem mais sofre são as mulheres

21 jovens despidas com recurso à inteligência artificial colocaram Almendralejo no mapa e a legislação sobre manipulação de imagens no centro da discussão. Legisladores são mais lentos que tecnologia.

“Despe qualquer rapariga de borla.”

“Despe quem tu quiseres com o nosso serviço gratuito.”

“Temos a inteligência artificial mais poderosa de ‘deepfake’, poderás ver despida qualquer rapariga com apenas um clique.”

As aplicações estão disponíveis na internet, apresentam-se como ferramentas de edição de imagem e alegam que servem para alterar fotografias de qualquer pessoa, mas o mote e a imagem de exemplo sugere que se usem em fotografias de mulheres e raparigas — ao entrar nas páginas depara-se imediatamente com um cursor que se move automaticamente para baixo e para cima, despindo e vestindo uma figura feminina. Se as plataformas alegam, nos termos de utilização, não compactuar com atos ilícitos, as páginas de abertura configuram precisamente o contrário.

Foi uma aplicação deste tipo que usaram os jovens de Almendralejo para manipular as fotografias de raparigas do município espanhol da província de Badajoz, um caso que foi notícia em todo o mundo, apesar de estar longe de ter sido o primeiro. A primeira fase da investigação identificou 10 jovens responsáveis (agora são já 26) por criar, deter e/ou difundir as fotografias manipuladas de, pelo menos, 21 raparigas entre os 11 e os 17 anos. Os nus não são reais — as raparigas tinham roupa nas fotos originais —, mas as aplicações conseguem criar representações tão realistas que surpreenderam até as famílias das vítimas.

Espanha. Fotografias manipuladas por inteligência artificial mostram alunas nuas

PUB • CONTINUE A LER A SEGUIR

À luz da legislação espanhola, mas também da portuguesa, a divulgação de imagens de menores de 18 anos nuas, reais ou fictícias, pode vir a configurar um crime de pornografia infantil. “Sendo um crime público, estes casos podem ser denunciados a qualquer órgão de polícia criminal”, segundo resposta oficial do Centro Nacional de Cibersegurança (CNCS), em Portugal, ao Observador. A instituição apela também à ajuda da comunidade na identificação destas situações. Mas provar que se trata de “pornografia infantil”, que houve esse ato explícito, pode não ser assim tão linear.

A legislação nacional, espanhola, noutros países europeus e até nos Estados Unidos, está claramente atrasada em relação aos avanços da tecnologia e aos riscos que a inteligência artificial — nomeadamente, através de vídeos e fotografias manipulados — podem causar aos cidadãos (em particular mulheres e crianças). “Estamos num terreno em que as leis são dobradas até ao ponto de rutura”, disse Honza Červenka, solicitador na empresa especializada em imagens não-consentidas, McAllister Olivarius, citado pela Wired. “Quanto mais tempo durar este vazio regulamentar, mais iniciativas como esta ganharão velocidade, industrializar-se-ão e tornar-se-ão mais difíceis de regular numa fase posterior”, disse, em 2021, em relação às plataformas de criação deste tipo de nus falsos.

Lei não está preparada para imagens manipuladas

No caso de Almendralejo, não só as vítimas eram menores, como também os jovens que criaram e começaram a divulgar as fotografias em grupos de WhatsApp: os 26 jovens identificados até ao momento têm entre 11 e 14 anos. Destes, 21 já completaram 14 anos, o que quer dizer que são considerados imputáveis de acordo com a lei espanhola, refere o jornal El País. Ou seja, podem ser punidos por lei.

Em Portugal, por outro lado, “só respondem criminalmente os maiores de 16 anos”, diz ao Observador Susana Aires de Sousa, professora da Faculdade de Direito da Universidade de Coimbra. No caso de menores de 16 anos, os jovens são considerados inimputáveis, ou seja, “a crianças com menos de 16 anos não é legalmente permitido imputar responsabilidade pela prática de crimes”, esclarece fonte oficial do Gabinete de Cibercrime do Ministério Público ao Observador. “Não obstante, a prática, por menor com idade compreendida entre os 12 e os 16 anos, de facto qualificado pela lei como crime é suscetível de dar lugar à aplicação de medida tutelar educativa, desde que detetada a existência de necessidades educativas”, acrescenta a mesma fonte. Também em Espanha, os menores de 14 anos devem ser sujeitos a medidas de proteção e educativas.

O que diz o artigo 176.º do Código Penal português

Mostrar Esconder
  1. Quem:
    a) Utilizar menor em espetáculo pornográfico ou o aliciar para esse fim;
    b) Utilizar menor em fotografia, filme ou gravação pornográficos, independentemente do seu suporte, ou o aliciar para esse fim;
    c) Produzir, distribuir, importar, exportar, divulgar, exibir ou ceder, a qualquer título ou por qualquer meio, os materiais previstos na alínea anterior;
    d) Adquirir ou detiver materiais previstos na alínea b) com o propósito de os distribuir, importar, exportar, divulgar, exibir ou ceder;
    é punido com pena de prisão de um a cinco anos.
  2. Quem praticar os atos descritos no número anterior profissionalmente ou com intenção lucrativa é punido com pena de prisão de um a oito anos.
  3. Quem praticar os atos descritos nas alíneas c) e d) do n.º 1 utilizando material pornográfico com representação realista de menor é punido com pena de prisão até dois anos.
  4. Quem adquirir ou detiver os materiais previstos na alínea b) do n.º 1 é punido com pena de prisão até um ano ou com pena de multa.
  5. A tentativa é punível.

“Produzir, distribuir, importar, exportar, divulgar, exibir ou ceder, a qualquer título ou por qualquer meio”, “fotografia, filme ou gravação pornográficos”, “com representação realista de menor é punido com pena de prisão”, de acordo com o artigo 176.º do Código Penal português. Ou seja, criar e disseminar imagens pornográficas de menores de 18 anos, reais ou manipuladas, que retratem crianças ou jovens reais ou imaginários, é crime. Sim, pornografia com imagens totalmente ficcionadas, mas cujas personagens aparentem ter menos de 18 anos, é considerado crime à luz do direito português.

Tal como acontece na legislação espanhola, pode acontecer que nem todas as fotografias que representem nudez, ainda que de menores, sejam consideradas pornografia, alerta Susana Aires de Sousa. Mas o Gabinete de Cibercrime lembra que o Código Penal considera pornográfico “todo o material que, com fins sexuais, represente menores envolvidos em comportamentos sexualmente explícitos, reais ou simulados, ou contenha qualquer representação dos seus órgãos sexuais ou de outra parte do seu corpo“. Quer sejam ou não consideradas pornografia à luz da lei, a divulgação destas imagens (ainda que falsas) tem um impacto tremendo nas vítimas, que se sentem envergonhadas, violentadas, traídas e até culpadas — mesmo não tendo feito nada de errado. Muitas sofrem em silêncio, como terá sido o caso de algumas menores de Almendralejo que estiveram meses sem dizer aos pais e a sofrer frente aos colegas.

Espanha. 22 vítimas e 10 identificados no caso das fotos falsas de menores nuas: “Há raparigas a sofrer em silêncio desde junho”

A legislação portuguesa (e espanhola) prevê alguns tipos penais associados à partilha de imagens, como os crimes contra a honra ou contra a reserva da vida privada, mas, realça Susana Aires de Sousa, estes crimes pressupõem a utilização de fotografias reais, havendo uma lacuna na lei sobre o que fazer em relação às fotografias manipuladas, seja por inteligência artificial ou por qualquer outra forma. “Como é gerado por deepfake, a privacidade real da pessoa em questão não é afetada. O efeito que tem (na vítima) pode ser muito semelhante a uma foto real de nudez, mas a lei está um passo atrás”, disse Manuel Cancio, professor de Direito Criminal na Universidade Autónoma de Madrid, à EuroNews.

De facto, na lei portuguesa, só o artigo sobre pornografia infantil inclui a possibilidade de “representações realistas”, ainda que falsas. Ficando de fora a manipulação de fotografias não pornográficas e a manipulação de imagem, ainda que de conteúdo pornográfico, de adultos. A manipulação de imagens para a “pornografia de vingança”, que afeta mais as mulheres, é mais uma das situações em que a lei não acompanhou a tecnologia e não está preparada para proteger verdadeiramente as vítimas.

"A pornografia deepfake é um fenómeno que atinge e prejudica exclusivamente mulheres."
Deeptrace (2019). "The state of deepfakes - landscape, threats, and impact"

O crime de devassa da vida privada pressupõe que as imagens, por exemplo, sejam captadas em contexto de intimidade (familiar ou sexual) ou num espaço que não seja público, de acordo com o artigo 192.º do Código Penal. Mas as fotografias partilhadas nas redes sociais pelos próprios, dificilmente se podem considerar privadas — ainda que seja um tema em constante discussão. Em Almendralejo, as fotografias das raparigas usadas para manipulação foram retiradas dos perfis das redes sociais — mas até poderiam ser fotografias de grupo, tiradas em contexto escolar, e disponibilizadas a todos os colegas.

O crime, aqui, poderia ter outra configuração e estar relacionado com fotografias ilícitas. Não que as fotografias retiradas das redes sociais tenham sido obtidas de forma ilícita, mas a utilização que lhe foi dada — a manipulação em imagens desnudas — foi contra a vontade das vítimas, conforme o ponto 2 do artigo 199.º do Código Penal. “Mesmo que a fotografia seja licitamente obtida — por exemplo, porque o próprio a disponibilizou numa rede social —, ainda assim, é crime utilizá-la, contra a vontade da pessoa em causa”, confirma fonte oficial do Gabinete de Cibercrime ao Observador.

Outro dos tipos penais que se podem considerar numa situação deste tipo, tanto em Portugal como em Espanha, são as ofensas à honra, considerando, por exemplo, que as imagens se tratam de uma injúria ou, até, de difamação. Mais uma vez, é preciso perceber se as fotografias manipuladas podem ser consideradas, mas o artigo 182.º do Código Penal prevê que “à difamação e à injúria verbais são equiparadas as feitas por escrito, gestos, imagens ou qualquer outro meio de expressão”.

Susana Aires de Sousa considera, no entanto, que a solução não está em potenciais alterações ao Código Penal, o que é preciso mudar é a regulamentação, as contra-ordenações e o Direito Civil. “Se criarmos boas regras de utilização, evitamos ter de penalizar”, diz ao Observador. “A resposta está antes das medidas sancionatórias, é preciso ter claro o que se pode e o que não se pode fazer.”

Parlamento Europeu dá luz verde às regras para a IA. Legislação vai “definir os próximos anos”, diz Metsola

A União Europeia tem trabalhado na primeira legislação dirigida à inteligência artificial e quer estabelecer uma série de obrigações e deveres para as empresas de desenvolvam, forneçam ou utilizem sistemas de inteligência artificial consoante o risco envolvido, nomeadamente se podem pôr em risco os direitos fundamentais dos cidadãos. Se os sistemas representarem um nível de risco mais elevado podem vir a ser proibidos. Como a tecnologia vai avançar mais rapidamente do que os legisladores, o regulamento europeu já prevê a inclusão de novidades e sistemas que surjam depois do regulamento ter sido criado, acrescenta Susana Aires de Sousa.

As plataformas descartam-se de responsabilidades

A ser provado um crime, em particular o de pornografia infantil, poderia responsabilizar-se também quem está a facilitar a prática desse crime. Mas facilitar o acesso a plataformas que permitem manipular fotografias e despir pessoas não chega para se provar que se está a facilitar a prática do crime, alerta Susana Aires de Sousa. A especialista em ciências jurídico-criminais destaca também as dificuldades de uma investigação deste tipo, a começar pela identificação dos responsáveis pela plataforma.

A revista Wired, num artigo de 2021, apontava um outro problema: estas plataformas multiplicam-se, cedem direitos e ‘conversam’ através das interfaces de programação de aplicações. De forma simplificada, é como se dessem origem a clones. De facto, a apresentação do site, frases usadas, política de privacidade e termos de utilização entre vários destes sites analisados pelo Observador parecem tirados a papel químico — ou, melhor dizendo, copy/paste.

A vantagem desta partilha para os criadores é que mesmo que uma plataforma seja denunciada, como aconteceu com a aplicação retratada pela Wired — que a revista escolheu não nomear para não contribuir para a sua amplificação —, as outras podem continuar com a sua atividade. Com tentáculos espalhados por vários cantos da internet, é mais difícil identificar e travar todas ramificações.

Depois, as plataformas tentam auto-excluir-se de qualquer potencial consequência. Nos termos de utilização publicados pretendem isentar a aplicação de qualquer responsabilidade ao dizer que se destinam a maiores de idade e só devem utilizá-las pessoas nestas condições. Mas, como se percebeu, as aplicações podem ser acedidas e utilizadas facilmente por menores de 14 anos.

Para usar o nosso site, deve ter pelo menos 18 anos de idade ou ter permissão de um dos pais ou responsável legal. Se tiver menos de 13 anos de idade, não tem permissão para usar o nosso site”, lê-se no site alegadamente utilizado pelos jovens de Almendralejo. “Ao utilizares o nosso site, declaras e garantes que cumpres com os requisitos de idade”, lê-se numa outra plataforma.

Os sites indicam que os utilizadores são os únicos responsáveis pelas imagens produzidas e que estas não podem violar direitos de autor, não podem ser ilegais, nem servir para assediar outras pessoas. Uma das plataformas refere mesmo que pode denunciar os utilizadores às autoridades competentes. “Não podes usar o nosso site para criar imagens de pessoas sem o seu consentimento e de pessoas que não sejam adultas”, lê-se num site que também diz proibir “a criação de imagens que tenham conteúdos ilegais, ofensivos ou explícitos”.

Os criadores destas plataformas podem alegar que as ferramentas não foram criadas para prejudicar ninguém, mas é isso que está a acontecer. “Ninguém pensou que ao disponibilizar aplicações básicas inteligência artificial generativa para uso universal isso significaria que muitas pessoas a usariam para fazer o mal, para humilhar, irritar ou insultar”, critica Paloma Llaneza, advogada e especialista em aspetos legais e de regulação da internet, num artigo publicado pelo Science Media Center Espanha. A diretora executiva da consultora tecnológica Razona Legaltech defende que estas ferramentas não deveriam estar ao alcance de qualquer pessoa.

Ricard Martínez, professor de Direito Constitucional na Universidade de Valência e diretor da Cátedra Microsoft de Privacidade e Transformação Digital, também responsabiliza as plataformas: “Que esforço fizeram para validar a idade da pessoa que usa o software? Como garantiram que a pessoa que estava a usar a imagem tinha direitos sobre ela? Qualquer pessoa pode recorrer à plataforma para fazer o que lhe der na gana?”. O professor defende que se lance uma mensagem política e jurídica exemplar, conforme disse ao jornal El Mundo.

As mulheres são o principal alvo das imagens manipuladas não consentidas

Tornou-se claro, desde o aparecimento das plataformas de edição de imagem baseadas em inteligência artificial em 2017, que seriam fácil e prontamente usadas para criarem imagens não consentidas e conteúdos explícitos, agravando a pornografia de vingança e o ciberbullying, e causando danos graves (mas subvalorizados) sobretudo a mulheres e raparigas.

O que são 'deepfake'?

Mostrar Esconder

O termo deepfake foi usado pela primeira vez por um utilizador do Reddit que, em novembro de 2017, criou um fórum dedicado à criação e uso de software de aprendizagem profunda (deep learning) para manipular imagens e trocar os rostos de celebridades femininas em vídeos pornográficos.

O código que permitia fazer estas trocas de rostos foi disponibilizado de forma aberta, colocado no Github e, a partir daí, modificado e desenvolvido a um ritmo vertiginoso. A criação de deepfake deixou de ser algum exclusivo de programadores ou pessoas com conhecimentos profundos em informática, para estar acessível a qualquer pessoa.

"The state of deepfakes - landscape, threats, and impact", Deeptrace

Em 2019, 96% dos vídeos deepfake online eram pornográficos e a “pornografia deepfake é um fenómeno que exclusivamente atinge e prejudica mulheres“, segundo um relatório publicado pela empresa de cibersegurança sediada em Amesterdão Deeptrace (agora, Sensity). A empresa, que analisou uma das plataformas em particular, realça que, uma vez que foi lançada, saiu do controlo dos seus criadores. “O software vai, provavelmente, continuar a espalhar-se e a sofrer mutações como um vírus, fazendo com que uma ferramenta popular para criação de pornografia deepfake não-consensual de mulheres seja facilmente acessível e difícil de conter.”

Os especialistas reforçam o risco de assédio e violência sexual, sobretudo contra mulheres. “As pessoas que desenvolvem estas tecnologias não pensam nisso do ponto de vista de uma mulher que foi vítima de pornografia não consensual ou que sofreu assédio online”, disse Hany Farid, professor na Universidade da Califórnia e especialista na análise de imagens digitais, citado pelo The Washigton Post. “Temos um monte de tipos brancos sentados, tipo: ‘Hey, vejam isto!’.”

"A consciência da gravidade da produção e disseminação deste tipo de imagens e vídeos de menores é da maior importância, pois ajudará na intervenção rápida para travar, o mais possível, a disseminação como também para fazer chegar ajuda às vítimas."
Centro Nacional de Cibersegurança

Em Almendralejo, as vítimas conhecidas também são todas raparigas. O caso tornou-se público depois de Míriam Al Adib, ginecologista na povoação e mãe de uma das vítimas, ter divulgado um vídeo no Instagram a explicar o que se passava e a pedir para que nenhuma menina tivesse vergonha de denunciar a situação. Mas havia raparigas a sofrer em silêncio desde o início do verão, quando começaram a circular as imagens manipuladas.

Num dos comentários ao vídeo, uma utilizadora contou que tinha acontecido o mesmo em Ayamonte (do outro lado do rio Guadiana, junto a Vila Real de Santo António): “Um rapaz dedicou-se a fazer nus de metade das raparigas da cidade com uma app. Foram afetadas raparigas dos dois liceus de Ayamonte”. O jornal El Mundo reportou uma situação semelhante em Alcalá de Henares, junto a Madrid.

O Centro Nacional de Cibersegurança (CNCS) respondeu ao Observador que, até ao momento, “não recebeu qualquer notificação sobre fotografias manipuladas” em Portugal. O Observador contactou também a Polícia Judiciária, mas até à publicação deste artigo não teve resposta.

Tal como defendeu Míriam Al Adib no vídeo, o CNCS aconselha que estas situações sejam denunciadas, quer através da Linha Internet Segura (800 21 90 90 ou linhainternetsegura@apav.pt, da APAV – Associação Portuguesa de Apoio à Vítima), quer às autoridades competentes, como a Polícia Judiciária. “A consciência da gravidade da produção e disseminação deste tipo de imagens e vídeos de menores é da maior importância, pois ajudará na intervenção rápida para travar, o mais possível, a disseminação como também para fazer chegar ajuda às vítimas”, acrescentou a resposta oficial do CNCS, que trabalha em articulação com a Linha Internet Segura e APAV no âmbito do Centro Internet Segura.

O que fazer se receber um contacto abusivo online?

Mostrar Esconder

A Linha Internet Segura, a Associação Portuguesa de Apoio à Vítima (APAV) e o CNCS aconselham:

  • Não efetuar qualquer pagamento;
  • Cessar de imediato a comunicação com o agressor, não fornecendo quaisquer informações adicionais sobre si, nem partilhando conteúdos de qualquer natureza ou formato;
  • Tornar os perfis nas redes sociais privados e fazer uma revisão das definições de privacidade e segurança;
  • Considerar alterar o nome do perfil e tirar todos os perfis que não conhece da sua rede;
  • Guardar mensagens, informações, conteúdos e outros dados que possam identificar o possível autor e que sejam meio de prova.

CNCS

No vídeo que esta quarta-feira tinha já mais de 190 mil visualizações, Míriam Al Adib também se dirigiu aos jovens que criaram e divulgaram as imagens, inicialmente num grupo de WhatsApp: “Não têm consciência do mal que fizeram; se tivessem, não o teriam feito. Nem têm consciência do crime que cometeram. Se fizeram upload de alguma coisa, podem retirá-la; quanto mais depressa o fizerem, melhor”. Apesar de a produção e partilha de imagens poder configurar um crime, Míriam e o marido, José Ramón Paredes (que falou com o Observador), não pedem penas efetivas para os jovens que o fizeram, defendem antes medidas de consciencialização.

O problema, defendem os especialistas, é que os jovens que cresceram com acesso facilitado à tecnologia e à pornografia não têm consciência dos limites entre o que é uma brincadeira e o que causa dano, entre o que se vê nos filmes pornográficos e o que aceitável na vida real. “Acho que [os autores das imagens manipuladas] não perceberam o alcance das suas ações porque não têm uma formação adequada. O problema que temos com nossos filhos é que eles têm que ser formados em tecnologia”, disse Óscar Cordón, professor no departamento de Ciências da Computação e Inteligência Artificial na Universidade de Granada, citado pelo jornal El Mundo. Precisam de lições de ética e do impacto da internet, não de tutoriais.

 
FLASH SALE
Assine o Observador a partir de 0,12€/ dia

Não é só para chegar ao fim deste artigo:

  • Leitura sem limites, em qualquer dispositivo
  • Menos publicidade
  • Desconto na Academia Observador
  • Desconto na revista best-of
  • Newsletter exclusiva
  • Conversas com jornalistas exclusivas
  • Oferta de artigos
  • Participação nos comentários

Apoie agora o jornalismo independente

Ver planos

Oferta limitada

Apoio ao cliente | Já é assinante? Faça logout e inicie sessão na conta com a qual tem uma assinatura

Ofereça este artigo a um amigo

Enquanto assinante, tem para partilhar este mês.

A enviar artigo...

Artigo oferecido com sucesso

Ainda tem para partilhar este mês.

O seu amigo vai receber, nos próximos minutos, um e-mail com uma ligação para ler este artigo gratuitamente.

Ofereça artigos por mês ao ser assinante do Observador

Partilhe os seus artigos preferidos com os seus amigos.
Quem recebe só precisa de iniciar a sessão na conta Observador e poderá ler o artigo, mesmo que não seja assinante.

Este artigo foi-lhe oferecido pelo nosso assinante . Assine o Observador hoje, e tenha acesso ilimitado a todo o nosso conteúdo. Veja aqui as suas opções.

Atingiu o limite de artigos que pode oferecer

Já ofereceu artigos este mês.
A partir de 1 de poderá oferecer mais artigos aos seus amigos.

Aconteceu um erro

Por favor tente mais tarde.

Atenção

Para ler este artigo grátis, registe-se gratuitamente no Observador com o mesmo email com o qual recebeu esta oferta.

Caso já tenha uma conta, faça login aqui.

FLASH SALE - Assine o Observador
a partir de 0,12€/ dia
FLASH SALE Assine o Observador
a partir de 0,12€/ dia
*exclusiva para novos assinantes