“Vão ser enviadas para a tua família. Amigos. Patrocinadores. E para a cidade do teu hotel. A não ser que façamos um acordo agora.”

A ameaça chegou por mensagens enviadas através do WhatsApp, em inglês, no dia 17 de novembro e fazia-se acompanhar por fotografias íntimas que não deveriam existir — e que, na realidade, não existiam mesmo. O número era desconhecido, com um indicativo estrangeiro. “Recebi as ‘minhas’ fotos nua. Digo ‘minhas’ porque não sou eu nas imagens”, denunciou a surfista portuguesa Mariana Rocha Assis numa publicação partilhada há duas semanas nas redes sociais. As imagens, em que apenas o seu rosto era verdadeiro, tinham sido manipuladas com recurso a inteligência artificial e espantaram a própria, dado o nível de realismo. “Tenho de dizer-vos. Juro que pareciam reais”, explicou a jovem num post no Instagram, em que contava como lhe exigiram 5 mil dólares para não divulgarem as fotografias manipuladas.

O caso, admitia Mariana Rocha Assis, não seria único. E esse foi o motivo para fazer aquela publicação. “Acredito que há mais vítimas que, como eu, estão a sofrer este tipo de assédio. Há muita conversa sobre como as coisas evoluíram. Hoje vi o lado negro deste mundo assustador (…). O mais assustador é que está a acontecer a muitas pessoas”, afirmava a surfista. As reações e comentários à publicação refletiam isso mesmo: “Aconteceu ao meu irmão recentemente e deixaram-no em paz porque não reagiu”; “sempre tive conta pública e esta semana roubaram as minhas imagens e perfil para criar uma conta de IG falsa com link para site de por***fia”; “já aconteceu a duas pessoas próximas, foram vítimas de extorsão e até conseguirem resolver a situação existe o fator psicológico”.

Ao Observador, o Ministério Público refere que há uma “clara perceção” de que as situações ligadas a participações em que se relata violação da privacidade e divulgação online de dados pessoais “tem vindo a ocorrer com crescente frequência“. Do mesmo modo, a Associação Portuguesa de Apoio à Vítima (APAV) reconhece que têm chegado vários casos semelhantes ao denunciado pela surfista portuguesa. “Antes, acontecia muito pessoas a denunciarem coisas que viram, por exemplo, no Telegram ou numa plataforma semelhante. Agora, já temos mais contactos diretamente das vítimas ou de pessoas próximas das vítimas que sinalizam o caso e pedem ajuda”, relata Carolina Soares, gestora da Linha Internet Segura da APAV.

Estas imagens e vídeos gerados com Inteligência Artificial são conhecidos como deep fakes (em português, pode traduzir-se como hiperfalsificação) e retratam algo que não existe ou nunca aconteceu — cria-se pornografia falsa, manipulam-se discursos políticos e colocam-se famosos a cantar músicas em vídeos que os próprios nunca gravaram. Em 2019, 96% dos vídeos deep fake online eram pornográficos, segundo um relatório publicado pela empresa de cibersegurança sediada em Amesterdão Deeptrace (agora, Sensity).

Não são um fenómeno recente, mas com a evolução tecnológica os conteúdos estão a tornar-se cada vez mais realistas, sendo a sua criação facilitada pelo crescente acesso a aplicações que permitem, muitas vezes de forma gratuita e rápida, a manipulação. Afetam sobretudo mulheres e, em várias situações, menores. Exemplo disso é um recente caso denunciado em Espanha, em que 22 adolescentes de pelo menos cinco escolas secundárias de Almendralejo se depararam elas próprias ou foram confrontadas por colegas com fotos do seu rosto em corpos nus falsos.

Espanha. 22 vítimas e 10 identificados no caso das fotos falsas de menores nuas: “Há raparigas a sofrer em silêncio desde junho”

Apesar do aumento do número de casos denunciados, a legislação portuguesa não contempla diretamente a questão das deep fakes. Para estes casos, são usadas as tipificações legais que já existem e que, não tendo sido pensadas para estes cenários concretos, procuram dar-lhe resposta, segundo explica o advogado Paulo Saragoça da Matta ao Observador. O especialista em direito penal defende, no entanto, que uma mudança da legislação é mais que necessária e, a verificar-se, já viria com atraso. Sobre uma eventual alteração, os partidos com representação parlamentar ouvidos pelo Observador mostram-se favoráveis, ainda que em diferentes níveis de atuação.

Há falta de estatísticas, mas denúncias estão a aumentar

Está em crescendo. Esta é a perceção do Ministério Público sobre a tendência de casos em que se relata violação da privacidade e divulgação online de dados pessoais, ainda que não existam estatísticas sobre o número de casos que envolvem manipulação de imagens que foram recebidos ou que estão a ser investigados em Portugal. Isto acontece uma vez que se trata de “fenómenos criminais e não [correspondem a] tipos de crime específicos”, esclarece o MP.

“Consoante as circunstâncias do caso concreto, aqueles fenómenos — que podem ocorrer no âmbito do designado revenge porn (pornografia de vingança) ou sextorsion [extorsão com recurso a conteúdos sexuais] — podem traduzir a prática de crimes de fotografias ilícitas, devassa da vida privada, mas também de pornografia infantil, ameaça, coação ou até mesmo extorsão, podendo ainda surgir em contexto de violência doméstica. Assim, e sendo os inquéritos registados por tipo de crime, não é possível fornecer estatísticas com essa especificidade“, refere o MP numa resposta escrita ao Observador. Entre as denúncias recebidas diretamente no Gabinete de Cibercrime e, depois, encaminhadas por este gabinete para investigação pelos serviços do Ministério Público, “têm surgido participações em que se relata violação da privacidade e divulgação online de dados pessoais (ou fotografias)”.

Num relatório do gabinete de cibercrime divulgado em 2023 sobre as denúncias recebidas nos primeiros seis meses já se traçava esse cenário: “Continuaram a ser recebidas, como tem ocorrido desde 2016, denúncias em que se relata violação da privacidade e divulgação online de dados pessoais“, incluindo “situações de uso não autorizado de fotografias”. O MP esclarece, no entanto, que não é possível afirmar que nessas estatísticas estão a ser incluídos casos em que as fotografias divulgadas sem autorização possam ter sido manipuladas. Esse fenómeno “só nos últimos meses se começou a manifestar com significado, sendo a informação disponível ainda insuscetível de tratamento suficientemente consolidado”.

A divulgação destas imagens e vídeos (ainda que falsos) tem um impacto tremendo nas vítimas, que se sentem envergonhadas, violentadas, traídas e até culpadas. Muitas sofrem em silêncio, como aconteceu no caso das menores de Almendralejo. Durante vários meses, não contaram a ninguém que as suas fotografias tinham sido manipuladas. Esta realidade espelha-se nas denúncias e pedidos de apoio que a APAV tem vindo a receber através da Linha Internet Segura. “Está em crescendo”, sublinha Carolina Soares, gestora da Linha Internet Segura da APAV, referindo que chegam cada vez mais casos vindos diretamente das vítimas.

“Já existia a manipulação de imagens, mas não era tanto no foro de tornar uma imagem que não é íntima numa imagem íntima. Mais recentemente, eu diria, como todos sabemos, a partir da existência de plataformas como o ChatGPT e da sua expansão em termos de volume de utilizadores e depois a proliferação de todas estas plataformas que fazem [esta manipulação] de forma muitas vezes gratuita e bastante rápida, então, aí sim, começou a aumentar”, explica.

A APAV também não consegue disponibilizar estatísticas específicas relativas ao número de casos que tem recebido. Atualmente, na contabilização que faz de situações de partilha de imagens intimas não faz separação entre fotografias verdadeiras, ainda que disseminadas sem consentimento, e imagens que são geradas artificialmente. A associação admite, no entanto, e tendo em conta o aumento de casos, que poderá ser necessário começar a fazê-lo.

Na eventualidade de um contacto abusivo online, a associação presta, se necessário, apoio psicológico, jurídico e social às vítimas. Cada caso é um caso e por isso será sempre tratado de forma diferente atendendo às suas características, sublinha Carolina Soares, acrescentando um conjunto de conselhos que se aplicam em muitas das situações: não efetuar qualquer pagamento; cessar de imediato a comunicação com o agressor; tornar os perfis nas redes sociais privados e fazer uma revisão das definições de privacidade e segurança; considerar alterar o nome do perfil e tirar todos os perfis que não conhece da sua rede. “Existem situações em que a vida da pessoa passa por ter contas públicas, há pessoas que têm lojas, por exemplo, e portanto aquela conta tem necessariamente de estar aberta. Aí, temos de explorar eventualmente a criação de uma segunda conta, a passagem dos contactos, e, mesmo assim, depende muito, lá está, de caso para caso”, reforça.

A associação aconselha também o uso da plataforma StopNCII (Stop Non-Consensual Intermittent Image), da qual é parceira. Permite que as vítimas criem o que designam como hash, uma espécie de impressão digital da imagem ou do vídeo que as pessoas temem vir a ser exposto. A plataforma não fica com os conteúdos, mas mantém um banco destas impressões digitais que depois vão correr nas plataformas parceiras, como é o caso do Facebook e o Instagram.

A plataforma atua em duas frentes. A primeira, de identificação de conteúdos. Caso uma imagem ou vídeo já tenham sido publicados online, vai gerar-se um alerta. Depois disso, e como a plataforma não fica com o banco de conteúdos, um moderador vai verificar se este está realmente a violar os padrões de comunidade e, se for o caso, o conteúdo é eliminado. Na segunda frente, caso alguém esteja a tentar publicar o conteúdo denunciado pela vítima e o hash já esteja no sistema, a publicação fica em pausa até o moderador verificar se é ou não uma imagem íntima. Nesse caso, nem sequer chega a ser possível fazer a publicação. A plataforma pode ser utilizada por pessoas de qualquer país com mais de 18 anos — em dois anos foi utilizada por mais de 182 mil pessoas. Para casos de menores, a APAV aconselha o Take It Down, plataforma que usa exatamente a mesma tecnologia, mas para eliminar conteúdos que envolvam menores de idade.

Além disso, a APAV aconselha sempre a que as vítimas guardem mensagens, informações, conteúdos e outros dados que possam identificar o possível autor e que sejam meio de prova para as autoridades. “Há muitos casos em que as pessoas não estão preparadas para ir à polícia. Independentemente disso, aconselhamos sempre a fazer uma recolha e a fazê-la da forma mais correta possível para garantir que, caso no futuro a pessoa queira apresentar queixa-crime – na maioria dos casos tem seis meses para o fazer – já tem consigo a prova”, explica ainda Carolina Sobral.

A gestora da Linha Internet Segura da APAV reconhece, no entanto, que mesmo existindo a prova digital nem sempre o desfecho conduz ao resultado esperado. “Casos em que alguém é contactado por um número que não conhece, muitas vezes estrangeiro, ou em que as contas que são partilhadas também não são portuguesas, tudo isso dificulta. Até pode ser possível à vítima fazer a queixa-crime e até ter um enquadramento legal que pode ser significativo, mas depois, se não existe arguido, o caso é arquivado”, refere.

Partidos abertos a eventuais alterações legislativas

A legislação portuguesa não contempla diretamente a questão das deep fakes. Consoante o caso, poderá ser enquadrado nos crimes que já se encontram tipificados no Código Penal, nomeadamente no de difamação ou injúria, explica o advogado Saragoça da Matta, notando que estes são crimes com uma pena “levíssima” — três meses e seis meses de prisão, respetivamente, com possibilidade de ser aplicada multa. “Podemos ‘enfiar’ essa situação à martelada, dizendo que alguém afetou a honra, o bom nome ou a consideração da pessoa representada na fotografia. E, fazendo um alargamento, isso tanto pode ser feito por escrito, oralmente ou por qualquer outro meio”, refere Saragoça da Matta.

A partir das características específicas de cada situação podem estar em causa outros tipos de crimes. No caso de as imagens manipuladas terem sido originalmente obtidas através de acesso indevido aos dispositivos da vítima, e não estarem disponíveis numa página pública, por exemplo, isso já cai no âmbito dos crimes informáticos. “Se alguém hackeou o telemóvel temos outro tipo de crime, que é uma pirataria informática. Isso já cai no âmbito dos crimes cibernéticos”, explica. Do mesmo modo, existindo, como em muitas situações que têm sido relatadas, a exigência de um valor monetário para que os conteúdos manipulados não sejam divulgados já se está perante um crime de extorsão. “Há realmente uma realidade falsa, exige-se uma quantia pecuniária, mas em bom rigor continuamos sem ter uma previsão e punição para o ato de mentir e de criar uma falsa realidade“, destaca.

Quando está em causa a manipulação de imagens de um menor, a situação é diferente, como o Observador já tinha explicado perante o caso das 22 adolescentes espanholas cujas fotografias foram alteradas para as mostrarem despidas. É que “produzir, distribuir, importar, exportar, divulgar, exibir ou ceder, a qualquer título ou por qualquer meio (…), fotografia, filme ou gravação pornográficos (…) “com representação realista de menor é punido com pena de prisão”, de acordo com o artigo 176.º do Código Penal português.

Lei não está preparada para a manipulação de imagens por IA. E quem mais sofre são as mulheres

Sobre a necessidade de uma alteração à legislação para lidar diretamente com estas situações, o advogado não tem dúvidas de que o direito “tem de ir atrás da vida” e que já estamos “atrasados”: “Não pode vir a fazer falta, já faz falta”, defende Saragoça da Matta. “Nem sempre o direito pode antecipar a vida. Aliás, não pode. A vida tem muito mais imaginação do que o Direito poderá alguma vez ter. Nós é que, confrontados com uma nova realidade, temos de ser rápidos a legislar para prevenir situações como esta”, sublinha. O advogado tem mais reticências quanto à possibilidade de se restringir a atividade ou se proibir ferramentas através das quais é possível fazer este tipo de manipulação. “A tecnologia, à velocidade a que avança, não permitirá criar um tipo penal para cada aplicação ou instrumento que permita isto ou aquilo. Tem de existir um tipo penal que, não violando o princípio da legalidade, tenha ao mesmo tempo elasticidade suficiente para abranger mais do que uma situação e a evolução da tecnologia”, acrescenta.

O Observador questionou os partidos com representação parlamentar sobre a necessidade de atualizar ou não a legislação — o Livre e o Chega não responderam até à publicação deste artigo. Alguns já tinham proposto durante a legislatura algumas medidas nesse sentido e a maior parte mostrou-se aberto a uma eventual atualização.

Em resposta ao Observador, a coordenadora do Grupo Parlamentar do PS na Comissão de Assuntos Constitucionais, Direitos, Liberdades e Garantias, Joana Sá Pereira, remete para os atuais tipos de crime que protegem a honra dos indivíduos. Destaca também uma alteração ao Código Penal realizada nesta legislatura, com a aprovação de uma proposta de lei do PS para reforçar a proteção das vítimas de crimes de disseminação não consensual de conteúdos íntimos e que levou, nomeadamente, à alteração do artigo 193.º.

O artigo em questão, inicialmente “Devassa por meio de informática”, passou a dizer respeito à “Devassa através de meio de comunicação social, da Internet ou de outros meios de difusão pública generalizada”. Segundo a alteração, quem, sem consentimento, disseminar ou contribuir para a disseminação, através desses meios, “de imagens, fotografias ou gravações que devassem a vida privada das pessoas, designadamente a intimidade da vida familiar ou sexual, é punido com pena de prisão até 5 anos”. Ainda que tenha passado a abranger um maior leque de situações e que a pena de prisão tenha passado de até dois anos para até cinco anos de prisão, o artigo não faz qualquer menção direta a casos de conteúdos falsos ou manipulados.

“Sem prejuízo de estas várias normas já permitirem uma punição adequada de muitas das condutas em cotejo, o Parlamento, em cada legislatura, avalia a necessidade de encontrar novas soluções“, acrescenta ainda Joana Sá Pereira.

Questionado sobre o assunto, o Bloco de Esquerda, que ao longo da legislatura também apresentou propostas nesse sentido, remete para o projeto de lei N.º 208/XV/1.ª, que propunha a criação do crime de produção ou partilha não consensual de material íntimo ou manipulado — e que foi chumbado. Acabou por ser adotada a proposta anteriormente referida do PS, com os votos a favor do BE.

Na altura, o partido já deixava claro que considerava que os crimes atualmente previstos — artigos 192.º (Devassa da vida privada), 193.º (Devassa por meio de informática, entretanto atualizado), 197.º (Agravação) e 199.º (Gravações e fotografias ilícitas) — eram “insuficientes para abarcar esta realidade social”. “As características que este crime ganhou com a generalização da socialização online aconselham um tratamento adequado a este novo tempo”, sublinhavam os subscritores da proposta.

Ao Observador, a deputada Joana Mortágua acrescenta que ainda “há muito trabalho a fazer”. “Desde logo, na natureza dos crimes associados à divulgação não consentida de imagens. Por outro lado, e isso não tem só a ver com Portugal, mas com o Digital Act, a integração e possibilidade do Ministério Público e até da PJ de terem ou não acesso a determinados dados e os meios para investigar este tipo de crimes. Isso já tem a ver com as plataformas e as obrigações que têm sobre este tipo de denúncias. É algo que nos parece que tem de ser muito aprimorado”, refere a deputada do Bloco. Para o partido, importa também que este tipo de violência seja considerado, em algumas dimensões, na violência de género, devendo ser olhado do ponto de vista da desigualdade de género.

Já o PSD, através da coordenadora do grupo parlamentar na Comissão de Assuntos Constitucionais, Direitos, Liberdades e Garantias, aponta que, além do enquadramento enquanto crimes de difamação, injúria ou devassa também se pode encarar estas situações como uma violação de dados pessoais, podendo estar perante contraordenação ou crime previsto na lei 58/2019 (lei de proteção de dados) e o Regulamento Geral de Proteção de Dados (União Europeia). Ao Observador, Mónica Quintela acrescenta que o partido admite, todavia, que “será de prever, em concreto, situações como estas no Código Penal, ou aditando um dos artigos do código acima referidos, de forma a prever a punibilidade destes casos, ou prevendo uma norma específica que puna estas situações”. A social-democrata admite que o partido “está disponível para refletir e legislar especificamente sobre estas matérias”.

Sobre o tema alargado das deep fakes, que vai muito além da manipulação de imagens para fins de pornografia falsa, a Iniciativa Liberal refere que “está sempre em tensão com outro valor e bem jurídico importante – a liberdade de expressão”. “Este é um bem particularmente importante quando continuamos a ter um grande volume de decisões condenatórias contra Portugal no Tribunal Europeu dos Direitos Humanos por violação do direito à liberdade de expressão precisamente por casos de difamação e injúria em que os tribunais portugueses protegem a honra de forma desproporcional e limitam a liberdade de expressão”, refere numa resposta escrita ao Observador.

No caso concreto da “disseminação de nudes deep fake, não pode ser enquadrado no tema de liberdade de expressão, mas tem de ser enquadrado nos crimes tipificados de fotografias ilícitas”, refere o partido. O partido liderado por Rui Rocha acrescenta ainda que, “não sendo evidente a necessidade de criação de novos tipos legais de crime, a IL admite correções legislativas circunscritas para clarificar a abordagem ao tema”.

Já o PCP admite que as possibilidades disponíveis em matéria de manipulação de conteúdos, pela gravidade dos danos que podem provocar às pessoas e entidades visadas, “podem não encontrar suficiente respaldo nos tipos legais já existentes”. Por esses motivos, o partido não descarta a possibilidade de colaborar no “aperfeiçoamento” do ordenamento jurídico-penal com o objetivo de prevenir e sancionar tais situações.