Esta é a história do dia da Rádio Observador. Bruxelas quer criar um Big Brother para proteger as crianças?

I would like to start with a message to children that are trapped in a cycle of abuse, who are not safe in their homes or in their environment.

Esta é a voz de Ylva Johansson, comissária europeia dos Assuntos Internos. Apresentou na quarta-feira um pacote de medidas de combate ao abuso de menores. Está prevista, por exemplo, a possibilidade de passar a pente fino as comunicações feitas através de mensagens privadas nas redes sociais, plataformas de jogos ou até por e-mail. Isto para tentar detectar abusos e abusadores.

To the police officers who are frustrated about not being able to investigate these crimes enough, even though it's a very huge amount of children that are victims. And to the perpetrators: we are coming for you.

A Comissão Europeia quer obrigar as empresas a monitorizar e remover conteúdos ligados ao abuso sexual de menores. Empresas como a Google, Telegram, Apple ou Meta, que detém o Facebook, o Instagram e o WhatsApp, vão ter de varrer as plataformas à procura de indícios e depois comunicá-los às autoridades. Mas isto tem um preço. Onde fica a privacidade dos utilizadores? E até que ponto a segurança, por exemplo, de dissidentes políticos ou refugiados, fica ameaçada? Vou conversar com o jornalista André Maia, que analisou a proposta de Bruxelas e falou com vários especialistas sobre este tema. Bem-vindo, André.

Olá, Ricardo. Obrigado.

Que sistema é este que é agora proposto pela Comissão Europeia?

Este sistema, no fundo, o que prevê é que haja uma total monitorização, um varrimento total de todas as comunicações que aparecem na internet, não só publicações, mas também a correspondência privada, e que funciona numa forma de um alerta, quase como um antivírus, em que há um sistema de inteligência artificial que vai detectar e procurar palavras-chave, imagens, vídeos que possam ser suspeitos de abuso sexual de menores, também de pornografia infantil, e depois esses alertas, essas palavras-chave, essas mensagens que forem detectadas, que acionarem o tal alerta, essas mensagens vão ser enviadas para outra entidade que aí, sim, vai validar ou não se essas mensagens, se essas comunicações detectadas são ou não suspeitas.

Isto aplicar-se-á a empresas como a Google, Telegram ou mesmo plataformas de jogos online.

Vai tudo, Ricardo. Vai desde o Facebook, todas as plataformas do Meta, aliás, Facebook, Instagram, WhatsApp também, até organismos um pouco mais pequenos, pelo menos mais pequenos no sentido de que nem toda a gente utiliza, como disseste, videojogos, por exemplo, até mesmo o Discord, que tem sido muito utilizado, não é uma plataforma de videojogos, mas é uma plataforma que é muitas vezes utilizada por gamers.

Que eu nem sei o que é.

No fundo, é como se fosse um Skype, mas mais adaptado ao mundo digital, ao mundo de quem joga jogos online. Mas, por exemplo, mesmo os próprios sistemas de chat de comunicação que estão embutidos nos jogos. Por exemplo, ontem quando jogámos FIFA e eu te ganhei por 5 x 0.

Essa parte não era para contar.

E a nossa conversa que estávamos a ter através do sistema de comunicação do próprio jogo, do FIFA, pode ser monitorizado e, portanto, estamos a falar de tudo isto. Também sistemas de hospedagem de vídeo, como por exemplo o próprio YouTube, pode também ser monitorizado neste sentido e vai praticamente ser corrido a todos os sistemas de comunicação que conhecemos.

Ou seja, vai vigiar tudo. Chats, mensagens, áudio, vídeo, é isso tudo.

Sim, exatamente. A Comissão Europeia não especifica que tipo de comunicações é que são utilizadas, aqui falo de mensagens de texto, vídeos, áudios, não especifica. Usa um termo bastante ambíguo, que de resto é algo que vai acontecendo várias vezes durante o documento, que é comunicações interpessoais, e nós através desta designação não conseguimos perceber se é por texto, se é por vídeo, se é por áudio, mas tendo em conta que dá para todas estas plataformas, podemos presumir que dá para todos esses tipos de comunicação.

André Maia, perante isso que estás a descrever, é exagerado dizermos que estamos perante um Big Brother?

Não é exagerado, até porque, em primeiro lugar, o Big Brother pressupõe estar muita gente a ver e a verdade é que, neste caso, vamos ter pessoas a ver, a ler aquilo que estamos a escrever. Não tudo aquilo que vamos escrever, mas haverá pessoas que vão ter de fazer essa filtragem. E que pessoas são essas? São uma comissão, uma agência independente que vai ser criada e que o plano prevê isso mesmo, a criação de uma nova agência independente que vai ser criada pela Comissão Europeia e que vai ter uma ligação bastante estreita com a Europol, a agência de polícia da Europa, e que vai custar 26 milhões de euros, diz o jornal político, e que aquilo que vai servir para um grupo de pessoas analisar os tais alertas que nós falámos, que vão surgir e vai ter a missão de filtrar e ver se são ameaças verdadeiras, se são falsos positivos e, nesse sentido, vai ser o Big Brother que vai estar a assistir àquilo que nós vamos estar a escrever.

Então não estamos a falar apenas de software e hardware. Há aqui pessoas De carne e osso a vigiar.

Sim, vamos ter primeiro um software, vamos primeiro ter uns e zeros, vamos ter apenas inteligência artificial, mas depois sim, vamos ter pessoas de carne e osso, como eu e tu, que vão olhar precisamente para aqueles avisos, para os tais alertas, que o antivírus, de certa forma, como há bocado comparamos, vai lançar. E são essas pessoas desta agência independente que vão pegar nesses alertas e verificar: isto é uma mensagem suspeita, é verdadeira, é apenas um falso positivo? Por exemplo, eu falei com o eurodeputado alemão Patrick Breyer, muito dedicado a estas questões digitais, e que falava, por exemplo, que se ele enviar uma fotografia da filha para a esposa, essa fotografia, por exemplo, pode cair nesta rede, porque a inteligência artificial pode reconhecer aquilo como um possível ato de pornografia infantil, independentemente do que a fotografia tenha, mas depois são estas pessoas que vão olhar para a fotografia e vão ver a fotografia da filha, da sobrinha, do que seja, e vão depois filtrar ou não se estamos perante um ato de pornografia infantil.

E temos acesso ao algoritmo sobre a forma como o software funciona? No fundo, como funciona o alarme ou o que é que faz espoletar esse alarme que depois é analisado por essa tal comissão?

Não, não temos informação. Aliás, é mais um dos pontos que é bastante ambíguo e que a Comissão Europeia, neste regulamento, nesta proposta, diz apenas frases um pouco ocas, como: "Este regulamento propõe salvaguardas para que as tecnologias que forem usadas não sejam extremamente invasivas". A Comissão Europeia, de resto, admite várias vezes durante o texto que sim, que esta é uma proposta invasiva, é uma proposta que pode romper com a confidencialidade, com a privacidade, mas nunca explica de forma clara de que forma é que vai funcionar o software. Aliás, nem diz que software é que vai ser, diz que vai ser um software de inteligência artificial. Diz que vai servir de forma anónima, ou seja, não vai saber a priori, quando faz o tal varrimento completo, qual é a pessoa que está a enviar a mensagem, nem vai ler todo o texto que está na mensagem, vai apenas procurar modelos, templates utilizados por abusadores sexuais de menores. Mas é a única coisa que sabemos. Não sabemos quem é que vai criar este software, não sabemos como é que se vai chamar, não sabemos como é que vai funcionar em termos técnicos. É mais um ponto ambíguo desta proposta.

Mas, André, atualmente empresas ou redes sociais, por exemplo, como o Facebook, já mantêm uma vigilância apertada. Isso não está já tudo meio a funcionar?

Sim, até é curioso, porque há uma legislação neste momento que está em vigor, que é de julho de 2021, do ano passado, que é praticamente igual a esta proposta, exceto num pequeno grande pormenor, que é: essa lei também pedia às empresas para que monitorizassem até mesmo a correspondência privada, mas era pedia, era de forma voluntária. Neste caso, temos de forma obrigatória. De qualquer maneira, os dados que nós temos dão conta que 99% dos alertas partem apenas de cinco empresas de comunicação e são cinco das maiores. Falamos de Facebook, o grupo Meta, a Google, o Snapchat, as empresas da Microsoft e também o Twitter. São estas as cinco maiores empresas que vão dando estes alertas. E por aqui se vê também o grande número. Se 99% estão nestas cinco empresas, conseguimos ver o grande número de plataformas online que vão escapando e que não estão a fazer grande controle deste tipo de mensagens e deste tipo de abusos sexuais, que também funcionam online.

E há alguma penalização prevista se as empresas não colaborarem ou não cumprirem?

Sim, o artigo 28 diz precisamente isso. A alínea C deste artigo 28, que está na proposta, diz que há poder para impor multas, que oficialmente não se sabe qual é o valor. Temos apenas números do jornal político, que nos dá conta de que será 6% da receita total do ano da empresa. Ou seja, decodificando aqui um bocadinho os números, 6%, se pegarmos, por exemplo, no Twitter, que teve uma receita no ano passado cerca de $5.000 milhões, que é mais ou menos qualquer coisa como €4.800 milhões, o Twitter teria de pagar, se se recusasse a fazer esta monitorização, teria de pagar os tais 6%, que é uma multa que rondaria os €300 milhões. Estamos a falar de dois João Félix e mais um bocadinho, mais uma perna, quase de um terceiro João Félix. Portanto, é muito dinheiro para as empresas. Obviamente, estas empresas têm receitas incríveis. Ainda assim, são multas bastante grandes para as empresas que não queiram colaborar com esta proposta.

Explicaste que o sistema não vai ler as mensagens uma a uma, vai ter sistemas de alerta, mas no meio disto tudo, André Maia, quais são as garantias para os cidadãos europeus de que a privacidade é minimamente respeitada?

É mais um ponto ambíguo que aparece nesta proposta. A Comissão Europeia, ao longo de todo o texto, admite que há um grande nível de invasão. Aliás, estou aqui a citar, diz a Comissão Europeia que esta proposta resulta em níveis variados de intrusão em relação aos direitos fundamentais de confidencialidade e também de privacidade. Ainda assim, diz que este sistema opta pelo mínimo de invasão possível. Agora, lá está, é difícil quantificar.

O que é que será o mínimo.

Exatamente. Mas também há aqui uma grande justificação, ou a justificação principal que a Comissão Europeia dá para isto, é o tal princípio da proporcionalidade, que é, no fundo, existe uma limitação de um direito que é reconhecido, está limitado o direito da privacidade, mas como nos disse, por exemplo, o advogado João Ferreira Pinto, este princípio de proporcionalidade acontece em vários domínios do direito.

Neste caso, a contrapartida é conseguir combater o abuso sexual de menores. Esta proposta da Comissão Europeia, como é que vai funcionar em termos do direito nacional? Vai ser transposta para o direito dos Estados-membros? Isto é compatível com o direito português, quando estamos no meio desta polémica toda sobre os metadados?

Não é uma questão de ser compatível ou não. Mesmo que não seja, vai passar a ser, porque falámos também com o advogado João Ferreira Pinto, esta é uma legislação que vai ser uniforme a toda a União Europeia. Não é propriamente uma directiva, em que cada Estado adapta aquilo que surgir na proposta à sua própria legislação. Não, neste caso, é uma legislação uniforme e portanto os Estados-membros não vão ter mais do que fazer senão acatar esta decisão, este clar está, se for aprovada a proposta.

Aqui a questão que se coloca é: isto é um regulamento comunitário e os regulamentos comunitários não são transpostos para a lei nacional, eles vigoram na ordem jurídica da União Europeia, dos 27 Estados-membros da União Europeia. Portanto, os Estados nacionais só têm que cumprir, até porque vão negociar este regulamento no Conselho Europeu e depois ele será aplicado e será aplicável diretamente na ordem jurídica nacional.

E já sabemos quando é que vai entrar em vigor?

É uma boa questão. Ninguém sabe, está no segredo dos deuses. O eurodeputado alemão Patrick Breyer diz que não sabe ainda nem sequer qual é que vai ser a data em que o Conselho Europeu vai reunir para avaliar esta proposta, porque primeiro terá de ir ao Conselho Europeu, depois será enviada para o Parlamento Europeu para ser debatida e votada. Também não se sabe, obviamente, em que data é que será. Mas daquilo que nós falámos com várias pessoas, podemos esperar que há algum tempo de espera. E algum tempo de espera serão meses até, possivelmente, anos, aí já com uma probabilidade mais reduzida, mas meses, muito provavelmente será, até porque é um debate bastante complexo. Estamos aqui a decidir entre privacidade ou a defesa das crianças.

Exatamente. No limite, estamos a ser confrontados com isso mesmo, deixar que as nossas comunicações sejam vigiadas, por outro lado, defender as nossas crianças. Por exemplo, André, se estivéssemos aqui a usar um sistema de comunicação à distância, e fizemo-lo tantas vezes durante os tempos de confinamento da pandemia, se estivéssemos a usar um desses sistemas para gravar esta nossa conversa, poderíamos estar a ser escutados?

Não da forma como tu e se calhar os nossos ouvintes estão a pensar agora com esse cenário que criaste. Ou seja, não podemos esperar que esteja do outro lado alguém com um fone na mão a ouvir-nos neste momento, em tempo real, a apontar com um sonzinho de fundo de escuta, não.

E a gravar numa fita.

Exatamente, numa fita, não. Não devemos esperar isso, mas devemos esperar sim que os ficheiros que forem utilizados e os ficheiros que forem resultado dessas comunicações, seja as comunicações, como estavas a dizer, e que foram muito utilizadas na pandemia, as videochamadas, as conversas, mas principalmente os áudios que vão ser gerados com isso, as mensagens que vão ser geradas com isso, essas sim, serão analisadas, serão vistas, independentemente de serem vistas por um robô, por um sistema de inteligência artificial ou depois se seguirem para a tal entidade independente que vai analisar, aí sim, já por pessoas. Independentemente disso, sim, todos os ficheiros que forem gerados, esses sim, estarão a ser escutados, ouvidos e, portanto, esta nossa conversa provavelmente não, mas se enviarmos, por exemplo, esta conversa para alguém, aí sim, provavelmente poderemos estar a ser ouvidos, em primeiro lugar, por essa inteligência artificial, depois, quem sabe, se houver alguma suspeita, por alguém de carne e osso.

Obrigado, André.

Obrigado, Ricardo.

André Maia é jornalista do Observador e mergulhou a fundo nesta proposta da Comissão Europeia, que muitos veem como perigosa, como um meio para vigiar tudo e todos a todo o tempo, como o Big Brother, criado por George Orwell no livro "1984". Por regra, encontramos o André Maia na Rádio Observador, onde o podemos ouvir em reportagens, na edição de noticiários, na condução de especiais e até a fazer relatos de futebol. Esta foi a História do Dia. A sonoplastia é do Bernardo Almeida, a música do genérico, do João Ribeiro. Eu sou o Ricardo Conceição. Até segunda.