Facebook

Vídeo de ataque na Nova Zelândia visto 4 mil vezes antes de ser removido. Facebook admite que o sistema “não é perfeito”

O Facebook admite que o sistema de inteligência artificial que devia remover os vídeos com violência explícita não é perfeito e diz que o vídeo do ataque na Nova Zelândia foi visto 4 mil vezes.

Familiares de uma das vítimas do ataque às mesquitas de Christchurch durante o funeral, junto do local do atentado

MICK TSIKAS/EPA

O Facebook admitiu nesta quarta-feira que o seu sistema de segurança não detetou a tempo a transmissão em direto naquela rede social feita por um dos atacantes do atentado contra duas mesquitas na Nova Zelândia.

Numa mensagem divulgada através do blogue oficial, um dos responsáveis máximos do Facebook, Guy Rosen, explicou que o vídeo de 17 minutos transmitido em direto durante o ataque da última sexta-feira na cidade neozelandesa de Christchurch pelo próprio atacante foi visto cerca de 4 mil vezes antes de ser removido do Facebook — incluindo perto de 200 vezes durante a transmissão.

“O vídeo foi visto menos de 200 vezes durante a transmissão em direto” e “nenhum utilizador denunciou o vídeo” durante esse momento. “Incluindo as visualizações durante a transmissão em direto, o vídeo foi visto cerca de 4 mil vezes no total, antes de ser removido do Facebook“, explicou ainda Rosen.

“Antes de termos sido alertados para o vídeo [pelas autoridades neozelandesas], um utilizador do 8chan publicou um link para uma cópia do vídeo num site de partilha de ficheiros. A primeira denúncia relativa ao vídeo original chegou 29 minutos depois de o vídeo começar, 12 minutos depois de a transmissão em direto ter terminado“, detalhou o responsável da rede social.

Pelo facto de o vídeo ter sido copiado e partilhado antes de o Facebook ter conseguido remover o ficheiro original, a rede social teve de remover “mais de 1,2 milhões de vídeos do ataque” no processo de carregamento — ou seja, que nunca chegaram a ser vistos pelos utilizadores.

Além desses, “aproximadamente 300 mil cópias adicionais foram removidos depois de terem sido publicados”.

De acordo com aquele responsável do Facebook, “muitas pessoas perguntaram porque é que a inteligência artificial (IA) não detetou o vídeo da semana passada automaticamente“.

“A inteligência artificial fez progressos massivos nos últimos anos em várias áreas, que nos permitiram detetar proativamente a grande maioria do conteúdo que removemos. Mas não é perfeita“, justifica Guy Rosen.

“Os sistemas de IA baseiam-se em informação de treino, o que significa que são precisos milhares de exemplos de conteúdo para treinar um sistema para detetar determinados tipos de texto, imagens ou vídeo. Esta abordagem tem funcionado muito bem em áreas como a nudez, propaganda terrorista ou violência explícita, relativamente à qual há um grande número de exemplos que podemos usar para treinar os nossos sistemas”, escreve o responsável.

Porém, este vídeo em particular não acionou os nossos sistemas de deteção automática. Para que isso seja possível, precisamos de fornecer aos nossos sistemas grandes volumes de informação relativos a este tipo concreto de conteúdo, o que é difícil porque, felizmente, estes acontecimentos são raros“, acrescenta.

Mas há mais desafios, continua Guy Rosen. Por exemplo, é difícil distinguir automaticamente estes conteúdos de outros vídeos semelhantes que surgem em videojogos ou filmes. Se todos estes fossem automaticamente bloqueados, “os nossos revisores poderiam não detetar os vídeos reais importantes, sobre os quais podemos alertar as autoridades para ajudar no terreno”.

O Facebook explica ainda que estes sistemas nunca serão perfeitos porque implicarão sempre o envolvimento de seres humanos. Ainda assim, a rede social assegura que no ano passado duplicou o número de pessoas que trabalham nesta área — há neste momento mais de 30 mil funcionários só dedicados à área da segurança, incluindo cerca de 15 mil revisores do conteúdo.

O atentado de Christchurch foi levado a cabo por Brenton Tarrant, um australiano de 28 anos que se assume como parte da corrente do “supremacismo branco”. Tarrant atacou duas mesquitas naquela cidade, a terceira maior da Nova Zelândia, matando 50 pessoas. Além de transmitir o ataque no Facebook, Tarrant divulgou um documento de 74 páginas antes do atentado no qual explicava as suas posições contra os imigrantes.

Todos queremos saber mais. E escolher bem.

A vida é feita de escolhas. E as escolhas devem ser informadas.

Há uns meses o Observador fez uma escolha: uma parte dos artigos que publicamos deixariam de ser de acesso totalmente livre. Esses artigos Premium, por regra aqueles onde fazemos um maior investimento editorial e que mais diferenciam o nosso projecto, constituem a base do nosso programa de assinaturas.

Este programa Premium não tolheu o nosso crescimento – arrancámos mesmo 2019 com os melhores resultados de sempre.

Este programa tornou-nos mesmo mais exigentes com o jornalismo que fazemos – um jornalismo que informa e explica, um jornalismo que investiga e incomoda, um jornalismo independente e sem medo. E diferente.

Este programa está a permitir que tenhamos uma nova fonte de receitas e não dependamos apenas da publicidade – porque não há futuro para a imprensa livre se isso não acontecer.

O Observador existe para servir os seus leitores e permitir que mais ar fresco circule no espaço público da nossa democracia. Por isso o Observador também é dos seus leitores e necessita deles, tem de contar com eles. Como subscritores do programa de assinaturas Observador Premium.

Se gosta do Observador, esteja com o Observador. É só escolher a modalidade de assinaturas Premium que mais lhe convier.

Partilhe
Comente
Sugira
Proponha uma correção, sugira uma pista: jfgomes@observador.pt
Inovação

Uber: o entrepreneur vai nu?

Fernando Pinto Santos
284

O dinheiro dos investidores da Uber subsidia as viagens e é o que permite a oferta de preços competitivos. Isto é sustentável? É este o paradigma de empreendedorismo que desejamos?

Mar

Bruno Bobone: «do medo ao sucesso»

Gonçalo Magalhães Collaço

Não, Portugal não é uma «nação viciada no medo» - mas devia realmente ter «medo», muito «medo», do terrível condicionamento mental a que se encontra sujeito e que tudo vai devastadoramente degradando.

Só mais um passo

1
Registo
2
Pagamento
Sucesso

Detalhes da assinatura

Esta assinatura permite o acesso ilimitado a todos os artigos do Observador na Web e nas Apps. Os assinantes podem aceder aos artigos Premium utilizando até 3 dispositivos por utilizador.

Só mais um passo

1
Registo
2
Pagamento
Sucesso

Detalhes da assinatura

Esta assinatura permite o acesso ilimitado a todos os artigos do Observador na Web e nas Apps. Os assinantes podem aceder aos artigos Premium utilizando até 3 dispositivos por utilizador.

Só mais um passo

Confirme a sua conta

Para completar o seu registo, confirme a sua conta clicando no link do email que acabámos de lhe enviar. (Pode fechar esta janela.)