Rádio Observador

Facebook

Vídeo de ataque na Nova Zelândia visto 4 mil vezes antes de ser removido. Facebook admite que o sistema “não é perfeito”

O Facebook admite que o sistema de inteligência artificial que devia remover os vídeos com violência explícita não é perfeito e diz que o vídeo do ataque na Nova Zelândia foi visto 4 mil vezes.

Familiares de uma das vítimas do ataque às mesquitas de Christchurch durante o funeral, junto do local do atentado

MICK TSIKAS/EPA

O Facebook admitiu nesta quarta-feira que o seu sistema de segurança não detetou a tempo a transmissão em direto naquela rede social feita por um dos atacantes do atentado contra duas mesquitas na Nova Zelândia.

Numa mensagem divulgada através do blogue oficial, um dos responsáveis máximos do Facebook, Guy Rosen, explicou que o vídeo de 17 minutos transmitido em direto durante o ataque da última sexta-feira na cidade neozelandesa de Christchurch pelo próprio atacante foi visto cerca de 4 mil vezes antes de ser removido do Facebook — incluindo perto de 200 vezes durante a transmissão.

“O vídeo foi visto menos de 200 vezes durante a transmissão em direto” e “nenhum utilizador denunciou o vídeo” durante esse momento. “Incluindo as visualizações durante a transmissão em direto, o vídeo foi visto cerca de 4 mil vezes no total, antes de ser removido do Facebook“, explicou ainda Rosen.

“Antes de termos sido alertados para o vídeo [pelas autoridades neozelandesas], um utilizador do 8chan publicou um link para uma cópia do vídeo num site de partilha de ficheiros. A primeira denúncia relativa ao vídeo original chegou 29 minutos depois de o vídeo começar, 12 minutos depois de a transmissão em direto ter terminado“, detalhou o responsável da rede social.

Pelo facto de o vídeo ter sido copiado e partilhado antes de o Facebook ter conseguido remover o ficheiro original, a rede social teve de remover “mais de 1,2 milhões de vídeos do ataque” no processo de carregamento — ou seja, que nunca chegaram a ser vistos pelos utilizadores.

Além desses, “aproximadamente 300 mil cópias adicionais foram removidos depois de terem sido publicados”.

De acordo com aquele responsável do Facebook, “muitas pessoas perguntaram porque é que a inteligência artificial (IA) não detetou o vídeo da semana passada automaticamente“.

“A inteligência artificial fez progressos massivos nos últimos anos em várias áreas, que nos permitiram detetar proativamente a grande maioria do conteúdo que removemos. Mas não é perfeita“, justifica Guy Rosen.

“Os sistemas de IA baseiam-se em informação de treino, o que significa que são precisos milhares de exemplos de conteúdo para treinar um sistema para detetar determinados tipos de texto, imagens ou vídeo. Esta abordagem tem funcionado muito bem em áreas como a nudez, propaganda terrorista ou violência explícita, relativamente à qual há um grande número de exemplos que podemos usar para treinar os nossos sistemas”, escreve o responsável.

Porém, este vídeo em particular não acionou os nossos sistemas de deteção automática. Para que isso seja possível, precisamos de fornecer aos nossos sistemas grandes volumes de informação relativos a este tipo concreto de conteúdo, o que é difícil porque, felizmente, estes acontecimentos são raros“, acrescenta.

Mas há mais desafios, continua Guy Rosen. Por exemplo, é difícil distinguir automaticamente estes conteúdos de outros vídeos semelhantes que surgem em videojogos ou filmes. Se todos estes fossem automaticamente bloqueados, “os nossos revisores poderiam não detetar os vídeos reais importantes, sobre os quais podemos alertar as autoridades para ajudar no terreno”.

O Facebook explica ainda que estes sistemas nunca serão perfeitos porque implicarão sempre o envolvimento de seres humanos. Ainda assim, a rede social assegura que no ano passado duplicou o número de pessoas que trabalham nesta área — há neste momento mais de 30 mil funcionários só dedicados à área da segurança, incluindo cerca de 15 mil revisores do conteúdo.

O atentado de Christchurch foi levado a cabo por Brenton Tarrant, um australiano de 28 anos que se assume como parte da corrente do “supremacismo branco”. Tarrant atacou duas mesquitas naquela cidade, a terceira maior da Nova Zelândia, matando 50 pessoas. Além de transmitir o ataque no Facebook, Tarrant divulgou um documento de 74 páginas antes do atentado no qual explicava as suas posições contra os imigrantes.

Não queremos ser todos iguais, pois não?

Maio de 2014, nasceu o Observador. Junho de 2019, nasceu a Rádio Observador.

Há cinco anos poucos acreditavam que era possível criar um novo jornal de qualidade em Portugal, ainda por cima só online. Foi possível. Agora chegou a vez da rádio, de novo construída em moldes que rompem com as rotinas e os hábitos estabelecidos.

Nestes anos o caminho do Observador foi feito sem compromissos. Nunca sacrificámos a procura do máximo rigor no nosso jornalismo, tal como nunca abdicámos de uma feroz independência, sem concessões. Ao mesmo tempo não fomos na onda – o Observador quis ser diferente dos outros de órgãos de informação, porque não queremos ser todos iguais, nem pensar todos da mesma maneira, pois não?

Fizemos este caminho passo a passo, contando com os nossos leitores, que todos os meses são mais. E, desde há pouco mais de um ano, com os leitores que são também nossos assinantes. Cada novo passo que damos depende deles, pelo que não temos outra forma de o dizer – se é leitor do Observador, se gosta do Observador, se sente falta do Observador, se acha que o Observador é necessário para que mais ar fresco circule no espaço público da nossa democracia, então dê o pequeno passo de fazer uma assinatura.

Não custa nada – ou custa muito pouco. É só escolher a modalidade de assinaturas Premium que mais lhe convier.

Partilhe
Comente
Sugira
Proponha uma correção, sugira uma pista: jfgomes@observador.pt

Só mais um passo

1
Registo
2
Pagamento
Sucesso

Detalhes da assinatura

Esta assinatura permite o acesso ilimitado a todos os artigos do Observador na Web e nas Apps. Os assinantes podem aceder aos artigos Premium utilizando até 3 dispositivos por utilizador.

Só mais um passo

1
Registo
2
Pagamento
Sucesso

Detalhes da assinatura

Esta assinatura permite o acesso ilimitado a todos os artigos do Observador na Web e nas Apps. Os assinantes podem aceder aos artigos Premium utilizando até 3 dispositivos por utilizador.

Só mais um passo

Confirme a sua conta

Para completar o seu registo, confirme a sua conta clicando no link do email que acabámos de lhe enviar. (Pode fechar esta janela.)