As famílias de sete vítimas do ataque a tiro a uma escola no Canadá, em fevereiro, avançaram esta quarta-feira com processos contra a OpenAI, a dona do ChatGPT. Os familiares consideram que houve negligência por parte da tecnológica por não ter alertado as autoridades para o histórico de conversas da suspeita do ataque com o ChatGPT. Segundo o Wall Street Journal, a OpenAI é ainda acusada de violação das normas de responsabilidade, com acusações de que a empresa contribuiu para o ataque em Tumbler Ridge.
Ataque a tiro numa escola secundária no Canadá faz nove mortos, incluindo a atiradora
Morreram oito pessoas neste ataque, incluindo crianças de 12 e 13 anos, e uma professora assistente de 39 anos. Mais de 25 pessoas ficaram feridas quando a suspeita Jesse Van Rootselaar, uma mulher transgénero de 18 anos, entrou armada na escola. Antes de entrar na escola de Tumbler Ridge, Van Rootselaar matou a mãe e o irmão de 11 anos. A suspeita suicidou-se já na escola, que fica numa pequena localidade com cerca de 2.700 habitantes.
A OpenAI é alvo de sete processos, apresentados na Califórnia, um deles feito pela família de Maya Gebala, uma menina de 12 anos que foi alvejada três vezes e que está ainda nos cuidados intensivos do hospital pediátrico de Vancouver, a recuperar após quatro cirurgias ao cérebro. Se sobreviver, ficará com incapacidades permanentes.
“Esta é a primeira vez em que uma comunidade diz coletivamente que é preciso responsabilizar a OpenAI”, declarou ao WSJ Jay Edelson, o advogado que representa as famílias das vítimas.
Em fevereiro, o Wall Street Journal avançou que alguns funcionários da OpenAI soaram alarmes ainda em junho sobre as interações de Van Rootselaar com o ChatGPT. A suspeita do ataque terá descrito ao chatbot vários cenários de violência com armas, ao longo de vários dias. Os sistemas automáticos da tecnológica detetaram a atividade, que motivou suspeitas de que o que era dito ao ChatGPT poderia tornar-se uma situação preocupante na vida real. Alguns funcionários pediram às chefias para que fosse feito o alerta às autoridades canadianas — um pedido rejeitado pela liderança da OpenAI, apurou o jornal.
É essa recusa que está agora no centro dos processos. O advogado Jay Edelson diz que não só as famílias das vítimas exigem o acesso ao historial de ChatGPT de Van Rootselaar como também convidam Sam Altman e a restante equipa de executivos da OpenAI a viajar até Tumbler Ridge para perceber o impacto do ataque na comunidade. “Achamos que eles devem ver os estragos que causaram a esta cidade”, afirma o advogado ao WSJ. “O Sam [Altman] parece não compreender quantas pessoas testemunharam as coisas mais traumáticas de sempre.”
Logo após o ataque no Canadá, a OpenAI lamentou o sucedido e explicou que bloqueou a conta de ChatGPT da suspeita meses antes do ataque. E, depois disso, ainda descobriu uma segunda conta ligada a Van Rootselaar.
Jay Edelson é o advogado que está envolvido em mais processos contra a OpenAI devido ao uso do ChatGPT. Lidera o caso em que a família de Adam Raine acusa a OpenAI de ter contribuído para o suicídio do adolescente e também o processo em que os descendentes de Suzanne Adams acusam a OpenAI e a Microsoft de desenvolver chatbots que aumentaram “os delírios” de Stein-Erik Soelberg. O homem de 56 anos matou a mãe de 83 anos e suicidou-se a seguir. Jay Edelson representa também a família Gavalas contra a Google — a tecnológica é acusada de não ter posto limites ao Gemini, resultando no suicídio de Jonathan Gavalas, de 36 anos, que se apaixonou pelo chatbot.
OpenAI diz que reforçou medidas de segurança
A OpenAI já se pronunciou após os processos. “Os acontecimentos em Tumbler Ridge são uma tragédia. Temos uma política de tolerância zero no que diz respeito à utilização das nossas ferramentas para facilitar a prática de atos de violência”, disse um porta-voz. “Tal como comunicámos às autoridades canadianas, já reforçámos as nossas medidas de segurança, nomeadamente melhorando a forma como o ChatGPT responde a sinais de angústia, encaminhando as pessoas para serviços de apoio locais e recursos de saúde mental, reforçando a forma como avaliamos e escalamos potenciais ameaças de violência e melhorando a deteção de infratores reincidentes das nossas políticas.”
Os processos deram entrada em tribunal nesta quarta-feira, mas ainda antes disso surgiu uma nova publicação no site da OpenAI, intitulada “o nosso compromisso com a segurança comunitária”. “Os tiroteios em massa, as ameaças contra funcionários públicos, as tentativas de atentado à bomba e os ataques a comunidades e indivíduos constituem uma realidade grave e inaceitável no mundo atual. Estes incidentes vêm lembrar-nos de quão real é a ameaça da violência — e com que rapidez as intenções violentas podem passar das palavras aos atos”, diz a empresa, sem mencionar o ataque no Canadá.
A OpenAI explicou que as pessoas podem fazer questões ao ChatGPT sobre esses temas, “para tentar perceber o que aconteceu expressar medo ou raiva”. “Estamos a treinar o ChatGPT para reconhecer a diferença — e para impor limites quando a conversa começa a mover-se para ameaças, potenciais danos para terceiros ou planos para o mundo real”.
A empresa afirmou que é uma “linha subtil” entre questões hipotéticas e a realidade, mas que quando deteta “que alguém está a tentar usar as ferramentas para potenciais planos violentos” toma medidas, nomeadamente “através do bloqueio do acesso”. E, quando um sistema automático sinaliza algo nas interações com o ChatGPT, “há uma avaliação feita por pessoal treinado”. “Temos uma política de tolerância zero em relação à utilização das nossas ferramentas para facilitar a prática de atos de violência”, reiterou a companhia.
