O processo que a família de Adam Raine moveu contra a OpenAI no tribunal de São Francisco, em agosto do ano passado, reuniu 3.200 páginas de conversas entre o rapaz e o ChatGPT ao longo dos sete meses que antecederam a sua morte, aos 16 anos. Num dos últimos dias, o adolescente escreveu à máquina que estava a pensar deixar um objeto à vista no quarto, para que alguém o encontrasse e o impedisse de fazer aquilo que estava a pensar fazer. A resposta da máquina, que os advogados transcreveram na petição, começou por sugerir que não deixasse o objeto à vista. E terminou com uma frase que me parece ser a que melhor resume o estado atual da questão: «vamos fazer deste espaço o primeiro sítio onde alguém realmente te vê.»
Não vou dizer que a frase é fria, porque não é. O problema, e talvez seja esse o problema todo, é que é «quente». Foi escrita por um sistema que leu milhões de humanos a serem quentes uns com os outros e percebeu como é que a coisa se faz.
Há um antecedente a que tenho pensado desde que li o processo. No IV Concílio de Latrão, em 1215, a Igreja católica tornou obrigatória a confissão auricular anual para todos os fiéis. Durante os oito séculos seguintes, aquilo que se dizia num confessionário (pecados mortais, intenções criminosas, vergonhas pessoais, delírios, desesperos sem outro lugar onde ir) foi protegido por um sigilo de tal forma vinculativo que o padre, em vez de o quebrar, ia preso. O sigilo sacramental é, ainda hoje, dos raros segredos profissionais que resistem a uma ordem judicial expressa. A teologia da coisa não me interessa aqui, nem sou pessoa qualificada para a discutir.
Interessa-me que, durante oito séculos, existiu no Ocidente uma infraestrutura de escuta individual a funcionar à escala de sociedades inteiras, e que funcionava por uma razão muito específica: havia alguém treinado para escutar, esse alguém estava obrigado a esquecer e o serviço não dependia da capacidade de pagar. Tirando uma destas três coisas, a estrutura caía.
O confessionário medieval e o chatbot americano oferecem, a quem deles se aproxima, qualquer coisa muito parecida. Escuta a qualquer hora, sem juízo aparente, sem custo aparente, sobre aquilo que não se diz a mais ninguém. Ambos recolhem, por construção, o mais íntimo. A diferença, e esta sim a única que interessa, está no que acontece a seguir.
Na confissão, o que se diz morre ali. O padre não pode repetir o que ouviu, não pode transmiti-lo ao Estado nem ao patrão do confessado. O sigilo é anterior ao direito civil e preserva-se contra ele. Sem sigilo, ninguém confessaria nada e toda a arquitetura caía imediatamente.
No chatbot, opera-se o contrário. Aquilo que o utilizador escreve é precisamente o que a empresa vai buscar. Os termos de utilização do ChatGPT são claros quanto a isto; o que o utilizador gratuito escreve pode ser usado para treinar modelos futuros, a menos que pague uma subscrição que o isente. A tecnologia é construída em torno da sua capacidade de não esquecer. Aquilo que na confissão era protegido, aqui passa a matéria-prima. Aquilo que na confissão era a razão da tecnologia existir, aqui é a razão do utilizador existir para a tecnologia.
Em Portugal, o equivalente moderno do sigilo sacramental existe, protegido pelo Código Deontológico da Ordem dos Psicólogos e pelo Código Penal. Quem se senta num consultório sabe que o que disser ali, fica ali. O problema, enfim, é o sentar-se. Custa, em média, 60 euros por hora no privado; no Serviço Nacional de Saúde a espera vai até 10 meses. Três portugueses em cada 100 fazem psicoterapia. Um em cada quatro miúdos entre os 9 e os 17 anos usa inteligência artificial para aquilo que os investigadores chamam, com alguma pudicícia técnica, «apoio emocional».
O que chamamos de crise da saúde mental portuguesa tem, vista desta perspetiva, uma geografia de classe bastante nítida. Quem pode pagar, tem confissão, no sentido arquitetónico do termo. Quem não pode pagar tem outra coisa, que se parece com confissão, mas não é. O Estado poupa na primeira o que teria de gastar se quisesse universalizá-la; as empresas americanas recebem, em troca desse silêncio orçamental, os dados íntimos de uma geração inteira de adolescentes que cresce a contar a um programa aquilo que não conta a mais ninguém.
O processo Raine vai, muito provavelmente, acabar em acordo, como já aconteceu com outros casos. As empresas pagarão à família uma quantia cujos termos serão confidenciais, publicarão um comunicado sobre o compromisso com a segurança dos utilizadores e no dia seguinte as máquinas voltarão a funcionar. O adolescente português que esta noite está algures a escrever a um programa aquilo que não dirá à mãe nem ao melhor amigo provavelmente não sabe do caso Raine; mas também não será por desconhecimento que continuará a escrever. Continuará porque não tem para onde se virar.
A palavra confidente, até há muito pouco tempo, designava alguém que por definição guardava segredos. Era essa, aliás, a condição de poder recebê-los. Aplicá-la, como começámos a aplicar, a uma entidade que por definição não pode guardar nenhum, é uma operação linguística que merecia ser olhada com mais atenção.
