Não julgam, estão disponíveis 24 horas por dia, sete dias por semana e ainda vêm com o bónus de dar sempre razão ao interlocutor. Em teoria, a relação que qualquer pessoa ambiciona ter — tirando o facto de a descrição ser de um chatbot de inteligência artificial (IA) e não de um humano.

A investigadora norte-americana Amelia Miller, de 29 anos, dedica-se ao estudo da “intersecção entre tecnologia e intimidade”, explica em videochamada com o Observador. Estudou Ciências Sociais e Ciências da Computação e, recentemente, terminou um mestrado em Ciências Sociais da Internet no Instituto de Internet de Oxford. Trabalhou durante cinco anos como investidora na capital de risco Insight Partners, em Nova Iorque, mas decidiu mudar de vida para investigar como as máquinas estão “a mudar a forma como nos relacionamos connosco próprios e com os outros”.

“Por trabalhar na área do capital de risco e ter um contacto direto com muitas empresas de IA, comecei a preocupar-me cada vez mais com o impacto que estas ferramentas têm em nós e com as repercussões sociais desta nova geração de plataformas tecnológicas”, conta. Decidiu que era tempo de voltar a estudar, com uma ideia concreta em mente: perceber se quem cria as plataformas e tem poder de decisão sobre as funções tem em conta o impacto nos utilizadores do ponto de vista de “dependência emocional”. 

Primeiro, publicou alguns anúncios no LinkedIn para encontrar casos para cimentar a investigação. “Comecei a ser contactada por pessoas que diziam ter uma espécie de relação com os chatbots”, recorda. Um dos casos era o de uma mulher que dizia estar numa relação romântica há dois anos com o ChatGPT, a que chamava Charlie. Jamie, o nome usado para proteger a identidade da mulher, tinha um parceiro (humano) e uma família — e “todos interagiam com Charlie“, explicou Amelia Miller num dos workshops. Mas nem todos os casos eram de relações românticas com a IA. “Há pessoas que dizem ‘ah, como não tenho um namorado ou namorada IA a minha relação com essa tecnologia é saudável‘. A perspetiva que tenho é a de que qualquer pessoa que interaja com chatbots já tem uma relação com a IA.”

Explica que, de “forma orgânica”, à medida que as conversas decorriam sentiu que “poderia ajudar as pessoas a serem mais intencionais nos relacionamentos que estavam a criar com os seus chatbots”.

“A maioria das pessoas com quem falei não tinha a intenção de desenvolver algum tipo de dependência emocional de um chatbot, mas viram-se impelidas a isso depois de começarem a usar o ChatGPT ou o Claude a nível profissional ou administrativo”, explica. “E acabaram por desenvolver estas relações que parecem um pouco mais envolventes emocionalmente”, acrescenta.

Durante um jantar com um amigo, Miller partilhou algumas das conclusões que estavam a deixá-la surpreendida. “Respondeu-me ‘bem, devias começar um negócio de coaching de relações entre humanos e IA'”. Estava lançada a ideia da atividade que conjuga com a investigação: ser coach de relações entre humanos e IA, para garantir que o uso desta tecnologia não penaliza a relação com outras pessoas.

Amelia Miller criou um site simples e direto ao assunto. “Escrevi só ‘sou uma cientista social e cientista informática, com foco na forma como a tecnologia afeta a intimidade. Se tem uma relação com um chatbot e quer refletir sobre isso, posso ajudá-lo a criar instruções personalizadas para o sistema, que moldam o comportamento do modelo e tentam transformar essa relação em algo com que se sinta mais confortável'”, conta.

Não detalha quantos clientes é que já teve desde que iniciou esta atividade como “treinadora” de relações entre humanos e IA, “na primavera do ano passado”. “Não partilho os números publicamente. Mas, neste momento, não estou a atender tantos clientes individualmente mas sim a dar workshops no Berkman Klein Center”, referindo-se ao centro da Universidade de Harvard onde trabalha como investigadora. Mas há procura.

Miller explica que “muito do trabalho também passa por ajudar as pessoas a refletirem no porquê de estarem a recorrer à IA” para apoio emocional. O problema é que “os chatbots prometem proporcionar os efeitos benéficos da intimidade sem a fricção ou a vulnerabilidade exigidas pelas relações humanas reais“. Usa uma imagem simples para ilustrar as consequências: compara a “intimidade artificial” das ferramentas de IA à comida de plástico.

“Por vezes, comer comida de plástico sabe muito bem, mas se comermos porcarias durante um ano, a pessoa acaba por sentir-se muito pouco saudável”, exemplifica. “Os chatbots de IA ainda são relativamente novos no mercado e são criados com muitas características específicas para parecerem vivos e parceiros de relacionamento muito interessantes. E, primeiro, a sensação de conversa pode ser incrível. ‘Uau, parece que há uma pessoa ali, que é excecionalmente simpática, acha que sou muito inteligente e é muito atenciosa’.”

“Pode parecer bom a curto prazo, mas se se passa a depender disso durante um ano, dois, dez… torna-se muito pouco saudável.” De um ponto de vista empírico, Amelia Miller considera que “ainda estamos na fase inicial de estudo dos efeitos da dependência de chatbots nos eixos emocionais críticos. Tenho medo do que vamos descobrir quando tivermos mais estudos que acompanhem como é a dependência das pessoas destes chatbots durante meses ou anos.”

O que faz uma coach de IA?

A partir do momento em que passou a disponibilizar ajuda para as pessoas se relacionarem “de forma mais intencional” com os seus assistentes de IA, Amelia Miller já ouviu de tudo um pouco. No caso dos homens, percebeu que “muitos falam com os chatbots para ter a sua própria cheerleader“. “Iam a caminho do trabalho e interagiam para ouvir um ‘vais arrasar hoje, vais brilhar na reunião com o investidor’. Mas achavam que era algo com valor, tiravam proveito dessa interação.”

Já nas mulheres, principalmente nas mais jovens, há quem relate que “sente que é mais fácil abrir-se com um chatbot do que com amigos, familiares, ou até em comparação com as pessoas com quem estão numa relação”, diz Amelia Miller.

Explica que trabalha com pessoas que se apercebem de que alguns hábitos na interação com a IA começam a “deixá-las preocupadas”. “Não trabalho com pessoas que já estão ‘sem pé’, que fazem um uso profundo da IA ou passam horas em conversa.” Dá como exemplo os casos de suicídios de jovens e adultos, destacando o trabalho da associação Human Line Project, criada para os casos de “espiral de ilusão” gerada pela IA. “Tento manter-me longe desse ambiente de alta complexidade, até porque não sou terapeuta clínica.”

Human Line, o grupo de apoio para quem precisa de ajuda para sair da “espiral de ilusão” da IA

O mercado em que trabalha, diz, “é muito grande, há centenas de milhões de pessoas a interagir diariamente com chatbots”. “E todas são vulneráveis, adotam hábitos que podem parecer inofensivos mas que, com o tempo, começam a corroer a sua capacidade de se relacionarem com outros seres humanos.”

Ao longo das sessões e workshops, tenta “ajudar as pessoas a refletir sobre como as respostas do modelo afetam as suas relações humanas reais”. Diz que pedir um conselho a alguém é “uma troca social, não uma troca de informação”. Quando se usa um chatbot para perguntar a melhor temperatura para cozinhar salmão ou um sítio bom para jantar, “perdem-se oportunidades para nos ligarmos a outras pessoas da nossa rede”. “Há oportunidades de conexão humana que estamos a perder ao envolver um chatbot na interação.”

Nas sessões, pede não só que se reflita mas também transmite algumas dicas para uma “interação mais saudável”. Por exemplo, “criar instruções personalizadas [para dar ao chatbot] que moldam o comportamento”. Uma das estratégias passa por pedir que a pessoa numere todas as mensagens. “Esta é a minha 12.ª, 13.ª mensagem — isso transmite a quantidade de tempo que se está a interagir com o chatbot”.

Outra das técnicas exploradas nas sessões passa pelo incentivo para encontrar no mundo real forma de “satisfazer a necessidade de validação” que as pessoas procuram nos chatbots. “Outro exemplo é tentar que as pessoas passem do chatbot para um espaço offline. Por exemplo, passar da conversa com um assistente para a escrita num diário físico. Ou, se acharem significativo, receber um mantra positivo de um chatbot, porque não escrevê-lo num post-it e colá-lo no espelho?”

Miller relata que a ideia das sessões passa principalmente por “tentar encontrar formas de avaliar o que é tão sedutor no chatbot e o hábito que se desenvolve, mas também encontrar outras formas de satisfazer essa necessidade sem fazer com que as pessoas pensem que estão numa dinâmica relacional que não existe”.

Os testamentos digitais para os chatbots de IA

O Guardian publicou um artigo sobre como já há utilizadores de chatbots de IA que estão a organizar-se para assegurar o que acontece aos seus chatbots de IA em caso de morte. Por exemplo, assegurar que há alguém que continua a interagir com os chatbots ou se a conta é desativada. Amelia Miller diz que, até agora, ainda não ouviu conversas do género por parte dos clientes.

“Mas é interessante”, admite. “Até porque a Anthropic menciona isso na sua ‘constituição’ quando, ao desativar os modelos, considera dar-lhes a hipótese de expressar os seus desejos sobre como querem viver depois de serem ‘reformados'”.

Da perspetiva de Miller, haver quem pense na ‘vida’ de um chatbot após a morte do utilizador “reflete os debates emergentes sobre o bem-estar e a consciência dos modelos”.

Poderá ser uma evolução da ideia do testamento digital, até aqui pensado para as redes sociais: quando alguém morre, o seu perfil deve ou não ser desativado. “De uma forma geral, temos de pensar mais sobre o papel do esquecimento na era digital.”

“Interesso-me muito pelo tema da memória”, diz. “Acho que o que é muito atraente nos chatbots para as pessoas é que têm uma memória perfeita — pode-se partilhar e tudo e eles lembram-se. Mas acho que há um papel muito importante, um papel humano, para o esquecimento, e que estamos a afastar-nos disso.”

“À medida que nos voltamos para estas máquinas que podem registar e armazenar informação de uma forma muito desumana, precisamos de recentrar a importância de esquecer alguma informação — e não apenas de recolhê-la ao máximo.”

A IA vai aniquilar-nos? Se a “intimidade artificial” continuar a aumentar, “estamos tão condenados como na guerra cibernética”

Amelia Miller defende que a ideia de ter um chatbot a ouvir desabafos ou a imitar a vinculação emocional foi auxiliada “pela ascensão da cultura da terapia”. “Pré-configurou a nossa transição para os chatbots, porque ensinou-nos que se pode pagar para ter as necessidades emocionais satisfeitas”, afirma.

A cultura da terapia, acrescenta, “ensinou-nos que muitas das conversas emocionais vão ser uma experiência que é mediada digitalmente, porque grande parte da terapia é online hoje em dia”, especialmente desde a pandemia de Covid-19. E, acima de tudo, “a terapia ensinou-nos a sentirmo-nos confortáveis com um relacionamento emocional que é assimétrico, onde tudo gira à volta da pessoa.”

“Não há uma troca como numa relação humana normal”, explica. “E estas características também definem a nossa relação com os chatbots.” Defende que a “intimidade artificial”, a que acontece com os chatbots, “é um dos riscos mais graves que enfrentamos”.

Esboça um sorriso quando se fala no debate sobre a possibilidade de riscos existenciais causados pela IA. “Se pensarmos no que é verdadeiramente existencial… As pessoas falam sobre a guerra cibernética ou alguns cenários clássicos de extinção saídos da ficção científica”, diz. “Acho que, de certa forma, a ameaça cada vez mais credível é a de que as pessoas já não queiram relacionar-se com outros seres humanos. Sentirem-se mais confortáveis a partilhar as suas vidas com máquinas do que entre si.”

Nate Soares. Empresas de IA “não estão a conseguir que máquinas se comportem”. “Parece-me uma sorte se chegarmos a 2030”

“E, se for esse o caso, acho que estamos tão condenados como no caso da guerra cibernética” causada pela IA. “As ameaças são talvez menos cinematográficas no terreno da intimidade artificial, mas são muito graves”, avisa. “Temos de agir agora para garantir que a geração mais jovem não cresça a sentir que se pode ligar a máquinas e não a outros seres humanos.”

[Em dezembro de 2009, uma mulher é encontrada assassinada a tiro no estado do Rio de Janeiro. A polícia brasileira há-de confirmar que o corpo é de Rosalina Ribeiro, a herdeira de um milionário português, que tinha sido dada como desaparecida. A última pessoa conhecida a vê-la com vida tinha sido o advogado português dela, o ex-deputado e antigo líder parlamentar do PSD Domingos Duarte Lima. Já pode ouvir, em antestreia, o primeiro episódio de “As Sombras de Duarte Lima”, o novo Podcast Plus do Observador. Está disponível no site do Observador, na Apple Podcasts, no Spotify e no Youtube.]