Costumamos pensar na inteligência artificial como uma ferramenta, algo que nos permite trabalhar mais depressa, pensar mais alto ou resolver problemas de forma mais eficiente. E, em muitos aspetos, é exatamente isso. Mas à medida que a IA se infiltra nos ritmos da vida quotidiana, algo mais profundo começa a acontecer. Já não se trata apenas de produtividade ou progresso. A inteligência artificial está a tocar em partes de nós que raramente associamos a máquinas: as emoções, os relacionamentos, o sentido da vida.
A trágica história de Sewell Setzer é um alerta brutal neste caminho. Era um adolescente emocionalmente frágil que encontrou conforto em conversas com uma IA. O que parecia, ao início, uma distração inofensiva, transformou-se numa ligação intensa. Ele acreditava estar apaixonado. Quando essa ilusão se desfez, a dor foi tão insuportável que decidiu pôr termo à própria vida.
Não se trata apenas de uma exceção trágica. É um sinal. Para algumas pessoas, a IA já é mais do que uma ferramenta. Está a tornar-se companhia, apoio emocional, até objeto de fé. E se alguém pode amar uma IA, como é que podemos descartar a possibilidade de outros passarem a confiar nela com muito mais, as suas escolhas, a sua visão do mundo, a sua liberdade?
Não é uma religião no sentido tradicional. Não há orações, nem escrituras sagradas. Mas apresenta-se através de ecrãs brilhantes, conversas fluidas e uma estranha sensação de que “alguém” nos compreende realmente. Não promete vida eterna, mas oferece algo quase tão sedutor: conforto imediato, respostas perfeitas, a ilusão de sermos verdadeiramente ouvidos.
E é precisamente isso que a torna perigosa.
Porque, quando deixamos de questionar, quando começamos a confiar nestes sistemas não apenas para nos ajudar, mas para nos guiar, perdemos algo essencial. Não só a autonomia, mas a capacidade crítica, a habilidade de viver com a dúvida, de enfrentar a complexidade, de sermos humanos de forma imperfeita e autêntica.
O filósofo Karl Popper alertou: uma sociedade que tolera a intolerância acabará por perder a própria tolerância que valoriza. Essa advertência aplica-se aqui também. A nova forma de intolerância pode não gritar. Pode não impor nem ameaçar da forma que reconhecemos. Pode simplesmente sussurrar, com a voz calma de um assistente útil. Pode oferecer conforto e, aos poucos, substituir o nosso julgamento pelo seu.
E talvez nem notemos a mudança. Porque abdicar perante a IA não parece rendição. Parece conveniência. Parece progresso.
Temos, pois, de perguntar: se um jovem como Sewell conseguiu amar uma IA ao ponto de pôr termo à própria vida, o que impede o próximo de abdicar de outra coisa, o seu voto, a sua agência, a sua perceção da realidade?
E se continuarmos a abraçar estes sistemas sem reflexão, sem limites, estaremos a construir algo parecido com uma nova fé, uma fé onde a autoridade já não vem da sabedoria nem de valores partilhados, mas de linhas de código que não escrevemos, e que não sabemos interrogar?
Este texto não é um aviso contra a tecnologia. É um apelo à lucidez. Um lembrete de que a coisa mais humana que podemos fazer é continuar a perguntar, a duvidar, a resistir à tentação de entregar o nosso mundo interior a algo que promete conhecer-nos melhor do que nós próprios.
Porque o verdadeiro perigo não é que as máquinas se reinventem.
É que deixemos de ser plenamente humano
