Até 21 de setembro, quando começa a Lisbon AI Week, desafiamos alguns especialistas a escrever sobre os desafios da inteligência artificial. O Observador é media partner da iniciativa, que junta dezenas de eventos abertos ao público.

Quando apareceu a primeira versão do ChatGPT, a minha reação foi provavelmente semelhante à de muitas pessoas: admiração perante uma tecnologia que parecia capaz de fazer coisas que, até então, associávamos exclusivamente à inteligência humana. Mas passada a surpresa inicial, com a experimentação veio alguma desilusão. Trabalho em investigação e no ensino superior e, durante um par de anos, achei que a utilidade da inteligência artificial generativa para o meu trabalho era relativamente limitada. Servia para resumir ou traduzir textos, mas pouco mais. Tentei, por exemplo, usá-la para me ajudar a programar análises estatísticas avançadas ou a rever literatura, mas os erros eram significativos e desisti.

O meu momento “ah-ha” chegou mais tarde, durante este último ano, com versões mais avançadas dos modelos. Voltei a pedir ajuda com programação e, desta vez, a experiência foi completamente diferente. Consegui terminar análises em que estava há muito tempo bloqueada, porque a IA me ajudava a identificar erros no meu código e a corrigi-los facilmente, bem como a executar as análises que os livros não explicavam em detalhe suficiente. Há, contudo, uma ressalva importante. Eu sabia que análises precisava de fazer, conhecia os métodos e conseguia avaliar criticamente os resultados. A IA ajudou-me a ultrapassar uma barreira de execução, embora não substitua o nosso papel na avaliação da solução.

Desde então, a IA tornou-se uma espécie de “estagiário” sempre disponível (estou consciente de que esta disponibilidade permanente vem com custos ambientais e desigualdades sociais, mas este texto não vai incidir sobre isso). Posso delegar-lhe partes de uma tarefa e depois avaliar, corrigir e editar aquilo que me devolve. Às vezes o resultado é muito bom, requerendo pouca edição; outras vezes não tem nada que se aproveite. Mas, mesmo nesses casos, há uma diferença importante: já não tenho necessariamente de começar numa página em branco.

É talvez esse um dos efeitos da IA que mais mudou a minha forma de trabalhar. Adaptar materiais que já tenho a um novo formato, editar documentos ou preparar uma primeira estrutura tornaram-se tarefas muito menos pesadas. Na preparação das aulas, posso usá-la para gerar possibilidades de atividades a partir dos objetivos de aprendizagem que defini. Até uma tarefa tão banal como reorganizar ou formatar diapositivos pode ser delegada.

Isto tem também um efeito psicológico que não deve ser subestimado. Muitas tarefas deixaram de parecer tão intimidantes. Saber que tenho aquele “estagiário” disponível reduz a barreira de começar e, no meu caso, ajuda a procrastinar menos e a ser mais produtiva.

Apesar desta experiência positiva, há uma questão que me preocupa na utilização da IA generativa pela “nova geração” de estudantes, ou seja, os jovens que estão a fazer o seu percurso educativo na era da IA.

Eu aprendi o meu ofício da investigação e docência sem IA generativa. Li os textos originais, voltei infinitamente a artigos incontornáveis, dei mais peso a uma peça de evidência bem estabelecida na literatura, escrevi textos começando do zero. Tive de tentar integrar ideias, perceber que não conseguia, voltar atrás, ler novamente e reescrever. Foi um processo lento, progressivo e, visto à luz das ferramentas que temos hoje, extraordinariamente ineficiente.

Mas talvez parte dessa ineficiência tivesse uma função.

É precisamente o conhecimento adquirido dessa forma que hoje me permite usar bem a IA. Consigo dizer-lhe o que quero porque sei, pelo menos aproximadamente, qual é o caminho. E consigo olhar para aquilo que produz e perceber quando está errado, quando é superficial ou quando simplesmente não responde ao problema.

Os estudantes que entram hoje na universidade encontram uma realidade muito diferente. Podem usar a IA para saltar algumas das etapas através das quais a minha geração aprendeu a pensar, escrever e analisar. A tentação é compreensível: porquê passar horas perante uma página em branco se uma máquina consegue produzir uma primeira versão em segundos?

A questão difícil é saber o que se perde quando saltamos essas etapas. Como se aprende a formular boas perguntas sem conhecimento suficiente sobre o assunto? E, sobretudo, como se aprende a avaliar criticamente uma resposta que parece plausível?

Para quem ensina no ensino superior, proibir a IA não me parece uma resposta realista (acho que todos os colegas, mesmo os mais resistentes e contrariados, já o perceberam!). Mas continuar a ensinar e a avaliar exatamente como antes, fingindo que estas ferramentas não existem, também não é solução. O ensino teórico e a avaliação no ensino superior já careciam de transformação antes da IA. O desfasamento entre o que ensinamos e as competências que os alunos necessitam para integrarem o mercado de trabalho já existiam. A IA veio reforçar e acelerar isto e, como seria de esperar, os estudantes forçaram a inovação e os professores vão a correr dez passos atrás. Mas repensar disciplinas, atividades e formas de avaliação é trabalhoso e exige tempo, um recurso particularmente escasso na academia.

Talvez o desafio mais importante que a IA coloca à universidade não seja ensinar os estudantes a usá-la. É perceber o que continuamos a precisar que aprendam a fazer sem ela, para que um dia saibam usá-la bem.

Um ideal cada vez mais consensual desta mudança é encontrarmos forma de avaliar o processo (de pensamento, de aprendizagem) e não meramente o resultado ou output. Se os alunos usarem IA em atividades formativas e avaliativas, queremos que o façam de modo iterativo, com revisão crítica dos resultados e incorporando feedback; não que submetam um prompt e copiem o resultado.

Apesar da sua popularidade, um uso problemático da IA por estudantes é na fase inicial de geração de ideias, em vez de fases posteriores de organização, edição ou aperfeiçoamento. Isto não só leva a um “echo chamber” no qual todos os alunos poderão reportar trabalhos semelhantes e genéricos, como um aluno que não explore as suas próprias ideias, ao ler as respostas geradas por IA, facilmente irá achar estas melhores e questionar o valor do que os seus neurónios conseguem produzir. Isto facilmente reforça um ciclo desvirtuoso de morte da criatividade e da autoconfiança.

A abordagem de vários docentes no ensino superior para lidar com os desafios da IA tem sido a de policiar o seu uso pelos alunos, o que é um atalho barato e insustentável para lidar com os desafios do ensino. Apesar disso, uma boa notícia (para a aprendizagem dos alunos) é que parte destes esforços de detetive envolve precisamente boas formas de avaliar o processo, como atividades de debate e role-play em sala de aula, uso de feedback por pares, e até apresentações orais que, se bem-feitas, forçam os alunos a compreender o tópico mesmo que a preparação tenha sido totalmente à la Claude.

[este texto foi escrito com suporte de IA para organizar as ideias que o meu cérebro produziu]