A OpenAI disponibilizou esta segunda-feira as ferramentas de controlo parental para o ChatGPT, depois de ter anunciado no início de setembro que iria dotar o chatbot de mais limites para crianças e adolescentes.

A aposta neste tipo de ferramenta surge depois da morte de um adolescente nos EUA, que se suicidou após ter tido longas conversas com o ChatGPT. O caso foi alvo de reportagem pelo New York Times e levou os pais a avançar com um processo contra a OpenAI.

Adolescente suicidou-se nos EUA após falar durante meses com o ChatGPT sobre tema. Pais estão a processar a OpenAI que já anunciou mudanças

O controlo parental está a chegar às mãos dos utilizadores do ChatGPT a partir desta segunda-feira. Uma vez que o ChatGPT é usado por 700 milhões de pessoas, é possível que nem todas as contas tenham já a área de controlo parental. Pode aceder a uma página de ajuda para pais e tutores aqui.

Na prática, esta ferramenta permitirá aos pais e responsáveis de menores estabelecerem uma ligação entre a sua conta de ChatGPT e a da criança ou adolescente. Na área de definições, existe uma área de controlo parental em que é possível adicionar membros da família. O adulto pode enviar um convite, por email ou por telefone, que tem de ser aceite pelo adolescente para que as contas fiquem ligadas.

Quando é feita essa ligação entre contas, o adulto poderá estabelecer limites na utilização, como definir as horas em que pode ser usado, desligar a opção do modo de voz do ChatGPT ou desligar a “memória” do chatbot, o que impede que o ChatGPT se lembre de conversas, o que evitaria interações longas.

Além disso, os pais também vão poder impedir o acesso às ferramentas de criação e edição de imagem e determinar que as contas de menores sejam excluídas do treino de modelos, para que as conversas não venham a alimentar produtos posteriores. Se o adolescente decidir retirar a conta do agregado familiar, o adulto também recebe uma notificação.

A OpenAI reconhece que “alguns adolescentes procuram o ChatGPT em momentos difíceis”. Desta forma, as novidades de controlo parental também incluem um sistema de notificações “para ajudar os pais a saber quando algo poderá correr seriamente mal”.

A dona do ChatGPT explica que dotou o chatbot de “proteções” para “reconhecer potenciais sinais de que um adolescente poderá pensar em magoar-se”. Se os sistemas detetarem algo estranho, “uma pequena equipa de especialistas treinados vão analisar a situação”, diz a empresa. Se houver “sinais agudos de preocupação”, os pais “serão contactados por email, mensagem de texto e notificação no telefone, a menos que tenham optado por desligar essa função”.

A OpenAI explica que trabalhou com “especialistas, grupos de defesa incluindo a Common Sense Media e legisladores, incluindo os procuradores-gerais da Califórnia e do Delaware” nestas ferramentas e que “espera refinar e expandir os controlos ao longo do tempo”.

Robbie Torney, diretor sénior de programas da IA da Common Sense Media, diz em comunicado que “estes controlos parentais são um bom ponto de partida para os pais gerirem o uso que os adolescentes fazem do ChatGPT”. Descreve as ferramentas como “uma parte do puzzle no que toca a manter os adolescentes seguros online”, mas que precisam de ser combinadas “com conversas sobre uso responsável de inteligência artificial, regras familiares claras sobre tecnologia e um envolvimento ativo na compreensão do que os seus adolescentes estão a fazer online”.