A OpenAI, empresa de Elon Musk que se dedica à investigação na área da Inteligência Artificial, criou um sistema de criação de texto inovador que poderia substituir de forma credível um autor humano na produção de artigos jornalísticos ou obras literárias. Mas o risco de a ferramenta ser utilizada para a disseminação de fake news é tão elevado que os próprios criadores decidiram não divulgar publicamente os resultados da investigação.

De acordo com o jornal britânico The Guardian, os criadores do sistema, chamado GPT2, consideram que ele é muito avançado e que existe um grande risco de poder ser utilizado com más intenções, pelo que decidiram romper com o seu procedimento habitual e não divulgaram na íntegra o sistema. Querem ter mais tempo para estudar as possibilidades de uso daquela ferramenta.

Segundo explica o mesmo jornal, o GPT2 é uma ferramenta na qual é introduzida uma porção de texto existente, que poderá ser apenas uma ou duas frases ou mesmo páginas inteiras, e continua a escrever o texto, fazendo previsões sobre a continuação lógica das frases. Nas experiências efetuadas, o GPT2 conseguiu escrever segmentos de texto credíveis sem os erros mais frequentemente apresentados por outras ferramentas de Inteligência Artificial.

Fake news sobre o Brexit

Por exemplo, quando foi introduzida no sistema a primeira frase do livro 1984, de George Orwell — “Era um dia claro e frio de abril, e os relógios marcavam treze horas” —, o GPT2 continuou o texto da seguinte forma: “Estava no meu carro a caminho de um novo emprego em Seattle. Pus combustível, pus a chave e andei. Só imaginei como seria o dia. Daqui a um século. Em 2045, eu era um professor numa qualquer escola numa zona pobre da China rural. Comecei com história chinesa e história da ciência”.

O The Guardian fez também uma experiência introduzindo no sistema um conjunto de parágrafos de uma notícia sobre o Brexit, e o GPT2 conseguiu produzir parágrafos credíveis para continuar a notícia.

Segundo explicou Dario Amodei, um dos responsáveis da empresa, aquele sistema é inovador na medida em que “aprendeu” a partir de um arquivo de textos muito maior do que qualquer ferramenta de Inteligência Artificial criada até hoje. O arquivo a partir do qual o GPT2 foi treinado inclui 10 milhões de artigos e ocupa 40 gigabytes.

Os detalhes deste novo sistema, contudo, não serão públicos, enquanto a empresa investiga as potenciais utilizações da ferramenta. “Temos de fazer experiências para perceber o que é que eles [utilizadores com más intenções] podem e não podem fazer com o sistema”, explicou Amodei. “Há muito mais pessoas do que nós que são melhores a pensar no que é que o sistema pode fazer de mau”, acrescentou.

Entre as principais preocupações dos criadores está a utilização do sistema para produzir mensagens de spam (indesejadas) ou fake news.