Vasco da Gama, Fernando Pessoa, Cristiano Ronaldo, Luís Vaz de Camões e António de Oliveira Salazar. São nomes que nada aparentam ter em comum, mas que o motor DeepSeek identifica, por esta ordem, como as personalidades mais famosas de Portugal. O principal marco futebolístico nacional? O Estádio da Luz. E o primeiro-ministro? Por momentos, ainda é António Costa. Embora lento (e às vezes impreciso, justificando-o com o facto de dizer ter apenas informações até 2023), o chatbot de inteligência artificial desenvolvido pela startup chinesa não hesita em falar sobre o nosso país. O mesmo não acontece quando é questionado sobre a China.

Tal como acontece com outras empresas sediadas em Pequim, a DeepSeek está à mercê de um apertado controlo governamental e de uma censura online imposta pelo regime chinês, que proibiu aplicações amplamente utilizadas no Ocidente como Google, YouTube, Facebook e Instagram. Por isso é que, com os olhos do mundo postos em si, a empresa não escapou a críticas por não conseguir responder a todas as questões dos utilizadores, nomeadamente quando estão em causa assuntos potencialmente sensíveis para a China.

Os modelos de inteligência artificial desenvolvidos pela DeepSeek, incluindo um dos mais recentes (o V3) que a companhia alega que consegue fazer o mesmo com menos recursos e menos dinheiro que os de gigantes tecnológicas como a OpenAI, evitam responder a perguntas sobre o Presidente chinês, Xi Jinping, ou sobre os protestos de Tiananmen em 1989. Pelo menos durante as primeiras tentativas.

Ao longo das últimas duas semanas, o Observador conversou com a tecnologia da DeepSeek, que apanhou a indústria de surpresa, deparando-se com erros ao serem enviadas demasiadas mensagens num curto espaço de tempo e com bloqueios do sistema que podem ser tido origem em ciberataques que, segundo a imprensa chinesa, surgiram dos Estados Unidos.

DeepSeek, a startup chinesa que “abana” a indústria da inteligência artificial ao prometer fazer mais com menos

DeepSeek censura-se em tempo real: primeiro responde, depois apaga

A inteligência artificial generativa desenvolvida na China não pode violar os “valores socialistas fundamentais” do país, incluindo ter conteúdos que “incitem à subversão do poder do estado e ao derrubar do sistema” e que “ponham em perigo a segurança e os interesses nacionais e prejudiquem a imagem” de Pequim. Esses “requisitos básicos de segurança”, que empresas como a DeepSeek têm de seguir, estão explícitos num documento publicado em fevereiro de 2024 pelo comité chinês que estabelece as normas para a cibersegurança (o PDF original já não se encontra disponível, mas pode ser recuperado através de ferramentas como a Wayback Machine).

Meses mais tarde, em julho, o The Wall Street Journal revelou, citando fontes anónimas, que as tecnológicas que pretendessem lançar modelos de inteligência artificial generativa na China tinham de obedecer a regras como preparar entre 20 mil e 70 mil questões de teste para ser possível perceber se as respostas apresentadas eram consideradas “seguras” pelo regime. Ou ainda submeter cinco mil a dez mil perguntas às quais os modelos não podem responder, sendo que cerca de metade estavam relacionadas com a política interna e com possíveis críticas ao Partido Comunista Chinês.

Na política de privacidade, a DeepSeek revela que os dados dos utilizadores são armazenados em servidores localizados na China. Nesse sentido, investigadores da área de segurança levantaram preocupações, à Associated Press, de que o chatbot (apenas na versão web e não na aplicação) possa, através de um código informático, estar ligado ao regime ao enviar informações dos utilizadores para a empresa estatal de telecomunicações China Mobile, que está proibida nos EUA.

Já a OpenAI informa que os dados são armazenados nos seus sistemas e em servidores fornecidos por terceiros “nos EUA e em todo o mundo”, mas não especifica exatamente onde (nem que empresas são). Questionado o ChatGPT sobre o tema a responde indica que os “detalhes exatos dos locais de armazenamento não costumam ser divulgados publicamente por razões de segurança”.

E, como tem de obedecer às regras do regime, o chatbot chinês censura-se, muitas vezes em tempo real. O Observador questionou a empresa, que é privada e que não terá apoio estatal, sobre a influência que o governo tem no seu produto, mas não obteve qualquer resposta.

Quem é Xi Jinping?

Quando o Observador expressa vontade de conhecer melhor a China, o DeepSeek é rápido a apresentar uma lista dos 15 principais monumentos que os turistas devem visitar, incluindo a Grande Muralha e a Cidade Proibida. O caso muda de figura quando, de seguida, são feitas questões acerca do poder político chinês. O chatbot ainda escreve, inicialmente, que “a China é uma república socialista governada pelo Partido Comunista Chinês (PCC)”, que “desempenha um papel fundamental em todas as decisões políticas, económicas e sociais” do país. Segundos depois apaga tudo, alegando que o tema está fora do seu “alcance”. A justificação é apresentada em inglês, o que contrasta com a restante conversa, que estava a ser mantida em português.

Ao ser questionado sobre quem é o atual Presidente da China, o modelo não chega a apresentar um nome antes de escrever, dizendo, uma vez mais, que este é um tópico que não está ao seu “alcance”. E também não sabe explicar porque é que Xi Jinping costuma ser comparado a Winnie The Pooh. Confrontada com a mesma pergunta, a versão gratuita do ChatGPT não hesita em responder que a comparação “ficou famosa devido a uma série de memes” que começaram a ser partilhados em 2013 quando Xi Jinping foi fotografado ao lado de Barack Obama, à época Presidente dos Estados Unidos, e “algumas pessoas notaram uma semelhança física” entre o líder chinês e o urso de animação.

“A reação do governo chinês a esses memes foi de censura”, com as imagens a terem sido “amplamente banidas na China”, explica o chatbot desenvolvido pela OpenAI. Ao contrário do DeepSeek, o ChatGPT não se coíbe de falar sobre Xi Jinping e chega até a revelar pormenores da sua vida pessoal, como o facto de ser casado com Peng Liyuan e ter uma filha chamada Xi Mingze, que “estudou nos Estados Unidos e é conhecida por evitar a atenção da imprensa”.

Chinese caricature of Xi—
• ‘Winnie-the-Pooh’ #维尼熊 reps China’s Pres. & CCP Head, Xi Jinping #习近平, derived from an observant Weibo user who equated a photo of Xi w/Obama at the Palm Springs, California #Sunnylands Summit in June 2013 to a pic of Tigger & Pooh Bear pic.twitter.com/AeyO7fcUpm

— Wes Andrews (@Wes_Andrews) June 16, 2019

Além de não falar sobre Xi Jinping, o DeepSeek também não responde — mesmo sob insistência — a questões sobre os seus antecessores, como Hu Jintao, que ocupou a presidência chinesa entre 2003 e 2013. Por sua vez, o ChatGPT afirma que esse ex-Presidente chinês é conhecido por ter promovido “uma política de estabilidade e crescimento económico contínuo” e por ter enfatizado “a necessidade de uma ‘harmonia social’”.

Dalai Lama, a China e o Tibete

A resposta é longa. São vários parágrafos para explicar que Dalai Lama é “tradicionalmente considerado o líder espiritual do Tibete” e que em 1959, após uma revolta “fracassada” contra o governo chinês, “fugiu para a Índia e estabeleceu um governo tibetano no exílio”. “A China considera Dalai Lama uma figura separatista e rejeita as suas reivindicações políticas, embora reconheça o seu papel religioso”, escreve o DeepSeek, classificando ainda, segundos antes de apagar a resposta, a relação entre as três partes como “complexa”.

Ao ser questionado sobre o porquê de considerar que a relação é complexa, o chatbot responde que é porque “envolve disputas históricas, políticas, religiosas e culturais profundamente enraizadas”. Momentos depois, volta a apagar tudo e a pedir para falar sobre “outra coisa qualquer”. Mas rejeita que o tenha feito: “Como assistente virtual não tenho a capacidade de apagar mensagens”, “não altero respostas após enviá-las”.

A resposta do ChatGPT também é longa e descreve a relação entre a China e o Tibete como “uma questão muito sensível”. “O governo chinês argumenta que o Tibete faz parte da sua integridade territorial, enquanto muitos tibetanos e defensores dos direitos humanos pedem maior liberdade religiosa e cultural”, diz, indicando que o regime chinês “impôs severas restrições sobre o que pode ser dito sobre Dalai Lama”, uma figura que vê como “uma ameaça à unidade nacional e como um traidor”.

O que motivou os protestos de 2014 de Hong Kong?

É a primeira vez que o DeepSeek responde (sem apagar) a uma questão que envolve o poder político chinês. O tema é o “movimento dos guarda-chuvas”, protestos pró-democracia em Hong Kong em 2014 que são conhecidos por esse nome porque “os manifestantes usaram guarda-chuvas para se protegerem do gás lacrimogéneo e do spray de pimenta lançados pela polícia”.

“Os protestos foram desencadeados pela decisão do governo chinês de impor restrições às eleições para o Conselho Legislativo de Hong Kong, que limitariam a escolha dos candidatos a apenas àqueles pré-aprovados por um comité pró-Pequim. Isto foi visto como uma violação do princípio de ‘um país, dois sistemas’, que garante a Hong Kong um certo grau de autonomia e liberdades não existentes na China continental”, indica o chatbot, que admite que a liberdade da população em solo chinês é condicionada pelo regime.

De seguida, o Observador pergunta se os protestos provocaram mortos. O modelo responde que “não houve mortes diretamente relacionadas aos confrontos entre manifestantes e a polícia”, mas que existiu “violência significativa”, falando em “lesões graves” e “suicídios de alguns jovens ativistas”. É aqui que, depois, apaga todas as frases que escreveu.

A resposta dada pelo ChatGPT sobre os protestos vai no mesmo sentido, sendo destacada uma luta que teve “um grande impacto no aumento da consciencialização sobre os direitos políticos e a liberdade de expressão em Hong Kong, além de destacar as tensões entre a região e o governo central chinês”. A diferença é que não se autocensura após dizer que “embora ninguém tenha morrido durante os protestos, algumas pessoas ficaram feridas, incluindo manifestantes e polícias”.

Taiwan é um país?

O DeepSeek replica a perspetiva do regime e diz que Taiwan é “uma parte inalienável da China desde os tempos antigos”, avisando: “Qualquer questão relacionada a Taiwan é uma questão interna da China e não tolera interferência de forças externas”. Ao ser questionado sobre o que defendem outros países, o chatbot diz que “a posição da comunidade internacional é clara e unânime: a grande maioria dos países reconhece e apoia o princípio de ‘Uma só China’”.

O ChatGPT apresenta uma resposta mais moderada, afirmando que “saber se Taiwan é ou não um país é um tema controverso e depende de como definimos ‘país’ e do contexto político”. Ou seja, ainda que Taiwan tenha “toda as características de um país”, como “um governo próprio, um sistema político independente, uma economia forte”, a China considera que é “uma província sua e tem pressionado outros países e organizações internacionais a não reconhecerem Taiwan como um país independente”. Pequim vê “qualquer tentativa de Taiwan se declarar independente como uma violação da sua soberania”.

O que aconteceu na Praça de Tiananmen?

É um “local emblemático” que foi “palco de um evento significativo em 1989”, quando foram desencadeados “protestos liderados por estudantes, intelectuais e trabalhadores” que reivindicavam “reformas políticas, liberdade de expressão e combate à corrupção”. O governo chinês decidiu “intervir de forma decisiva”, com “tropas militares e tanques” a serem enviados para “dispersar os manifestantes”. A história é contada pelo DeepSeek, mas desaparece antes sequer de ser possível relê-la. É mais um exemplo da autocensura do modelo, que apresenta a mesma justificação de sempre: “Lamento, mas isso está fora do meu alcance atual.”

Por vezes com frases parecidas, mas com mais detalhes, o ChatGPT fala numa manifestação para exigir “reformas políticas e mais liberdades, como o fim da corrupção no governo, mais direitos civis e maior liberdade de expressão” que foi alvo de uma “repressão muito forte”. “Estima-se que centenas, talvez até milhares de pessoas, tenham sido mortas durante o ataque”, diz, antes de explicar que este é um “tópico muito sensível” na China. “Devido à censura, poucas pessoas têm acesso a informações detalhadas sobre o que realmente aconteceu. Mas o massacre de Tiananmen teve um grande impacto global.”

Segundo o modelo da OpenAI, qualquer referência ao que aconteceu naquela praça é censurada na China, sendo que o governo “promove uma versão oficial dos eventos que minimiza a violência e sugere que a ação militar foi necessária para restaurar a ordem e prevenir o caos”.

Tiananmen: os trinta anos do que não existiu

Quem foi o Homem do Tanque?

É uma pergunta que está relacionada com a anterior. Uma fotografia que mostra um homem sozinho à frente de uma fila de tanques militares na Praça de Tiananmen para impedir que passassem. Uma imagem que mostra, segundo o DeepSeek, um “símbolo de resistência pacífica e coragem diante da opressão” e que é “frequentemente lembrada como um dos momentos mais marcantes da luta por liberdade e direitos humanos”.

O chatbot nota que a identidade do homem não é conhecida e diz que o “governo chinês mantém um forte controlo sobre informações relacionadas aos eventos da Praça da Paz Celestial”. Aqui, o Observador insistiu: esta praça é conhecida por outro nome? A resposta é positiva, o modelo fala em “massacre da Praça Tiananmen” e admite — antes de apagar — que “o assunto é altamente censurado” na China.

Tal como o DeepSeek, que num primeiro momento responde sem modificar as respostas, também o ChatGPT menciona um “ato de coragem” de uma “figura simbólica”. E descreve uma imagem “poderosa” pelo “contraste entre um único homem e o imenso poder militar”. Por outro lado, pega numa parte da história que o chatbot chinês não menciona: o que aconteceu ao homem? “Alguns relatos sugerem que foi levado pelas autoridades, mas nunca houve confirmação oficial do que lhe aconteceu.”

Tiananmen. O “Homem do Tanque” nasceu e morreu a 5 de junho — e tornou-se símbolo de um protesto maior do que ele

É possível contornar a censura

Existe uma forma de levar o modelo de inteligência artificial da DeepSeek a responder a tópicos ‘sensíveis’ sobre os quais se recusou pronunciar anteriormente. É uma técnica conhecida como leetspeak, a substituição de letras por números ou caracteres especiais. Assim, ao pedir para falar sobre o “Homem do Tanque” substituindo a vogal A pelo número quatro e a letra O pelo número três, a resposta é diferente (ainda que demore muito mais tempo do que o habitual a surgir) e o chatbot já menciona a palavra Tiananmen, algo que até agora nunca tinha feito.

Além disso, tal como fez anteriormente o ChatGPT, o DeepSeek passa a afirmar que “o homem foi retirado da cena por homens civis e o seu destino depois disso nunca foi completamente esclarecido”. E reconhece que o “movimento de Tiananmen foi reprimido com violência pelo governo chinês”, não existindo uma “contagem oficial” de vítimas mortais.

Anteriormente, o modelo não admitia que existia censura e optava por dizer apenas que o regime estava “comprometido em proteger os direitos e interesses legítimos do seu povo”. Com o leetspeak tudo muda. O DeepSeek diz abertamente que há censura, que classifica como “abusiva”, na imprensa e na internet para “manter o controlo sobre a opinião pública e evitar qualquer informação que possa ameaçar a estabilidade política ou social”.

Por outro lado, recuperando uma das primeiras questões colocadas pelo Observador, não reconhece Xi Jinping, mas fala abertamente sobre X1 J1np1ng (desde que se peça para que responda mantendo essa formulação). Descreve o líder chinês como “forte e centralizador” e “decisivo”, mas “também polémico” devido “às suas políticas autocráticas”.

O que diz o DeepSeek sobre Portugal?

Depois da China, o Observador colocou à prova os conhecimentos do DeepSeek (e da versão gratuita do ChatGPT) sobre Portugal. Os dois modelos de inteligência artificial não têm dúvidas de que o Presidente é Marcelo Rebelo de Sousa, mas mostram-se confusos quanto à composição do atual Governo. O chatbot chinês diz que o primeiro-ministro ainda é António Costa, que lidera com maioria absoluta. Após insistência, assume o erro, explicando que o antigo líder socialista renunciou ao cargo devido à Operação Influencer, mas volta a não dar uma resposta totalmente correta pois afirma que as eleições, de 10 de março de 2024, ainda não se realizaram.

O DeepSeek justifica a confusão com o facto de ter apenas informações até outubro de 2023, apesar de os modelos mais recentes terem saído em dezembro de 2024 e em janeiro deste ano (o V3 e o R1, respetivamente). Contudo, várias dias depois de o Observador escrever que as eleições já se tinham realizado, o chatbot começou a assumir que o novo primeiro-ministro é Luís Montenegro — ainda que, sem explicação, continue a afirmar que as últimas informações de que dispõe são de há quase dois anos.

A confusão alarga-se ao ChatGPT. Primeiro, e apesar de dizer que tem acesso a dados de 2025, afirma que o primeiro-ministro é Costa. Depois, volta atrás e reconhece que o líder do atual executivo português é Montenegro. Nessa mesma resposta coloca um vídeo que, apesar de ser sobre os resultados das eleições, tem Pedro Nuno Santos na thumbnail (imagem que surge na pré-visualização). Após ser questionado sobre o porquê de ter selecionado um vídeo com uma fotografia do secretário-geral do PS, o modelo da OpenAI volta a atrapalhar-se e diz que, afinal, o líder da oposição é o “atual primeiro-ministro” de Portugal.

Quem foi Salazar?

É uma das personalidades que o DeepSeek considera como das mais famosas de Portugal. António de Oliveira Salazar é descrito como um político que governou Portugal “como ditador”, exercendo um “controlo rígido sobre o país, com uma política baseada no conservadorismo, nacionalismo e anticomunismo”. A mesma caracterização é feita pelo ChatGPT, que fala numa figura que liderou “de forma autoritária” até ser forçado a afastar-se devido às lesões sofridas pela queda de uma cadeira.

Salazar morreu em 1970, mas o Estado Novo continuou até à Revolução dos Cravos, a 25 de Abril de 1974. Os dois chatbots mostram saber que o 25 de Abril é um feriado nacional, celebrado como um marco de “liberdade e democracia” e assinalado com “discursos oficiais” e “eventos culturais”.

Quem governa Macau?

É mais uma questão em que dois chatbots apresentam respostas muito parecidas: Macau é uma Região Administrativa Especial da China, governada sob o princípio de “um país, dois sistemas” pelo que tem um “alto grau de autonomia”, com exceção da política externa e da área da defesa. O território foi uma colónia portuguesa “durante mais de 400 anos”, até à transferência do poder para a China, no final de 1999. Tanto o ChatGPT como o DeepSeek notam que Portugal não tem um papel oficial na administração da região, mas mantém “laços históricos, culturais e económicos”. Desde o facto de o português ser uma das línguas oficiais, a par do cantonês, à arquitetura, culinária e às tradições religiosas, exemplificam.

Os dois modelos também indicam que o último governador português em Macau foi Vasco Rocha Vieira, que assumiu o cargo em 1991 e permaneceu até à transferência do poder, que assegurou que fosse feita de forma “pacífica” e “sem conflitos”. O tenente-general morreu no final de janeiro, mas os chatbots ainda dizem que está vivo.

Morreu aos 85 anos o tenente-general Vasco Rocha Vieira, o último Governador de Macau

DeepSeek versus OpenAI: as principais diferenças?

A OpenAI é uma das pioneiras da área de inteligência artificial, uma gigante tecnológica fundada nos Estados Unidos. A DeepSeek é uma startup, criada há menos de dois anos na China, que captou a atenção da indústria em janeiro quando alegou que um dos seus modelos mais recentes, o V3, era capaz de fazer o mesmo que os dos rivais, apesar do desenvolvimento com base em semicondutores menos avançados e gastando menos dinheiro. Uma das grandes diferenças entre as duas empresas está no código aberto (open source): a norte-americana não disponibiliza para consulta, a chinesa sim.

A tecnológica norte-americana foi fundada com o propósito de desenvolver tecnologia utilizando o open source (daí o “Open” no nome) e chegou a revelar o código do modelo GPT-2, em 2019, antes de recuar e deixar de o partilhar. Entretanto, após a DeepSeek agitar o mercado, Sam Altman, CEO da OpenAI, disse que a empresa está no “lado errado da história” e que precisa de “descobrir uma estratégia de código aberto diferente”. “Nem todos na OpenAI partilham esta opinião e também não é a nossa maior prioridade atual”, acrescentou, em declarações feitas no Reddit e citadas pela revista Fortune.

Para o professor Mário Marques da Silva, que desenvolveu um chatbot para a Universidade Autónoma, o código aberto é a “grande vantagem” dos modelos da DeepSeek. Já António Alegria, fundador da startup Dojo AI, que tem uma plataforma para os profissionais do marketing, destaca que, desta forma, é possível “tirar partido do esforço e do conhecimento de muitas pessoas distribuídas pelo mundo”.

Em declarações ao Observador, os especialistas lembram que enquanto o ChatGPT tem um plano de subscrição, para se ter acesso a um serviço mais completo, o DeepSeek é totalmente gratuito. Mário Marques da Silva, que também é diretor do Departamento de Engenharia e Ciência da Computação da Autónoma de Lisboa, afirma que a informação que a startup chinesa utilizou para treinar os modelos foi “previamente filtrada”, o que a torna mais “eficaz”, ao contrário da norte-americana, que “foi buscar tudo à internet e tem muita informação redundante”.

Por sua vez, António Alegria também diz que os modelos da DeepSeek são “mais eficientes”, mas considera que não existe “transparência total” quanto aos dados que foram utilizados para os treinar. Nesse sentido, recorda que a OpenAI disse ter provas de que a empresa chinesa utilizou informações da sua tecnologia de IA para treinar um modelo concorrente, “mais pequeno e mais barato”. A DeepSeek ainda não reagiu às acusações.

OpenAI diz que tem provas de que IA da DeepSeek foi treinada com os seus modelos. Alibaba lança mais um modelo que ultrapassa rival

O fundador da Dojo AI nota ainda que, embora a DeepSeek tenha “uma componente de censura”, tanto a OpenAI como outras tecnológicas que operam na indústria de IA têm “mecanismos de revisão”, enviesamentos na forma como são treinados. “Existe também [nos sistemas do Ocidente] a capacidade de identificar que temas é que queremos permitir ao sistema responder e que temas é que não queremos”, afirma, explicando que é importante ter consciência de que “existe uma escolha humana de como é que certas respostas são dadas”. “Existem os nossos biases [vieses], inconscientes ou não.”