1 A manhã de 10 de junho de 2025 ficou (também) marcada por dois acontecimentos aparentemente distintos, mas convergentes naquilo que revelam sobre o papel da inteligência artificial (IA) na sociedade contemporânea: por um lado, o colapso técnico global dos serviços do ChatGPT, prestado pela OpenAI; por outro, a suspensão deliberada, ordenada pelo Governo chinês, das principais plataformas de IA durante o exame nacional Gaokao. Em ambos os casos, as consequências foram imediatas, generalizadas e juridicamente relevantes.

Durante cerca de 10 horas, o ChatGPT deixou de responder ou apresentou tempos de espera excessivos, comprometendo o acesso de milhões de utilizadores em todo o mundo. A falha ocorreu num momento crítico para muitos estudantes europeus — nomeadamente italianos — que se preparavam para os exames nacionais, e gerou protestos generalizados nas redes sociais. Este episódio revelou a fragilidade do atual modelo de dependência de serviços assentes em IA fornecidos por entidades privadas (e da própria dependência da inteligência humana pela IA), cujos termos de uso frequentemente excluem qualquer garantia de disponibilidade ou continuidade, ainda longe das garantias típicas dos serviços públicos essenciais tributárias do pensamento de Louis Rolland. Do ponto de vista jurídico, esta falha levanta questões, desde logo, relativas à responsabilidade contratual e extracontratual dos fornecedores de IA, bem como à eventual necessidade de impor obrigações legais mínimas de serviço para plataformas com impacto social alargado.

Em paralelo, o Governo da República Popular da China ordenou que empresas tecnológicas como Alibaba, ByteDance, Tencent, DeepSeek e outras desativassem temporariamente os seus sistemas de IA generativa durante a realização do Gaokao, o exame nacional de acesso ao ensino superior. A medida visou evitar o uso ilícito de IA pelos candidatos e garantir a integridade da prova. Para além da suspensão tecnológica, foram implementadas medidas de vigilância acrescidas, como reconhecimento facial, controlos biométricos, e bloqueadores de sinal (jammers). A medida foi justificada como mecanismo para salvaguardar o interesse público – enquanto ensaio para os exames no próximo ano, mas levanta preocupações quanto à proporcionalidade e à intrusão nos direitos fundamentais dos cidadãos — especialmente em contextos autoritários.

2 Estes dois eventos revelam a urgência em definir, com clareza jurídica, quem pode desligar (ainda que temporariamente) um sistema de IA, em que condições, com que garantias procedimentais e com que efeitos, desde logo, quando tal possa colidir com direitos como o acesso à informação, liberdade de expressão e igualdade de oportunidades. A suspensão generalizada, sem mecanismos transparentes de escrutínio, pode converter-se num instrumento de censura e discriminação. Ou seja, impõe-se sempre uma ponderação pública dos valores em crise.

Na China, o poder de decisão esteve centralizado no Estado, com obediência quase automática por parte das empresas tecnológicas. Em países democráticos, como Itália, o precedente mais próximo foi a decisão do Garante per la Protezione dei Dati Personali (equivalente à nossa Comissão Nacional de Proteção de Dados) de bloquear temporariamente o ChatGPT em 2023, com base em preocupações de privacidade e conformidade com o Regulamento Geral sobre a Proteção de Dados. Nos EUA, a proposta legislativa da Califórnia (Senate Bill 1047) previa a obrigatoriedade de um “kill switch” em modelos avançados de IA generalista. Embora tenha sido travada por pressão das grandes empresas tecnológicas, o debate permanece em aberto. A nível europeu, o Regulamento da Inteligência Artificial aprovado em 2024 já define obrigações específicas para sistemas de alto risco, incluindo requisitos de transparência, supervisão humana e gestão de incidentes. Contudo, o Regulamento não prevê, de forma detalhada, mecanismos de suspensão total de serviços em contextos excecionais, nem responde de forma definitiva à questão do “botão de desligar”.

Acresce que a suspensão — técnica ou deliberada — de sistemas de IA não é apenas uma questão tecnológica, mas sim jurídica, ética e de políticas públicas. Requer opções públicas e um quadro normativo claro que permita salvaguardar os interesses públicos (como a justiça nos exames ou a cibersegurança), sem comprometer direitos fundamentais ou abrir caminho a abusos num terreno tão débil como o que se verifica no mundo digital. A decisão de desligar um sistema de IA deve ser excecional, justificada, proporcional e sujeita a controlo democrático. E sobretudo, deve prever mecanismos que assegurem que não são os mais vulneráveis, os principais prejudicados com a ausência desses serviços. Em sentido oposto, não pode deixar de se questionar se a maior parte dos Estados conseguiriam garantir a efetividade de uma medida, política ou judicial, de suspender um sistema de IA de largo impacto, nomeadamente, por razões de soberania estadual.

3 Se o mundo depende (na esperança em que não se esteja já perante um fenómeno de “adição”) cada vez mais de sistemas de IA, os Estados e o Direito devem preparar-se para regular não só o seu uso… mas também o seu silêncio. Ainda a importância do silêncio, como insistia o compositor Stockhausen.