Quando falamos de deepfakes, é um erro tratá-los apenas como um desafio tecnológico ou como mais um capítulo na discussão sobre regras digitais. Em muitos casos, estamos a falar de violência. Violência exercida através da tecnologia, mas com consequências profundamente reais para quem a sofre. Mulheres e crianças veem os seus rostos e corpos apropriados sem consentimento, transformados em instrumentos de humilhação, de coerção e de abuso. Isto não é virtual, é uma forma clara de agressão.
A proliferação dos deepfakes representa, por isso, uma mudança estrutural no espaço público. Não apenas porque torna a falsificação mais acessível e mais sofisticada, mas porque fragiliza a confiança coletiva e torna instável a fronteira entre o verdadeiro e o fabricado. Quando imagens, vídeos ou gravações podem ser produzidos artificialmente com elevado grau de verosimilhança e difundidos à escala global em minutos, o impacto não é neutro. É político, jurídico e humano.
O efeito mais corrosivo desta tecnologia não é apenas induzir alguém em erro. É normalizar a dúvida permanente. Se tudo pode ser falsificado, tudo pode ser negado. Um vídeo falso pode destruir uma reputação; um vídeo verdadeiro pode ser descartado como manipulado quando se torna incómodo. Este ambiente cria uma nova forma de impunidade, favorecendo quem tem mais poder e maior capacidade de amplificação, e fragilizando quem depende da credibilidade da sua palavra para se defender.
Num contexto democrático, esta lógica é particularmente perigosa. A democracia depende da possibilidade de escrutínio, de responsabilização e da existência de um mínimo de realidade partilhada. Quando esse chão comum se dissolve, o debate público degrada-se e a confiança nas instituições enfraquece.
Mas é no domínio da exploração sexual que os deepfakes revelam com maior clareza a sua gravidade. A criação e disseminação de imagens íntimas não consentidas, geradas por inteligência artificial, constitui uma forma de violência sexual e deve ser tratada como crime. O facto de essas imagens serem “sintéticas” não reduz a gravidade do ato nem o sofrimento causado às vítimas. Pelo contrário, amplifica-o, tornando-o replicável, persistente e difícil de erradicar.
Ignorar esta realidade ou tratá-la como um efeito colateral da inovação é abdicar da proteção dos direitos fundamentais no espaço digital. Não estamos perante zonas cinzentas éticas, mas perante violações claras da dignidade humana que exigem uma resposta firme do Estado de Direito.
Existe a tentação de encarar os deepfakes como um fenómeno inevitável, ao qual a sociedade deverá responder sobretudo através de maior literacia digital. Essa resposta é importante, mas insuficiente. Não é razoável exigir que cada cidadão seja um perito técnico para poder participar no espaço público em segurança. A tecnologia não é neutra, resulta de escolhas humanas, de modelos de negócio e de incentivos económicos.
Enquanto relator para a Convenção sobre Inteligência Artificial, tenho defendido que a ausência de regras claras não é liberdade, é desproteção. A União Europeia dispõe hoje de instrumentos jurídicos robustos, como o Digital Services Act e o Artificial Intelligence Act. O desafio central já não é legislativo, é de aplicação efetiva e de responsabilização.
As plataformas digitais não podem continuar a amplificar e a lucrar com a disseminação de conteúdos ilegais enquanto se escudam numa alegada neutralidade. Quem distribui conteúdos exerce poder e esse poder implica responsabilidade. Cada atraso na remoção de deepfakes de natureza sexual, cada falha na deteção e cada ausência de cooperação com as autoridades traduzem-se em mais violência e mais impunidade.
Regular os deepfakes não é travar a inovação. É garantir que a tecnologia não se transforma num instrumento de abuso e de silenciamento. É proteger a dignidade humana, os direitos fundamentais e a própria possibilidade de um espaço público baseado em confiança.
No fim, a questão é simples e profundamente política: queremos um mundo digital onde a violência é amplificada pela tecnologia ou uma sociedade que afirma claramente que, também online, a dignidade humana não é negociável? A resposta a esta pergunta determinará não apenas o futuro da inteligência artificial na Europa, mas a qualidade das nossas democracias.
