As tecnologias digitais estão a mudar as nossas vidas a cada minuto. Algumas aplicações estão a alterar profundamente a nossa forma de trabalhar, consumir e nos relacionarmos uns com os outros.

Na maioria dos casos, os produtos e as ferramentas que utilizamos assentam em sistemas sofisticados e complexos que a maioria de nós não compreende. A utilização generalizada de sistemas baseados em tecnologias incompreensíveis pode gerar riscos óbvios para a nossa sociedade. Corremos o risco de ficarmos dependentes daquilo que é geralmente conhecido por «caixas negras», ou seja, os sistemas algorítmicos.

Embora estas «caixas negras» possam ser usadas apenas para filtrar informações complexas, podem também apresentar-nos uma visão distorcida da realidade, nomeadamente no que diz respeito à informação, com notícias subjetivas e tendenciosas nas redes sociais ou nos alertas noticiosos. Os grupos vulneráveis, como as crianças, podem ser expostos a conteúdos nocivos e os consumidores podem receber propostas de produtos contrafeitos nos mercados em linha.

A falta de competências e literacia digitais, a ausência de uma adequada gestão dos riscos e a escassez de ferramentas para sinalizar informações incorretas tornam alguns destes riscos ainda mais complexos.

As plataformas digitais, especialmente as que são muito grandes e contam com milhões de utilizadores, já não podem alegar que são meros intermediários dos conteúdos que alojam. Na verdade, os conteúdos propostos aos cidadãos são determinados pelas «caixas negras» que estas plataformas estão a desenvolver.

Chegou a hora de abrir estas «caixas negras» e revelar o seu conteúdo. Está na altura de as plataformas digitais assumirem a sua responsabilidade social e agirem em conformidade.

O novo Regulamento dos Serviços Digitais tem o propósito de adicionar transparência a estas caixas negras, e a criação do Centro Europeu para a Transparência dos Algoritmos (ECAT) é um passo decisivo para alcançar este objetivo.

O ECAT será composto por uma equipa de especialistas altamente qualificados em ciências dos dados, inteligência artificial e sistemas algorítmicos, o que apoiará a ambição europeia de assegurar que o que é ilegal fora de linha também é ilegal em linha e que as grandes plataformas e motores de pesquisa assumem as suas responsabilidades para com a sociedade em geral.

Isto será feito analisando a forma como os sistemas algorítmicos se comportam, os riscos que deles decorrem e como podem ser avaliados. O ECAT porá em prática estes conhecimentos a fim de apoiar o papel da Comissão enquanto entidade reguladora e ajudar a abrir as «caixas negras».

Além disso, o ECAT tem por ambição tornar-se o centro de uma comunidade dinâmica de investigadores e profissionais que ajudarão a esclarecer o funcionamento dos sistemas por detrás dos serviços digitais mais populares.

O evento de lançamento do ECAT, que teve lugar em Sevilha em 18 de abril de 2023, foi o ponto de partida para a mobilização desta vasta comunidade.

Para proteger as crianças, estamos também a introduzir novas regras e ferramentas, começando pela sensibilização para a desinformação e outras ameaças em linha, através de iniciativas como o Plano de Ação para a Educação Digital.

A abordagem da UE assenta na nossa convicção de que o progresso tecnológico não deve nunca alcançar-se às custas dos nossos valores democráticos. As oportunidades criadas pela era digital devem estar disponíveis para todos e ser compreensíveis por todos.

Com esta visão e os meios que desenvolvemos, a UE está bem colocada para se tornar líder mundial na era digital e construir um futuro digital mais resiliente e inclusivo para todos.