O professor de inteligência artificial (IA) e investigação em física no instituto norte-americano MIT Max Tegmark afirma que, depois de realizar cálculos, descobriu uma probabilidade de 90% de uma IA altamente avançada representar uma ameaça existencial. Num artigo publicado em conjunto com três estudantes, os autores recomendam às empresas de IA que utilizem a equação do efeito Compton — criado pelo físico norte-americano Arthur Compton, que sustentou os cálculos de Robert Oppenheimer para o teste Trinity, que antecedeu a bomba atómica em 1945 — para acautelar preocupações de segurança.

De acordo com Tegmark, o cálculo resulta na probabilidade de uma IA altamente avançada, com poderes totais superiores à inteligência humana, poder escapar ao controlo humano. O especialista, que é presidente do Future of Life Institute, uma organização sem fins lucrativos que quer uma tecnologia que evolua beneficiando a humanidade, alerta para que as organizações que utilizam IA realizem os mesmos cálculos antes de optar por sistemas de superinteligência.

Os resultados foram publicados pelo The Guardian e o especialista reagiu através das redes sociais. “Se investigadores de empresas e países recalcularem esta constante e concordarem que é muito alta, haverá vontade política para impor padrões de segurança”, disse.

Em novembro, Tegmark esteve em Lisboa para a Web Summit e conversou com o Observador sobre os padrões de segurança que considera necessários. “Qualquer indústria tem padrões de segurança, certo? Se quiser abrir um restaurante, tenho a certeza de que a cidade de Lisboa tem alguns critérios de segurança. Não é possível ter ratos na cozinha e coisas do género. A parte mais importante é mesmo que deve haver padrões de segurança. E, para perceber o que devem ser, é preciso ter alguns especialistas de IA e deixá-los falar uns com os outros, de certeza que vão resolver alguma coisa.”