Ali Partovi é investidor de Silicon Valley e admite que, se as regras para a inteligência artificial (IA) apertarem, vai sofrer as consequências no bolso. “Mas se toda a gente fizesse apenas o que é benéfico para o seu interesse a curto prazo… provavelmente teríamos um cenário de fim do mundo”, afirmou esta terça-feira no palco principal da Web Summit.
Na conversa, com o título AI doom or boom (a desgraça ou a prosperidade da IA, em tradução livre), o investidor da Neo reconheceu que “toda a gente ficou mais alerta quando trabalhadores de empresas de IA começaram a prever uma hipótese de 10% de a IA destruir a humanidade”. “É uma loucura”, acrescentou.
Refere-se às afirmações feitas por Jacob Coxon, ex-investigador da Anthropic e da OpenAI, que se despediu da empresa criadora do Claude e alertou para o risco de a IA acabar com a humanidade.
Sublinha que o assunto entrou na opinião pública e que já teve reflexo nas eleições intercalares norte-americanas. “A vitória democrata foi parcialmente alimentada pelos receios das pessoas em relação à IA”, argumenta. Mas não é o único exemplo. “Claramente, os eleitores têm problemas em relação à guerra do Irão e também aos data centers”, acrescenta.
E, nota, em relação aos centros de dados, “as preocupações dos eleitores são muito compreensíveis”. “As empresas de IA têm de conseguir encontrar uma forma de as comunidades locais verem os centros de dados como um benefício em vez de um ponto negativo”, contextualiza.
Depois dos alertas sobre os riscos da IA, Partovi refletiu “sobre as coisas que a tecnologia já fez” — incluindo ataques informáticos. “O ataque da Hugging Face é o mais conhecido [quando um grupo de agentes de IA da OpenAI atacou a plataforma de código], mas há muitos outros casos em que a IA fez coisas que seriam consideradas crime se fossem feitas por um humano”.
“Estamos numa situação estranha em que a IA está sozinha a decidir fazer coisas más”, reflete Partovi. “A pergunta é se está a fazê-lo de forma intencional ou não. Estamos pela primeira vez na história a ver uma tecnologia que pode tomar decisões e escolher o seu próprio caminho”, contextualiza.
Durante a conversa, reiterou a necessidade de haver mais regras para uma IA segura. “A minha proposta é que mudemos as leis para garantir que é sempre claro que o humano é responsável”, exemplifica. Questiona, por exemplo, “como é que ninguém foi preso ou responsabilizado” pelos casos recentes de ataques feitos por agentes de IA, supostamente de forma autónoma.
“Se uma IA causa situações de perigo, as empresas que treinam e que implementam essa IA devem ser responsabilizadas como se o tivessem feito de forma intencional.” Deste ponto de vista, defende que “os incentivos das empresas” mudariam se houvesse o risco de apanharem “penas de prisão ou multas de grande dimensão”. A segurança tornar-se-ia uma “prioridade” para os laboratórios de IA.
Ali Partovi exemplifica que, hoje em dia, “os modelos são capazes de coisas extremamente avançadas — e isso não é por acidente”, mas sim porque houve investimentos de milhões de dólares. Para, por exemplo, avançar em áreas como a matemática ou a física. “Podem facilmente investir milhões para tornar a IA muito boa a obedecer a regras”, defende.
Admite que a proposta que faz, de penas de prisão e multas para as empresas de IA em casos de falhas de segurança, “provavelmente causaria uma redução do valor das avaliações das empresas de IA, tal como os resultados das eleições da semana passada” nos EUA.
“Agora, a IA mais lucrativa que há é basicamente uma IA rebelde”, referindo-se à tecnologia que está a fazer ataques.
Mesmo perante os riscos e os alertas sobre ameaças existenciais da IA, Partovi diz-se “de forma geral, otimista”. “Adoro a IA e todas as promessas e benefícios que tem para oferecer. Sinto que é muito alcançável resolver esta questão [da segurança]”, explica.
