Os líderes da Anthropic e da OpenAI, dois dos principais laboratórios de inteligência artificial (IA), voltaram a falar sobre o cenário de riscos causados pela tecnologia durante uma conferência em São Francisco, nos EUA.
A presença dos dois executivos (e rivais) no evento da Salesforce passou a ter uma dimensão reforçada depois dos alertas de um ex-investigador de IA, que avisou sobre um risco existencial devido à evolução da tecnologia.
Amodei e Altman falaram em momentos separados do evento, em intervenções feitas esta terça-feira.
Em conversa com Marc Benioff, o CEO da Salesforce, o líder da Anthropic repetiu que é necessário um abrandamento nos avanços da IA, para acautelar boas práticas de segurança. Durante a conversa, Amodei usou uma analogia sobre automóveis para transmitir o seu ponto de vista.
“Tenho uma empresa automóvel, com um bom registo de segurança, que tem uma rival que teve um incidente de segurança”, afirmou. “A tática mais fácil seria atacar o concorrente, dizer que não são seguros e que nós somos.”
Nesta analogia, “o mais responsável seria dizer ‘vamos olhar para o nosso próprio registo’, (…) comprometermo-nos com a transparência, investir mais em segurança”. Depois disso, seria “preciso olhar para toda a indústria, como é que se definem os melhores parâmetros para todos? E, finalmente, deve haver uma componente internacional.” Ou seja, as três grandes linhas do ensaio que Amodei publicou no sábado.
No evento em São Francisco, admitiu que ficou surpreendido com a velocidade com que “os modelos se tornaram mais capazes”. “Só que o que não prevíamos era que as empresas [responsáveis pelos modelos] crescessem tanto (…) e se tornassem tão depressa tão centrais para o que está a acontecer no mundo.”
“Mesmo que congelássemos a tecnologia — que não vamos fazer, desacelerar a fronteira não é isso, a tecnologia continuará a melhorar”, clarificou. “Mas, usando a ideia de congelar, só estamos a usar entre 5 e 10% do valor potencial da tecnologia.”
Sam Altman também conversou com Benioff. Sem surpresas, a segurança da IA foi o primeiro tema abordado durante a conversa. O CEO da empresa que criou o ChatGPT reconheceu que o debate não é novo, mas que a “intensidade” do tema se alterou. Em parte, “porque os modelos se tornaram muito bons (…). As pessoas não sentiam que os modelos iam chegar tão longe e tão depressa.” Por exemplo, referiu como no lançamento “o ChatGPT mal conseguia manter uma conversa para agora haver modelos que conseguem criar software extremamente complexo e resolver problemas matemáticos” que estavam há anos por resolver.
Para Altman, a indústria chegou a “um dos momentos mais profundos de mudança na forma como usamos a tecnologia”. “Os filmes de ficção científica já davam pistas sobre isto, mas este é um dos momentos em que parece que estamos num filme”, explicou.
Altman reconheceu que existe “um medo real de que algumas companhias de IA se tornem demasiado poderosas e que possam ter influência na economia e no mundo”.
“Acho que o mundo está certo em ter medo disto”, admitiu. “Temos dois grandes desafios: o potencial de um incidente de perda de controlo (…) e o problema de demasiada concentração”.
De qualquer forma, pediu confiança. “O mundo deve confiar que vamos fazer a coisa certa — porque esta é a coisa certa a fazer e porque sentimos a magnitude disto”, explicou Altman.
Amodei e Altman não foram os únicos executivos ligados à IA a passar pelo evento. Jensen Huang, o CEO da Nvidia, também falou na conferência, defendendo que a indústria “não precisa de novas leis ou regulamentos”.
Para Huang, que está à frente da empresa mais valiosa do mundo, uma posição conquistada graças à IA, há uma “falsa escolha” entre velocidade de inovação e segurança dos produtos de IA.
“Se estiverem a criar o Frankenstein parem, não venham pedir regulação ao governo”, diz JD Vance
A administração norte-americana continua a criticar as vozes que alertam para os riscos e pedem regras para a IA. Depois de Trump condenar a “conspiração doentia contra a IA”, que só “deixa contente a China”, foi a vez de o vice-presidente norte-americano alinhar no discurso.
“Se vão criar o Frankenstein, parem. Não venham ao governo dizer que precisamos de regulamentação”, afirmou JD Vance numa conferência de IA, em Los Angeles, cita o Guardian.
Na perspetiva de Vance, se as empresas foram capazes de “desenvolver o Frankenstein então também têm de ser capazes de criar o mecanismo de defesa” contra a ameaça.
