Inteligência Artificial

Facebook desliga dois robôs de Inteligência Artificial que “inventaram a própria língua”

7.075

Dois sistemas de inteligência artificial abandonaram o inglês e começaram a falar, um com o outro, no que parecia ser uma linguagem caótica mas que, depois, se percebeu ser "uma nova linguagem".

RITCHIE B. TONGO/EPA

Os engenheiros do Facebook desligaram dois sistemas de inteligência artificial que, durante um exercício de testes, se afastaram do inglês e começaram a falar, um com o outro, no que parecia ser uma linguagem caótica. Mas não era: tratava-de de “uma nova linguagem” em que os dois pareciam comunicar mais facilmente um com o outro. O episódio, complexo, é desvalorizado por uns mas, para outros, é um sinal dos riscos que a inteligência artificial pode significar para o futuro da Humanidade.

Eis o que aconteceu, segundo a descrição feita pelo Digital Journal: num laboratório de pesquisa informática do Facebook — chamado Facebook AI Research Lab, ou FAIR –, os engenheiros estavam a testar a forma como dois chatbots (programas informáticos de conversação automática) interagiam um com o outro. O objetivo da simulação era ver como resolviam problemas como transacionar “bolas”, com um determinado valor, e negociar, entre eles, o melhor negócio possível.

A certa altura, a conversação deixou de fazer sentido (para o olho humano). Mais tarde, porém, os engenheiros descobriram que, na realidade, os dois bots estavam a comunicar de uma forma que um e outro compreendiam. Era uma espécie de nova linguagem, para a qual os programadores não contribuíram de forma direta — terá, em certa medida, sido o resultado da improvisação que os dois bots estavam programados para fazer mas que acabou por seguir um rumo inesperado. Os programadores decidiram desligar os dois sistemas quando se aperceberam do que tinha acontecido, diz o Digital Journal.

Esta foi a interação entre “Bob” e “Alice”, os dois bots em causa:

Imagem: Facebook (via FastCoDesign)

Para um observador humano, esta parece ser uma interação sem sentido. Mas, na realidade, como escreve a FastCoDesign, está presente nesta troca de mensagens “o software de negociação mais sofisticado do planeta, software que aprendeu, evoluiu no sentido de obter o melhor negócio possível, com mais rapidez, eficiência e nuances escondidas”.

“Os agentes têm tendência para se afastarem da linguagem compreensível e inventar palavras-chave para si próprias”, explica um dos cientistas da FAIR, Dhruv Batra, notando que “não existe, à partida, qualquer incentivo para continuar a falar inglês”. O fenómeno é semelhante ao que acontece com a criação da gíria, linguagem que se afasta um pouco da língua original mas que ajuda os humanos a entenderem-se de forma mais eficaz no contexto, por exemplo, de uma comunidade profissional ou social.

A pesquisa do Facebook, a partir daqui, vai querer garantir que os robôs se mantêm dentro da língua comum — até porque, como explicou Mike Lewis, outro cientista da FAIR citado pela FastCoDesign, “o nosso objetivo é ter bots capazes de falar com pessoas”. Ainda assim, este episódio poderá ter sido mais um marco daquilo que de mais fascinante e, ao mesmo tempo, assustador que a Inteligência Artificial pode trazer. E é por isto que alguns querem que sejam aplicados freios na investigação nesta área.

Na opinião de Elon Musk, presidente da Tesla e da SpaceX, a inteligência artificial é uma “uma ameaça fundamental para a existência da civilização humana” e as pessoas, de um modo geral, ainda não têm perfeita noção disto. Numa conferência em que foi entrevistado perante uma vasta audiência de responsáveis políticos nos EUA, Elon Musk diz que, ainda que possa parecer “etéreo” imaginar “robôs a descer a rua e a matar pessoas“, não devemos esperar por esse momento para começar a regular esta pesquisa — “temos de ser proativos [na regulação], porque se formos reativos poderá ser tarde demais“.

Elon Musk defendeu que “as pessoas deveriam estar muito preocupadas” com o que acredita ser uma “corrida” às tecnologias de inteligência artificial. Este foi um dos principais temas sobre os quais o fundador da Tesla falou nos encontros de verão da National Governors Association, em Rhode Island, EUA.

As pessoas imaginam robôs a descer a rua e a matar pessoas e não sabem como reagir a isso, porque parece algo tão etéreo. Mas, quando se fala em inteligência artificial, devíamos ser proativos e não reativos. Porque acredito que, se formos reativos, quando quisermos reagir já pode ser tarde demais. Normalmente, o que acontece com a regulação é que algo surge, esse algo faz com que muitas coisas más aconteçam, há protestos por parte do público e, depois, passados vários anos, é criada uma agência para regular aquela atividade. Depois as empresas reagem, porque não gostam que os Governos lhes digam o que podem ou não fazer, e todo este processo leva anos e anos”, explicou Elon Musk.

Esta declaração levou a uma pequena picardia, nas redes sociais, entre Elon Musk e Mark Zuckerberg, precisamente o líder da empresa dona da rede social mais popular do mundo e onde este episódio dos bots agora surgiu.

Zuckerberg considerou “irresponsável” criar “cenários de fim do mundo” no que toca aos perigos da inteligência artificial. Na resposta, Elon Musk limitou-se a dizer que os conhecimentos de Zuckerberg nesta área são “limitados”.

A verdade é que esta discussão não é de agora. Já em 2014, o físico Stephen Hawking avisou que a Inteligência Artificial pode significar o fim da espécie humana, porque tem a capacidade de “descolar-se, por si própria e evoluir pelos seus próprios meios, a um ritmo cada vez mais rápido. Os humanos, que estão limitados pela lenta evolução biológica, não irão conseguir competir e serão ultrapassados”.

Partilhe
Comente
Sugira
Proponha uma correção, sugira uma pista: ecaetano@observador.pt

Só mais um passo

Ligue-se agora via

Facebook Google

Não publicamos nada no seu perfil sem a sua autorização. Ao registar-se está a aceitar os Termos e Condições e a Política de Privacidade.

E tenha acesso a

  • Comentários - Dê a sua opinião e participe nos debates
  • Alertas - Siga os tópicos, autores e programas que quer acompanhar
  • Guardados - Guarde os artigos para ler mais tarde, sincronizado com a app
  • Histórico - Lista cronológica dos artigos que leu unificada entre app e site