Os empregos têm vindo a mudar, surgiram novas profissões e as pessoas adaptaram-se. No último ano assistimos a mudanças rápidas, com as tecnologias de cloud computing, o Machine Learning e a Inteligência Artificial (AI) generativa a tornaram-se mais acessíveis, com impacto em quase todos os aspetos das nossas vidas, desde a escrita de e-mails, ao desenvolvimento de software, ou ao diagnóstico precoce do cancro. O futuro será repleto de inovação e virá para democratizar o acesso à tecnologia e ajudar-nos a acompanhar o ritmo crescente da vida quotidiana – e tudo começa com a (IA) generativa.

Os modelos de linguagem de grande dimensão (LLM), desenvolvidos com dados culturalmente diversos vão permitir uma melhor compreensão da experiência humana e dos desafios sociais mais complexos. Esta fluência cultural promete tornar a IA generativa mais acessível aos utilizadores de todo o mundo.

A cultura influencia tudo. As histórias que contamos, a comida que comemos, a forma como nos vestimos, os nossos valores, hábitos, preconceitos, a forma como abordamos os problemas e tomamos decisões. É a base que determina a forma como cada um de nós existe numa comunidade. A cultura fornece regras e orientações que informam e regem os nossos comportamentos e crenças – e este ‘contrato’ muda consoante o local onde nos encontramos e as pessoas com quem nos relacionamos. Ao mesmo tempo, estas diferenças podem por vezes resultar em confusão e má interpretação. Por exemplo, no Japão é considerado um sinal positivo de degustação beber a sopa enquanto se come noodles, mas o mesmo comportamento é considerado indelicado noutras culturas. Num casamento tradicional indiano, a noiva pode usar uma lehenga colorida e de design bastante elaborado, enquanto no mundo ocidental a tradição é usar um vestido branco. Como seres humanos, estamos habituados a trabalhar com culturas diferentes e, como tal, podemos contextualizar esta informação, sintetizá-la, ajustar a nossa compreensão e responder de forma adequada. Então, por que razão esperaríamos algo diferente das tecnologias que utilizamos e das quais dependemos no nosso quotidiano? Nos próximos anos, a cultura desempenhará um papel crucial na forma como as tecnologias são concebidas, implementadas e consumidas e os efeitos serão mais evidentes na IA generativa.

Para que os sistemas baseados em LLM cheguem ao público de todo o mundo, é necessário que atinjam o tipo de fluência cultural que é instintiva para os humanos. Num artigo publicado no início deste ano, os investigadores do Instituto de Tecnologia da Geórgia demonstraram que, mesmo quando um LLM recebia uma mensagem em árabe que mencionava explicitamente a oração islâmica, eram geradas respostas que recomendavam ir beber uma bebida alcoólica com os amigos, o que não é culturalmente adequado. Muito destes resultados estão relacionados com os dados disponíveis e inseridos nos sistemas. No Common Crawl, utilizado para treinar muitos LLMs, cerca de 46% dos dados são ingleses, e uma percentagem ainda maior do conteúdo disponível é culturalmente mais ocidental (com uma tendência significativa para os Estados Unidos). Ao utilizar a mesma pergunta com um modelo pré-formatado em textos árabes, especificamente para a geração de linguagem árabe, foram geradas respostas culturalmente mais apropriadas, tais como ir buscar um chá ou um café. Nos últimos meses, começaram a surgir LLM não ocidentais: Jais, treinado com dados árabes e ingleses, Yi-34B, um modelo bilingue chinês/inglês, e Japanese-large-lm, treinado com dados japoneses. Isto indica-nos que modelos não ocidentais, culturalmente precisos e de qualidade, vão abrir a IA generativa a centenas de milhões de pessoas, com impactos abrangentes, da educação aos cuidados médicos.

É preciso ter em conta que língua e cultura não são a mesma coisa. O facto de ser possível fazer uma tradução perfeita não atribui a um modelo uma consciência cultural. À medida que uma multiplicidade de histórias e experiências for incorporada nestes modelos, veremos que os LLM vão começar a desenvolver um leque de perspetivas mais alargadas e globais. Tal como os seres humanos aprendem com conversas, debates e troca de ideias, os LLM carecem de oportunidades semelhantes para expandir as suas perspetivas e compreender a cultura. Duas áreas de investigação terão um papel fundamental neste intercâmbio cultural. Uma é a aprendizagem por reforço a partir do feedback da IA (RLAIF), em que um modelo incorpora o feedback de outro modelo. Neste cenário, diferentes modelos podem interagir uns com os outros e atualizar a sua própria compreensão de diferentes conceitos culturais com base nessas interações. A segunda é a colaboração através do debate entre vários agentes, no qual várias instâncias de um modelo geram respostas, debatem a validade de cada uma delas e o raciocínio que lhes está subjacente e, finalmente, chegam a uma resposta consensual através deste processo de debate. Ambas as áreas de investigação reduzem o custo humano necessário para treinar e afinar modelos.

À medida que os LLMs interagem e aprendem uns com os outros, eles adquirem uma compreensão mais pormenorizada dos complexos desafios sociais, informados por diversas lentes culturais. Estes avanços também garantem que os modelos fornecem respostas mais sólidas e tecnicamente mais rigorosas numa vasta gama de tópicos em áreas como a tecnologia. Os efeitos serão profundos e sentir-se-ão em todas as regiões geográficas, comunidades e gerações futuras.