No seguimento das últimas reflexões que tenho feito sobre IA (inteligência artificial) aqui no Observador, outras questões essenciais neste tema, são: queremos as máquinas a fazer tudo, mesmo o mal? Que mecanismos podem ser criados para o evitar? Será possível? A minha investigação de doutoramento tem-se debruçado sobre o uso da IA na gestão de pessoas. Tenho falado com vários especialistas e estes são unânimes em afirmar que estas inovações devem vir acompanhadas de um “responsible AI” (inteligência artificial responsável), um movimento já presente na indústria tecnológica, mas que devia ser mais expandido. Os riscos são vários. Se pensarmos no uso destes Chat que estão a ser vulgarizados para o público em geral e com uma alta capacidade de computação, está aberta uma caixa de Pandora para a realização de todo um conjunto de atos pouco éticos. Entre alguns poucos que temos falado, por exemplo, eu posso disseminar desinformação, mentiras, posso aprender como fazer o mal ou, ainda, não se entendeu como é que se respeitam os direitos de autor de grandes quantidades de dados reais em vários suportes, a partir dos quais se baseiam os modelos de linguagem do ChatGPT e outros softwares similares, dizia bem Daniela Braga, da Defined.ai.

A “responsible AI” é uma abordagem que defende que esta tecnologia deve ser feita com ética e não causar danos às pessoas. Muitos comentam que certos softwares podem correr o risco de sacrificar a responsabilidade pela rapidez e capacidade de estar disponível a uma tão grande escala ao utilizador comum e que certas tecnológicas têm mais presente nos seus modelos de governação. Elon Musk e outras personalidades assinaram um pedido de paragem da IA (o “summer of AI”) o qual pretende refletir sobre os impactos da IA no futuro. Recentemente, um dos “padrinhos da IA”, ex-Google, alertou para os perigos e riscos altos da IA. Todos os dias mais alguma personalidade ligada à área adverte para estes perigos. Passámos do “wow” para o “ui”.

Há aqueles liberais céticos que dizem que não se pode parar o vento com as mãos. Não seriam esses os mesmos entusiastas sem freio de Wall Street ou de outras indústrias novas? Como liberal responsável que sou, defendo que é essencial a liberdade para a inovação, mas não sem regulação. Veja-se o que aconteceu aos mercados financeiros sem regulação. Ou aos carros sem cinto de segurança. Foram precisas muitas mortes para ser implementado. Agora existem regulações e organismos e modelos de governação mais fortes que previnam novas catástrofes relacionadas com estas situações. A aviação é outro exemplo. Sem regulação, era um completo caos e no início do seu desenvolvimento, muitas mortes ocorreram. Elon Musk também sugeriu criar uma agência como a FAA (Federal Aviation Administration) ou a FDA (Food and Drug Administration) que regule a IA. E já anda há uns anos a avisar para os perigos altíssimos de que as máquinas se tornem mais inteligentes que nós, o que já acontece.

Há sempre players que desafiam e disrompem o mercado e isso é necessário, mas os importantes “checks and balances” são essenciais. Será necessário um modelo de governação que através de certos mecanismos e regulações, assegure a transparência e justiça do sistema. Muitos não sabem como o fazer, mas o primeiro passo será tomar consciência do problema e sentar vários especialistas na mesa, se não, não passamos deste ingénuo espanto com a tecnologia. Há, por isso, o desiderato de tratar este tema de forma multidisciplinar, como já afirmei noutro artigo. Este não é um assunto exclusivo de informáticos, mas também de juristas, filósofos, sociólogos, gestores, especialistas em ética, jornalistas, cientistas sociais, etc. Sundar Pichai (CEO da Google) referiu-o recentemente, em entrevista ao programa 60 minutos, da CBS, que “para o desenvolvimento disto, devemos não apenas incluir engenheiros, mas também cientistas sociais, filósofos, etc.”.

Na área das redes sociais, colocou-se logo a questão de, sendo um meio de comunicação público, mesmo que não tradicional, como seria feita a curadoria dos conteúdos e que critérios estariam por detrás de decisões de inclusão ou exclusão dos mesmos? O Facebook (Meta), por exemplo, possui uma curadoria de conteúdos e usa uma comissão independente a si para decidir pela exclusão daqueles conteúdos mais polémicos. Aqueles mais chocantes e flagrantes e que se prendem com desinformação, violência, pornografia, discriminação, etc., os quais são barrados com recurso a sistemas automáticos. Contudo, segundo o fundador, como em qualquer sistema que lida com biliões de publicações e membros, há sempre falhas e, claro, polémicas e os casos menos claros são discutidos e decididos nesta comissão. É certo que muitos destes sistemas não são perfeitos, mas pensar, discutir, tentar e criar algum sistema, já é algo mais que criticar. Acho desinformado e cínico estar sempre a ver as redes sociais como o grande irmão maléfico.

Formei-me em letras, mas depois em gestão. Muito me ensina as letras e as artes, mas também a gestão. Algo que me ensinou a gestão e depois a prática nas empresas é a arte do possível. Quem lida diariamente com problemas complexos, não tem tempo para perorar e criticar, mas procurar soluções. É muito importante “filosofar” pois aí se discerne o importante, mas interessa depois agir. E tentar, e repetir, e falhar, e conseguir.

É certo que, neste caso das redes sociais é dada uma grande responsabilidade a uma quantidade pequena de pessoas, mas fiquei sinceramente bem impressionado pelo profissionalismo e organização desta rede que é responsável pela gestão de conteúdos de aproximadamente 3 mil milhões de pessoas no mundo. Não querendo ficar com toda a responsabilidade para si, o fundador da Meta responde com um interessante modelo de governação, com o objetivo de ser independente e transparente. É claro que é legítimo questionar que algoritmos decidem e condicionam essa curadoria. E pode estar para breve a obrigação da divulgação desses algoritmos. Mas também é bom de verificar que o ser humano tem conseguido ter uma capacidade incrível para se juntar, criar e resolver os mais complexos problemas da humanidade. Nisto, sou um otimista e foi esta uma das questões que sempre me fascinou na gestão de empresas. Não tanto a questão dos negócios, mas o prodígio de conseguir alcançar grandes feitos apenas porque algumas pessoas pensam e se juntam. Nunca é demais lembrar, num tempo de pessimismos, cinismos e bota-abaixo.

Em nome da tão bem-intencionada eficiência e eficácia, esses objetivos da gestão, criam-se cada vez mais máquinas que tirem trabalho aos homens e, claro, deem mais dinheiro e poder às empresas que desenvolvem esses sistemas. Até há uns tempos o objetivo das empresas era maximizar o lucro, mas hoje já não é só assim. Existe hoje a gestão que não trabalha só para a maximização do lucro imediato, mas também para a satisfação de todos os stakeholders (envolvidos) no negócio. Sejam acionistas, clientes, mas também colaboradores, fornecedores, ambiente, a comunidade, o estado, etc. E assim, pretende-se uma gestão que satisfaça as necessidades desta geração, nas vertentes de negócio (governação), social e ambiente e que assegure também as das gerações vindouras. Esta é a gestão que se procura fazer atualmente nas melhores práticas, a “sustentável”. Será a IA, como se preconiza agora, sustentável? Sou dos que acredita também na inevitabilidade da inovação, isto é, não é proibindo que encontraremos a solução, mas há de se impor e reconfigurar o ecossistema. Mas os desejados controlos devem ser estabelecidos. Como? Vamos falar e encontrar soluções.