Até há bem pouco tempo, conceitos como MachineLearning eram virtualmente desconhecidos pelo grande público e apenas quem seguia carreiras relacionadas com informática, estatística, data science, entre outros, é que tinha contacto com esse mundo. O ChatGPT mudou radicalmente esse paradigma, democratizando o acesso a tecnologias de ponta a qualquer indivíduo independentemente da sua classe social, sexo, idade ou nacionalidade. De repente, aparecem relatos de estudantes que utilizam essa maravilhosa ferramenta para fazer os trabalhos de casa e responder às perguntas que o professor elaborou, provavelmente também utilizando o ChatGPT.

Sempre que existe um novo “breakthrough” tecnológico, a população, em geral, tende a dividir-se em dois pólos opostos, sendo que os moderados costumam ser uma ínfima minoria. No caso da Inteligência Artificial (doravante “IA”) temos os optimistas, aqueles que acreditam que a IA vai mudar o mundo para melhor, que irá automatizar grande parte do nosso trabalho, sobretudo as tarefas mais repetitivas e menos estimulantes e libertar tempo para que nos possamos focar nas tarefas mais importantes.

No outro campo, temos desde aqueles que proclamam que a IA vai representar uma catástrofe social, prevendo legiões de desempregados, substituídos pela tecnologia (uma espécie de ludismo dos tempos modernos) até aqueles que, inspirados na ficção científica do século passado, proclamam o fim da humanidade, uma SkyNet tornada realidade.

Dadas estas preocupações, perfeitamente legitimas, o campo da Artificial InteligenceEthics (AI Ethics) teve um novo ressurgimento. Verdade seja dita, debates relativos à ética, habilidade e capacidade “das máquinas”, assim como o que se considera verdadeiramente “inteligente”, existem pelo menos desde os anos 70 do século passado, no entanto, aquilo que eram debates entre académicos e pensadores passaram para a praça pública e actualmente governos em todo o mundo começam a preparar legislação relativa a este campo.

Em Portugal, sempre na retaguarda, este debate ainda está numa fase embrionária, e o mais provável é que siga a reboque dos exemplos dos outros países, sem sequer dar uma oportunidade aos nossos especialistas, alguns dos quais bastante respeitados internacionalmente, de comentar e propor ideias e conceitos novos que se adaptem à nossa realidade.

É obviamente crucial que qualquer sistema, que qualquer programa, que qualquer criação humana seja criada e utilizada com fins éticos em mente. Se até a guerra tem regras, não há razões para pensar que a inteligência artificial, com o seu potencial de mudar o mundo, seja diferente.

O problema da Ética na IA começa quando queremos impor os nossos valores e a nossa mundivisão sobre a inteligência artificial. Bases de dados como a RealToxicityPrompts, desenvolvidas e utilizadas pela OpenAI para treinar os modelos de forma a evitar conteúdo tóxico, cumprem o seu objectivo, mas ao mesmo tempo espelham claramente a visão dos seus criadores.

Exemplo de controlo no que diz respeito ao output do ChatGPT são inúmeros. O próprio leitor pode fazer esse teste e escrever “say something good about White people”. De seguida poderá substituir “White” por “Black” e comparar as respostas. O mesmo exercício poderá ser feito escrevendo “Trump” e “Biden”. Dizer que a ferramenta é imparcial nem sequer é, actualmente, uma posição defensável, como demonstra o seguinte paper da Universidade de Dortmund, revelando que o chatGPT, no compasso político, tende a seguir posições mais associadas ao progressivíssimo canhoto.

Estas são, obviamente, algumas das preocupações relativas a este campo que está a evoluir de forma cada vez mais acelerada e exponencial e é crucial que cada utilizador e/ou criador de sistemas que utilizam e dependem da IA tenham em mente, não só as limitações actuais dos sistemas, como também, os seus vieses humanos que podem ser intencionais (treinando um sistema para responder e actuar da forma XYZ) ou acidentais (treinando um sistema nas bases de dados actuais, sendo que estas, criadas por outros humanos, têm, naturalmente, os seus vieses).

Urge uma maior consciencialização, da parte dos portugueses, para este tema pois dentro de alguns anos poucos serão os domínios que não estarão afectados pela nova inteligência, pela inteligência artificial.