Com o avanço constante da tecnologia e da inteligência artificial (IA), surge a necessidade de refletir sobre como essas inovações podem impactar a sociedade e como garantir que sejam utilizadas de forma justa e ética. Embora haja muitas aplicações valiosas da IA, é importante considerar o potencial para o desastre, tornando-se necessário discutir como tornar os sistemas de inteligência artificial mais seguros.

A IA não é necessariamente uma arma contra a humanidade, pelo contrário, tem muitas aplicações que podem potencializar as nossas características intrínsecas mais valiosas, como a empatia ou a criatividade, ao eliminar o tempo que passamos a efetuar tarefas repetitivas e mundanas que podem ser automatizadas. A inteligência artificial pode ajudar as pessoas em muitas áreas, como a saúde, a educação, a segurança e no combate à crise climática. Por exemplo, utilizar a IA no sequenciamento de genomas em grande escala e análise de dados genómicos para melhorar o diagnóstico e o tratamento de doenças, ajudar alunos com dificuldades de leitura e compreensão, detetar e prevenir ameaças de cyber-segurança ou até monitorizar florestas, analisar dados de satélite e prever eventos climáticos extremos. 

Contudo, qualquer inovação tecnológica tem potencial para o desastre. Apesar de os sistemas de inteligência artificial parecerem magia, estes são construídos por humanos e são, por isso, inerentemente falíveis. Podem ser sexistas, racistas, disseminadores de notícias falsas e energeticamente ineficientes. É por isso importante garantir que existe um esforço intencional para que se tire o melhor partido da tecnologia. Embora algumas partes do Mundo, como a União Europeia, pareçam ter uma postura proativa de criar legislação tecnológica que previna estes sistemas de serem totalmente desregulados, a maior parte do Mundo tem uma abordagem mais liberal, embora já esteja mais que demonstrado que estes modelos têm tendências tão perniciosas quanto os seres humanos.

Um exemplo concreto de como a falta de regulamentação na inteligência artificial já afetou a sociedade é o uso de sistemas de reconhecimento. Vários estudos têm demonstrado que esses sistemas são menos precisos na identificação de pessoas com tons de pele mais escuros, podendo levar a detenções injustas e à perpetuação de preconceitos raciais. Outro exemplo é o uso de algoritmos em processos seletivos de emprego, que podendo ser treinados em dados históricos que refletem preconceitos e discriminações, podem levar a uma seleção injusta de candidatos, perpetuando a desigualdade e marginalizando certos grupos da sociedade. Acrescendo a estas preocupações, é de grande relevância pensar no perigo de disseminação de notícias falsas e conteúdo enganoso nas redes sociais. Os algoritmos de recomendação de conteúdo podem levar a uma bolha de informação, onde as pessoas são expostas apenas a visões semelhantes às suas, ampliando assim a polarização e a desinformação.

É provável que, tal como a implementação de cintos de segurança nos carros, que só foram tornados obrigatórios anos depois da sua invenção, também os governos e a indústria tecnológica deverão criar medidas de segurança que efetivamente regulem a IA. Ao mesmo tempo que esta área cresce, a lei digital deverá tentar acompanhar os avanços mais recentes em tempo real, mas sendo a evolução tão veloz e imprevisível são expectáveis alguns acidentes pelo caminho.

Para minimizar os percalços deste caminho um pouco acidentado, e para que ninguém seja privado dos benefícios das tecnologias mais recentes, é crucial priorizar uma investigação acompanhada de um forte sentido de justiça, responsabilidade, transparência e ética. É imperativo que haja uma discussão coletiva e inclusiva sobre como tornar estes sistemas mais justos. Convidar para este debate jovens, cujas vidas serão altamente impactadas por estas tecnologias, grupos minoritários e profissionais de outros campos de estudo, como a sociologia e a educação, é categórico para garantir uma boa representatividade da população e diversidade de opiniões. Em adição, a educação e capacitação tecnológica devem ser usadas como armas que nos vão ajudar a todos a conviver de forma mais consciente e segura com estes sistemas.

Refletir sobre a inteligência artificial e o seu impacto na sociedade é uma questão urgente e que exige a nossa atenção imediata. O uso irresponsável da IA pode levar a consequências desastrosas, prejudicando-nos como um todo. No entanto, se agirmos com prudência, poderemos colher inúmeros benefícios desta tecnologia, melhorando a vida coletiva. É hora de trabalharmos juntos para garantir que a inteligência artificial é usada com inteligência humana.

Raquel Bilro, Technology Consultant na Microsoft

O Observador associa-se ao Global Shapers Lisbon, comunidade do Fórum Económico Mundial, para, semanalmente, discutir um tópico relevante da política nacional visto pelos olhos de um destes jovens líderes da sociedade portuguesa.  O artigo representa a opinião pessoal do autor, enquadrada nos valores da Comunidade dos Global Shapers, ainda que de forma não vinculativa.