A curiosidade é uma peculiaridade intrínseca do ser humano. Sempre demonstrámos um desejo insaciável de compreender o mundo à nossa volta. Pessoalmente, sempre fui naturalmente exploradora. Desde pequena que questionava tudo. Acho que fiquei na famosa “Fase dos Porquês” e nunca mais saí. Acredito que não é apenas uma questão de sobrevivência, mas um impulsor necessário para o progresso e vida em sociedade.

Reflete-se hoje na forma como interagimos com a tecnologia, especialmente com a inteligência artificial (IA). Desde 2019 que tenho vindo a estudar o impacto da IA nas suas variadas vertentes e aplicações. Na tese que desenvolvi no âmbito do meu Mestrado em Economia e Inovação da FEP, investiguei como a IA ajuda na tomada de decisões. Estávamos numa fase inicial onde o Chat GPT  ainda estava a ser pensado. Hoje, teria de refazer grande parte. O que foi alcançado até agora é insano.

À medida que a IA se torna uma parte cada vez mais integral das nossas vidas, a necessidade de compreender como estas tecnologias funcionam torna-se necessária. O conceito de IA Explicável (XIA) surge como resposta (e balão de oxigénio) para nos ajudar a fazer sentido de um mundo complexo, ainda exploratório mas que está a mudar de forma disruptiva todos os conceitos que outrora tomámos como garantidos.

XIA refere-se à criação de sistemas de IA cujas decisões e processos podem ser compreendidos pelos usuários humanos. Esta transparência é essencial para construir confiança, especialmente em áreas críticas como a saúde, a justiça e as finanças, onde as decisões de IA podem ter consequências significativas. Num mundo onde os algoritmos frequentemente operam como “caixas negras”, XIA é tendência, proporcionando clareza e permitindo aos utilizadores questionar e entender as recomendações feitas por máquinas.

A implementação de XIA está a transformar a forma como as empresas e a sociedade em geral percebem e utilizam a IA. Trago alguns exemplos de empresas pioneiras para ajudar a perceber o conceito:

1.FICO: No setor financeiro, a FICO utiliza XIA para esclarecer como as pontuações de crédito são calculadas, o que aumenta a confiança dos clientes e reguladores.
2.Philips: No setor da saúde, a empresa está a integrar XIA nos seus sistemas de diagnóstico médico, permitindo que os profissionais de saúde compreendam e confiem nas recomendações geradas pela IA.
3.Google: A Google utiliza XIA para melhorar a transparência nos seus algoritmos de pesquisa e publicidade, o que ajuda os utilizadores a entender como os resultados e anúncios são gerados.
4.IBM: Com o seu projeto “AI Explainability 360”, a empresa oferece ferramentas de código aberto para ajudar os developpers a criar modelos de IA mais compreensíveis.

O estudo “State of AI in the Enterprise” da Deloitte revela que a transparência nos modelos de IA melhora significativamente a confiança dos utilizadores e reguladores. 62% dos executivos afirmam que a explicabilidade é essencial para a adoção da IA. Além disso, este tipo de prática ajuda a prevenir problemas legais e éticos, o que é cada vez mais importante num mundo onde a responsabilidade corporativa está sob escrutínio constante. A legislação está a evoluir. Governos e entidades mundiais reguladoras estão a reconhecer a importância da transparência na IA e estão a introduzir regulamentos que incentivam ou exigem práticas de XIA. Isto não só impulsiona a inovação, mas também assegura que as tecnologias de IA são desenvolvidas e utilizadas de forma responsável.

O futuro da XIA promete uma adoção ainda mais ampla e sofisticada. Uma das direções mais significativas e talvez a mais imediata, é a integração de XIA em todas as etapas do desenvolvimento de IA, desde a criação dos algoritmos até à sua implementação e monitorização contínua.

A XIA pode servir como um mecanismo para acalmar a ansiedade humana em relação ao desconhecido. Procura, portanto, tornar a tecnologia mais acessível e compreensível. Num mundo onde a IA está a tornar-se omnipresente, esta transparência é essencial não só para a sua aceitação, mas também para assegurar que esta é utilizada de forma ética e responsável.

Continuaremos curiosos, e atentos ao desenvolvimento épico que a IA nos tem presenteado. Como Platão sugeriu, “O começo da sabedoria é a admiração pelo desconhecido.” Seguimos o seu conselho, admiramos, questionamos e finalmente, tentamos entender. Enquanto continuamos a explorar os limites do conhecimento e da tecnologia, XIA será a “fase dos porquês” e não sairá. Assim como eu. Assim como todo o ser humano, insaciável com a procura de sentido.

O Observador associa-se à comunidade PortugueseWomeninTech para dar voz às mulheres que compõe o ecossistema tecnológico português. O artigo representa a opinião pessoal do autor enquadrada nos valores da comunidade.