Já foi convidada pelas Nações Unidas para debates sobre desenvolvimento sustentável (é uma das “Jovens Líderes” da organização) e recebeu a distinção de “Civic Leader” (líder cívico) por parte da fundação do antigo presidente americano Barack Obama. Trabalhou na multinacional tecnológica Sage e no banco Barclays, onde liderou equipas de desenvolvimento de inteligência artificial (IA) e sistemas “chatbot”, ou seja, os programas informáticos que respondem a perguntas de utilizadores e consumidores graças à inteligência artificial. Em 2017, Kriti Sharma foi destacada pela Forbes como uma das mentes sub-30 mais promissoras em tecnologia e pela Recode como uma das pessoas que mais impacto criaram.

So excited and honored to be invited to the inaugural summit in Chicago @ObamaFoundation. #ethical #ArtificialIntelligence https://t.co/QWvvEUbk9g

— Kriti Sharma ???? (@sharma_kriti) September 13, 2017

Kriti Sharma nasceu em 1988 na Índia (estado do Rajastão) e sempre teve uma mente inventiva. Em 2011, terminou um mestrado em engenharia informática na Universidade de St Andrews, na Escócia, e hoje afirma-se como uma das vozes de referência sobre os desafios éticos da tecnologia. Aos 15 anos, já tinha construído o seu primeiro robô, na Índia, e recentemente criou a organização sem fins lucrativos AI for Good (usar a inteligência artificial para o bem), para ajudar a criar a próxima geração de tecnologia que é usada para termos um mundo melhor e mais justo.

De visita a Lisboa em outubro, deu uma palestra sobre ética e IA, no âmbito da conferência Kaspersky Next, organizada pela famosa tecnológica russa. Em entrevista ao Observador, explicou o estado da arte da IA e os desafios que se colocam. Defendeu que a União Europeia, o Reino Unido e o Canadá são faróis mundiais nesta matéria e deu exemplos práticos de como a tecnologia inteligente pode fazer a diferença na vida das pessoas.

A questão dos robôs e da IA estava na ordem do dia durante as décadas de 60 e 70, mas de repente ressurgiu nos últimos anos. Porquê?
Em grande medida, a indústria dos smartphones ajudou ao ressurgimento. Hoje quase todos temos telemóveis com acesso a enormes quantidades de dados. Para calibrar sistemas de IA precisamos de muitos dados, que não existiam no mundo analógico. O mundo digital vive de pacotes de dados. Além disso, temos a questão dos processadores, que só nos últimos anos se tornaram verdadeiramente potentes para poderem estar ao serviço da IA e da leitura de dados em larga escala. Eu própria me lembro, há 12 ou 13 anos, de ter acesso a um supercomputador que tinha o tamanho de uma sala de estar. Por vezes, tinha de esperar dois dias até a máquina conseguir correr um programa com enormes pacotes de dados. Hoje, temos servidores à nossa disposição sem sequer termos de pensar nisso. À medida que a sociedade se torna mais digital, há cada vez mais contextos em que podemos aplicar a IA. Nos anos 60, 70 poderíamos pensar nisso, mas onde é que se ia utilizar essa tecnologia, se não havia infraestruturas no mundo real?

Ou seja, há 40 anos a IA era um projeto e agora é uma realidade?
Precisamente. Até mesmo como consumidores, hoje estamos aptos a falar com uma máquina, o que não acontecia no passado. É-nos muito confortável escrever ou verbalizar uma pergunta e obter a resposta de imediato. Quando começámos a usar os primeiros smartphones todos pensámos “que máquina maravilhosa!”. A tecnologia melhorou e é mais inteligente, há mais acesso a dados e os consumidores estão preparados para usar a tecnologia. São estas as principais razões, penso eu.

Quando fala em grandes bases de dados está a referir-se às informações que todos damos, de livre vontade ou sem querer, às grandes empresas tecnológicas?
Depende das situações. Em alguns casos, sim, mas também podemos ter dados com origem em sensores, por exemplo. Os veículos autónomos [ou carros sem condutor] baseiam-se em informações sobre como é a condução comum dos automobilistas. É um exemplo de dados que não são diretamente fornecidos por utilizadores de redes sociais. Também se pode criar um algoritmo com base nas informações disponíveis na Wikipedia, que é um recurso de crowdsourcing [informações criadas por diferentes utilizadores], ou um algoritmo que avisa quem está em risco de fazer uma fratura, com base em dados de milhões de raios-x. Portanto, não são só os dados que damos à nossa rede social preferida, são dados das mais diversas proveniências, com a vantagem de que hoje já são criados em formato digital, enquanto no passado estavam em suportes físicos.

Diria que a IA é a utilização de dados com o objetivo de pôr máquinas a desempenhar tarefas?
De certa forma, podemos usar essa definição. Sobretudo, a IA é a capacidade que uma máquina tem de tomar decisões inteligentes ou de fazer coisas ao serviço das pessoas. São tecnologias que aprendem a tomar decisões a partir de um histórico de dados ou da programação que lhes damos. É sobretudo importante pensar para que é que queremos IA. Se eu falar para uma máquina e perguntar como vai estar o tempo amanhã, estou a utilizar um sistema de IA. O mesmo acontece quando a minha caixa de correio eletrónico sugere o tipo de resposta rápida que posso dar um e-mail que acabei de abrir. Quando os programas têm escrita automática e a escrita automática está cheia de erros, de palavras diferentes daquelas que de facto queríamos, temos um sistema de IA que precisa de melhorar. Também há casos em que a IA é impercetível: quando nos candidatamos a um emprego e enviamos o currículo através de um site, é possível que seja uma máquina a ler o currículo e a dar-lhe seguimento, ou não, consoante ele confira com pré-requisitos para esse emprego que foram introduzidos na máquina. É a aprendizagem automática [“machine learning”].

Dizemos que a linguagem dos computadores se baseia em 0 e 1, sim ou não. A IA supera este paradigma e está próxima da inteligência humana?
Num futuro próximo, talvez se aproxime. A IA pode ajudar a resolver problemas. Uma das minhas alunas, que tem apenas 15 anos e vive em Londres, criou uma aplicação para a avó, que tem sérias dificuldades visuais. Isto ao abrigo de uma iniciativa em que estou envolvida, Future Makers, especialmente pensada para adolescentes, porque julgo serem a geração que irá tirar partido da IA numa perspetiva de melhorar a vida de todos. Esta aluna criou uma aplicação que consiste numa câmara que vê o que está à volta e descreve à pessoa invisual. Se há uma escada, se está um dia de sol, se há pessoas à volta. Se isto são ainda e apenas zeros e uns, não tenho a certeza. Não é ainda inteligência semelhante à dos humanos, é um sistema automático baseado num histórico de padrões que os humanos reconhecem.

Ainda estamos longe das máquinas com consciência?
Inquieta-me esta ideia de acharmos que as máquinas terão de imitar os humanos, porque, na verdade, não é necessário que isso aconteça, uma máquina é uma máquina. Não pomos esta hipótese quando se trata de uma máquina de lavar loiça ou um frigorífico.

A que é que se deve esta ideia de máquinas com consciência? Temos medo do que aí vem?
A cultura popular, a ficção científica e os filmes de Hollywood têm retratado os robôs e as máquinas inteligentes de uma certa forma. As explicações que os investigadores dão, ou não dão, sobre este assunto… Tudo isso ajuda a criar ideias pouco consistentes. Para mim, o ideal seria definirmos exatamente o que queremos que as máquinas façam para nosso benefício, enquanto nós, humanos, permanecemos aos comandos, a definir os algoritmos e as tarefas que as máquinas devem ou não fazer. As máquinas não precisam de imitar ou replicar a consciência humana, existem para resolver problemas que se põem aos serem humanos. Mesmo que fosse possível, para quê criar uma máquina tão inteligente como um ser humano? Temos seres humanos suficientes e com inteligência, só precisamos que a IA amplie algumas das nossas capacidades e resolva problemas que não conseguimos, ou ajude pessoas com deficiência, ou seja capaz de detetar fraudes com cartões de crédito. Não precisamos de um robô com aparência humana que ande por aí no meio de nós.

Há colegas seus que gostariam de desenvolver um robô humano?
Há uma grande divisão entre investigadores de IA, as opiniões estão polarizadas. Há quem queira isso. Eu não quero.

Conseguiremos sempre controlar as máquinas?
Espero que sim. Há muito dinheiro envolvido nesta atividade e espero que seja sempre utilizado para desenvolver tecnologia com um propósito nobre. Não sou ingénua, sei que há propósitos pouco nobres e há empresas, pessoas e países que estão interessados em usar erradamente a IA.

Que países?
Os que até agora não têm regulação nesta área ou não costumam ter em consideração os direitos humanos. Na Europa temos sorte, porque os direitos humanos são um valor central. Além disso, as autoridades europeias criaram um bom RGPD [Regulamento Geral sobre a Proteção de Dados, aprovado em 2016 em vigor desde maio de 2018]. Penso que a União Europeia tem um papel de liderança no que diz respeito à regulação da IA.

Quais os países ou as zonas do mundo mais avançadas nesta área?
Desde logo, os EUA, onde temos grandes empresas que utilizam grandes quantidades de dados. A China também. Na União Europeia há bons exemplos, com empresas que se dedicam sobretudo à IA aplicada em projetos com ética, e aí também temos de referir o Reino Unido e o Canadá. Vivemos uma época de grandes avanços.

A China representa perigo?
Não sei… Acredito que as tecnologias não dispensam consentimento, direitos humanos e privacidade. Temos de nos perguntar se o que estamos a fazer beneficia as pessoas e se as respeita, porque é isso que levará as pessoas a confiar nos sistemas de IA. Um dos principais desafios é o da confiança. Se uma máquina conseguir concluir que não preciso de ir ao médico, porque não tenho nenhum problema de saúde, será que confio? Só confiaremos na resposta se confiarmos nas pessoas que estão a desenvolver os sistemas, na regulação, na transparência.

Pensa que a China é pouco transparente e confiável nesta área?
Não conheço a realidade chinesa em pormenor, mas posso garantir que vejo maior preocupação ética no Reino Unido, na União Europeia ou no Canadá.

A regulação excessiva pode obstruir a inovação?
Sem dúvida, mas a abordagem na União Europeia tem sido equilibrada. Faço parte da direção do Centre for Data Ethics and Innovation, no Reino Unido, um órgão independente de aconselhamento do Governo, que procura resolver falhas existentes na regulação. Na direção têm assento pessoas como eu, que têm uma visão por dentro, mas também pessoas da área dos média, da engenharia genética, até temos um bispo. Penso que é um modelo muito bom. Não têm de ser as próprias empresas a tomar decisões éticas, pode ser um conjunto de pessoas com diversas perspetivas.

Tem sido descrita como uma especialista em IA que se interessa por questões humanitárias. Como conjuga estas duas facetas?
A minha paixão foi sempre desenvolver novos produtos, por isso passei uma boa parte da minha vida profissional no setor comercial. Aprendi bastante sobre questões económicas e sobre a responsabilidade social das empresas, sejam elas pequenas ou grandes. A parte filantrópica, ou humanitária, sempre esteve em mim, mas ganhou força nos últimos anos, quando me apercebi do valor da IA para melhorar a vida das pessoas. A tecnologia não serve apenas para fazer com que haja mais consumidores a clicar em anúncios na internet. Pode ser utilizada para dar respostas na área da saúde mental a quem não tem acesso ao médico, por exemplo. O trabalho que fazemos na AI For Good tem esse objetivo: apoiar organizações sem fins lucrativos que fazem um bom trabalho, mas ainda não olham para a IA como uma ferramenta. Não precisamos de investimentos de milhões.

Pode partilhar um pouco da sua história pessoal? Como é que foi estudar para o Reino Unido?
Quando era criança, gostava de construir coisas, era muito curiosa, fazia os meus próprios robôs. Por isso, estudar engenharia informática foi uma decisão muito óbvia e decidi ir para a Escócia. Hoje vivo em Londres. Há uns 14 anos, visitei um laboratório informático e mostraram-me um protótipo de um robô idêntico ao Alexa [computador inteligente lançado pela Amazon em 2014 e descrito como um “assistente virtual” doméstico]. Fiquei maravilhada, apeteceu-me ter um. Talvez tenha sido nesse momento que a minha vida profissional ficou mesmo decidida.

Como é a região da Índia onde nasceu, o Rajastão?
Não é especialmente favorecida, não há muita gente que saiba ler e escrever, por isso, sempre imaginei um futuro em que as pessoas iletradas pudessem falar com uma máquina e ter acesso ao conhecimento. A máquina pode ler-lhes as notícias, por exemplo, porque ler notícias não é a mesma coisa que ver telejornais, a informação é mais aprofundada.

A sua família teve dificuldade em apoiar os seus estudos?
A zona onde nasci é marcada por desigualdades, mas felizmente os meus pais sempre se preocuparam. Tenho um irmão e uma irmã e a nossa formação era a coisa mais importante para os nossos pais, nada mais importava. Tive sorte, porque muitas outras pessoas da minha geração, sobretudo raparigas, não tiveram as mesmas oportunidades.

A sua visita a Lisboa surgiu no contexto de uma conferência da Kaspersky, uma empresa russa cujos produtos antivírus foram banidos nos EUA, em 2017, e vistos com desconfiança no Reino Unido, por alegado perigo de espionagem. Que opinião tem?
Não tenho qualquer ligação à Kaspersky, fui apenas convidada e aceitei vir falar sobre IA. Não sabia dessas informações que referiu na pergunta, mas posso dizer que não defendo a violação da privacidade das pessoas ou a recolha de dados sem consentimento. Não são práticas aceitáveis.