Já não é o primeiro alerta. É mais um: investigadores das universidades norte-americanas do Michigan, Washington, Stony Brook e Califórnia avisam, num relatório entretanto publicado pela Universidade de Cornell, em Nova Iorque, que os “cérebros” electrónicos que estão a ser utilizados nos automóveis autónomos continuam a ser muito fáceis de aceder e de enganar. Por exemplo, quanto à sinalização com que se deparam na estrada. O que, a acontecer, pode resultar em acidentes muito graves e até vítimas.

De acordo com este mesmo relatório (na íntegra aqui), elaborado pelos investigadores Ivan Evtimov, Kevin Eykholt, Earlence Fernandes, Tadayoshi Kohno, Bo Li, Atul Prakash, Amir Rahmati e Dawn Song, as inteligências artificiais que são o cérebro dos veículos autónomos continuam a ser demasiado permeáveis a elementos e influências externas, as quais podem interferir no normal funcionamento do sistema. Por exemplo, levando o carro a acreditar que os sinais de trânsito com que se depara são diferentes do que, na realidade, são.

Para os investigadores, o risco é tal que bastarão, por exemplo, alguns autocolantes rectangulares posicionados em lugares-chave de um sinal de Stop, para que a inteligência do carro autónomo o “leia” como se de um sinal de limite de velocidade se tratasse. Seguindo, por isso, em frente, sem parar!

Pequenas alterações na sinalização podem ter consequências trágicas, pelo que os fabricantes têm um longo caminho a percorrer para aperfeiçoar os seus sistemas de condução autónoma

Na base do estudo estão as “Deep Neural Networks” (“Redes Neurais Profundas”), que são, basicamente, os programas utilizados em grande parte dos equipamentos e sistemas em que é necessário algum nível de interpretação. Sendo também um dos pilares dos veículos autónomos, os quais utilizam uma série de sensores, câmaras e até lasers para “lerem” a realidade que os rodeia. Informação que serve depois para os cérebros electrónicos tomarem todas as decisões relacionadas com a condução, desde a distância a manter face ao veículo da frente, ou perceber se o que está na berma da estrada é uma árvore ou uma pessoa.

Uma vez analisados pelos investigadores, os sistemas em questão terão revelado falhas importantes, confirmando, com um nível de certeza de 100% (!), que podem efectivamente ser influenciados e até enganados por simples estratagemas, capazes de os levarem a fazer uma leitura errada da realidade. Como é o caso da colocação de autocolantes em sinais de trânsito como um simples virar à direita, que o carro autónomo passa a ler como se tratasse de um sinal de Stop ou até mesmo de uma nova faixa na estrada, já para não falar no exemplo anteriormente referido, em que um sinal de Stop pode ser “transformado” em sinal de limite máximo de velocidade de 72 km/h!