Um cliente da Tesla publicou um vídeo em que o seu Model S, quando circulava com Autopilot ligado, detectou um coelho no meio da sua faixa de rodagem durante a noite, tendo travado e desviado para evitar atropelá-lo. Obviamente que a acção do sistema de ajuda à condução satisfez os fãs dos animais, por mais um coelho ter regressado à toca, são e salvo. Mas será que é suposto o Autopilot proteger até os bichos como o coelho? Mesmo que isso implique expor os outros condutores a riscos excessivos e a eventuais acidentes?

O Autopilot, tal como está disponível hoje, é um sistema de ajuda à condução. A sua obrigação é manter o carro no centro da faixa de rodagem, a uma distância segura do carro da frente e, de caminho, proteger o condutor de um erro quando muda de faixa ou se aproxima um semáforo vermelho ou Stop, situações onde a Tesla está largamente à frente de todos os concorrentes. Não é contudo pressuposto que o Autopilot conduza o carro sem o contributo e a vigilância de quem vai ao volante, seja por estar a dormir, a fazer posts nas redes sociais ou a rodar mais um filme para o Pornhub.

Sempre que um veículo realiza uma manobra inesperada, travando sem razão aparente ou saindo da faixa sem motivo óbvio, pelo menos para quem segue no carro de trás, de onde dificilmente consegue vislumbrar o coelho, incrementa o risco de acidente. E a questão que se coloca é saber onde traçamos o risco do que é aceitável evitar atropelar. Necessariamente embates em peões, ciclistas e outros veículos devem ser evitados, mas no que toca a animais, salvamos os cavalos e vacas – até porque apresentam um risco real para a vida de quem vai a bordo –, mas se continuarmos a baixar no ranking da dimensão e peso, onde que é paramos? No coelho, ou seguimos até à lagartixa e à formiga?

Se esta é uma questão a que importa responder, ela conduz-nos a outras ainda mais graves, a que os veículos autónomos serão obrigados a ter resposta. No caso em que dois grupos de peões atravessa uma rua e é impossível travar antes de embater num deles, o sistema autónomo – à semelhança do que também acontece com o condutor de carne e osso – deve optar por salvar o grupo das crianças ou o dos idosos? Poupar os advogados ou os sem-abrigo? Os políticos ou cidadãos normais? Se bem que algumas das respostas lhe pareçam óbvias, estas são questões que o software de condução autónoma, quando tal for permitido por lei – e tudo indica que acontecerá antes do que se pensava –, terá de responder. E respeitar, apesar das polémicas que necessariamente irá provocar.