Quantas pessoas podem morrer até os que os carros autônomos provem a sua segurança? Esta questão, antes hipotética, assume agora maior urgência, particularmente entre os formuladores de políticas públicas. A promessa dos veículos autônomos é que eles vão tornar as nossas estradas mais seguras e mais eficientes, mas nenhuma tecnologia vem sem as suas deficiências e consequências não intencionais – neste caso, consequências potencialmente fatais.
Membros do Congresso americano estão começando a avaliar a legislação que permite a adoção mais ampla da tecnologia de carros autônomos. Em uma audiência, legisladores e líderes da indústria começaram a se questionar se as máquinas precisam apenas conduzir melhor do que os seres humanos para ganhar a nossa confiança.
Siga a Gazeta do Povo no LinkedIn
O Departamento de Transportes dos EUA, por sua vez, publicou suas primeiras diretrizes para veículos autônomos no ano passado em um esforço para manter o ritmo de regulação com as montadoras, que esperam liberar os carros na estrada nos próximos anos. A Ford, por exemplo, estabeleceu o objetivo de liberar uma frota de veículos autônomos em 2021.
Mais de 35 mil pessoas foram mortas em colisões de carros nos Estados Unidos em 2015, de acordo com a National Highway Traffic Safety Administration. A agência estima que 94% desses acidentes foram resultado de erro humano e má tomada de decisões, incluindo excesso de velocidade e problemas de condução.Os entusiastas dos autônomos afirmam que a tecnologia pode tornar essas mortes um infortúnio do passado.
Os seres humanos não são inteiramente racionais quando se trata de tomar decisões baseadas no medo. É a razão pela qual as pessoas têm medo de ataques de tubarões ou acidentes de avião, quando as probabilidades de qualquer evento desses são excepcionalmente baixas.
O professor da Universidade de Harvard Calestous Juma estabelece um paralelo entre carros autônomos e geladeiras domésticas, que ganharam popularidade nos lares dos Estados Unidos nos anos 20 e 30. Embora os cientistas tenham entendido que o armazenamento refrigerado poderia reduzir as doenças transmitidas por alimentos, relatos de equipamentos de refrigeração pegando fogo ou vazando gás tóxico fizeram o público ficar cauteloso.
No fim, os americanos adotaram o agora onipresente aparelho doméstico graças em grande parte ao Departamento de Agricultura dos EUA – que defendia os benefícios de saúde da refrigeração e fez campanha contra preocupações infundadas sobre a segurança da tecnologia, Juma escreve em seu livro “Inovações e seus inimigos: Por que as pessoas resistem às novas tecnologias”.
As pessoas também estão mais inclinadas a perdoar os erros cometidos pelos seres humanos do que pelas máquinas, disse Gill Pratt, diretor-executivo do Instituto de Pesquisa Toyota, aos legisladores americanos.
“Os sistemas de inteligência artificial de que dependerá a tecnologia de veículos autônomos são imperfeitos atualmente e inevitavelmente”, disse Pratt aos legisladores em uma audiência da subcomissão da Câmara. “Então, a questão é ‘o quão seguro é suficientemente seguro’ para que essa tecnologia seja implantada”.
Como sociedade, entendemos as limitações humanas porque vivemos com elas diariamente, disse Iyad Rahwan, professor associado do Laboratório de Mídia do Instituto de Tecnologia de Massachusetts, que estudou os dilemas sociais apresentados por veículos autônomos. Embora possamos atribuir culpa ou buscar retribuição – enviando um motorista bêbado para a prisão, por exemplo – a capacidade de falha humana não é difícil de entender. O mesmo não acontece com as máquinas, disse ele.
“Nós as penalizamos e desconfiamos delas quando cometem erros”, disse Rahwan. “Isso acontece porque não temos modelos mentais adequados para avaliar o que as máquinas podem e não podem fazer.”
Pesquisadores da Universidade da Pensilvânia apelidaram o problema de “aversão ao algoritmo”. Em um estudo de 2014, os participantes foram convidados a observar um computador e um ser humano fazer previsões sobre o futuro. Os pesquisadores descobriram que “as pessoas mais rapidamente perdem a confiança em algoritmos do que nos analistas humanos depois de vê-los cometerem o mesmo erro”.
A resposta a questões sobre segurança pode ser reduzida a quanto nós confiamos na tecnologia, independentemente de quantas vidas podem ser salvas, Rahwan disse. Por exemplo, se veículos autônomos salvarem a vida de milhares de motoristas, mas para isso causarem fatalidades de ciclistas e pedestres, a confiança do público na tecnologia se acaba.
“Se as pessoas não estão confortáveis com as escolhas que os carros estão fazendo, então corremos o risco de perder a fé no sistema e talvez não adotaremos a tecnologia”, disse Rahwan.
