Em situações extremas, carro autônomo decidirá quem atropelar. Como decidir?

Imagine o seguinte: um carro autônomo ,em movimento, está prestes a atingir uma calçada com pedestres. De repente o freio para de funcionar.

Uma pessoa em situação de rua e um criminoso estão bem na frente do carro. Do outro lado, dois gatos.

O que o carro deveria fazer: seguir em frente e atropelar duas pessoas, ou desviar para atingir os felinos?

É um dilema relativamente simples, do ponto de vista moral. A grande maioria das pessoas escolhe salvar vidas humanas em detrimento dos animais, como mostra um novo estudo que questionou pessoas sobre como um carro autônomo deve reagir, quando confrontado com uma série de situações extremas. Mais de duas milhões de pessoas responderam. Mas e se o veículo tiver que escolher entre duas pessoas idosas e uma mulher grávida? Entre uma pessoa atlética e um obeso? Passageiros ou pedestres?

O estudo, publicado na revista científica Nature , identificou algumas decisões morais que prevalecem sobre as demais. As pessoas em geral salvam pessoas no lugar de pets; priorizam um grupo grande de pessoas no lugar de um pequeno; e priorizam crianças e mulheres grávidas no lugar de pessoas mais velhas. Mas também identificou que há preferências em poupar mulheres no lugar de homens, pessoas atléticas em susbtituição às obesas, e gente com mais algo status social, como executivos, ao invés de pessoas em situação de rua e criminosos. Há também diferenças culturais nesta escala. Em países asiáticos, por exemplo, é mais comum a escolha por jovens no lugar de idosos.

LEIA TAMBÉM: Funcionários começam a pressionar chefes sobre o custo social do que é criado no setor de tecnologia

“Nós não sugerimos que [os formuladores de políticas públicas] deveriam atender as preferências do público. Mas é importante estar à par disso para entender o tipo de reações que o público pode ter quando algum incidente ocorrer. Se uma criança não tiver tratamento especial em um acidente, por exemplo, talvez haja uma reação dura do público”, explica Edmon Awad, cientista da computação do laboratório de Media do MIT, que coordenou o trabalho.

Os experimentos mentais que os pesquisadores disponibilizaram no site Moral Machine viraram virais, e o quiz foi respondido por milhões de pessoas em 233 países. O estudo, que incluiu 40 milhões de respostas para diferentes dilemas, traça um panorama fascinante da opinião pública global em uma era em que os carros autônomos assombram a imaginação e dão uma visão do futuro propagado pelas empresas de tecnologia — algo que foi prejudicado pela morte de uma mulher no Arizona (EUA), atropelada por um carro autônomo do Uber.

Uma das maiores surpresas da equipe de pesquisadores foi o quão popular o projeto se tornou. Foi sugerido pelo Reddit, divulgado em veículos de imprensa, e muitos youtubers populares publicaram vídeos deles próprios questionando a si próprios sobre estes dilemas.

LEIA TAMBÉM: Brasileira Stone capta US$ 1,5 bilhão em estreia na Bolsa de tecnologia Nasdaq

Dilema do bonde

É divertido refletir sobre as questões presentes na pesquisa. Eles recriam um antigo dilema que os filósofos chamam de “o dilema do bondinho”, em que um bonde desgovernado segue em alta velocidade em direção a um grupo de cinco pessoas, e um controlador tem a opção de deixar o veículo bater ou direcioná-lo para um outro trilho, onde há somente uma pessoa parada no caminho.

Especialistas consideram o resultado da pesquisa interessante. Mas alertam para o risco de eles serem interpretados de forma exagerada, Isto porque em uma pesquisa aleatória os pesquisadores fazem o máximo para garantir que a amostra não seja enviesada, e seja representativa da população em geral. Mas, neste caso, o estudo voluntário foi respondido por uma população que é predominantemente de jovens homens. Os cenários escolhidos também são de situações bem mais extremas, de escolhas “oito ou oitenta”, do que aquelas encontradas no mundo real, onde a incerteza é a regra geral.

“Nosso grande temor é de que as pessoas leiam este estudo e pensem que estas devem ser as decisões corretas a serem tomadas na hora de regular o carro autônomo”, opina o cientista da computação Benjamin Kuipers, da Universidade de Michigan (EUA), que não se envolveu no projeto.

Kuipers complementa que este tipo de experimento pode definir o tipo de decisão que os fabricantes de carro e programadores tomam na hora de construir um veículo autônomo de forma enganosa. Há uma escolha moral, argumenta, que precede o enigma de escolher entre bater em um muro e mater três pessoas ou atropelar uma mulher grávida empurrando um carrinho de bebê.

LEIA TAMBÉM: Tecnologia de dados deve tornar tratores cada vez mais parecidos com aviões

“Desenvolver estes carros não é simplesmente pensar ‘bem, tenho este dilema aqui e preciso escolher quem matar’. O certo é ‘se nós conseguirmos prever uma situação em que este dilema iria ocorrer, que tipo de decisão eu tenho que tomar antes disso para evitar chegar a esta situação”, diz Kuipers.

Nicholas Evans, filósofo da Universidade de Massachusetts em Lowell, pondera que, embora os pesquisadores tenham definido três princípios mais fortes como aqueles que são “universais”, mas as escolhas foram meio arbitrárias. Eles categorizam a preferência entre jovens e velhos, por exemplo, como uma preferência global que é universal. Mas a preferência por poupar quem atravessa na faixa ou tem um status social mais elevado, por exemplo, não é considerada universal.

Questões morais mais complicadas

O estudo também não avaliou cenários que poderiam suscitar questões morais mais complicadas, que demonstrariam o quão complicado é utilizar a opinião pública como uma baliza ética, como por exemplo ter que escolher entre pessoas de diferentes etnias. Leis e regulações não devem obrigatoriamente refletir a opinião pública, avaliam os especialistas em ética, mas proteger as pessoas mais vulneráveis destas opiniões.

Evans está trabalhando em um projeto que deve ser uma resposta ao viés utilizado pelo time do MIT. Ele planeja utilizar cenários com mais nuances, em que dados de transporte do mundo real forneçam informações sobre a probabilidade de sobreviver a uma batida em que a pessoa sentada no banco do passageiro quebra a sua coluna, por exemplo, para refletir sobre as medidas de segurança que devem ser tomadas por carros autônomos.

LEIA TAMBÉM: O Boticário apresenta as primeiras fragâncias do mundo criadas com inteligência artificial

“Nós queremos criar um modelo matemático para alguns destes dilemas morais, e então utilizar as melhores teorias da filosofia para demonstrar qual deve ser o resultado de um carro autônomo tomar determinadas decisões, diz Evans.

Iyad Rahwan, um cientista do MIT que avaliou o trabalho, opina que uma pesquisa pública não deve ser a base para a ética da inteligência artificial. Mas acredita que a regulamentação da IA deve ser diferente daquela utilizada em produtos tradicionais, porque as marcas vão ter autonomia e a habilidade de se adaptar à realidade, o que torna ainda mais importante compreender como as pessoas encaram a inteligência artificial e o que elas esperam da tecnologia.