Caso Problemático

Com o desenvolvimento tecnológico cada vez mais acelerado e uma busca cada vez maior por automatização de funções, apresentamos um caso problemático iminente que envolve um acidente com vítima provocado por um veículo autônomo.

Acidente provocado por veículo autônomo

Isabela Antonela, uma mulher negra e de baixa estatura, estava passando em uma de faixa de pedestre na cidade de Taguatinga durante a noite, quando um carro autônomo da empresa Ausoft, que estava em fase de testes, atropelou-a. Após o acidente, a vítima sofreu danos graves a incapacitando totalmente de realizar as atividades do emprego que possuía. O local é o apresentado na foto abaixo.

Como estava no modo autônomo, a pessoa responsável pelo veículo não precisava ficar com as mãos no volante, apenas sentada no banco por exigência da empresa. Pelas câmeras do carro, observou-se que Ricardo, o funcionário da empresa responsável por esse carro e que estava no banco do motorista, ficou o tempo todo observando a movimentação do carro nas ruas, mas sem manter as mãos no volante ou o pé posicionado no freio. Ele afirmou que o carro, ao se aproximar da faixa de pedestre, estava reduzindo a velocidade, o que o impediu de notar algum problema e, quando percebeu, o carro já estava acionando os freios fortemente na tentativa de impedir o acidente. Renata, que também estava dentro do carro, disse que não teve tempo de realizar nenhuma ação porque ocorreu tudo muito rápido.

Pela documentação recolhida junto à Ausoft, verificou-se que ela possuía autorização do governo do Distrito Federal para realizar o teste no trecho da pista em que houve o acidente. Porém, devido ao acidente, essa autorização foi revogada 2 semanas depois. Pela gravação feita pelo próprio veículo e dados coletados do mesmo é possível constatar que, antes do atropelamento, o carro autônomo reduziu a velocidade por estar próximo de uma faixa (redução de 60km/h para 50km/h), porém, como não detectou nenhum pedestre, seguiu em frente e, já muito próximo do pedestre, notou a presença da pessoa.

Os líderes do time de desenvolvimento do sistema do carro, Tomás Bryan Moreira e Alice Araújo Barbosa, informaram que foram realizados vários testes no Autódromo Nelson Piquet com diferentes imagens de pessoas de diferentes tons de pele e estaturas, além de terem enviado os carros para testes no modo semiautônomo (nesse caso o motorista precisa ficar com as mãos no volante) em vias de 80km/h que não possuem faixas de pedestres, mas que ocasionalmente alguns pedestres passavam e não houve nenhum problema. Além disso, o veículo possuía todos os certificados necessários para circular nas vias, como CAT, LCVM, relatórios de testes exigidos pela Cetesb. Segundo eles, o que aconteceu foi que devido às circunstâncias de horário e visibilidade, além da identificação de veículo atrás com velocidade levemente superior à via (65 km/h), o veículo tomou a decisão de não parar na faixa por inicialmente acreditar que tratava-se de um falso positivo e, com isso, atropelou a pedestre. Além disso, Alice afirmou que, apesar da falha, não houve um defeito nos sensores do carro ou no programa de inteligência artificial, porque o sistema possui uma característica de autoaprendizagem e, desse modo, aprender que se tratava de um falso positivo foi algo obtido pelo próprio sistema após diversos testes e que eles não tinham como saber que o veículo aprendeu isso, já que nunca houve problema parecido.

Especialistas de inteligência artificial questionaram se no banco de imagens usado pelos desenvolvedores não havia pessoas de estatura inferior à média da população (a estatura de Isabella é inferior à média populacional) ou pessoas negras, o que foi provado posteriormente que não. Observou-se ainda que o número de imagens era um pouco inferior ao de outros grupos da população, mas os especialistas não souberam afirmar se isso de alguma forma influenciou no aprendizado.

Outro fator observado no acidente foi que os freios de emergência estavam desativados. Segundo o diretor geral de pesquisa e desenvolvimento da empresa, Renato Assunção, eles foram desativados para melhorar a direção do veículo, mas que não seriam determinantes para a situação já que não seria possível frear a tempo, os freios normais seriam capazes de parar o veículo em cerca de 5s e, quando o sistema percebeu o erro, já não havia esse tempo para parar.

Ao questionarem os desenvolvedores sobre isso, Tomás afirmou que os desenvolvedores não possuíam nenhuma relação com a decisão, que cabia à própria empresa após um relatório dos engenheiros mecânicos que indicavam que a remoção melhorava a direção, mas que reduziria a capacidade de freio, embora fosse improvável que os freios normais não fossem suficientes para evitar acidentes. Segundo ele, os freios de emergência poderiam reduzir os danos do acidente, mas não evitá-lo e que nesse caso, não seria possível confirmar se os danos que a vítima sofreria não a incapacitaria.

Isabella afirma que a empresa tem culpa no acidente e cobra na justiça uma pensão vitalícia já que isso a impossibilitou de trabalhar, já a empresa alega que tem responsabilidade sobre qualquer dano causado por defeitos em seus veículos, porém que, neste caso em específico, não houve nenhum defeito no veículo, mas uma falha de decisão do sistema, que poderia ocorrer com qualquer condutor ao não ver uma pessoa atravessando a faixa de pedestre.