Carros Autônomos no Brasil – Responsabilidade Civil e Novos Desafios Jurídicos

17/07/2017

POR Enrico Roberto

Possui experiência em aconselhamento jurídico e elaboração e revisão de contratos relacionados a Direito Digital e Propriedade Intelectual, com p...

Não há dúvidas de que a automação é um aspecto de cada vez maior relevância socioeconômica. A explosão da inteligência artificial nos últimos anos tem permitido à robótica realizar tarefas antes impossíveis de serem automatizadas. Hoje, a inteligência artificial pode substituir ou complementar o trabalho de médicos[1], advogados[2], corretores[3] e jornalistas[4], revolucionar a administração de linhas de produção[5], aumentar a eficiência de data centers[6], entregar produtos na porta[7] (ou na janela[8]) de casa e, naturalmente, dirigir carros. A lista é crescente e traz à tona diversos desafios de ordem econômica, social, ética e jurídica – com que a academia e os governos nacionais já vêm se ocupando, mesmo que de forma incipiente.

Das áreas permeadas pela inteligência artificial, os carros autônomos chamam mais atenção, prometendo um futuro com quantidade extremamente reduzida de acidentes, menor congestionamento, praticidade aos usuários e menor impacto ambiental. Antes considerados impossíveis, hoje já são comercializados pela Tesla e testados, em menor ou maior grau, tanto pelas grandes empresas de tecnologia, como Waymo (subsidiária da Alphabet, antigo Google), Apple e Uber quanto pelas clássicas empresas automobilísticas, como Toyota, Ford, Honda, entre diversas outras[9]. A não-tão-distante utilização em massa dos carros autônomos virá rica de vácuos jurídicos: Quem responde por acidentes causados por eles? Onde termina e onde começa a responsabilidade dos motoristas e dos fabricantes? Como proteger os dados pessoais dos motoristas? Como devem os carros autônomos ser regulados? Qual a função do poder público nessas questões?

Nesse artigo, vamos ocupar-nos brevemente com tais questionamentos. Em primeiro lugar, exploraremos em maiores detalhes os desafios impostos pelos veículos autônomos no regime de responsabilidade civil brasileiro. Após essa exposição, concluiremos com uma breve apresentação de alguns dos principais pontos de atenção jurídica provocados pelos veículos autônomos.

Quem responde?

Mesmo sendo menos propensos a acidentes do que motoristas humanos, eventualmente também os carros autônomos acabarão causando danos. Muitas vezes, tais danos serão ocasionados por erros de fabricação ou de programação, ensejando a responsabilidade do produtor do veículo por vício ou defeito no produto nos termos do Código de Defesa do Consumidor (CDC).

Carros autônomos, no entanto, são “sistemas de autoaprendizagem”: imbuídos de algoritmos de machine learning, aprendem a tomar decisões (no caso, a dirigir) meramente encontrando padrões em enormes conjuntos de dados e por meio de sua própria experiência. As decisões que tomam são, portanto, autônomas: independem da vontade tanto do fabricante quanto do motorista, e em regra, estando fora da esfera de atuação e influência de ambos, não lhes podem ser atribuídas.

Tais decisões autônomas, no entanto, também podem causar acidentes. Podemos pensar no exemplo de um dos carros autônomos da Waymo (à época, ainda Google): em uma estrada nos Estados Unidos, o veículo queria desviar para a faixa a sua esquerda. Acreditando que um ônibus que se aproximava lhe daria passagem, mudou de faixa, chocando-se então contra o ônibus. O condutor humano que monitorava o veículo, também acreditando que o ônibus daria passagem, não interveio.[10]

Do ponto de vista da responsabilidade subjetiva, pelo fato de a decisão ter sido tomada de forma completamente autônoma pelo veículo – independente da programação pelo fabricante e fora da esfera de atuação do motorista -, dificilmente se poderia falar em negligência ou em omissão nos termos dos Código Civil[11]. Naturalmente, em sistemas semiautônomos (como a totalidade dos carros comercializados até o momento), em que a atuação autônoma pelo veículo é intercalada pela intervenção humana em momentos críticos, poderá falar-se em negligência ou omissão caso o motorista deixe de intervir quando o veículo o exigir por meio de sons e luzes[12], por exemplo, ou quando deixar de intervir em situações claramente perigosas. Essa interação “homem-máquina” e o limite das responsabilidades do motorista, proprietário do carro e fabricante é atualmente objeto de projeto de lei no Parlamento alemão.[13]

Do ponto de vista da responsabilidade objetiva do fabricante, deve-se notar que a decisão autônoma tomada pelo veículo não pode tratar-se de um vício no produto[14]. Pelo contrário, a capacidade de tomar decisões independentes e aprender com a própria experiência é exatamente o que torna tais produtos economicamente atrativos e, para muitos autores, exatamente o que os caracteriza como “inteligência artificial”.[15] Da mesma forma, é difícil argumentar que se trate de um defeito do produto nos termos dos Art. 12 e seguintes do CDC. De forma similar a bugs de software, que até certo ponto são inevitáveis, decisões autônomas apresentam um risco inerente e que não pode ser completamente extinto: não se pode “legitimamente esperar”, nos termos da lei[16], que nunca venham a causar danos.[17]

Naturalmente se espera que um carro autônomo não cause acidentes ativamente; o que não se pode exigir é que seja totalmente isento deles. A lei atual não deixa claro quem deverá responder pelos danos causados no acidente entre o ônibus e o carro do Google. Haveria uma resposta caso o ônibus estivesse, por exemplo, acima do limite de velocidade? Ou caso o choque fosse entre dois carros autônomos? Parece haver, em diversos casos, uma lacuna na lei.

Para administrar o risco inerente aos carros autônomos, alguns autores têm defendido, por exemplo, um novo tipo de responsabilidade objetiva baseada primordialmente na noção de “criação de um perigo”.[18] Caberá à academia e aos tribunais determinar os limites de uma tal noção de responsabilidade, assim como até que ponto ela seria de fato juridicamente necessária ou socialmente relevante.

A Black Box da Inteligência Artificial

Outro problema relevante ao pensarmos nos aspectos jurídicos dos carros autônomos é a dificuldade de entender seu funcionamento. Muito se fala da black box da inteligência artificial, essa “caixa preta”, cujo interior não pode ser visualizado, onde ocorre o processamento do veículo autônomo.[19]

As informações dos sensores do veículo são direcionadas para uma enorme rede de “neurônios artificiais” ou “nódulos” que processam os dados e, em seguida, distribuem os comandos necessários para operar os sistemas mecânicos do carro, simulando o que se esperaria de um condutor humano. No entanto, com a tecnologia atual não seria possível refazer o caminho lógico tomado pelos nódulos do sistema para saber o porquê de tal operação. Carros autônomos são tão complicados que até mesmo os engenheiros que os projetam não são capazes de apontar motivo específicos que os levem a tomar determinada ação. E da mesma forma, não há ainda nenhuma maneira óbvia de projetar tais veículos para que passem a ser capazes de fornecer tal explicação.

Do ponto de vista jurídico, essa black box traz diversos desafios. O primeiro e mais patente é a questão da produção de prova. Para os produtores do veículo, sujeitos à inversão do ônus da prova pelo CDC, a black box pode levar involuntariamente a um aumento desmedido de sua responsabilidade, já que eles próprios não poderão provar que a ação tomada pelo veículo não se tratou de um vício, por mais que seja esperado que algumas ações autônomas possam causar dano. E além disso, de forma geral, a limitação do grau de culpa subjetiva dos envolvidos em qualquer tal questão envolvendo carros autônomos ficaria seriamente prejudicada. Os tribunais e o poder público, quando depararem-se com tais questões, deverão levar em consideração tal impossibilidade técnica no sopesamento de suas decisões.

Novos Desafios

A implantação de uma tecnologia tão inovadora e revolucionária como os carros autônomos trará desafios jurídicos ainda difíceis de se imaginar, e ainda não é claro qual deverá ser o papel do poder público nesse contexto. Algumas suposições educadas, no entanto, podem ser tomadas.

Muitos dos desafios serão de ordem eminentemente técnica. Até que ponto deverão os produtores, por exemplo, ser capazes de explicar o funcionamento de seus veículos? Quais as regras técnicas que deverão ser seguidas em sua fabricação e condução? A resposta a essas perguntas pode inclusive resolver questões de responsabilidade civil, por exemplo, ao traçarem limites técnicos entre o que se pode considerar “vício” e o que é mera “decisão autônoma”. Alguns autores defendem a criação de agências reguladoras especializadas para lidar com tais problemas[20], o que em algumas situações poderia de fato encontrar amparo no Direito brasileiro.

Outro mecanismo por vezes defendido pela literatura para mitigação dos riscos inerentes a essa tecnologia é a criação de seguros obrigatórios contratados pelos fabricantes.[21] Considerando-se a inevitabilidade em larga escala de danos e a dificuldade de prevê-los ou de determinar sua causalidade individualmente, conforme vimos acima, a imposição de um seguro obrigatório poderia também, ao menos em parte, ter efeitos positivos. Outro papel relevante que as agências reguladoras poderiam ter seria na determinação do alcance e da necessidade de tais medidas.

As agências não poderão, no entanto, ser as únicas a regularem a questão dos veículos autônomos. Há outros problemas de ordem jurídica que vão além das questões técnicas e que dependerão de atividade legislativa. Um dos mais relevantes é a proteção dos dados dos motoristas.[22] Com a automação, torrentes cada vez maiores de dados serão coletadas dos motoristas; e não somente de onde e para onde vão, mas sobre os mais diversos aspectos de seus arredores, uma vez que tais dados são necessários, para os algoritmos de machine learning, para que o próprio veículo aprimore sua capacidade de dirigir. Mesmo ainda não sendo claro a que nível tal coleta (e eventual envio aos servidores dos fabricantes ou de terceiros) será necessária e possível, alguns problemas já se apresentam de antemão: Essa coleta será permitida até que nível? De que maneira pode ser abusada pelas empresas, e qual o papel da lei nesse potencial abuso? Quem são os titulares desses dados? Eles poderão ser vendidos a outras empresas? Se sim, sob quais condições?

Esses dados serão elemento essencial para o bom funcionamento dos carros autônomos – e mesmo de quaisquer outros sistemas imbuídos de inteligência artificial. Têm um crescente valor econômico e social ainda não plenamente realizado, mas que com a crescente implantação de tais sistemas se tornará cada vez mais claro. Os mecanismos atualmente previstos pelo Marco Civil da Internet, pelo Projeto de Lei de Proteção de Dados em tramitação no Congresso Nacional e pelas outras leis que se ocupam da matéria não serão capazes de lidar com a hoje ainda nascente complexidade desse mercado.

Conclusão

Carros autônomos ainda são uma nova fronteira para o direito brasileiro. A lei ainda não é capaz de satisfatoriamente gerir os riscos que gradualmente se deixarão claros com a utilização em massa da nova tecnologia, dando respostas somente parciais às questões mais importantes impostas por ela.

Do ponto de vista da responsabilidade civil, a atuação autônoma do veículo desafia tanto as noções de responsabilidade subjetiva quanto objetiva. Isso porque, até certo grau, encontra-se fora da esfera de influência dos fabricantes e motoristas, no entanto sendo tal autonomia (e seu risco inerente) um elemento desejado e esperado de tais sistemas. O problema é potencializado pela black box da inteligência artificial, a dificuldade de explicarem-se os processos internos dos veículos autônomos que os levam a tomar as decisões que tomam.

Além disso, diversos outros desafios se apresentam. Em especial, regulações futuras deverão ocupar-se com os aspectos técnicos da fabricação e da utilização dos veículos, com eventuais medidas de contenção de riscos, como a imposição de seguros obrigatórios, assim como com a proteção dos (cada vez mais valiosos) dados obtidos a partir da utilização dos veículos autônomos.

 

NOTAS

 

[1] KUBOTA, Taylor. “Deep learning algorithm does as well as dermatologists in identifying skin cancer”, 2017 Disponível em: < http://news.stanford.edu/2017/01/25/artificial-intelligence-used-identify-skin-cancer/>

[2] CROFT, Jane. “Artificial intelligence closes in on the work of junior lawyers”, 2017. Disponível em: < https://www.ft.com/content/f809870c-26a1-11e7-8691-d5f7e0cd0a16> Último acesso em 25 de junho de 2017.

[3] SON, Hugh. “Morgan Stanley’s 16,000 Human Brokers Get Algorithmic Makeover”, 2017. Disponível em: https://www.bloomberg.com/news/articles/2017-05-31/morgan-stanley-s-16-000-human-brokers-get-algorithmic-makeover> Último acesso em 25 de junho de 2017.

[4] KEOHANE, Joe. “What News-Writing Bots Mean for the Future of Journalism”, 2017. Disponível em: <https://www.wired.com/2017/02/robots-wrote-this-story/> Último acesso em 25 de junho de 2017.

[5] “How Germany’s Otto uses artificial intelligence”, 2017. Disponível em: <http://www.economist.com/news/business/21720675-firm-using-algorithm-designed-cern-laboratory-how-germanys-otto-uses> Último acesso em 25 de junho de 2017.

[6] VINCENT, James. “Google uses DeepMind AI to cut data center energy bills”, 2016. Disponível em: < https://www.theverge.com/2016/7/21/12246258/google-deepmind-ai-data-center-cooling> Último acesso em 25 de junho de 2017.

[7] LONSDORF, Kat. “Hungry? Call Your Neighborhood Delivery Robot”, 2017. Disponível em: <http://www.npr.org/sections/alltechconsidered/2017/03/23/520848983/hungry-call-your-neighborhood-delivery-robot> Último acesso em 25 de junho de 2017.

[8] WELLS, Georgia; STEVENS, Laura. “Amazon Conducts First Commercial Drone Delivery”, 2016. Disponível em: < https://www.wsj.com/articles/amazon-conducts-first-commercial-drone-delivery-1481725956> Último acesso em 25 de junho de 2017.

[9] STEWART, Jack. “Mapped: The Top 263 Companies Racing Toward Autonomous Cars”, 2017. Disponível em: <https://www.wired.com/2017/05/mapped-top-263-companies-racing-toward-autonomous-cars/> Último acesso em 25 de junho de 2017.

[10] DAVIES, Alex. “Google’s Self-Driving Car Caused Its First Crash”, 2016. Disponível em: <https://www.wired.com/2016/02/googles-self-driving-car-may-caused-first-crash/> Último acesso em 25 de junho de 207.

[11] Arts. 186 e 927, CC 2002.

[12] É exatamente o que se constatou em um acidente ocorrido com um carro autônomo da Tesla: conforme dados obtidos após o acidente, o motorista atuou durante apenas 25 segundos dos 37 minutos em que o veículo exigiu sua intervenção. (DENT, Steve. “Tesla driver in fatal Autopilot crash ignored safety warnings”, 2017. Disponível em < https://www.engadget.com/2017/06/20/tesla-driver-in-fatal-autopilot-crash-ignored-safety-warnings/> Último acesso em 25 de junho de 2017.).

[13] Trata-se de um projeto para modificação do Código de Trânsito Alemão (Straßenverkehrsgesetz), vide KÖNIG, Carsten. “Die gesetzlichen Neuregelungen zum automatisierten Fahren” Göttingen, NZV (2017), pp. 123 – 128.

[14] Conforme Art. 18 e seguintes do CDC.

[15] CERKA, Paulius, GRIGIENE, Jurgita, SIRBIKYTE Gintare “Liability for damages caused by artificial intelligence, Computer Law & Security Review, 2015. Disponível em: <http://dx.doi.org/10.1016/j.clsr.2015.03.008> Último acesso em 25 de junho de 2017.

[16] Conforme Art. 12, §1º, inciso II, CDC.

[17] Sobre a responsabilidade e desafios jurídicos apresentados por carros autônomos, vide BEIKER, Sven, CALO, Ryan. “Legal Aspects of Autonomous Driving”, 2010. Disponível em <http://ssrn.com/abstract=2767899>; SMITH, Bryant Walker. “Proximity-Driven Liability” The Georgetown Law Journal Vol. 102, 2014.; BOEGLIN, Jack. “The Costs of Self-Driving Cars: Reconciling Freedom and Privacy with Tort Liability in Autonomous Vehicle Regulation”, Yale Journal of Law and Technology, Volume 17, Artigo 4, 2015

[18] HANISCH, Jochen. “Zivilrechtliche Haftungskonzepte für Robotik” in Robotik im Kontext von Recht und Moral, Ingolstadt, Editora Nomos, Volume 3, 2015, p. 27 ss.

[19] KNIGHT, Will. “The Dark Secret at the Heart of AI”, 2017. Disponível em: <https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/> Último acesso em 25 de junho de 2017. Sobre isso, vide também SCHERER, Matthew. “Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, And Strategies”, Harvard Journal of Law & Technology, Volume 29, Nº 2, 2016.

[20] SCHERER, Matthew. “Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, And Strategies”, Harvard Journal of Law & Technology, Volume 29, Nº 2, 2016, p. 381.

[21] CALO, Ryan. “Open Robotics”, p. 138 Disponível em: <http://ssrn.com/abstract=1706293> Último acesso em 25 de junho de 2017.

[22] CALO, Ryan. “People Can Be So Fake: A New Dimension to Privacy and Technology Scholarship,” Penn State Law Review 114:809. 2010; BOEGLIN, Jack. “The Costs of Self-Driving Cars: Reconciling Freedom and Privacy with Tort Liability in Autonomous Vehicle Regulation”, Yale Journal of Law and Technology, Volume 17, Artigo 4, 2015

Compartilhe