O direito à explicação na Diretiva (UE) 2016/680 e suas perspectivas para o cenário brasileiro

Abstract

The use of techniques related to automated data processing, which include on a large scale, personal data, is a reality that has been increasing and that, nowadays, has also grown in the scenario of predictive policing and criminal justice, raising concerns ethical and legal. In this sense, it can be said that automated decisions are considered as an intersection point between the protection of personal data and the use of modern techniques by algorithm programming. This dissertation aims to assess whether these automated decision-making models used in the criminal area, handling personal data, would be within the scope of personal data protection rules. In addition, it is analyzed if individuals impacted by such decisions type have formal rights and safeguards to obtain an explanation about the content of decisions. In view of the analysis of the General Data Protection Regulation, Directive (EU) 2016/680, the brazilian General Data Protection Law and the LGPD-Penal Draft, it is concluded that, despite the lexicon "explanation" does not appear expressly in the law, it must be ensured that the data subjects, willing, receive a clear and sufficient explanation about the data used and the logic involved in the decision process. Moreover, it is defended the entitlement of the interested persons to express their point of view, contest the decision and obtain human intervention. Keywords: predictive policing, personal data protection, artificial intelligence, automated decision-making, right to explanation, ethics.

O uso de técnicas relacionadas ao tratamento automatizado de dados, dentre os quais se incluem em grande escala os dados pessoais, é uma realidade que vem aumentando e que, hodiernamente, também tem crescido no cenário do policiamento preditivo e da justiça criminal, levantado preocupações de cunho ético e jurídico. Nesse sentido, pode-se afirmar que as decisões automatizadas são consideradas como um ponto de intersecção entre a proteção de dados pessoais e o uso de técnicas modernas por algoritmos. Esta dissertação tem como objetivo avaliar se esses modelos de tomada de decisões automatizadas utilizados na seara criminal tratam dados pessoais e, dessa forma, se estariam dentro do escopo das normas de proteção de dados pessoais, além de analisar se os indivíduos impactados por decisões desse tipo poderiam gozar os direitos e salvaguardas para obter uma explicação sobre as mesmas. Diante da análise do Regulamento Geral sobre a Proteção de Dados, da Diretiva (UE) 2016/680, da Lei Geral de Proteção de Dados brasileira e do Anteprojeto brasileiro da LGPD-Penal chega-se à conclusão que, apesar do léxico “explicação" não constar textualmente no corpo da lei, deve ser assegurado que os titulares dos dados, querendo, recebam uma explicação clara e suficiente acerca do resultado obtido, bem como dos dados pessoais utilizados e da lógica que envolveu o tratamento, além de terem direito a manifestar seu ponto de vista, contestar a decisão e obter intervenção humana.