Entre a opacidade e a explicabilidade

Abstract

The article aims to establish the new contours for the duty of motivation of individual administrative acts, considering the scenario of digitalization of the Public Administration and the use of algorithms to produce administrative decisions. From the legal content of the duty of motivation, as a corollary of the principle of legality, it is argued that its observance, in a context of algorithmic administrative decisions, consists in ensuring that the citizen is able to understand and challenge the decision-making process, or, in other words, counterargument the algorithm. It is shown that, technically, there are means to ensure a higher level of explicability to the results provided by algorithmic systems and that, legally, a right to explanation stems from a global interpretation of the LGPD. It is concluded that, in order to make use of algorithmic administrative decisions, the Public Administration should safeguard explainability as a requirement of the motivation, in order to determine that the choice of algorithm observes demanding standards of accessibility and interpretability, which imposes a careful look at the human choices made at all stages of design and implementation of the model (explainability by design). It is recommended the regulation of the topic in the Brazilian legal system, especially in face of the normative uncertainty regarding the types of administrative decisions that can be automated, the degree of automation appropriate in each case and the lack of clarity on the need for human intervention in the review process of these decisions.

O trabalho tem por objetivo estabelecer novos contornos para o dever de motivação dos atos administrativos individuais, considerando o cenário de digitalização da Administração Pública e a utilização de algoritmos para a produção de decisões administrativas. A partir do conteúdo jurídico do dever de motivação, enquanto corolário do princípio da legalidade, sustenta-se que sua observância, num contexto de decisões administrativas algorítmicas, consiste em garantir que o administrado seja capaz de compreender e desafiar o processo de tomada de decisão, ou, dito de outra forma, contra-argumentar o algoritmo. Demonstra-se que, tecnicamente, há meios de assegurar maior nível de explicabilidade aos resultados fornecidos pelos sistemas algorítmicos e que, juridicamente, um direito à explicação decorre de uma interpretação holística da LGPD. Conclui-se que, para fazer uso de decisões administrativas algorítmicas, a Administração Pública deverá resguardar a explicabilidade como requisito da motivação, de forma a determinar que a escolha do algoritmo observe padrões exigentes de acessibilidade e compreensibilidade, o que impõe um olhar cuidadoso sobre as escolhas humanas feitas em todas as fases de concepção e implementação do modelo (explicability by design). Recomenda-se a regulação do tema no ordenamento jurídico brasileiro, em especial diante da incerteza normativa em relação aos tipos de decisões administrativas que podem ser automatizadas, do grau de automatização apropriado em cada caso e da falta de clareza sobre a necessidade de intervenção humana no processo de revisão dessas decisões.