Abordagens regulatórias existentes para a minimização dos vieses discriminatórios na tecnologia de reconhecimento facial usada por autoridades policiais

Abstract

The use of facial recognition technology (FRT) by law enforcement authorities for the purposes of maintaining public order has been generating concern due to gender and race biases present in the technology, which may lead to the incorrect identification of people from certain demographic groups, violating their fundamental rights. Scholars have highlighted that EU anti-discrimination legislation is insufficient to specifically tackle the issue of discriminatory biases in FRT used by law enforcement authorities. Moreover, they suggest two main approaches to deal with this problem, namely, the approach put forward by the European Commission's AI Regulation Proposal, and the approach put forward by the principle of non-discrimination by design. In view of this, the present paper looked into these two regulatory options, to define which one would be the best approach to realise the fundamental right of non-discrimination in FRT used by law enforcement authorities. After a comparative analysis between the two approaches, critically highlighting the common and divergent points of each, the conclusion was reached that both approaches complement each other and, therefore, it is beneficial to develop a regulatory system in which both are present, mitigating the existing gaps in the European anti-discrimination legislation.

O uso de tecnologia de reconhecimento facial (TRF) por autoridades policiais para fins de manutenção da ordem pública vem gerando preocupação devido aos vieses de gênero e raça presentes na tecnologia, que podem levar à identificação incorreta de pessoas de determinados grupos demográficos, violando seus direitos fundamentais. Estudiosos têm destacado que a legislação antidiscriminação da UE é insuficiente para combater especificamente a questão dos vieses discriminatórios na TRF usada por autoridades policiais. Além disso, sugerem duas abordagens principais para lidar com esse problema, quais sejam, a abordagem apresentada pela Proposta de Regulação de IA da Comissão Europeia, e a abordagem apresentada pelo princípio de não discriminação by design. Diante disso, o presente trabalho se debruçou sobre essas duas opções regulatórias, para definir qual delas seria a melhor abordagem para concretizar o direito fundamental de não discriminação na TRF usada por autoridades policiais. Após ter sido feita uma análise comparativa entre as duas abordagens, destacando de forma crítica os pontos comuns e divergentes de cada abordagem, chegou-se à conclusão de que as duas se complementam e, por isso mesmo, é oportuno que se desenvolva um sistema regulatório no qual ambas estejam presentes, a fim de mitigar as lacunas existentes na legislação europeia antidiscriminação.