O poder invisível do algoritmo

Abstract

The following thesis proposes to investigate the invisible power of the algorithm in gender discrimination in the labor market in the era of Artificial Intelligence. The analysis will focus specifically on recruitment platforms, which carry within them the particularity of the "invisible algorithm". To support the problem, the study will initially rely on the definition of gender from the perspective of Judith Butler's theory of performativity and how this influences the conditioned way in which the algorithm behaves. The configuration of the algorithm and the respective decision-making will be based on Michael Foucault's theoretical rationale of invisible power, where the invisibility of cryptography gives the dominant power digital manipulation, triggering a new discriminatory aspect. In this biased condition, if we replace the human action of the recruiter - a single person - with an algorithm that reproduces the same behavior hundreds or thousands of times, what would be the harmful potential and impact of the discriminatory act? Or how can we identify the suitability of a recruitment process conducted by an Artificial Intelligence? Is gender equality threatened by this new technological era? To answer these questions, the narrative will focus on highlighting how dominant power, which already made gender equality unfeasible, has now reached a harmful level of reproduction on a large scale. It will also consider European anti-discrimination legislation, with emphasis on the recently published Digital Act, exploring its applicability and how the courts have ruled in cases of this nature. The technological era we are living through, although transformative, urgently needs to prioritize crucial ethical issues in decision-making and, at the same time, faces the challenge of regulating the new, without legislation becoming obsolete given the rapid technological advance. The aim is to contribute to the debate that already exists in the academic community, motivated by the efforts of the international community, governments and organizations to create mechanisms that guarantee the ethical and non-discriminatory use of algorithms, in order to protect fundamental rights.

A presente dissertação se propõe a investigar o poder invisível do algoritmo na discriminação de gênero no mercado de trabalho na era da Inteligência Artificial. A análise se concentrará especificamente em plataformas de recrutamento que carregam em si a particularidade do "algoritmo invisível". Para sustentar a problemática, o estudo se apoiará inicialmente na definição de gênero sob a perspectiva da teoria da performatividade de Judith Butler e como isso influencia a forma condicionada que o algoritmo se comporta. Já a configuração do algoritmo e a respectiva tomada de decisão se apoiará no racional teórico do poder invisível de Michael Foucault, onde a invisibilidade da criptografia dá, ao poder dominante, a manipulação digital deflagrando uma nova vertente discriminatória. Nessa condição tendenciosa, se substituirmos a ação humana do recrutador - pessoa única - por um algoritmo que reproduz centenas ou milhares de vezes o mesmo comportamento, qual seria o potencial nocivo e alcance do ato discriminatório? Ou ainda, como identificar a idoneidade de um processo seletivo conduzido por uma Inteligência Artificial? Estaria a equidade de gênero ameaçada por essa nova era tecnológica? Para responder essas perguntas, a narrativa se concentrará em evidenciar como o poder dominante, que já inviabilizava a equidade de gênero, atinge agora um patamar nocivo de reprodução em larga escala. Considerará ainda a legislação europeia antidiscriminatória, com destaque para o recém publicado Digital Act, explorando sua aplicabilidade e como os tribunais vêm se posicionando em casos já deflagrados dessa natureza. A era tecnológica que estamos vivendo, apesar de transformadora, urge em priorizar questões éticas cruciais na tomada de decisão e enfrenta, concomitantemente, o desafio de regular o novo, sem que a legislação se torne obsoleta dado o rápido avanço tecnológico. Com isso, busca-se contribuir com o debate já existente na comunidade acadêmica, motivado pelos esforços da comunidade internacional, governos e organizações na criação de mecanismos que garantam o uso ético e não discriminatório dos algoritmos, em prol da proteção dos direitos fundamentais.