A carregar...
Publicação
ARTIFICIAL INTELLIGENCE AND THE DUTY TO GIVE REASONS: Beyond the Black Box and the Limits of Explainability
| Nome: | Descrição: | Tamanho: | Formato: | |
|---|---|---|---|---|
| 1013.8 KB | Adobe PDF |
Autores
Orientador(es)
Resumo(s)
The growing integration of Artificial Intelligence (AI) into public administration challenges a fundamental pillar of the rule of law: the duty to give reasons for decisions. The opacity of advanced models, such as Deep Learning ("black boxes"), creates a direct conflict with the need for transparency, justification, and oversight of
administrative acts. In response, "Explainable Artificial Intelligence" (XAI) has been proposed as the solution to align technology with legal guarantees. This dissertation investigates whether XAI, in its current conception, is an adequate and sufficient tool to fulfill the duty to give reasons required by Administrative Law. Through a
methodology that combines a systematic literature review, a conceptual analysis of the technology, and a legal analysis of legal reasoning, the study argues that XAI is fundamentally incompatible with normative requirements. The research demonstrates that a technical "explanation," focused on post-hoc computational processes, differs structurally from a legal "justification," which demands an ex ante rationale based on
facts and legal norms. The conclusion is that XAI is an insufficient solution, as it fails to address the core issues of the legality and fairness of a decision. Instead of attempting to explain opaque systems, this work highlights the need to adopt inherently interpretable models for high-stakes decisions and to develop an algorithmic
governance framework that subordinates technology to the principles of law, ensuring that automated decisions remain transparent, contestable, and legitimate.
A crescente integração da Inteligência Artificial (IA) na administração pública desafia um pilar fundamental do Estado de Direito: o dever de fundamentar as decisões. A opacidade de modelos avançados, como os de Deep Learning (as "caixas-pretas"), gera um conflito direto com a necessidade de transparência, justificação e controle dos atos administrativos. Em resposta, a "Inteligência Artificial Explicável" (XAI) tem sido proposta como a solução para alinhar a tecnologia às garantias jurídicas. Esta dissertação investiga se a XAI, em sua concepção atual, é uma ferramenta adequada e suficiente para satisfazer o dever de fundamentar no Direito Administrativo. Através de uma metodologia que combina revisão sistemática da literatura, análise conceitual da tecnologia e análise jurídica da fundamentação, o estudo argumenta que a XAI é fundamentalmente incompatível com os requisitos normativos. A pesquisa demonstra que a "explicação" técnica, focada em processos computacionais post-hoc, difere estruturalmente da "fundamentação" jurídica, que exige uma justificação ex ante baseada em fatos e normas. Conclui-se que a XAI é uma solução insuficiente, pois não resolve a questão da legalidade e da justiça da decisão. Em vez de tentar explicar sistemas opacos, o trabalho aponta para a necessidade de adotar modelos inerentemente interpretáveis para decisões de alto risco e de desenvolver uma governança algorítmica que subordine a tecnologia aos princípios do Direito, garantindo que as decisões automatizadas permaneçam transparentes, contestáveis e legítimas.
A crescente integração da Inteligência Artificial (IA) na administração pública desafia um pilar fundamental do Estado de Direito: o dever de fundamentar as decisões. A opacidade de modelos avançados, como os de Deep Learning (as "caixas-pretas"), gera um conflito direto com a necessidade de transparência, justificação e controle dos atos administrativos. Em resposta, a "Inteligência Artificial Explicável" (XAI) tem sido proposta como a solução para alinhar a tecnologia às garantias jurídicas. Esta dissertação investiga se a XAI, em sua concepção atual, é uma ferramenta adequada e suficiente para satisfazer o dever de fundamentar no Direito Administrativo. Através de uma metodologia que combina revisão sistemática da literatura, análise conceitual da tecnologia e análise jurídica da fundamentação, o estudo argumenta que a XAI é fundamentalmente incompatível com os requisitos normativos. A pesquisa demonstra que a "explicação" técnica, focada em processos computacionais post-hoc, difere estruturalmente da "fundamentação" jurídica, que exige uma justificação ex ante baseada em fatos e normas. Conclui-se que a XAI é uma solução insuficiente, pois não resolve a questão da legalidade e da justiça da decisão. Em vez de tentar explicar sistemas opacos, o trabalho aponta para a necessidade de adotar modelos inerentemente interpretáveis para decisões de alto risco e de desenvolver uma governança algorítmica que subordine a tecnologia aos princípios do Direito, garantindo que as decisões automatizadas permaneçam transparentes, contestáveis e legítimas.
Descrição
Palavras-chave
Artificial Intelligence Duty to Give Reasons Decision Administrative Law Explainability Black Box Inteligência Artificial Dever de Fundamentação Decisão Direito Administrativo Explicabilidade Caixa-Preta