A carregar...
Publicação
Unpacking the Notion of “Meaningful Human Control” in the Regulation of Autonomous Weapon Systems
| Nome: | Descrição: | Tamanho: | Formato: | |
|---|---|---|---|---|
| 1.07 MB | Adobe PDF |
Autores
Orientador(es)
Resumo(s)
This thesis seeks to critically examine and define the concept of "Meaningful Human Control" (MHC) in the regulation of Autonomous Weapon Systems (AWS), an area of growing importance but persistent ambiguity in both legal and academic discourse. Through an in-depth analysis of key principles embedded in IHL – Proportionality, Distinction, and Military Necessity – this research will explore the ethical, legal, and operational dimensions of human oversight in AWS deployment. As AWS technology continues to evolve at an unprecedented pace, the absence of a universally accepted definition of MHC poses significant challenges to
accountability, compliance with IHL, and the preservation of humane agency in life-and-death decisions. The study delves into the legal and ethical dilemmas as well as the practical difficulties of retaining meaningful human involvement in AWS operations, particularly in the context of increasingly autonomous systems. It draws on real-world examples, such as autonomous drones’ swarms and Ukraine's AI-driven military drones, to illustrate the current gaps in regulation and the risks of unchecked technological proliferation. By analyzing the role of human control in these scenarios, this thesis proposes key elements necessary for meaningful human oversight, including human supervision, accountability mechanisms, and contextual control over AWS actions. Furthermore, the research outlines a potential international treaty framework to govern the use of AWS, ensuring that technological advancements in warfare are balanced with ethical responsibility and legal compliance. The proposed framework emphasizes the need for international cooperation, accountability, and stringent safeguards to prevent arms races and misuse of AWS. Ultimately, this thesis offers concrete recommendations for integrating human control into future legal frameworks, addressing the urgent need for clarity in defining what constitutes "meaningful" human oversight in the age of autonomous warfare.
Esta tese propõe uma análise aprofundada do conceito de “Controle Humano Significativo” (CHS) na regulamentação dos Sistemas de Armas Autônomas (SAA), um tema de crescente relevância, ainda permeado por ambiguidades tanto no debate jurídico quanto no acadêmico. Explorando os princípios centrais do Direito Internacional Humanitário (DIH) –Proporcionalidade, Distinção e Necessidade Militar –, a pesquisa busca compreender as implicações éticas, jurídicas e operacionais do controle humano sobre os SAA. Com o desenvolvimento acelerado dessas tecnologias, a ausência de uma definição universalmente aceita de CHS levanta questões prementes de responsabilização, conformidade com o DIH e preservação da dignidade humana em decisões de vida ou morte. O estudo aborda dilemas éticos e legais, assim como as dificuldades práticas de manter uma supervisão humana eficaz na operação de SAA, especialmente em sistemas de autonomia crescente. Exemplos concretos, como enxames de drones autônomos e drones militares movidos por IA na Ucrânia, são usados para ilustrar as lacunas na regulamentação e os riscos de uma proliferação tecnológica descontrolada. Ao explorar o papel do controle humano nesses cenários, esta tese identifica elementos essenciais para uma supervisão significativa, incluindo a supervisão direta, mecanismos de responsabilização e controle contextual sobre as ações dos SAA. Ademais, a pesquisa propõe uma estrutura para um tratado internacional que regulamente o uso de SAA, garantindo que os avanços tecnológicos no campo bélico sejam equilibrados por uma responsabilidade ética e pelo respeito às normas legais. Tal estrutura enfatiza a importância da cooperação internacional, da responsabilização e de rigorosas salvaguardas para impedir corridas armamentistas e o uso indevido dos SAA. Em última análise, esta tese oferece recomendações concretas para integrar o controle humano nos futuros marcos jurídicos, destacando a urgência de uma definição clara do que constitui um controle humano “significativo” na era da guerra autônoma.
Esta tese propõe uma análise aprofundada do conceito de “Controle Humano Significativo” (CHS) na regulamentação dos Sistemas de Armas Autônomas (SAA), um tema de crescente relevância, ainda permeado por ambiguidades tanto no debate jurídico quanto no acadêmico. Explorando os princípios centrais do Direito Internacional Humanitário (DIH) –Proporcionalidade, Distinção e Necessidade Militar –, a pesquisa busca compreender as implicações éticas, jurídicas e operacionais do controle humano sobre os SAA. Com o desenvolvimento acelerado dessas tecnologias, a ausência de uma definição universalmente aceita de CHS levanta questões prementes de responsabilização, conformidade com o DIH e preservação da dignidade humana em decisões de vida ou morte. O estudo aborda dilemas éticos e legais, assim como as dificuldades práticas de manter uma supervisão humana eficaz na operação de SAA, especialmente em sistemas de autonomia crescente. Exemplos concretos, como enxames de drones autônomos e drones militares movidos por IA na Ucrânia, são usados para ilustrar as lacunas na regulamentação e os riscos de uma proliferação tecnológica descontrolada. Ao explorar o papel do controle humano nesses cenários, esta tese identifica elementos essenciais para uma supervisão significativa, incluindo a supervisão direta, mecanismos de responsabilização e controle contextual sobre as ações dos SAA. Ademais, a pesquisa propõe uma estrutura para um tratado internacional que regulamente o uso de SAA, garantindo que os avanços tecnológicos no campo bélico sejam equilibrados por uma responsabilidade ética e pelo respeito às normas legais. Tal estrutura enfatiza a importância da cooperação internacional, da responsabilização e de rigorosas salvaguardas para impedir corridas armamentistas e o uso indevido dos SAA. Em última análise, esta tese oferece recomendações concretas para integrar o controle humano nos futuros marcos jurídicos, destacando a urgência de uma definição clara do que constitui um controle humano “significativo” na era da guerra autônoma.
Descrição
Palavras-chave
Autonomous Weapon Systems Meaningful Human Control International Humanitarian Law Proportionality Distinction Accountability Artificial Intelligence Sistemas de Armas Autônomas Controle Humano Significativo Direito Internacional Humanitário Proporcionalidade Distinção Responsabilização Inteligência Artificial Drones