Agency perception and moral values related to autonomous weapons : an empirical study using the value sensitive design approach / Ilse Verdiesen.

Format:

Book

Author/Creator:

Verdiesen, Ilse, author.

Series:

International studies on military ethics ; Volume 7.

International Studies on Military Ethics ; Volume 7

Language:

English

French

German

Subjects (All):

Autonomous weapons systems--Netherlands--Moral and ethical aspects.

Autonomous weapons systems.

Military weapons--Technological innovations--Netherlands--Moral and ethical aspects.

Military weapons.

Physical Description:

1 online resource.

Place of Publication:

Leiden ; Boston : Brill, [2022]

Language Note:

In English, German, and French.

Summary:

The deployment of Autonomous Weapons gives rise to ongoing debate in society and at the United Nations, in the context of the Convention on Certain Conventional Weapons. Yet little empirical research has been done on this topic. This volume fills that gap by offering an empirical study based on military personnel and civilians working at the Dutch Ministry of Defence. It yields insight into how Autonomous Weapons are perceived by the military and general public; and which moral values are considered important in relation to their deployment. The research approach used is the Value-Sensitive Design (VSD) method that allows for the consideration of human values throughout the design process of technology. The outcome indicates that military personnel and civilians attribute more agency (the capacity to think and plan) to an Autonomous Weapon than to a Human Operated Drone. In addition, it is clear that common ground exists between military and societal groups in their perception of the values of human dignity and anxiety. These two values arise often in the discourse, and addressing them is essential when considering the ethics of the deployment of Autonomous Weapons. The text of this volume is also offered in parallel French and German translation.

Contents:

Half Title

Series Information

Title Page

Copyright Page

Contents

Preface

List of Tables

Agency Perception and Moral Values Related to Autonomous Weapons

Summary

Chapter 1 Introduction

1.1 Research Problem

1.1.1 Problem Exploration

1.1.2 Knowledge Gap

1.1.3 Problem Statement

1.1.4 Scope

1.1.5. Research Question and Sub Questions

1.2 Research Approach

1.3 Relevance

1.3.1 Scientific Relevance

1.3.2 Societal Relevance

1.3.3 Embedding in sepam Curriculum and ia Track

1.4 Structure

Chapter 2 Literature Review

2.1 Autonomous Weapons

2.1.1 Definition

2.1.2 Classification of Autonomous Weapons

2.2 Values

2.2.1 Definition

2.2.2 Universal Values

2.2.3 Values Related to Autonomous Weapons

2.2.4 Values Hierarchy

2.3 Agency

2.3.1 Agency in Cognitive Psychology

2.3.2 Agency in Artificial Intelligence

2.3.3. Agency in Moral Philosophy

Chapter 3 Method

3.1 Methodology

3.1.1 Literature Review

3.1.2 Online Value Survey

3.1.3 Expert Interviews

3.1.4 Coding Process

3.1.5 Randomized Controlled Experiments

3.2 Hypotheses

3.3 Research Design

3.4 Operationalisation

3.4.1 Scenarios

3.4.2. Agency Construct

3.4.3 Dependent Variables

3.4.4 Attention Check

3.4.5 Demographic Variables

3.5 Analytical Approach

3.5.1 Pre-process Data

3.5.2 Reliability Analysis

3.5.3 Principal Component Analysis (pca)

3.5.4 Correlation Analysis

3.5.5 Manipulation Check on Agency

3.5.6 Dependent Variables Analysis

3.6 Pre-registration

3.7 Sample

3.8 Methodological Issues

3.8.1 Coding Interviews

3.8.2 Randomized Controlled Experiments

3.8.3 Amazon Mechanical Turk

3.8.4 Snowball Distribution Final Survey

Chapter 4 Results

4.1 Value Survey

4.1.1 Online survey

4.1.2 Interviews.

4.1.3 Conclusion Value Survey

4.2 Pilot Study 1

4.2.1 Reliability Analysis

4.2.2 Principal Component Analysis (pca)

4.2.3 Correlation Analysis

4.2.4 Manipulation Check on Agency

4.2.5 Dependent Variables Analysis

4.2.5.1 Support Variable

4.2.5.2 Trust Variable

4.2.5.3 Blame and Harm Variables

4.2.6 Conclusion Pilot Study 1

4.3 Pilot Study 2

4.3.1 Reliability Analysis

4.3.2 Principal Component Analysis (pca)

4.3.3 Correlation Analysis

4.3.4 Manipulation Check on Agency

4.3.5 Dependent Variables Analysis

4.3.5.1 Blame

4.3.5.2 Commander Blame

4.3.5.3 Trust

4.3.5.4 Commander Trust

4.3.5.5 Harm

4.3.5.6 Commander Harm

4.3.5.7 Human Dignity

4.3.5.8 Confidence

4.3.5.9 Expectations

4.3.5.10 Support

4.3.5.11 Fairness

4.3.5.12 Uneasy

4.3.6 Conclusion Pilot Study 2

4.4 Final Study - Military Sample

4.4.1 Reliability Analysis

4.4.2 Principal Component Analysis (pca)

4.4.3 Correlation Analysis Agency Construct

4.4.4 Manipulation Check on Agency

4.4.5 Dependent Variables Analysis

4.4.5.1 Trust

4.4.5.2 Human Dignity

4.4.5.3 Confidence

4.4.5.4 Expectations

4.4.5.5 Support

4.4.5.6 Fairness

4.4.5.7 Anxiety

4.4.6 Conclusions Final Study

Chapter 5 Design of Moral Machine for Autonomous Weapons

5.1 Moral Machine for Autonomous Vehicles

5.2 Moral Machine for Autonomous Weapons

5.3 Scenarios

5.3.1 Variables for Scenarios

5.3.1.1 Type of Weapon

5.3.1.2 Location

5.3.1.3 Character

5.3.1.4 Number of Characters

5.3.1.5 Outcome

5.3.1.6 Mission

5.3.2 Example Scenarios

5.4 Implementation

Chapter 6 Conclusion and Discussion

6.1 Conclusion

6.1.1 Agency Construct

6.1.2 Central Hypothesis Agency Perception

6.1.3 Exploration of Dependent Variables

6.1.3.1 Trust, Confidence and Support.

6.1.3.2 Human Dignity

6.1.3.3 Expectations and Fairness

6.1.3.4 Anxiety

6.2 Discussion

6.2.1 Scientific Implications

6.2.2 Societal Implications

6.3 Limitations

6.4 Recommendations for Further Research

Appendix A: Online Value Questionnaire

Appendix B: Questionnaire Final Study

Appendix C: Scenarios Pilot Study 1

Appendix D: Scenarios Pilot Study 2

Appendix E: Scenarios Final Study

Appendix F: Transcriptions Interviews

Appendix G: Coding Memos

Appendix H: Results Coding Process

References

Auffassungen und moralische Wertvorstellungen innerhalb der Streitkräfte und Zivilbevölkerung in Bezug auf autonome Waffensysteme

Kurzfassung

Vorwort

­KAPITEL 1 Einführung

1.1 Forschungsproblem

1.1.1 Problemerforschung

1.1.2 Wissenslücke

1.1.3 Problemstellung

1.1.4 Umfang

1.1.5 Forschungsfrage und daraus resultierenden weiteren Fragen

1.2 Forschungsmethode

1.3 Relevanz

1.3.1 Wissenschaftliche Relevanz

1.3.2 Gesellschaftliche Relevanz

1.3.3 Einbettung in das sepam- Kurrikulum und den ia-Kurs

1.4 Struktur

­KAPITEL 2 Literaturübersicht

2.1 Autonome Waffensysteme

2.1.2 Klassifizierung der autonomen Waffensysteme

2.2 Werte

2.2.2 Allgemeingültige Werte

2.2.3 Werte mit Bezug auf autonome Waffensysteme

2.2.4 Werte-Hierarchie

2.3.1 Agency in der Kognitionspsychologie

2.3.2 Agency in der künstlichen Intelligenz

2.3.3 Agency in der Moralphilosophie

­KAPITEL 3 Methode

3.1 Methodologie

3.1.1 Fachliteraturübersicht

3.1.2 Online-Wertumfrage

3.1.3 Interviews mit Experten

3.1.4 Codierungsverfahren

3.1.5 Randomisierte kontrollierte Experimente

3.2 Hypothesen

3.3 Forschungsdesign

3.4 Operationalisierung

3.4.1 Szenarien

3.4.2 Agency-Konstrukt

3.4.3 Abhängige Variablen.

3.4.4 Aufmerksamkeitstest

3.4.5 Demografische Variablen

3.5 Analytische Methode

3.5.1 Daten vor der Verarbeitung

3.5.2 Reliabilitätsanalyse

3.5.3 Hauptkomponentenanalyse (pca)

3.5.4 Korrelationsanalyse

3.5.5 Manipulationsprüfung des Agency

3.5.6 Analyse der abhängigen Variablen

3.6 Voranmeldung

3.7 Stichprobe

3.8 Methodologische Fragen

3.8.1 Interviews zur Codierung

3.8.2 Randomisierte kontrollierte Experimente

3.8.4 Die abschließende Untersuchung nach dem Schneeballverfahren

­KAPITEL 4 Ergebnisse

4.1 Werteumfrage

4.1.1 Online-Umfrage

4.1.2 Interviews

4.1.3 Schlussfolgerung der Umfrage

4.2 Vorstudie 1

4.2.1 Reliabilitätsanalyse

4.2.2 Hauptkomponentenanalyse (pca)

4.2.3 Korrelationsanalyse

4.2.4 Manipulationsprüfung der Agenten

4.2.5 Analyse der abhängigen Variablen

4.2.5.1 Unterstützungsvariable

4.2.5.2 Vertrauensvariable

4.2.5.3 Schuld- und Schadenvariablen

4.2.6 Schlussfolgerung der Vorstudie 1

4.3 Vorstudie 2

4.3.1 Reliabilitätsanalyse

4.3.2 Hauptkomponentenanalyse (pca)

4.3.3 Korrelationsanalyse

4.3.4 Manipulationsprüfung der Agenten

4.3.5 Analyse der abhängigen Variablen

4.3.5.1 Schuld

4.3.5.2 Kommandantenschuld

4.3.5.3 Vertrauen

4.3.5.4 Kommandantenvertrauen

4.3.5.5 Schaden

4.3.5.6 Kommandantenschaden

4.3.5.7 Menschenwürde

4.3.5.8 Zuversicht

4.3.5.9 Erwartungen

4.3.5.10 Unterstützung

4.3.5.12 Unbehagen

4.3.6 Schlussfolgerung der Vorstudie 2

4.4 Abschließende Untersuchung - militärische Stichprobe

4.4.1 Reliabilitätsanalyse

4.4.2 Hauptkomponentenanalyse (pca)

4.4.3 Korrelationsanalyse des Agency-Konstrukts

4.4.4 Manipulationsprüfung des Agenten

4.4.5 Analyse der abhängigen Variablen

4.4.5.1 Vertrauen

4.4.5.2 Menschenwürde.

4.4.5.3 Zuversicht

4.4.5.4 Erwartungen

4.4.5.5 Unterstützung

4.4.5.7 Besorgnis

4.4.6 Schlussfolgerung der abschließenden Untersuchung

­KAPITEL 5 Design der Moral Machine für Autonome Waffensysteme

5.1 Moral Machine für autonome Fahrzeuge

5.2 Moral Machine für autonome Waffensysteme

5.3 Szenarien

5.3.1 Variablen für Szenarien

5.3.1.1 Waffentyp

5.3.1.2 Lage

5.3.1.3 Person

5.3.1.4 Anzahl Personen

5.3.1.5 Resultat

5.3.1.6 Einsatz

5.3.2 Beispielszenarien

5.4 Implementierung

­KAPITEL 6 Schlussfolgerung und Diskussion

6.1 Schlussfolgerung

6.1.1 Agency-Konstrukt

6.1.2 Zentrale Hypothese Auffassung in Bezug auf Waffensysteme

6.1.3 Untersuchung der abhängigen Variablen

6.1.3.1 Vertrauen, Zuversicht und Unterstützung

6.1.3.2 Menschenwürde

6.1.3.3 Erwartungen und Fairness

6.1.3.4 Besorgnis

6.2 Diskussion

6.2.1 Wissenschaftliche Folgerungen

6.2.2 Gesellschaftliche Folgerungen

6.3 Einschränkungen

6.4 Empfehlungen für weitere Forschungsarbeiten

Anhang A: Online-Fragebogen zu den Werten

Anhang B: Fragebogen für die abschließende Untersuchung

Anhang C: Szenarien für Vorstudie 1

Anhang D: Szenarien der Vorstudie 2

Anhang E: Szenarien für die abschließende Untersuchung

Anhang F: Transkriptionen der Interviews

Anhang G: Codierungsnotizen

Anhang H: Ergebnisse des Codierungsprozesses

Quellenverzeichnis

La perception de l'agentivite et les valeurs morales relatives aux armes autonomes

Sommaire

­CHAPITRE 1 Introduction

1.1 Problématique de recherche

1.1.1 Analyse de la problématique

1.1.2 Vide dans les connaissances

1.1.3 Enoncé de la problématique

1.1.4 Champ de recherche

1.1.5 Question posée par cette étude, et questions secondaires

1.2 Approche de recherche

1.3 Pertinence / applicabilité.

1.3.1 Pertinence scientifique.

Notes:

Includes bibliographical references and index.

Description based on print version record.

ISBN:

90-04-44908-6

OCLC:

1249705193

Publisher Number:

10.1163/9789004449084 DOI