Tilbake til søkeresultatene

SAMKUL-Samfunnsutviklingens kulturell

Warring with Machines: Military applications of AI and the relevance of Virtue Ethics

Alternativ tittel: Warring with Machines

Tildelt: kr 12,0 mill.

Prosjektnummer:

303136

Søknadstype:

Prosjektperiode:

2020 - 2023

Geografi:

Samarbeidsland:

Warring with Machines skal bidra til å utarbeide et etisk rammeverk for utvikling og implementering av kunstig intelligensteknologi i militære settinger. Prosjektets primære fokus er menneskene – militært personell gjennom hele kommandostrukturen – som i kampsituasjoner interagerer med militærteknologi der kunstig intelligens er en sentral komponent. I stridsteatre der autonome maskiner tar på seg funksjoner som inntil nylig var forbeholdt mennesker, er det maktpåliggende at man er i stand til å opprettholde klare ansvarslinjer med tydelig involvering av menneskelige beslutningstagere. Ved å få et bedre grep om disse problemstillingene vil prosjektet bidra til å bedre etikkopplæringen ved militære utdanningsinstitusjoner så vel som endre hvordan KI-teknologi til militær bruk utvikles. Det vil også kunne legge til rette for etiske retningslinjer som er mer i samsvar med de stridsscenariene som militært personell vil møte i fremtiden. Prosjektet vil utvikle slike retningslinjer for tre forskjellige settinger: kinetiske stridsoperasjoner, cyberoperasjoner og strategisk planlegging. Vårt teoretiske rammeverk er fundert i dydsetikken og dens fokus på de moralske karaktertrekkene – dydene – som tillater oss å handle besluttsomt og ansvarsfullt i de konkrete situasjonene og utfordringene som møter oss i vårt personlige og profesjonelle liv. Warring with Machines vil undersøke hvordan kunstig intelligens kan både undergrave og understøtte denne formen for moralsk aktørskap, etter hvert som denne teknologien spiller en stadig mer fremtredende rolle i moderne krigføring. I løpet av prosjektperioden har prosjektet arrangert fire konferanser: 1. “AI and the Transformation of Warfare: Perspectives from South Asia and Beyond”, 3.-4. mars i Kolkata, India, Diskusjoner rundt utviklingen av AI domineres ofte av hva som pågår i USA, Europa og Kina, og målet med denne konferansen var derfor å diskutere andre regionale perspektiver på militære AI-applikasjoner, inkludert India, Russland og Nigeria. 2. “The Ethics of Military AI”, McCain-konferansen 2022, organisert i samarbeid med Stockdale Center for Ethical Leadership 21.-22. april ved US Naval Academy, Annapolis, Maryland. Blant foredragsholderne var generalløytnant Michael S. Groen, direktør for Joint Artificial Intelligence Center; Dr. Paul Scharre, forfatter av Army of None: Autonomous Weapons and the Future of War; og Brett Vaughan, sjef for kunstig intelligens i den amerikanske marinen. 3. Europeisk og nordamerikansk workshop om etikk og kunstig intelligens, organisert i samarbeid med Technology Ethics Center ved Universitet i Notre Dame (Indiana, USA), 20.-21. oktober 2022 i Roma, Italia. Arrangementet samlet filosofer og andre eksperter som jobber med problemstillinger knyttet til AI-etikk. Diskusjoner utforsket det konseptuelle og etiske grunnlaget, samt applikasjoner relatert til kunstig intelligens og relaterte teknologier, inkludert autonome våpensystemer. 4. "Pacem in Terris: War and Other Obstacles to Peace" (Vatican City, 18.-19. September 2023). Konferansen ble organisert I samarbeid med Det pavelige akademi for samfunnsvitenskap. Den samlet tretti eksperter fra jus, filosofi, statsvitenskap, økonomi, ingeniørfag og fysikk, herunder bade akademikere, praktikere fra KI-industrien og diplomater. Arrangementet ble organisert som del av 60-års-markeringen av Pave Johannes 23.s viktige encyklika ‘Pacem in Terris’. Konferansens hovedfokus var etiske problemstillinger rundt bruk av AI-teknologi krigføring. Pave Frans sendte konferansen en hilsen ((https://press.vatican.va/content/salastampa/en/bollettino/pubblico/2023/09/19/230919e.html) der han innstendig oppfordret deltakerne til å ta på alvor våre dagers militære og teknologi-baserte trusler mot fred, til å reflektere etisk rundt de truslene som følger av atomvåpnenes fortsatte eksisens, og å analysere behovet for en ny giv innenfor nedrustning og utviklingen av fredsinitiativer. Konferansedeltakerne publiserte et sluttkommuniké (https://www.pass.va/en/events/2023/pacem_in_terris/final_statement.html) som vektla hvordan AI-baserte våpensystemer som tar beslutninger rundt og bruker våpenmakt uten meningsfylt menneskelig deltakelse, innebærer dyptgripende juridiske og etiske utfordringer. Omfattende regulering av disse systemene er påkrevd. Noen bruksområder og teknologiske løsninger må forbys, mens andre må reguleres. Kommunikeet understreket at AI-baserte våpensystemer representerer helt spesielle risikoer som må tas på alvor av ethvert militært system som har slike våpen som del av sitt arsenal. Videre har prosjektgruppen interagert med et bredt spektrum av aktører, på både bruks- og utviklingssiden, både i Norge og internasjonalt, med det mål å beskrive hva slags risikoer AI-baserte våpensystemer representerer – uansett om systemene brukes til beslutningsstøtte eller til autonome beslutninger om f.eks. legitime mål – og det ansvaret aktører som innehar eller bruker slike systemer må ta.

The project has contributed to advancing awareness, both in Norway and abroad, of the ethical risks associated use of AI technologies in armed conflicts. Inter alia, the project team co-organized two high-level level conferences, one at the US Naval Academy (Annapolis, MD) and the other at the Vatican (Pope Francis sent a letter to the conference group that has been published on the Vatican's official website https://press.vatican.va/content/salastampa/en/bollettino/pubblico/2023/09/19/230919e.html). It also organized a workshop (“AI and the Future of Warfare”) that was held in Kolkata, India, 3-4 March, 2022, with representatives from the Indian military and the defense industry. These events plus the project's many publications enabled the dissemination of project findings showing how the use of AI in decision support functions (e.g., for target identification and analysis) raises distinctive ethical concerns that must be carefully managed by military organizations. The project team engaged with a broad array of actors (from military operational centers and defense contractors), both in Norway and abroad to demonstrate how the integration of AI into weapon systems – whether for decision support or autonomous targeting – presents distinctive risks that must be addressed by any military force that includes these weapons in its arsenals. To minimize such risks, we have recommended how militaries should engage in rigorous testing, evaluation, validation, and verification (TEVV) of AI-enabled weapons. Such testing should be a) cradle to grave, b) modular and principled, and should be followed by c) gradual fielding in d) clearly defined operational envelopes, with e) appropriate explainability; this should take place in parallel with the legal review of these weapons.

Artificial intelligence plays an ever-expanding role in the context of war. The project Warring with Machines: Military applications of AI and the relevance of Virtue Ethics constitutes an inquiry into the conditions of human morality in AI-human interaction. It aims to determine how the moral integrity and agency of military personnel may be preserved and enhanced when artificial intelligence is implemented in practices of war. The project will pursue this goal from the perspectives of virtue ethics, philosophy of action and mind, and applied military ethics in close dialogue with institutional stakeholders as well as technologists and representatives from cognitive neuroscience. Its three research questions are as follows: (1) How does AI technology change the way we think about the moral character of military personnel? (2) How can we understand the nature of AI technology/tools, and how do these tools change the moral and psychological conditions for virtuous behavior? (3) What does "virtuous human-AI interaction" mean in different parts of the military? The project is built up around a unique institutional collaboration between leading national and international research institutions within the fields of military ethics, the philosophy of mind, and artificial intelligence research, as well as key military training institutions and technology manufacturers.

Budsjettformål:

SAMKUL-Samfunnsutviklingens kulturell