Warring with Machines: Military applications of AI and the relevance of Virtue Ethics

Warring with Machines vil utarbeide et etisk rammeverk utvikling og implementering av kunstig intelligensteknologi i militære settinger. Prosjektets primære fokus er menneskene - militært personell gjennom hele kommandostrukturen - som i kampsituasjoner vil interagere med militærteknologi der kunstig intelligens er en sentral komponent. I stridsrom hvor autonome maskiner tar på seg funksjoner som inntil nylig var forbeholdt mennesker er det maktpåliggende at man er i stand til å opprettholde klare ansvarslinjer med grunnlag i menneskelige beslutningstagere. Ved å få et bedre grep om disse problemstillingene vil prosjektet bidra til å bedre etikkopplæring ved militære treningsinstitusjoner så vel som å endre hvordan KI-teknologi utvikles. Det vil også kunne legge til rette for etiske retningslinjer mer i samsvar med de stridsscenariene som vil konfrontere militært personell i fremtiden. Prosjektet vil utvikle slike retningslinjer for tre forskjellige settinger: kinetiske strids operasjoner, cyberoperasjoner og strategisk planlegging. Disse retningslinjene gi et begrepsapparat som vil kunne understøtte framtidig politikkutvikling og guide design og implementering av KI-relaterte våpensystemer. Vårt teoretiske rammeverk er grunnet dydsetikken og dens fokus på de moralske karaktertrekkene - dyder - som tillater oss å handle besluttsomt og ansvarsfullt i de konkrete situasjonene og utfordringene som møter oss i vårt personlige og profesjonelle liv. Warring with Machines vil undersøke hvordan kunstig intelligens kan komme til både å undergrave og understøtte denne formen mor moralsk aktørskap, etter hvert som denne teknologien spiller en stadig mer fremtredende rolle i moderne krigføring. I løpet av denne siste perioden arrangerte prosjektet tre konferanser: AI and the Transformation of Warfare: Perspectives from South Asia and Beyond», 3.-4. mars i Kolkata, India, Diskusjoner rundt utviklingen av AI domineres ofte av hva som pågår i USA, Europa og Kina, og målet med denne konferansen var derfor å diskutere andre regionale perspektiver på AI-militære applikasjoner, inkludert India, Russland og Nigeria. Konferansedeltakere bestod av foredragsholdere fra en rekke bakgrunner, inkludert pensjonerte militære offiserer, programvareutviklere og forskere. «The Ethics of Military AI», 2022 McCain-konferansen, organisert med Stockdale Center for Ethical Leadership 21.-22. april, ved US Naval Academy, Annapolis, Maryland. Blant foredragsholderne var generalløytnant Michael S. Groen, direktør for Joint Artificial Intelligence Center; Dr. Paul Scharre, forfatter av Army of None: Autonomous Weapons and the Future of War; og Brett Vaughan, sjef for kunstig intelligens i den amerikanske marinen. Europeisk og nordamerikansk workshop om etikk for kunstig intelligens, organisert med Technology Ethics Center ved Universitet i Notre Dame (Indiana), 20-21 oktober 2022 i Roma, Italia. Arrangementet ble arrangert på Notre Dames Rome Global Gateway-anlegg og samlet filosofer og andre eksperter som jobber med problemstillinger knyttet til AI-etikk. Diskusjoner utforsket det konseptuelle og etiske grunnlaget, samt applikasjoner relatert til kunstig intelligens og relaterte teknologier, inkludert autonome våpensystemer.

Artificial intelligence plays an ever-expanding role in the context of war. The project Warring with Machines: Military applications of AI and the relevance of Virtue Ethics constitutes an inquiry into the conditions of human morality in AI-human interaction. It aims to determine how the moral integrity and agency of military personnel may be preserved and enhanced when artificial intelligence is implemented in practices of war. The project will pursue this goal from the perspectives of virtue ethics, philosophy of action and mind, and applied military ethics in close dialogue with institutional stakeholders as well as technologists and representatives from cognitive neuroscience. Its three research questions are as follows: (1) How does AI technology change the way we think about the moral character of military personnel? (2) How can we understand the nature of AI technology/tools, and how do these tools change the moral and psychological conditions for virtuous behavior? (3) What does "virtuous human-AI interaction" mean in different parts of the military? The project is built up around a unique institutional collaboration between leading national and international research institutions within the fields of military ethics, the philosophy of mind, and artificial intelligence research, as well as key military training institutions and technology manufacturers.