Ethical risks assessmeNt of Artificial intelligenCe in pracTice

Bruk av kunstig intelligens i arbeidslivet reiser en rekke etiske utfordringer, som per i dag i stor grad er håndtert gjennom overordnede retningslinjer. Slike retningslinjer er ofte generelle og abstrakte og med liten praktisk verdi for de som skal anvende dem i sitt arbeid. Enact prosjektet skal utvikle opplæringsmetoder som muliggjør at de overordnede retningslinjer kan fungere i praksis. Dette gjøres ved først å kartlegge nivået på forståelse for etisk utfordringer knyttet til AI, den såkalte etiske leseferdigheten (Ethical AI Literacy). Slike kartlegginger vil også fungere som verktøy for interesserte virksomheter utover prosjektet. Enact skal så lage et treningsprogram basert på CORAS metodikken for å vurdere etiske dilemmaer ved bruk av kunstig intelligens. Treningsprogrammet skal videreutvikles og skreddersys med de faktiske etiske utfordringene deltakerne identifiserer fra sin virksomhet. Risiko man finner må så konverteres til praktisk retningslinjer som kan inngå i organisasjonenes styringssystem for bruk av kunstig intelligens. Metodikken skal videreutvikles til å kunne brukes i alle norske virksomheter som tar i bruk kunstig intelligens og hjelpe dem med å heve kompetansen på etikk og kunstig intelligens, etablere retningslinjer og en styringsstruktur for kunstig intelligens i virksomhetene. Prosjektet har nå utviklet EAIL metodikken og arbeider med tilpasning av CORAS og skreddersøm av opplæringen. Enact prosjektet er satt sammen av norske virksomheter som anvender kunstig intelligens i dag på områder som helse, velferd (NAV), finans (DNB), opplæring (Hypatia Learning AS) transport (Posten) samt ledende forskningsmiljø på kunstig intelligens og etikk (SINTEF, NTNU, Høgskolen i Østfold). En internasjonal ekspertgruppe har blitt etablert for prosjektet. (Universitet i Agder, Imperial College London, University College of London, Smart Innovation Norway/Cluster of applied AI og NORDE).

ENACT targets at designing, developing, evaluating, revising, and establishing a methodology as a tool for efficiently translating and integrating ethical principles/guidelines in AI-based systems for mitigating ethical risks when implementing such systems, tailored for Norwegian organizations/businesses. The ENACT project will investigate the ethical AI literacy of stakeholders (i.e., developers, managers, end-users within the organizations/businesses) and students, and will create a training program and a course focused on the assessment of ethical risks of AI (as they have been listed in available guidelines, e.g., ALTAI), enhanced by the participatory design of relevant content with the stakeholders/students. In the program/course, ENACT will showcase and evaluate a methodology for conducting the assessment of ethical risks arising from AI, by converting the ethical principles into practical guidelines. The methodology engages stakeholders/students in co-developing a common formulation and a shared modeling of the ethical aspects of AI as ethical dilemmas. Those ethical aspects are important values in the culture/context of the organization, thus the risks need to be constructively discussed and mitigated as organic part of the transition to practicing digital ethics. Ultimately, ENACT aims to establish the suggested methodology as a fit-for-purpose approach, tailored for Norwegian organizations/businesses, when deploying their own AI-based systems, by combining employee-driven innovation with application of Ethics by Design. To achieve the above-envisioned outcomes, ENACT will exploit a novel, multidisciplinary and participatory approach for digital ethics training at all levels. This will set the foundations for a cross-functional AI-governance structure (i.e., a robust process to clarify how decisions around ethical AI are made and documented) that rely on professional accountability mechanisms and ethical AI literacy of all stakeholders in the organizations.