Tilbake til søkeresultatene

IKTPLUSS-IKT og digital innovasjon

Ethical risks assessmeNt of Artificial intelligenCe in pracTice

Alternativ tittel: Praktiske risikovurderinger for kunstig intelligens

Tildelt: kr 12,0 mill.

Bruk av kunstig intelligens i arbeidslivet reiser en rekke kompliserte etiske utfordringer, som per i dag i stor grad er håndtert gjennom overordnede retningslinjer og organisatoriske policies. Disse retningslinjene er imidlertid ofte generelle og abstrakte og med liten praktisk verdi for de som skal anvende dem i sitt arbeid. Enact prosjektet skal utvikle opplæringsmetoder og muliggjøre at de overordnede retningslinjer for etisk bruk av kunstig intelligens (AI) i norsk arbeidsliv kan operasjonaliseres slik at de kan fungere i praksis. Det gjøres ved å kartlegge ulike grupper som bruker kunstig intelligens i arbeidet sin forståelse for etikk og kunstig intelligens, kalt Etisk AI-leseferdighet. Enact skal så lage et treningsprogram basert på internasjonale retningslinjer for å vurdere etiske dilemmaer ved bruk av kunstig intelligens. Treningsprogrammet skal videreutvikles og skreddersys med de faktiske etiske utfordringene deltakerne identifiserer fra sin virksomhet. Gjennom opplæringen skal de man i fellesskap beskrive og modellere de etiske utfordringene som dilemmaer. Risiko man finner må så konverteres til praktisk retningslinjer som kan inngå i organisasjonenes styringssystem for bruk av kunstig intelligens. Metodikken skal videreutvikles til å kunne brukes i alle norske virksomheter som tar i bruk kunstig intelligens og hjelpe dem med å heve kompetansen på etikk og kunstig intelligens, etablere retningslinjer og en styringsstruktur for kunstig intelligens i virksomhetene. Enact prosjektet er satt sammen av norske virksomheter som anvender kunstig intelligens i dag på områder som helse, velferd (NAV), finans (DNB), opplæring (Hypatia Learning AS) transport (Posten) samt ledende forskningsmiljø på kunstig intelligens og etikk (SINTEF, NTNU, Høgskolen i Østfold). En internasjonal ekspertgruppe har blitt etablert for prosjektet. (Universitet i Agder, Imperial College London, University College of London, Smart Innovation Norway/Cluster of applied AI og NORDE).

ENACT targets at designing, developing, evaluating, revising, and establishing a methodology as a tool for efficiently translating and integrating ethical principles/guidelines in AI-based systems for mitigating ethical risks when implementing such systems, tailored for Norwegian organizations/businesses. The ENACT project will investigate the ethical AI literacy of stakeholders (i.e., developers, managers, end-users within the organizations/businesses) and students, and will create a training program and a course focused on the assessment of ethical risks of AI (as they have been listed in available guidelines, e.g., ALTAI), enhanced by the participatory design of relevant content with the stakeholders/students. In the program/course, ENACT will showcase and evaluate a methodology for conducting the assessment of ethical risks arising from AI, by converting the ethical principles into practical guidelines. The methodology engages stakeholders/students in co-developing a common formulation and a shared modeling of the ethical aspects of AI as ethical dilemmas. Those ethical aspects are important values in the culture/context of the organization, thus the risks need to be constructively discussed and mitigated as organic part of the transition to practicing digital ethics. Ultimately, ENACT aims to establish the suggested methodology as a fit-for-purpose approach, tailored for Norwegian organizations/businesses, when deploying their own AI-based systems, by combining employee-driven innovation with application of Ethics by Design. To achieve the above-envisioned outcomes, ENACT will exploit a novel, multidisciplinary and participatory approach for digital ethics training at all levels. This will set the foundations for a cross-functional AI-governance structure (i.e., a robust process to clarify how decisions around ethical AI are made and documented) that rely on professional accountability mechanisms and ethical AI literacy of all stakeholders in the organizations.

Budsjettformål:

IKTPLUSS-IKT og digital innovasjon