Government by Algorithm - Protecting Democratic Values in the Deployment of Artificial Intelligence by the Public Sector.

Norsk offentlig sektor nyter stor tillit i befolkningen. Tilliten kommer av lange tradisjoner og systemer der demokratiske prinsipper som frihet, likhet og åpenhet er grunnleggende. Digital agenda gir offentlig sektor en klar målsetning om å utnytte teknologi til å ?sette brukeren i sentrum? og ?effektivisere?. OECD anbefaler i Digital Government Review of Norway trenger en datadrevet forvaltning for å nå disse, men peker på at det mangler en felles forståelse for at dette haster, noe som hindrer effektiv digital transformasjon av offentlig sektor. Rapporten har satt dette på agendaen, og det er nå større fokus både i og rundt offentlig sektor på at dette haster. Det er her kunstig intelligens kommer inn, som et sentralt virkemiddel for å få til en datadreven offentlig sektor. Bruken av kunstig intelligens har eksplodert i privat sektor. Erfaringen derifra viser at selv om det er store fordeler, så er det aspekter ved teknologien som kan gi uønskede effekter. Det å maksimere fordelen samtidig som man unngår disse mulige fellene har satt søkelys på hvordan bruken av kunstig intelligens skal reguleres. Noen av utfordringene som bør reguleres er felles og overlappende for både privat og offentlig sektor, men det er også klare forskjeller. Offentlig sektor utøver makt på vegne av fellesskapet basert på demokratisk bestemte prinsipper, noe som medfører komplekse problemstillinger både relatert etikk, plikter og forsvarlig bruk av kunstig intelligens. Hvordan kan vi ta vare på de demokratiske verdiene våre samtidig som at vi utnytter potensialet i en datadreven offentlig sektor? Dette prosjektet vil identifisere mulige fordeler og ulemper ved bruken av kunstig intelligens i norsk offentlig sektor. Det blir sentralt å identifisere hva og hvordan man bør regulere bruken, slik at man i en datadreven framtid ivaretar de demokratiske verdiene og prinsippene som har gitt den høye tilliten norsk offentlig sektor nyter i dag.

-

The main objective of this project is to critically interrogate the potential benefits and pitfalls of Artificial Intelligence deployment in the Norwegian public sector and consider what appropriate governance measures could be employed. This will contribute to preserving Norways' democratic values and the high levels of trust it enjoys from citizens, in the scramble to realise a data-driven public sector. This will be realized by • establishing an overview and baseline for AI adoption in the Norwegian public sector. • testing whether the risks and challenges already identified in current research are also relevant to the Norwegian context and identify if there are others which should be considered. • going beyond a general public sector assessment by taking three case studies, to investigate if there is a difference in the perceived risks and challenges depending on the level of access to data and competence within the public sector or whether the private sector is involved. • identifying the most pressing issues and gaps in governance of AI deployment in the Norwegain context. This should also be transferable to the Nordic and broader international context. • identifying, critically evaluating and recommending potential remedies, including both soft and hard law tools. A multi-disciplinary approach will be taken, concentrating primarily on the legal, ethical and social challenges emerging in the adoption of this technology within the public sector. Research will be performed empirically and is inspired by critical data and algorithm studies. The project will begin by establishing the status within the public sector. It will take three case studies, namely a data & competence rich organization, a data & competence poor organization and a public-private partnership, to ascertain if risks and challenges differ depending upon the environment within which AI is deployed. It will then proceed to investigate and recommend governance remedies.