SAMRISK-2-Samfunnssikkerhet og risiko

Utviklingen innen kunstig intelligens (AI) har gjort det mulig å integrere smarte løsninger i teknologi som kan benyttes innen kriminalitetsforebygging og økt effektivitet. Men de nåværende teknologiske løsningene har fremdeles to viktige utfordringer: personvern og innbyggernes bekymring for potensielt misbruk av teknologien. AI4citizens har som mål å takle de samfunnsmessige og teknologiske utfordringene knyttet til overvåkingsteknologi ved å se på tre teknologiske forskningsområder samtidig som vi ser på etiske, samfunns- og personvernrelaterte spørsmål. Prosjektet vil bidra til å øke nøyaktigheten, potensialet og hastigheten i politietterforskning med videokilder fra offentlige områder og samtidig bidra til å takle de algoritmiske skjevhetene som AI-teknologien kan vise mot utsatte grupperinger av innbyggere, som f.eks. minoriteter. Og se på utfordringene i å formidle og forstå bekymringene som finnes mot smarte overvåkingsteknologier. AI4citizens tar for seg følgende fire områder for å se på hvordan bruk av ansvarlig AI kan eksistere i et samfunnssikkerhetsperspektiv: 1. Anonymisering av overvåkingsdata, vil undersøke hvordan anonymisering av personer i video kan gjøres ved hjelp av ansvarlig AI uten å redusere personvernet eller resultater. 2. Anonym hendelsesovervåking, vil se på hvordan ansvarlig AI kan benyttes til å automatisere både påvisning og identifisering av uvanlige hendelser i folkemengder og mulighetene for å forbedre dette med kontinuerlig læring. 3. Objektsøk i video, vil se på politiets utfordringer ved den store mengden manuelt arbeid som kreves for å se igjennom videoer etter bestemte objekter eller hendelser i forskjellige sammenhenger. 4. Samfunnsmessig effekt og etiske konsekvenser av anonymisert overvåking, vil undersøke effekten av ansvarlige AI-løsninger på sosiale ulikheter ved å se på hvordan forskjellige sosiale grupper oppfatter og veier fordeler og kostnader ved bruk av ansvarlig AI i forbedring av samfunnssikkerhet.

According to human rights standards and practice for the police that are put forward by the United Nations, police organisations shall serve four main objectives: (1) ensure compliance with democratically agreed laws; (2) prevent crimes; (3) respond to emergencies; and (4) provide supporting services to citizens. With the digitalisation of our society, on one hand, and on the other hand, the adoption of technologies to conduct sabotages, organised crimes, and terroristic attacks, police organisations are becoming depending on advanced technologies in order to deal with the amount and complexity of information that occurs during their day to day operations. Our research aims to study the appropriateness of using machine intelligence, also referred to as narrow artificial intelligence, in police operations to fulfill their mandate, and to foster human rights. Our interdisciplinary study comprises perspectives from the social and computing sciences, and works towards a balanced and responsible socio-technical approach in smart-city policing, where citizens can trust the police, and both co-create a safe and prosperous environment for everyone. The Nordic countries and Norway in particular have a long history of implementing organisations and policies for the benefit of mankind, i.e. with the founding of the UN in 1949. With our research we are miming to contribute to provide policies and technologies for using artificial intelligence in policing, to engage citizens and gain their trust in advanced technology support, and to minimize possibilities that machine intelligence is used to infringe fairness and freedom of citizens, and their human rights. The project brings together researchers in social and computing sciences, e.g. the United Nations Interregional Crime and Justice Research Institute (UNICRI), NTNU, UiA, and BI. Project members also represent a wide range of citizens, and police, e.g. Oslo City Kommune, Nordic Edge Smart City Innovation, Oslo & Øst police.

Publikasjoner hentet fra Cristin

Ingen publikasjoner funnet

Workshop on Benefits and Fears of Policing in Smart City. Focus groups data collection with seven focus groups, 47 participants. Part of the Policing in Smart City Conference, Oslo, November 2021

7th EDEN Conference on Data Protection in Law Enforcement: Human After All: Data Protection in Policing, Rome, 18-19 October 2021

Fear and social inequality when disclosing personal information via a contact-tracing app.

Effects of distraction and anonymity on privacy trade-offs in facial recognition surveillance, BI Norwegian Business School, 2021

Ingen publikasjoner funnet

Budsjettformål:

SAMRISK-2-Samfunnssikkerhet og risiko

465,7MILL. KRtotalt tildelt i programperioden 64PROSJEKTERhar fått tildeling i programperioden 6KILDERhar finansiert programmet

Finansieringskilder

Forsvarsdepartementet Justis- og beredskapsdepartementet Kunnskapsdepartementet – sektorovergripende Samferdselsdepartementet Kommunal-og distriktsdepartementet Kunnskapsdepartementet

Temaer og emner

Responsible Research & Innovation RRI Medvirkning Internasjonalisering LTP2 Fagmiljøer og talenter LTP2 Muliggjørende og industrielle teknologier LTP2 IKT og digital transformasjon Fornyelse og innovasjon i offentlig sektor Innovasjonsprosjekter og prosjekter med forpliktende brukermedvirkning Digitalisering og bruk av IKT Offentlig sektor Internasjonalisering Internasjonalt prosjektsamarbeid Demokrati, makt og styring Anvendt forskning Portefølje Industri og tjenestenæringer LTP2 Fornyelse i offentlig sektor LTP2 Samfunnsikkerhet, sårbarhet og konflikt LTP2 Utvikle fagmiljøer av fremragende kvalitet LTP2 Demokrati, styring og forvaltning LTP2 Samfunnssikkerhet og samhørighet FNs Bærekraftsmål Mål 9 Innovasjon og infrastruktur FNs Bærekraftsmål Mål 11 Bærekraftig byer og samfunn Bransjer og næringer Portefølje Muliggjørende teknologier Bransjer og næringer IKT-næringen IKT forskningsområde Digitalisering og bruk av IKT LTP2 Innovasjon i stat og kommune Samfunnssikkerhet IKT forskningsområde Kunstig intelligens, maskinlæring og dataanalyse Politikk- og forvaltningsområder Digitalisering IKT forskningsområde Menneske, samfunn og teknologi IKT forskningsområde Digital sikkerhet Responsible Research & Innovation Politikk- og forvaltningsområder Justis og rettsvesen Portefølje Naturvitenskap og teknologi Portefølje Demokrati, styring og fornyelse LTP2 Et kunnskapsintensivt næringsliv i hele landet FNs Bærekraftsmål Politikk- og forvaltningsområder Fornyelse og innovasjon i offentlig sektor Digitalisering og bruk av IKT Privat sektor Fornyelse og innovasjon i offentlig sektor Forskning for fornyelse av offentlig sektor LTP2 Styrket konkurransekraft og innovasjonsevne Grunnforskning

SAMRISK-2-Samfunnssikkerhet og risiko

AI4citizens: Responsible AI for Citizen Safety in Future Smart Cities

Alternativ tittel: AI4citizens: Ansvarlig AI i fremtidens smarte byer

Tildelt: kr 25,3 mill.

Populærvitenskapelig framstilling

Sammendrag

Publikasjoner hentet fra Cristin

Workshop on Benefits and Fears of Policing in Smart City. Focus groups data collection with seven focus groups, 47 participants. Part of the Policing in Smart City Conference, Oslo, November 2021

AI and Citizens' Wellbeing: Perceptions, Paradoxes and Trade-Offs For the Future of Policing

AI4citizens: Responsible AI for Citizens Safety in Future Smart Cities, Introduction and WP5 input

AI-based video object search for criminal investigation

Searching for objects in video with AI

AI4citizens status and collaboration potential