AI4citizens: Responsible AI for Citizen Safety in Future Smart Cities

Nylig utvikling innen kunstig intelligens (AI) har gjort det mulig å implementere videoovervåkingsløsninger som forbedrer offentlig sikkerhet ved å varsle myndighetene om kriminalitet og sikkerhetsbrudd i sanntid, ofte mer effektivt enn menneskelige operatører alene. Imidlertid møter disse AI-løsningene to betydelige utfordringer: bekymringer over inngrep i privatlivet og offentlig bekymring angående implementeringen og potensielt misbruk. AI4citizens har som mål å utvikle personvernbeskyttende, AI-modeller for offentlig sikkerhet som varsler myndighetene om sikkerhetsbrudd og søk etter spesifikke objekter i videodatabaser, og er i henhold til menneskerettighetene. I utviklingen av ansvarlige AI-verktøy tar vi en multistakeholder-tilnærming, der vi skaper løsninger sammen med med borgere, beslutningstakere, rettshåndhevelse og sivilsamfunnsgrupper for å sikre rettferdige resultater som beskytter menneskerettighetene. AI4Citizens adresserer følgende fire områder for implementering av ansvarlig AI i en samfunnssikkerhetskontekst: 1) Anonymisering av overvåkningsdata for AI-trening og informasjonsdistribusjon: Dette området undersøker AI-basert anonymisering av videodata for å forbedre beskyttelsen av menneskerettigheter uten å kompromittere effektiviteten av varsler om behov for offentlig sikkerhet. 2) Anonymisert overvåkning av folkemengder for hendelsesdeteksjon: Denne initiativet bidrar til samlet offentlig sikkerhet ved å tilby personvernbeskyttende løsninger som overvåker folkemengder i offentlige rom. Det hjelper menneskelige operatører i overvåkningssentre ved å generere varsler for sjeldne og uvanlige hendelser, som ulykker, gruppehendelser og vold. 3) Kontekstuelt videoobjekt-søk for kriminalitetsforebygging og etterforskning: Dette området automatiserer prosesser for å hjelpe til med å overvinne hovedutfordringen som menneskelige operatører står overfor: manuelt å søke gjennom videoer etter spesifikke objekter eller hendelser i forskjellige kontekster. 4) Samfunnsmessig påvirkning og etiske implikasjoner av anonymisert overvåkning: Dette fokuset har som mål å forbedre påliteligheten til offentlige overvåkningssystemer ved å sikre at menneskerettigheter blir overholdt, at løsninger utvikles gjennom co-skap med borgere, og at etiske dilemmaer, algoritmeaversjon og skjevheter blir adressert. Gjennom å adressere disse områdene søker AI4citizens å skape et tryggere samfunn samtidig som de respekterer individuelle rettigheter og fremmer offentlig tillit.

According to human rights standards and practice for the police that are put forward by the United Nations, police organisations shall serve four main objectives: (1) ensure compliance with democratically agreed laws; (2) prevent crimes; (3) respond to emergencies; and (4) provide supporting services to citizens. With the digitalisation of our society, on one hand, and on the other hand, the adoption of technologies to conduct sabotages, organised crimes, and terroristic attacks, police organisations are becoming depending on advanced technologies in order to deal with the amount and complexity of information that occurs during their day to day operations. Our research aims to study the appropriateness of using machine intelligence, also referred to as narrow artificial intelligence, in police operations to fulfill their mandate, and to foster human rights. Our interdisciplinary study comprises perspectives from the social and computing sciences, and works towards a balanced and responsible socio-technical approach in smart-city policing, where citizens can trust the police, and both co-create a safe and prosperous environment for everyone. The Nordic countries and Norway in particular have a long history of implementing organisations and policies for the benefit of mankind, i.e. with the founding of the UN in 1949. With our research we are miming to contribute to provide policies and technologies for using artificial intelligence in policing, to engage citizens and gain their trust in advanced technology support, and to minimize possibilities that machine intelligence is used to infringe fairness and freedom of citizens, and their human rights. The project brings together researchers in social and computing sciences, e.g. the United Nations Interregional Crime and Justice Research Institute (UNICRI), NTNU, UiA, and BI. Project members also represent a wide range of citizens, and police, e.g. Oslo City Kommune, Nordic Edge Smart City Innovation, Oslo & Øst police.