Biometri og presentasjonsangrep - Samspill menneske og maskin, KI og rettferdig behandling.

Face images in passports and ID cards are used to identify people around the world at border crossings, when applying for visas and residence permits, admission to universities, employment, loans, social benefits, etc. Fake and forged documents may be used in criminal activity. Passports and ID cards may be fraudulently obtained, and genuine documents may be used by others than the genuine holder (so-called look-alikes or imposters). The documents can, for instance, be used for illegal border crossings or to facilitate other types of crime. The Police therefore requires expertise and high-end technology to deal with these threats. In recent years, the threat of digital manipulation of face images in foreign passports and ID cards has increased significantly, and many countries do not have the same, secure issuance process for passports and ID cards as Norway. With the help of artificial intelligence (AI), anyone can create high-quality, manipulated face images from the comfort of their own home. Such manipulations can be very difficult to detect. Both for humans and machines. The PhD project will analyse how experts scrutinize biometric data (such as face images) to detect digital manipulation, and use this information to improve the technology. Based on the same information, the project will develop training in detecting manipulations for employees in the police and immigration authorities. AI will be central to the project. AI is used in the training of biometric algorithms such as automated face recognition. AI is also used in software to generate manipulated images and in software to detect such manipulations. The use of AI in the development of technology entails a risk of discrimination. The project will therefore look at what can be done to minimise the risk of discrimination, both in machine and manual processing of biometric data. That is, to develop methods and guidelines to ensure that technology and working methods are used fairly.

191 av verdens land utsteder pass på en måte som gjør det mulig for kriminelle å digitalt manipulere sitt ansiktsfoto før det leveres inn til passmyndigheten. Samtidig er avdekking av morfing og manipulasjon av ansiktsbilder svært utfordrende både for mennesker og maskiner. Morfing og manipulasjon av ansiktsfoto i reisedokumenter er en trussel for Schengens yttergrense og sikkerheten på territoriet. Videre muliggjør morfing og manipulasjon av ansiktsbilder alvorlig, organisert kriminalitet og terror. Noen svært få mennesker er veldig gode til å avdekke morfing og manipulasjon. Ved hjelp av såkalt "eye-tracker" teknologi kan jeg analysere hva disse menneskene ser på og legger til grunn for sine vurderinger. Denne informasjonen kan brukes til å gjøre algoritmene bedre og utvikle opplæring for ansatte. Samtidig ønsker jeg å se på såkalt "explainability" (KI forklart) for manuell ansiktssammenligning og for manuell avdekking av morfing og manipulasjon, og se om informasjon om hvorfor en KI algoritme kommer frem til en konklusjon, kan hjelpe grensekontrollører å foreta riktigere valg. De fleste MAD-algoritmene er laget for statiske bilder. Jeg ønsker å undersøke om det å bruke video kan bidra til å gjøre algoritmene mer treffsikre, samt gjøre det enklere for mennesker å avdekke morfing og manipulasjon. Bruk av kunstig intelligens under utviklingen av algoritmer innebærer en risiko for diskriminering. Videre er majoriteten av den menneskelige behandlingen av biometriske data påvirket av algoritmers nøyaktighet. Jeg ønsker å undersøke hva vi kan gjøre for å minimere risiko for diskriminering, både ved maskinell og manuell behandling av biometriske data. Til sist ønsker jeg å finne ut av om vi kan forbedre algoritmene for automatisert gjenkjenning av åstedsfingeravtrykk og morfing av fingeravtrykk fra åsteder ved å analysere hva fingeravtrykkseksperter gjør i sine undersøkelser. Dataene kan også brukes til å forbedre opplæring av ansatte.