Biometri og presentasjonsangrep - Samspill menneske og maskin, KI og rettferdig behandling.

Ansiktsbilder i pass og ID-kort brukes til identifisering av mennesker verden over ved grensepasseringer, ved søknader om visum og oppholdstillatelser, opptak til studier, ved ansettelser, søknad om lån, sosiale goder, m.m. Kriminelle kan benytte falske og forfalskede dokumenter i vinnings hensikt. Pass og ID-kort kan utstedes på feil grunnlag, og ekte dokumenter kan benyttes av andre enn innehaveren (såkalte look-alikes eller impostere). Dokumentene kan for eksempel benyttes til illegal grensepassering eller legge til rette for annen type kriminalitet. Det stiller høye krav til politiets teknologi og de ansattes kompetanse. De siste årene har trusselen om digital manipulering av ansiktsbilder i utenlandske pass og ID-kort økt betydelig, og mange land ikke har samme, sikre utstedelsesprosess for pass og ID-kort som Norge. Ved hjelp av kunstig intelligens (KI) kan hvem som helst lage manipulerte ansiktsbilder av høy kvalitet hjemme i sofaen. Slike manipulasjoner kan være svært vanskelig å avdekke. Både for mennesker og maskiner. PhD-prosjektet vil analysere hvordan eksperter gransker biometriske data (for eksempel ansiktsbilder) for å avdekke digital manipulering, og bruke denne informasjonen til å forbedre teknologien. Basert på samme informasjon vil prosjektet utvikle opplæring i avdekking av manipulasjoner for ansatte i politiet og immigrasjonsmyndighetene. KI vil være sentralt i prosjektet. KI benyttes i trening av biometrialgoritmer som for eksempel automatisert ansiktsgjenkjenning. KI benyttes også i programvare for å generere manipulerte bilder og i programvare for å avdekke slike manipulasjoner. Bruk av KI under utviklingen av teknologi innebærer en risiko for diskriminering. Prosjektet vil derfor se på hva som kan gjøres for å minimere risiko for diskriminering, både ved maskinell og manuell behandling av biometriske data. Det vil si å utvikle metoder og retningslinjer for å sikre at teknologi og arbeidsmetoder brukes rettferdig.

191 av verdens land utsteder pass på en måte som gjør det mulig for kriminelle å digitalt manipulere sitt ansiktsfoto før det leveres inn til passmyndigheten. Samtidig er avdekking av morfing og manipulasjon av ansiktsbilder svært utfordrende både for mennesker og maskiner. Morfing og manipulasjon av ansiktsfoto i reisedokumenter er en trussel for Schengens yttergrense og sikkerheten på territoriet. Videre muliggjør morfing og manipulasjon av ansiktsbilder alvorlig, organisert kriminalitet og terror. Noen svært få mennesker er veldig gode til å avdekke morfing og manipulasjon. Ved hjelp av såkalt "eye-tracker" teknologi kan jeg analysere hva disse menneskene ser på og legger til grunn for sine vurderinger. Denne informasjonen kan brukes til å gjøre algoritmene bedre og utvikle opplæring for ansatte. Samtidig ønsker jeg å se på såkalt "explainability" (KI forklart) for manuell ansiktssammenligning og for manuell avdekking av morfing og manipulasjon, og se om informasjon om hvorfor en KI algoritme kommer frem til en konklusjon, kan hjelpe grensekontrollører å foreta riktigere valg. De fleste MAD-algoritmene er laget for statiske bilder. Jeg ønsker å undersøke om det å bruke video kan bidra til å gjøre algoritmene mer treffsikre, samt gjøre det enklere for mennesker å avdekke morfing og manipulasjon. Bruk av kunstig intelligens under utviklingen av algoritmer innebærer en risiko for diskriminering. Videre er majoriteten av den menneskelige behandlingen av biometriske data påvirket av algoritmers nøyaktighet. Jeg ønsker å undersøke hva vi kan gjøre for å minimere risiko for diskriminering, både ved maskinell og manuell behandling av biometriske data. Til sist ønsker jeg å finne ut av om vi kan forbedre algoritmene for automatisert gjenkjenning av åstedsfingeravtrykk og morfing av fingeravtrykk fra åsteder ved å analysere hva fingeravtrykkseksperter gjør i sine undersøkelser. Dataene kan også brukes til å forbedre opplæring av ansatte.