Pålitelig og personvernbevarende og kunstig intelligens

Flere og flere bedrifter på tvers av flere industrier er interesserte i å ta i bruk AI, og det er et økende antall leverandører av disse tjenestene. Som en leverandør selv, ser Midlaier AS en mangel på klare retningslinjer og gode metoder for å implementere AI i samsvar med gjeldende og kommende lover og forskrifter (f.eks. EU AI-loven) i applikasjoner som behandler personopplysninger eller annen sensitiv informasjon. Dette er et viktig element i å skape tillit hos kundene. I tillegg erkjenner vi at mens betydelige fremskritt blir gjort i nye måter å bruke avansert AI på, blir sikkerhet og pålitelighet ofte nedprioritert til fordel for ny funksjonalitet. Personvern og datastyring er en av de syv pilarene i EUs definisjon av pålitelig AI (EU, 2019). I et maskinlærings scenario må flere parter samarbeide. Én part eier typisk treningsdataene, et annet sett av parter kan eie dataene som brukes for inferens, og en tredje part kan tilby en AI-applikasjon som utfører inferensen. Videre opererer det på en infrastruktur hentet fra en lang forsyningskjede med mange uklare abstraksjonsnivåer (f.eks. skytjenester), som involverer mange parter. Dette tillitsnettet gjør det vanskelig for både aktørene som kjøper tjenestene og brukerne, hvis data blir behandlet, å ha nok tillit til slike systemer til å utnytte deres fulle potensial. Med dette prosjektet tar vi sikte på å arbeide mot løsninger der det er plattform-agnostisk sikkerhet og personvern på hvert trinn i denne databehandlingskjeden. Prosjektet "Pålitelig og personvernbevarende kunstig intelligens" har som mål å bidra til å utvikle metoder og teknologier for å sikre personvern og datasikkerhet i systemer som trener og bruker AI-teknologi. Prosjektet har som mål å bidra til økt tillit blant næringslivet, offentlig sektor og samfunnet som helhet til sikker og pålitelig AI, slik at teknologiens store potensial kan brukes til mange fordelaktige samfunnsformål.

Prosjektet «Pålitelig og personvernbevarende KI» (Eng.: “Trustworthy and privacy-preserving AI”) har som hovedmål å utvikle nye metoder og teknologier som sikrer personvern og datasikkerhet i systemer som er basert på, eller benytter seg av kunstig intelligens (KI). Midlaier AS leverer i dag KI-baserte digitale assistentløsninger til både privat og offentlig sektor og er involvert i flere pågående og planlagte FoU-løp innen både justis-, helse- og forsvarssektorene. Selskapet jobber blant annet med å utvikle løsninger for assisterte og effektiviserte pasientintervju, en assistent for HR-arbeid i Forsvaret og en applikasjon for øvelsessimulering tiltenkt både offentlig og privat sektor. I alle disse applikasjonene er sikkerhet i både behandling og lagring av personopplysninger, og annen potensielt sensitiv data, kritisk. Prosjektet deles inn i fire overordnede temafokus/delprosjekt: • P1: Anonymisering- og pseudonymiseringsmekanismer for sensitive KI-applikasjoner. • P2: Anvendt kryptografi for beskyttelse av sensitive data i hele behandlingskjeden av KI-applikasjoner. • P3: Personvernbevarende trening av KI med datasett som inneholder personopplysninger/sensitive data. • P4: Case-studier rettet mot KI-applikasjoner i helse-, justis- og forsvar. • P5: PhD-avhandling.