Private and Efficient Distributed Learning

Hvordan kan organisasjoner utnytte kunstig intelligens (KI) for å samarbeide effektivt på en personvernvennlig måte? Tradisjonelle KI-systemer krever ofte sammenstilling av treningsdata, noe som reiser betydelige personvernbekymringer. Dette prosjektet har som mål å møte denne utfordringen ved å utvikle personvernvennlige og effektive distribuerte læreprosesser. Distribuert læring gjør det mulig for organisasjoner å samarbeide om å trene KI-modeller uten å dele data direkte. Målet er å lage systemer som sikrer sterkt personvern, samtidig som det forbedrer effektivitet og sikkerhet. Denne tilnærmingen har anvendelser på tvers av ulike sektorer. For eksempel kan sykehus samarbeide om å forbedre diagnoser uten å lekke private pasientdata, og forsikringsselskaper kan samarbeide om svindelforebygging uten å kompromittere konkurransefortrinn. Ved å utnytte kunnskap innen informasjons- og kodingsteori vil dette prosjektet utvikle nye metoder for å sikre at disse systemene er robuste nok for bruk i den virkelige verden. Tilbakemeldinger fra forsikringsselskaper i Norge og Tyskland viser at konkurransehensyn har hindret bruken av samarbeidsteknologier som distribuert læring. Samarbeid er imidlertid viktig for å samle nok data til å trene effektive modeller for oppgaver som svindeldeteksjon. For å løse dette introduserer prosjektet et nytt konsept kalt "konkurransesikkerhet." Dette innebærer å utvikle et matematisk rammeverk for å måle risikoen for lekkasje av konkurransesensitiv informasjon. Et annet mål er å forbedre effektiviteten til distribuerte læreprosesser gjennom å optimalisere kommunikasjon mellom datamaskiner og å redusere forsinkelser forårsaket av trege eller ikke-responsive nettverksnoder. Oppsummert har dette prosjektet som mål å bane vei for trygt og effektivt KI-samarbeid, sikre personvern og fremme innovasjon på tvers av ulike bransjer.

The increasingly widespread use of artificial intelligence (AI) in society raises questions of AI safety and the right to privacy, which are of vital importance in the modern age of information. The PeerL project addresses fundamental research questions related to ensuring both fairness and privacy, as well as efficiency in distributed machine learning (ML). As such, PeerL's research will contribute to addressing challenges within 'digital security and sovereignty' and 'AI/ML' , which are key aspects of the call, and contribute to increased sustainability through more efficient data processing and communications. By processing data locally, such methods enable more efficient use of resources and also minimize data transmission and associated energy use. Our main focus is to develop novel private and efficient distributed learning solutions. We will explore the interplay between differential privacy, robustness, and fairness as well as learning with adversarial clients. In order to construct efficient learning schemes, the project will explore designing solutions based on coding theory, investigate so-called over-the-air solutions, and take a deep dive into the interplay between between privacy and latency. An important use case of special interest in the project is within insurance where companies can collaborate to train improved crime prevention systems while maintaining the confidentiality of sensitive information. Of special interest for this use case is a measure of security against leakage of competitive insights, referred to as competitive privacy, a novel concept introduced in this project to quantify the leakage of competitive insights by the sharing of data. The fear of leaking competitive insights is currently considered the main blocker to the wide-spread practical deployment of collaborative learning methods in insurance companies, as well as in the financial sector more broadly, and results from this project will help removing this barrier.