Privacy-aware Edge and Data Subjects

Mens vi surfer på Internett, installerer en app på telefonen vår eller setter opp en ny enhet, blir vi ofte bedt om å samtykke til personvernregler eller vilkår for tjenesteavtaler. Disse er ofte lange og inneholder teknisk og juridisk sjargong, noe som gjør dem vanskelige å lese og forstå. De fleste velger automatisk «jeg samtykker» eller «jeg godtar». Dette er en uheldig praksis. Å velge «jeg samtykker» eller «jeg er enig» uten å lese og forstå retningslinjene er spesielt problematisk når det handler om elektroniske enheter fra dagliglivet, for eksempel, for strømmåling, stemmeassistanse eller støvsuging. Personvernresignasjon og den utbredte overvåkingskapitalismen innebærer store muligheter for manipulasjon og kontroll av forbrukere. Det påvirker våre valg og svekker demokratiet. Privacy@edge adresserer dette problemet. Privacy@Edge har som mål å utvikle løsninger som understøtter bevissthet om, forståelighet av og kontroll over personvern for den enkelte forbruker. Ved å utnytte naturlig språkbehandling, maskinlæring, skykantprosessering og personvernsforståelse, er målsetningen å automatisk generere forbrukerspesifike personvernsanbefalinger. Viktige aspekter ved personvernreglene (som formålet med databehandling, dataoppbevaring etc.) vil bli presentert sammen med personvernanbefalinger via et brukervennlig dashbord. Dashbordet vil gi en enkel oversikt over innsamlede data, for hvilke enheter, samt muliggjøre oppdatering av tilhørende personverninnstillinger. I løpet av det siste året utviklet vi et rammeverk som utnytter kraften til store språkmodeller (LLM) gjennom prompt engineering for å automatisere analysen av personvernerklæringer. Rammeverket effektiviserer utvinning, merking og oppsummering av informasjon fra disse erklæringene, og forbedrer dermed deres tilgjengelighet og forståelighet uten behov for ytterligere modelltrening. Evalueringen vår viser at rammeverket oppnår konkurransedyktige resultater, samtidig som at det reduserer nødvendig treningsinnsats og øker modellens evne til å tilpasse seg nye analytiske behov. Vi startet også undersøkelser og vignettstudier for å fange opp brukerpreferanser og bekymringer om praksis knyttet til datainnsamling og bruk. Målet vårt er å identifisere hvilke datapraksiser deltakerne er interessert i, faktorer som utløser behovet for å beholde kontroll over deres personlig informasjon, og hvilke faktorer som skaper mistillit eller ubehag. Vi utviklet også en tilnærming for delvis modelldeling for å forbedre effektiviteten og personvernet i føderert læring (FL). Ved å dele kun en del av modellparameterne og bruke homomorfisk kryptering, reduserer denne metoden kommunikasjonsbelastningen samtidig som personvernet beskyttes. Resultatene våre viser at denne tilnærmingen reduserer personvernrisikoer som gradientinversjonsangrep uten å gå på bekostning av modellens nøyaktighet, og tilbyr dermed en skalerbar og sikker løsning for FL.

The consumer IoT is now ubiquitous and creates unprecedented quantities of detailed, high-quality information about citizens' everyday actions, habits, personalities, and preferences. Such detailed information brings several new and unique privacy challenges. One of the major privacy challenges is that of a current paradigm: ‘Notice and Consent’. Consumers are asked to consent to privacy policies or terms of service agreements for IoT devices and services. Privacy policies or services agreements are often lengthy and contain technical and legal jargon, making them hard to read and understand. Most people reflexively choose “I consent” or “I agree”. With such an uninformed consent, consumers agree to unfair-deceptive practices which leads to frustration and privacy resignation, meaning that they give up managing their privacy. The goal of Privacy@Edge is to devise a novel IoT privacy solution that leverages edge computing and federated learning to enhance consumer’s privacy awareness and control over personal data collected and processed by IoT systems. Privacy@Edge aims to address the protection of privacy rights by extending privacy research with advances in edge computing, natural language processing, and privacy-preserving federated learning. In particular, the project leverages edge computing and decentralized machine learning principles to process privacy notices automatically and generate personalized privacy recommendations. Privacy recommendations and information extracted from privacy notice, will be presented in an intuitive way by a novel user-friendly single destination tool, a privacy dashboard. The combined experience of SINTEF in privacy and IoT, Norwegian University of Science and Technology in decentralized machine learning and edge computing, & our industry partners Kobla AS in smart cities, and Tellu AS in eHealth services, provides a unique, timed opportunity.