User-centred Security Framework for Social Robots in Public Space (SecuRoPS)

SecuRoPS tar for seg nøkkelutfordringer knyttet til cybersikkerhet, personvern og sikkerhet ved bruk av sosiale roboter i offentlige rom. Prosjektet benytter ARI-roboten fra PAL Robotics som sin sosiale robot. SecuRoPS utvikler et brukersentrert sikkerhetsrammeverk som sikrer at sosiale roboter kan operere trygt og sikkert i offentlige rom. Et viktig aspekt ved dette rammeverket er å kommunisere sikkerhetstiltak og personvernnivåer knyttet til informasjon som deles under interaksjoner med disse robotene på en transparent måte. Rammeverket har blitt testet gjennom to pilotstudier i Fredrikstad kommune og Barcelona, med en siste studie som ennå ikke er gjennomført. Trussellandskapet for sosiale roboter er i stadig utvikling, noe som fører til en mangfoldig rekke trusselaktører som retter seg mot deres sikkerhet. Disse aktørene kan variere fra ensomme hackere til høyt kvalifiserte team som er i stand til å utføre komplekse cyberangrep. Å forstå både det utviklende trussellandskapet og aktørene som er involvert, er avgjørende for effektiv risikoredusering. Som en del av SecuRoPS undersøkte vi dette landskapet fra 2021 til 2023, med fokus på å identifisere potensielle trusselaktører, angrepsmetoder og sårbarheter som er spesifikke for sosiale roboter. I 2023 kartla vi også trusler mot 5G-aktiverte trådløse nettverk som brukes av disse robotene, og vurderte potensielle angrepsscenarier og avbøtende strategier. SecuRoPS' sikkerhetsrammeverk inkluderer en veldefinert prosess, trusselmodeller, designprinsipper og retningslinjer for å administrere sikkerheten til sosiale roboter. Det gir gjenbrukbare modeller for utviklere for å bygge sikre roboter og gjør det mulig for eiere å operere dem trygt, mens de overvåker og reagerer på sikkerhetshendelser. I 2022 undersøkte vi prinsipper for sikkerhet, trygghet og personvern som gjelder for sosiale roboter i offentlige rom og undersøkte juridiske forskjeller i retningslinjene for roboter som opererer i offentlige mot private rom. I 2023 foreslo vi et tematisk rammeverk som konsoliderer viktige sikkerhetsretningslinjer, tilpasset det utviklende trussellandskapet for sosiale roboter i offentlige rom. Vår forskning understreker det presserende behovet for skreddersydde sikkerhetsstandarder. I tillegg analyserte vi sikkerhetstrusler, sårbarheter og risikoer knyttet til programvareutvikling for sosiale roboter, noe som resulterte i et rammeverk spesielt utviklet for utviklere. Selv om sosiale roboter i økende grad blir integrert i dagliglivet, er deres introduksjon i offentlige rom ingen enkel oppgave. For at sosiale roboter skal bli akseptert av brukerne, er en positiv brukeropplevelse (UX) avgjørende og må være en viktig del av vårt sikkerhetsrammeverk. I 2021 gjennomførte vi en systematisk litteraturgjennomgang i henhold til PRISMA-retningslinjer for å identifisere utfordringer og fordeler med UX-evaluering i sosiale roboter. Våre funn avslørte at spørreskjemaer og intervjuer er de vanligste metodene som brukes. Denne tilbakemeldingen hjelper med å forme sikkerhetsrammeverket, ved å fange opp behovene til både brukere og roboteiere. I 2024 undersøkte vi faktorer som påvirker individers villighet til å dele personlig informasjon med sosiale roboter i offentlige rom, og understreket viktigheten av gjennomsiktighet og tillit for en positiv brukeropplevelse. For å håndtere dette utviklet vi en metode for å kommunisere personvernnivåer knyttet til delte data under interaksjoner med roboter for å gi personlige anbefalinger (2023 og 2024). Vi jobber også med metoder for å tydelig kommunisere sikkerhetstiltak til sluttbrukere som en del av vårt brukersentrerte rammeverk (2024). Evalueringen av disse artefaktene utføres gjennom iterative pilotstudier, med fokus på sentrale elementer som menneske-robot-interaksjon, sikkerhet og personvern. Hver studie legger vekt på ett eller to av disse aspektene. I pilotene engasjerer sosiale roboter seg i scenarier som å gi anbefalinger om aktuelle hendelser og lokale attraksjoner, basert på personlige data som deles av brukerne. Vår første pilotstudie i 2023 fokuserte på logistikk og menneske-robot-interaksjon, og fant sted på Blender Collective i Fredrikstad og under en vitenskapsfestival i Barcelona. Den andre piloten, gjennomført i 2024, la vekt på menneske-robot-interaksjon og personvern, og ble gjennomført i Fredrikstad kommune/Fredrikstad Kino og under en annen vitenskapsfestival i Barcelona. Vi testet hypoteser som om tilbud om varierende nivåer av personvern kunne forbedre gjennomsiktighet og brukertillit. Den siste piloten er planlagt til slutten av oktober 2024. I 2021 organiserte vi en éndags workshop for å fremme samarbeid mellom robotutviklere, forskningsinstitusjoner og universiteter. Workshoppen ved Institut de Robòtica i Informàtica Industrial (IRI), CSIC-UPC i Barcelona, samlet 12 deltakere fra fire prosjektpartnere, inkludert PAL Robotics. Den fokuserte på brukeropplevelse, robotpersepsjon, konseptdesign og dataeffektvurdering.

The SecuRoPS project will develop a user-centred security framework for autonomous social robots that can operate securely in public space. SecuRoPS applies a user-centric approach, where the proposed solution focuses on capturing the needs of social robot users as well as robot administrators/owners. The users are the passers-by that interact with a robot when it is deployed in its intended public space. Developing the security framework requires multidisciplinary expertise. Moreover, a partner with experience in public spaces management needs to participate. SecuRoPS includes a research institute (IFE), academia (HIØ) working in relevant research fields, a public sector actor (Fredrikstad municipality) providing pilot cases, a private company (SNØ design) that is at forefront of industrial design, and international partner (IRI) renowned for research in robotics. SecuRoPS will investigate the topic of autonomous social robots from the perspectives of: designing social robots for societal needs; accountability of security and privacy of social robots. SecuRoPS will also address the sustainability perspective; the outcomes of the SecuRoPS, including a prototype social robot, will be directly applied in an environment of sustainable cities and communities. Noteworthy, the field studies to be carried out involves a social robot providing daily assistance to the citizens/passengers taking the city ferry in Fredrikstad. These ferry services are being offered by Fredrikstad municipality as a part of its ambitions to provide sustainable – free and green - transportation to its citizens and visitors. This is a cross-cutting and multidisciplinary project with a close collaboration between our partners and strong involvement of public/citizens in a highly realistic social robot setting. SecuRoPS will lead to the advancement of knowledge, expertise, and capacity in the fields of autonomous robots and cybersecurity.