Vulnerability in the Robot Society (VIROS)

Roboter blir stadig mer «smart», ved hjelp av kunstig intelligens. Smarte roboter kan være nyttige hvis de utfører viktige oppgaver, men deres utvikling og bruk reiser også juridiske og tekniske spørsmål. Hvordan kan vi sikre at smarte roboter er trygge å bruke og at deres bruk ikke krenker personvernet? Disse spørsmålene oppstår spesielt når roboter brukes i helsesektoren, der de samhandler med sårbare mennesker. VIROS-prosjektet undersøker utfordringer og løsninger for regulering av robotteknologi og AI-teknologi - både med hensyn til juss og teknologi. Prosjektets fokus på juss, etikk og robotteknologi er tverrfaglig. Forskningen utføres av et team bestående av forskere fra forskningsgruppen «Robotics and Intelligent Systems» (ROBIN) ved Institutt for informatikk, Universitetet i Oslo (UiO), sammen med forskere ved Senter for rettsinformatikk og andre deler av Det juridiske fakultet, UiO. Prosjektet samarbeider også med internasjonale eksperter og representanter for offentlig sektor og industri. Innen det tekniske arbeidet har ROBIN-gruppen jobbet med utvikling av og fått en artikkel godkjent om et kontrollrammeverk som kan gjøre samspillet mellom robotarmer (som brukes i robotassistenter) og brukere tryggere. Det første arbeidet har vært gjennom bruk av en robotsimulator mens vi i det siste fortsatt og komplementert dette arbeidet ved å bruke den nyervervede TIAGo-roboten (anskaffet august 2021). Det er også utført og publisert en studie om roboter som velferdsteknologi for å redusere fall blant eldre. Arbeidet med brukerstudier vil fortsette, og vi har i 2022 etablert kontakt med en boenhet av typen Omsorg+ der eldre bor i sin egen leilighet. Det inngår et aktivitetssenter for eldre der, og ansatte og beboere har uttrykt stor interesse for å bidra til fremgang i forbedring av robotassistanseteknologi. Vi har også forsket på og publisert en artikkel som undersøker etiske spørsmål (for eksempel fysisk og kognitiv sikkerhet og personvern) som oppstår ved design og bruk av omsorgsroboter som samhandler med mennesker. Noen av de identifiserte forskningpotensialene er relevante å ta opp i vårt fremtidige arbeid. Den juridiske forskningen følger nøye den pågående rettsutviklingen i EU på området for robotikk og kunstig intelligens. EU kommisjonen har foreslått et nytt juridisk rammeverk om kunstig intelligens (kalt «AI Act»), samt nye regler for sikkerhet av maskiner, inkludert roboter. Ulike typer risikovurderinger spiller en stor rolle i disse lovforslagene, noe vi har belyst i vår forskning. Utover dette har det kommet et forslag som tar sikte på å regulere ansvarsforholdene rundt bruken av kunstig intelligens, herunder bruk av slik teknologi i roboter. Lovforslagene kommer i tillegg til eksisterende regler som for eksempel personvernforordningen og forordningen om medisinsk utstyr. Disse og annen lovgivning regulerer allerede enkelte aspekter av robotbruk, særlig for helseformål. I tillegg kommer tekniske standarder som har stor praktisk betydning for utviklingen av robotteknologi. Utvikling av smarte (og mindre smarte) roboter utfordrer samspillet mellom disse regelsettene. For å ta et eksempel påpeker vår forskning at forslaget til «AI Act» ikke henger tilstrekkelig godt sammen med forordningen om medisinsk utstyr, slik at noen former for medisinsk kunstig intelligens ikke blir regulert på en hensiktsmessig måte.

The increasing deployment of robots and artificial intelligence (AI) systems is introducing new layers of critical infrastructures in various areas of our society. This contributes to new digital vulnerabilities and poses novel legal and regulatory questions. The VIROS project investigates the challenges and solutions in regulating robotics and AI technologies – legally and technically – particularly with respect to addressing the safety, security and privacy concerns such systems raise. It addresses these issues along two main prongs of research: (i) smart robots, privacy, security and safety; and (2) healthcare robots. The first prong analyses the legal and technical challenges in addressing privacy, security and safety concerns that smart robots pose. The second prong examines the legal, technical and ethical issues associated with the growing inter-dependence and interactions of tangible and virtual elements in robots used for healthcare purposes. The project will run for five years. It will be undertaken by an interdisciplinary team comprising researchers from the Robotics and Intelligent Systems (ROBIN) research group at the Department of Informatics, UiO, together with researchers at the Norwegian Research Center for Computers and Law (NRCCL) and other departments at the Law Faculty, UiO. The bulk of research will be carried out by four research fellows at doctoral and post-doctoral level. Two will be based at the NRCCL and will work on the legal and regulatory aspects of the two research prongs. The other two researchers will be associated with the ROBIN research group, and will work on the technical design aspects of the two prongs of research.