IKTPLUSS-IKT og digital innovasjon

Bevisst eller ubevisst så bruker vi cyber-fysiske systemer (English: cyber-physical systems (CPS)) i vårt daglige liv. Vi ser et bredt spekter av applikasjoner med slike systemer, alt fra enkle applikasjoner som smarte armbånd (til for eksempel registrering av helsedata) til komplekse applikasjoner, som oljeutvinningssystemer som benyttes på havbunnen. Slike systemer skal fungerer pålitelig selv i konfrontasjon med usikre omstendigheter. Imidlertid mangler teknologien tilnærminger til å håndtere slike utfordringer i dag. Dette prosjektet retter seg mot nettopp denne utfordringen; å sikre at applikasjonene til cyber-fysiske systemer (CPS) arbeider sikkert og pålitelig selv under usikre omstendigheter. Dette prosjektet har i første omgang mål om å fylle en åpning i litteraturen. For å løse utfordringen nevnt ovenfor er vi avhengige av å utvikle nye automatiserte testmetoder for applikasjoner av CPS som står overfor usikre situasjoner. Gitt bredden og dybden av temaet vil vi som utgangspunkt legge vekt på å håndtere følgende to typer usikre situasjoner i anvendelser av CPS?er. Først vil vi fokuserer på usikkerheten knyttet til sikkerhetsfunksjonene implementert i CPS. Eksempler på slike typer sikkerhetsfunksjoner inkluderer konfidensialitet, autorisasjon og integritet. Ethvert smutthull i gjennomføringen av disse funksjonen kan føre til usikker oppførsel av en CPS, og kan derfor føre til uønskede forhold. Mer spesifikt fokuserer vi på å teste følgende to typer usikkerheter: 1) usikkerhet i sikkerhetsfunksjonene som fører til usikre operasjoner av CPSs; og 2) oppførselen til sikkerhetsfunksjoner i nærvær av andre typer usikkerheter som kan kompromittere sikkerheten til CPS. Vi har definert en taksonomi for å forstå og klassifisere sikkerhetsrelaterte usikkerheter i CPS. Basert på denne taksnomien har vi utviklet en ny modell basert på en sikkerhets prøve tilnærming. Vår tilnærming vurderer eksplisitte sikkerhetsrelaterte usikkerheter under testingen. Tester generert med vår tilnærming oppdager ukjente sikkerhetsrelaterte usikkerheter, i tillegg til å finne sikkerhetsrelaterte feil under usikkerheter. For å validere vårt arbeid vil vi bruke en ?smart-grids case study?. For det andre fokuserer vi på usikkerhetene i selvhelbredende atferd som er implementert i applikasjoner av CPS. CPS?ene blir stadig mer intelligente systemer og kan dermed ?helbrede? seg i tilfelle en feil situasjon. Selvhelbredende atferd er kritisk for bruken av CPS fordi slike typer atferd tillater dem å komme seg fra feil og å unngå eventuelle skadelige ettervirkninger. Vi fokuserer på å teste selvhelbredende atferd i eksistensen av usikre situasjoner for å sikre at disse systemene vil være trygge i virkelige applikasjoner, hvor usikkerhet er uunngåelig. Vi har utviklet spesialiserte test-modelleringsmetoder for å skape eksekverbare testmodeller for selvhelbredende atferd sammen med miljømessige usikkerheter. For å utføre slike modeller effektivt for å finne feil, har vi utviklet nye aktive maskin-læringsbaserte teststrategier for å test drone applikasjoner. I tillegg har vi utviklet en testmetode for å oppdage ukjente CPS-oppføringer under en rekke nettverksforhold. Til slutt har vi utviklet nye metoder for testing av CPS?er slik at man systematisk og automatisk kan teste CPS?er under usikkerhet i deres applikasjoner. Når disse velprøvde systemene er installert i virkeligheten, vil disse systemene være sikre, trygge og mer pålitelige.

The following are the key scientific outcomes/impacts of the project: 1) Novel automated testing methods for testing the self-healing behaviours and security aspects of cyber-physical systems (CPS). Such methods have shown to be cost-effective when applied to a set of CPS case studies. 2) Software testing tools implementing a subset of these tools are publicly available for further future extensions by researchers; 3) The data from the experiments are also made publicly available to facilitate replication studies and further comparisons with the future testing methods; 4) The results are published in well-reputed peer-reviewed journals and conferences; 5) CPS have applications in many societal applications such as in welfare technologies provided by City of Oslo, and maritime domain (e.g., DNV-GL, Norway). Our results have potential to ensure safe and secure operation of these societal applications.

English Version: Our daily life is increasingly relying on Cyber-Physical Systems (CPSs). We can find such systems in many safety and mission-critical domains such as robotics, logistics, healthcare, aerospace, and maritime applications. Tackling uncertainty in CPSs at an acceptable cost is essential to prevent severe failures in real life. Ensuring that CPSs will provide correct behaviors in the presence of uncertainty, we need to demonstrate that CPSs achieve a satisfactory level of safety, security, and robustness at an acceptable cost. To ensure the quality of the systems, we need to develop cost-effective methods for verification and validation of CPSs such as based on systematic and automated model-based testing (MBT). Our goal is to improve the dependability (e.g., security and robustness) of CPSs with cost-effective model and search-based testing methods with a particular focus on known and unknown risky uncertainty. Unknown uncertainty is the one risk factor that can only be observed during the real operation of a CPS as opposed to the ones that are known at the design time. The consequence of risky uncertainty will be unwanted circumstances leading to potentially hazardous situations. We will achieve our goal by advancing the current state-of-art by developing new solutions for testing Cyber-Physical Systems based on sound theoretical foundations in the following steps. First, we will develop a solution for minimalistic modeling of different types of known risky uncertainties. Second, we will develop methods to intelligently evolve known models towards realistic and risky unknown uncertainty models (evolved models) using search algorithms (e.g., genetic algorithms mimicking natural selection). Third, we will develop methods to automatically generate test cases from the evolved models to test a CPS under unknown uncertainty. With our solutions, we will ensure that the CPSs will continue to operate appropriately even in uncertainty and possibly at a reduced quality of operation, rather than to fail. Norwegian Version: Vårt daglige liv er avhengig av Cyber-Fysiske Systemer (CFS-er) i økende grad. Vi kan finne slike systemer i mange sikkerhets- og samfunnskritiske domener som roboter, logistikk, helsetjenester, luftfart og sjøfart. Det er essensielt å håndtere usikkerhet i CFS-er til en akseptabel kostnad hvis man skal forhindre katastrofale feil i det virkelige liv. For å sikre at CFS-er vil oppføre seg korrekt i møte med usikkerheter må vi demonstrere at systemene kan være tilfredsstillende trygge, sikre og robuste, til en akseptabel kostnad. For å sikre denne kvaliteten må vi utvikle kostnadseffektive metoder for å verifisere og validere CFS-er, slik som metoden basert på systematisk, modellbasert testing (MBT). Målet er å forbedre påliteligheten (sikkerheten og robustheten) til CFS-ene med kostnadseffektive modellbaserte testmetoder som spesielt tar for seg kjente og ukjente uforutsigbarheter. Ukjente uforutsigbarheter er den ene risikofaktoren som bare kan observeres under virkelige kjøringer av Cyber-Fysiske Systemer, i motsetning til de uforutsigbarhetene som er kjent ved utviklingsstadiet. Konsekvensen av risikable uforutsigbarheter er at uønskede omstendigheter fører til potensielt farlige situasjoner. Vi ønsker å nå målet vårt ved å videreutvikle dagens forskning og utvikle nye løsninger for å teste CFS-er basert på et solid teoretisk grunnlag. Først vil vi utvikle en løsning for minimalistisk modellering av ulike typer risikable uforutsigbarheter. Deretter vil vi utvikle metoder for intelligent evolusjon av kjente modeller mot realistiske og risikable ukjente usikkerhetsmodeller (utviklede modeller) ved å bruke søkealgoritmer som minner om naturlig utvalg. Det tredje steget går ut på å utvikle metoder som automatisk genererer eksempeltester fra de utviklede modellene for å teste en CFS for ukjente uforutsigbarheter. Med våre løsninger skal vi sikre at CFS-ene vil fortsette å være i korrekt drift selv om de skulle møte på uforutsigbarheter. Systemene vil muligens kjøre med redusert kapasitet, men driftsstans kommer ikke til å inntreffe i møte med risiko.