Machine learning and uncertainty quantification for surrogate models of IoT environments

Machine Learning is a term covering a collection of methods to make computers ?learn? without or with little human supervision. Experience demonstrates its usefulness reviling correlations, patterns and new solutions not easily found by human analysts. The finance sector and banks are currently investigating possible applications of Machine Learning to improve their models for risk assessment. Improved models could yield better results in fraud prevention, reduce losses to business failures, improve prediction of customer behaviour and customer experiences. Cybersecurity is a research field displaying a lot of interest in Machine Learning, for instance, in recognizing malware and patterns indicating digital attacks. The use of Machine Learning to augment risk assessment methods in environments incorporating significant IoT components still appear to be an area of limited research activity.

I samråd med Kungliga tekniska högskolan er "Machine learning and uncertainty quantification for surrogate models of IoT environments" foreslått som tittel for PhD-oppgaven. Maskinlæring er metoder som lar datamaskiner finne frem til løsninger på egenhånd, med varierende grad av veiledning fra mennesker. En av fordelene med denne type tilnærminger er at maskiner kan finne løsninger som er umulige for mennesker å se. «Surrogate models» er en digital kopi/ tvilling av et system. En digital kopi kan brukes til simuleringer uten fare for å skade selve systemet, få en bedre forståelse av IoT-miljøet og gi bedre transparens og forklarbarhet («explainability», dvs. god forståelse av hvordan og hvorfor AI/maskinlæring oppfører seg som det gjør for gitt scenario. Dette er sentral for å gi tillit til løsninger som tas frem.). «Uncertainty quantification» beskriver usikkerhet i resultatene og gir nødvendig informasjon til risikovurdering. Risiko er usikkerhet rundt måloppnåelse. Risikovurdering gir et konkret grunnlag for å innføre målrettede tiltak for å håndtere identifisert risiko i IKT-systemer. Slik risikovurdering praktiseres i dag av blant annet NSM og Riksrevisjonen er metodene en blanding av analyse av dokumenter, intervjuer og innhenting av data fra IKT-systemet. I praksis blir mye av forståelsen av risiko og hva som er hensiktsmessige tiltak basert på subjektive vurderinger. I IoT-miljøer vil, som nevnt i FFI rapporten, slike vurderinger bli svært krevende og øke muligheten for feilaktige vurderinger. Digitale kopier og ML /KI brukes i flere industrier for å understøtte risikovurderinger, men den spesifikke kombinasjonen for anvendelser i miljøer med mye IoT-utstyr er et foreløpig nytt forskningsfelt.