MAS – Meaningful Human Control in autonomy/digitalization of safety critical systems

Petroleumssektoren i Norge har et HMS nivå i verdensklasse. Sektoren har vært i forkant ved å bruke et risikobasert regelverk basert på samarbeid mellom industri, myndigheter og arbeidsstyrken. MAS -prosjektet baseres på dette samarbeidet. MAS handler om utforming av meningsfull menneskelig kontroll av digitalisering i sikkerhetskritiske systemer, og ser på automatisering og fjernoperasjoner. Prosjektet er initiert av olje- og gassindustrien i Norge og Canada, som har sett behovet for å fokusere på sikkerhet og menneskelig involvering, når digitalisering øker. Digitalisering kan forårsake katastrofer hvis menneskelige faktorer (HF) ikke tas med under design og drift. For å sikre en trygg og effektiv digitalisering er det behov for å øke "meningsfull menneskelig kontroll". Med dette mener vi systemets evne til å gi operatørene relevant informasjon og muligheter for å kontrollere driften under alle forhold. Nivået på automatisering varierer. Resultatene av MAS vil gi design- og operasjonelle- retningslinjer som støtter meningsfull menneskelig kontroll. Kunnskapen og metodene som er utviklet kan spille en viktig rolle i teknologikvalifikasjon som skal brukes i olje- og gassindustrien så vel som andre sikkerhetskritiske næringer. Prosjektet støtter et parallelt prosjekt (Criop-Do) støttet av den kanadiske industrien og forskningsrådet i Canada. MAS vil gi et veikart for en ny bølge av internasjonal, tverrfaglig forskning om risiko, sikkerhet og HF innen store industrielle operasjoner som gjennomgår digital transformasjon. Prosjektet bygger på omfattende samarbeid fra industri, myndigheter og HF -eksperter. Sentrale aktiviteter er å lære av ulykker og hendelser i automatiserte og fjernstyrte systemer; gjennomgå sikkerhetsutfordringer; gjennomgå vellykket design; analysere gjeldende praksis og standarder; vurdere praksis i bruk av CRIOP, og forbedre CRIOP -metoden.

The Norwegian petroleum sector has a world class safety level, and has been in the forefront of implementing new safe technology and focus on a risk based regulatory regime based on tri-party collaboration between industry, regulators and the workforce. The goal of the industry and regulators are that Norway should have the highest safety level in the world. The risk-based approach, focus on planning/design and the collaborative environment has succeeded in other areas too, such that Norway has the safest road transport in the world, WHO (2018). The safety perspective and the tri-party collaboration can give Norwegian industry a long term and strategic competitive advantage in other countries both related to technology but also related to regulation, methodology and human factors focus. The Deepwater Horizon Accident, the Boeing Max 737 disaster and the Helge Ingstad collision clearly demonstrates the need for meaningful human control of complex and partly automated operations. The aim of this project is to improve the safety level in the sector through the implementation of autonomy/digitalization from the perspective of user centred agile design, prioritizing sensemaking and meaningful human control in safety critical operations. This proposal is based on needs and initiative from the oil and gas industry in Norway, in addition to the wish for international collaboration from the Research Council in Canada, that has approved a relevant project in Canada – “Critical Intervention and Operability Analysis for Digital Ocean Operations (CRIOP-DO)”. The project is collaborating with the Human Factors in Control (HFC) network in Norway, with 800 experts from academia, consulting, industry and safety authorities.