Enheter, som smartklokker, som kan samle helsedata fra "alle" hele tiden, og maskinlæring (ML) for å analysere disse dataene, vil sterkt påvirke fremtidige helse-løsninger. De kan muliggjøre kostnadseffektiv storskala screening og langvarig overvåking av individer for automatisk å oppdage endringer i deres helsestatus, for tidlig oppdagelse av udiagnostiserte sykdommer, og for å personalisere behandling av pasienter. Dersom de brukes uten refleksjon, er det også betydelige utfordringer, som (1) beskyttelse og kontroll av bruken av innsamlede data, (2) falske alarmer, helseangst, overdiagnostisering, påfølgende overbehandling, og medisalisering, (3) pålitelighet, relevans og validitet av dataanalyse-resultater, og (4) manglende evne til å forklare resultater oppnådd med moderne ML. Dette undergraver grunnleggende etiske prinsipper og juridiske rettigheter, og kan hemme fruktbar bruk av ML i helsevesenet.
Disse utfordringene og mulighetene tas opp av forskere fra informatikk, medisin, juss og etikk. Det medisinske fokuset er på søvnrelaterte respiratoriske lidelser, spesielt for spedbarn med luftveisobstruksjoner i de øvre luftveiene og pasienter som mottar langvarig mekanisk ventilasjonsstøtte om natten via maske.
Kjernen i Respire er et rammeverk for å definere hva gode forklaringer er for forskjellige brukere (f.eks. helsepersonell, pasienter og ML-utviklere), og hvordan kvaliteten på disse kan evalueres. Som grunnarbeid undersøker vi: (1) bruken av overvåkingsdata fra mekaniske ventilatorer og ML for å forbedre og personalisere pasientbehandling, (2) forbrukerelektronikk for søvnmonitorering av spedbarn hjemme og ML for å analysere overvåkingsdataene, (3) store juridiske og etiske bekymringer, med fokus på etiske prinsipper om autonomi og personvern, EUs databeskyttelseslovgivning og helse-lovgivning, og (4) forholdet mellom å oppdage og definere enheter som indikatorer, indekser, diagnoser og sykdommer; potensielle utfordringer forårsaket av falske alarmer.
For å takle det første problemet, har vi kombinert en avansert lungesimulator med en mekanisk ventilator, sammen med spesialbygde deler som etterligner en pasients luftveier og ulike typer maskelekkasjer. Dette simuleringsoppsettet brukes nå for å generere data, noe som hjelper oss med å utvikle og teste ML-løsninger for data samlet inn av mekaniske ventilatorer.
Det andre problemet tas opp med nye, kontaktløse søvnmonitoreringsprototyper, som er basert på den radarbaserte søvnmonitoren Somnofy fra Vitalthings AS. Etter å ha løst alle tekniske og regulatoriske utfordringer, har disse overvåkingssystemene vært i bruk siden sommeren 2024 for å spore omtrent 200 pasienter både på sykehus og hjemme. Foreldres samtykke til at deres barn deltar i studien har vært overveldende positivt, noe som reflekterer stor interesse for prosjektet.
For å sikre at vi møter juridiske og etiske standarder, er vi (1) i ferd med å studere hvordan konseptene "transparens" og "forklarbarhet" fra EUs generelle databeskyttelsesforordning (GDPR) og EUs lov om kunstig intelligens (AI) gjelder for forskning, utvikling og bruk av AI, og (2) bidrar til den vitenskapelige diskusjonen ved å utvide de kjente bioetiske prinsippene fra Beauchamp og Childress. Disse prinsippene inkluderer velgjørenhet (gjøre godt), ikke-skade (unngå skade), respekt for autonomi (evnen til å ta beslutninger) og rettferdighet (rettferdig fordeling av fordeler og ulemper). Vi foreslår et femte prinsipp: "forklarbarhet"—kvaliteten av å være klar og forståelig nok til å lette ansvarlighet.
Vår tverrfaglige forskning på ansvarlig og forklarebar AI har også ført til en analyse av de essensielle funksjonene et AI-system må ha for å bli ansett som ansvarlig og forklarebart. I tillegg har vi utført eksperimenter med offentlig tilgjengelige søvnmonitoreringsdata med bruk av ML for å oppdage søvnapné. Nåværende verktøy for forklarbarhet er noe nyttige for ML-utviklere, men de er fortsatt vanskelige for søvneksperter og andre interessenter å forstå. Derfor undersøker vi komplementære verktøy for forklarbarhet som estimerer usikkerheten til ML-modeller for klassifiseringer, ML-modeller for å predikere datakvalitet, samt kunnskapsgrafer og grafdatabaser for kunnskapsdrevet dataanalyse.
To achieve the project objectives, Respire follows with an interdisciplinary research team (medicine, ethics, law, computer science) a participatory research approach that involves all stakeholders (patients, medical personnel and researchers, ML developers and researchers, and policy makers). The sleep-related breathing disorders to be investigated include pediatric patients with laryngomalacia and patients that receive long-term treatment with non-invasive respiratory support devices. To gain new insights in laryngomalacia, xML solutions will be developed to (1) explore and analyze existing electronic health records and (2) detect respiratory events in sleep-monitoring data. To enable patient-friendly sleep monitoring at home we will tailor and evaluate existing sensing technology for pediatric patients. The xML model for analysis of data from non-invasive respiratory devices will be based on data generated by a physical lung simulator and tests with ventilation devices.
To systematically develop good xML solutions we will establish an explainability framework that comprises (1) the basic definitions and requirements for explanations, (2) identifies the type, level, and presentation form of explanations for the different stakeholders, and (3) an assessment framework for the evaluation of explainability. We will perform an interdisciplinary use case study with the target audience and an epistemological analysis of uncertainty and validation to lay the foundation for the explainability framework. Further legal and ethical studies (including legal dogmatic analysis "de lege lata" and legal analysis "de lege ferenda") shall enable the project to publish articles that identify and relate the risk and opportunities of mHealth and to make guidelines and best practices for future monitoring and xML solutions in medicine.
The qualitative evaluation of our xML solutions will involve all stakeholders.
