Fremtidens leger vil arbeide med kunstig intelligens (KI) på samme måte som piloter bruker autopilot – nyttig, men bare når den forstås og overvåkes av et trent menneske. Moderne medisin produserer enorme mengder informasjon: bilder, laboratorieresultater og journalnotater. For medisinstudenter kan dette både være styrkende og overveldende. Samtidig er KI på vei inn i sykehusene, og vi ønsker ikke at studenter skal se på den som en mystisk «svart boks». Prosjektet BRAIGED endrer dette med xAIDA, en læringsassistent som hjelper fremtidige klinikere å trene diagnostisk resonnering med KI – ikke for å erstatte skjønn, men for å styrke det. Målet er kandidater som er trygge, grundige og klare til å bruke KI ansvarlig i ekte kliniske situasjoner.
Vi starter med nyremedisin fordi kronisk nyresykdom er vanlig og avhenger av mange ulike tegn og funn. Resultatet er raskere og tydeligere læring og tryggere vaner. Studentene bygger selvtillit uten å bli for selvsikre, reduserer stress fra informasjonsmengden og lærer å oppdage skjevheter eller feil. Vi sørger også for at dette skjer på en ansvarlig måte – ingen direkte identifiserbare pasientdata, strenge sikkerhetstiltak og en tydelig regel om at mennesker alltid har siste ordet. Slik kan fremtidige klinikere si: «Jeg forstår hva KI-en peker på. Her er jeg enig, her er jeg uenig, og dette er min endelige beslutning.» Denne tankegangen er kjernen i ansvarlig, menneskesentrert KI i helsetjenesten.
The BRAIGED project aims to develop xAIDA, an explainable AI-driven educational diagnostic assistant tool, to investigate how AI technologies create novel prerequisites, opportunities, and challenges for learning, decision-making, and clinical reasoning in medicine. Central to this project is the enhancement of AI literacy, enabling medical students and practitioners to critically evaluate and collaborate with AI in real-world clinical settings. In the context of information-rich curricula—where students often face information overload and the fear of inadequacy, the project seeks to design and implement AI-driven learning tools that foster confident, competent, and safe practitioners, while mitigating adverse effects on learners’ mental health.
The primary objectives include integrating diverse data modalities (imaging, tabular, and textual) to predict and classify Chronic Kidney Disease (CKD), developing and refining machine learning models (e.g., CNN-based architectures and alternative segmentation techniques), and utilizing post-hoc explainability methods to transform AI diagnostics from a black-box process into an interpretable, meaningful, and relevant educational tool. Key R&D challenges involve identifying structural and functional markers critical for kidney disease assessment, managing the complexities of dynamic and static renal scintigraphy, and overcoming data limitations through advanced transfer learning strategies. Additionally, the project will explore experiential and simulation-based learning models to enhance clinical reasoning and diagnostic skills, grounding its approach in the paradoxical inquiry framework to embrace inherent contradictions in AI-driven medical training. Ultimately, BRAIGED seeks to establish new interdisciplinary research directions and contribute to academic discourse on responsible AI integration into clinical practice.
