Det overordnede målet med denne forskningen er å etablere et nytt fundament kalt ULEARN for ikke-veiledet livslang maskinlæring, som vil endre hvordan en designer fremtidens maskinlæringssystemer til å kunne håndtere de betydelige tekniske utfordringer som møter datasystemer som må fungere over lang tid i stadig skiftende omgivelser. Essensen i ULEARN er å erstatte manuell systemdesign med en dynamisk programvarearkitektur som implementerer velkomponerte maskinlæringsprosesser, som er dynamisk optimaliserte, og som utvikler seg helhetlig gjennom levetiden. Forskningen er sentrert rundt det å finne struktur i data, gjenkjenne avvik under operasjoner, tilpasse læringsarkitekturen, og kunne (re-)organisere og utvikle egne læringsprosesser mot uforutsette situasjoner under kjøring. Videre vil hele tilnærmingen bli konseptualisert i et nytt selvlæringssystem for å realisere visjonen om ikke-veiledet livslang maskinlæring.
I den foregående perioden av prosjektet har forskningen konsentrerte seg om utfordringen med katastrofal glemsel i ikke-veiledet livslang læring. En artikkel ble publisert på ICCV sin workshop om kontinuerlig læring som beskriver en oppgave-agnostisk tilnærming som reduserer effekten av problemene med katastrofal glemsel. I den forrige perioden har vi undersøkt det å inkludere en kontinuerlig klyngemetode for å forbedre den ikke-veiledede oppgave-agnostiske tilnærmingen og dermed ytterligere redusere den katastrofale glemselen. Resultatene er samlet i en vitenskapelig artikkel som vil sendes til et internasjonalt tidsskrift innen utgangen av 2024. Videre har vi undersøkt flere tilnærminger for ikke-veiledet livslang læring, inkludert evolusjonære teknikker og kunnskapsveiledet læring for å etablere selvlærende maskinsyn for generell bruk. Resultatene resulterte i publikasjoner og internasjonale presentasjoner. I tillegg jobber vi med å involvere symbolske resonnement med ikke-veiledet læring for å forbedre sporbarheten av resultatene og forståelsen av opplæringsprosessen. Resultatene ble sendt til WACV (Winter Conference in Computer Vision).
ULEARN targets a novel foundation “Unsupervised Lifelong Learning” that will shift the future design of machine learning to tackle significant engineering challenges of long running systems operating in ever-changing environments. Today, the design of learning systems primarily occurs before runtime, requiring continuous updates to tackle changes. In the future hyper-connected digital world, learning systems will need to work radically different than today, ubiquitously connected to a tremendous amount of diverse data and facing unanticipated and a priori unknown conditions during operation. The essence of ULEARN is to replace the actual manual system design with a dynamic software architecture that implements well-composed learning processes, which are dynamically optimized and evolving in a holistic lifetime manner. Computing systems will self-learn, adapting and evolving to the highly dynamic conditions at runtime. Such new designed systems can learn from high-dimensional complex data and are capable to autonomously evolve their own learning processes under changing and unforeseen conditions, lifelong. This new paradigm will be achieved by the concerted research of three PIs, bringing together diverse expertise in unsupervised learning, natural computing, evolutionary architecture and software engineering. The research is centered around finding structure in data, recognizing anomalies during operation, adapting the learning architecture and (re-)organizing and evolving own learning processes at runtime against unforeseen situations. Furthermore, the whole approach will be conceptualized into a novel self-learning system to realize the integrated vision of unsupervised lifelong learning. ULEARN ultimately aims at autonomic computing systems contributing to tipping points in the next decade that will change our all lives. Different scenarios will be used to test and evaluate the research findings.