Tilbake til søkeresultatene

FRINATEK-Fri prosj.st. mat.,naturv.,tek

Unsupervised Lifelong Learning

Alternativ tittel: Ikke-veiledet livslang maskinlæring

Tildelt: kr 12,0 mill.

Det overordnede målet med denne forskningen er å etablere et nytt fundament kalt ULEARN for ikke-veiledet livslang maskinlæring, som vil endre hvordan en designer fremtidens maskinlæringssystemer til å kunne håndtere de betydelige tekniske utfordringer som møter datasystemer som må fungere over lang tid i stadig skiftende omgivelser. Essensen i ULEARN er å erstatte manuell systemdesign med en dynamisk programvarearkitektur som implementerer velkomponerte maskinlæringsprosesser, som er dynamisk optimaliserte, og som utvikler seg helhetlig gjennom levetiden. Forskningen er sentrert rundt det å finne struktur i data, gjenkjenne avvik under operasjoner, tilpasse læringsarkitekturen, og kunne (re-)organisere og utvikle egne læringsprosesser mot uforutsette situasjoner under kjøring. Videre vil hele tilnærmingen bli konseptualisert i et nytt selvlæringssystem for å realisere visjonen om ikke-veiledet livslang maskinlæring. I den foregående perioden av prosjektet har forskningen konsentrerte seg om utfordringen med katastrofal glemsel i ikke-veiledet livslang læring. En artikkel ble publisert på ICCV sin workshop om kontinuerlig læring som beskriver en oppgave-agnostisk tilnærming som reduserer effekten av problemene med katastrofal glemsel. I perioden ble det også utviklet nytt et konsept for en klynge-metode som understøtter ikke-veiledet livslang læring. Dette nye konseptet ble publisert ved ICML. Vi utviklet også flere metoder for hvordan en kan implementere ikke-veiledede livslange læringskonsept ved å utdype et sett med anvendte metoder for generell datasynssystemer, «federated» dyp læring og «federated convolution transformer». Dette resulterte i 6 publikasjoner i IEEE tidsskrift og konferanser. I neste periode vil vi fokusere på å styrke den ikke-veiledede oppgave-agnostiske tilnærmingen som inkluderer livslang klynging for ytterligere å redusere den katastrofale glemselen og for så å kunne anvende dem i generelle maskinsyn-systemer. Til slutt vil vi nevne at vi har etablert et samarbeid University of Pennsylvania (UPENN) siden vår hovedsamarbeidspartner (Rene Vidal) og teamet hans har flyttet fra JHU til UPENN.

ULEARN targets a novel foundation “Unsupervised Lifelong Learning” that will shift the future design of machine learning to tackle significant engineering challenges of long running systems operating in ever-changing environments. Today, the design of learning systems primarily occurs before runtime, requiring continuous updates to tackle changes. In the future hyper-connected digital world, learning systems will need to work radically different than today, ubiquitously connected to a tremendous amount of diverse data and facing unanticipated and a priori unknown conditions during operation. The essence of ULEARN is to replace the actual manual system design with a dynamic software architecture that implements well-composed learning processes, which are dynamically optimized and evolving in a holistic lifetime manner. Computing systems will self-learn, adapting and evolving to the highly dynamic conditions at runtime. Such new designed systems can learn from high-dimensional complex data and are capable to autonomously evolve their own learning processes under changing and unforeseen conditions, lifelong. This new paradigm will be achieved by the concerted research of three PIs, bringing together diverse expertise in unsupervised learning, natural computing, evolutionary architecture and software engineering. The research is centered around finding structure in data, recognizing anomalies during operation, adapting the learning architecture and (re-)organizing and evolving own learning processes at runtime against unforeseen situations. Furthermore, the whole approach will be conceptualized into a novel self-learning system to realize the integrated vision of unsupervised lifelong learning. ULEARN ultimately aims at autonomic computing systems contributing to tipping points in the next decade that will change our all lives. Different scenarios will be used to test and evaluate the research findings.

Budsjettformål:

FRINATEK-Fri prosj.st. mat.,naturv.,tek