DynNoise: Learning dynamical systems from noisy data

Berekningsparadigmet ligg under mange av framskritta som har vore med å definere den moderne verda slik vi kjenner den. I ein tekst [1] som dreier seg om korleis matematikk har bidrege til utvikling, er det skildra som ein lukka krins mellom eit fysisk problem og ein matematisk representasjon av problemet. Målingar av fysiske storleikar blir nytta i ein matematisk representasjon og manipulasjon av det abstrakte problemet gir ei løysing på korleis ein kan drive det fysiske systemet til ein ønska posisjon. Simulering og kontroll av fly og satellittar er gode døme på korleis berekningsparadigmet er nyttig i dag. Dette paradigmet er nyttig ettersom det lar oss gjere ting som før var umogleg, til dømes å lande romsonder på andre planetar. Det gir auka nøyaktigheit, som presisjonsvåpen er eit ubehageleg eksempel på. Kostnadsreduksjon er eit anna positivt utfall, ettersom ein kan utforme farkostar med mindre luftmotstand eller gjennomføre optimal planlegging av rutetabellar. Det er dermed nærliggjande å tenkje at dersom vi kunne lage matematiske representasjonar av så mykje som mogleg, ville vi som samfunn kunne utføre nye (nyttige) ting, billegare og meir presist. Utfordringa er at det er krevjande å lage ein god matematisk representasjon av eit fysisk problem. Det krevjer folk med spesialkompetanse som det både er for få av og dei vi har er dyre i drift. Ein kan likevel kome eit skritt nærare dersom ein kan utnytte seg av måledata som det stadig blir meir og meir av. Neste skritt er sjølvsagt å nytte maskinlæring og KI til å gi oss noko som liknar så mykje som mogleg på ein abstrakt matematisk representasjon som kan nyttast til simulering og kontroll. Vi ønskjer både fleksible algoritmar som kan finne mønster i store datasett, men samstundes vil vi identifisere maskinlæringsmodellar som stemmer med det vi veit er sant. Noko vi veit er sant kan vere energibevaring i mekaniske system eller at masse må vere bevart i ein væskestraum. Geometrisk numerisk integrasjon dreier seg nettopp om å utvikle algoritmar for simulering som følgjer fysiske prinsipp som energibevaring og kombinert med maskinlæring kan vi løyse problemet som er skildra over. Ei anna utfordring er at måledata ofte inneheld støy. Dermed må ein god algoritme for å identifisere matematiske modellar både kunne vere tilstrekkeleg fleksibel for å kunne tilpasse seg ulike måledata, han må respektere bevaringslover og kunne handtere støy. Eit konkret døme på dette er gitt i denne artikkelen [2], der vi forsøkjer å lære dynamiske system med energibevaring frå måledata med støy. Sjølv om berekningsparadigmet begynner å bli godt utprøvd er det god grunn til å tru at det er mykje å vinne på å utvikle betre berekningar utøvd på fleire område i samfunnet. KI kjem til å akselerere denne utviklinga, men først bør vi lære denne nye typen intelligens det vi kan om fysikk. [1]: https://worksinprogress.co/issue/how-mathematics-built-the-modern-world/ [2]: https://arxiv.org/pdf/2306.03548

SINTEF Digital and the Norwegian Defence Research Establishment (FFI) are both involved as partners in the Centre for Autonomous Marine Operations and Systems (NTNU AMOS). We are seeking funding for two years of a PhD project within physics-informed machine learning, with applications to underwater robotics. The candidate will be employed at the Department of Mathematics at NTNU. In addition to AMOS, the PhD student will be connected to several other ongoing projects linked to this research area. Hybrid modeling combines data-driven and analytical modeling. This approach enables the simulation of dynamical systems from data, allowing physical principles and numerical analysis to inform and constrain deep learning models. In particular, Hamiltonian neural networks leverages the energy-preserving Hamiltonian formulation from classical mechanics to obtain a deep learning model that describes the dynamics of a physical system. Geometric numerical integration is a well-established field concerning numerical solutions that preserve geometric structure or follow first principles. Geometric integration and classical mechanics combine centuries of theoretical discoveries. Deep learning serves as an enabling technology allowing a range of complex systems to be modeled from data. A combination of these fields could trigger a revolution in mathematical modeling of dynamical systems. This PhD project aims at combining the mathematical rigor of geometric integration with the approximation capacity of neural networks, allowing neural networks to learn dynamical systems from data while preserving geometric structure. Furthermore, this project will explore how a learned system could support scientific discovery in underwater robotics and be applied in control of autonomous navigation vehicles.