Physics-Informed Neural Networks in Probabilistic Spatio-Temporal Modelling

Loading...
Thumbnail Image

URL

Journal Title

Journal ISSN

Volume Title

Perustieteiden korkeakoulu | Master's thesis

Date

2024-05-21

Department

Major/Subject

Mathematics

Mcode

SCI3054

Degree programme

Master’s Programme in Mathematics and Operations Research

Language

en

Pages

51+6

Series

Abstract

Physics-informed neural networks have proved themselves as valuable supplements to classical mathematical models. Compared to regular physics-free neural networks, boundary conditions can be better enforced in the physics-informed variants. The computational efficiency of neural networks makes them feasible for many applications not possible with classical methods. Most real-world observations and mathematical models are subject to uncertainties. The Kalman filter is a solution to the uncertainty quantification to problems of uncertain observations and models. The ensemble Kalman filter provides an efficient Monte Carlo approximation when dealing with large data vectors. In this thesis, a neural network is constructed to infer velocity fields within the advection equation. The model is trained with meteorological cloud data. Despite the intrinsic difficulties of the training data, the neural network model is shown to learn the dynamics of the advection equation even with simpler synthetic data. In addition, the neural network presents comparable results compared to a commonly used method for optical flow estimation. The network is used as a state process operator in the ensemble Kalman filter. A simulated setting of partial observations with an attempt to produce complete state ensembles is tested. The network functions expectedly within the Kalman filter model.

Fysiikkainformoidut neuroverkot ovat osoittautuneet hyödyllisiksi työkaluiksi klassisten matemaattisten mallien rinnalle. Tavallisiin neuroverkkoihin verrattuna, fysiikkainformoitujen neuroverkkojen ennusteita pystyy rajoittamaan paremmin reunaehdoilla. Neuroverkkomallien laskennallinen tehokkuus mahdollistaa uusia nopeutta vaativia sovelluskohteita. Havaintoihin ja malleihin liittyy usein epävarmuuksia. Kalman-suodin on yksi ratkaisu epävarmuuden arviointiin epävarmojen havaintojen ja mallien ongelmissa. Parven Kalman-suodin on tehokas Monte Carlo -tyyppinen approksimaatio perinteisestä Kalman-suotimesta, jota tarvitaan suurten datavektoreiden hallintaan. Tässä diplomityössä rakennetaan neuroverkko, joka tunnistaa advektioyhtälön liikekenttiä datasta. Neuroverkkomalli koulutetaan meterologisella pilvidatalla. Koulutusdatan vaikeuksista huolimatta, sillä koulutettu neuroverkko yleistyy odotetusti myös yksinkertaisempaan synteettiseen testidataan. Lisäksi neuroverkkomallin ennustuskyky on verrattavissa yleisesti käytettyyn optisen virtauksen menetelmään. Neuroverkkoa testaan tilaoperaattorina parven Kalman-suotimessa. Testinä käytetään simuloitua tilannetta puuttuvien havaintojen täyttämiseksi. Neuroverkko toimii odotetusti myös Kalman-suodin -mallin osana.

Description

Supervisor

Hakula, Harri

Thesis advisor

Laine, Marko
Räty, Olle

Keywords

physics-informed neural networks, uncertainty quantification, Bayesian filtering, weather modelling

Other note

Citation