Particle and Sigma-Point Methods for State and Parameter Estimation in Nonlinear Dynamic Systems
Loading...
Journal Title
Journal ISSN
Volume Title
School of Science |
Doctoral thesis (article-based)
| Defence date: 2016-03-04
Unless otherwise stated, all rights belong to the author. You may download, display and print this publication for Your own personal use. Commercial use is prohibited.
Author
Date
2016
Major/Subject
Mcode
Degree programme
Language
en
Pages
72 + app. 54
Series
Aalto University publication series DOCTORAL DISSERTATIONS, 30/2016
Abstract
State-space models of dynamic systems are used to model phenomena, which evolve over time, and are observed only through noisy or incomplete measurements. An example is tracking a moving target based on sensor measurements. A state-space model consists of a probabilistic specification of the evolution of a latent state, conditional on the previous values, and a probabilistic specification of how the observations depend on the latent states. Typically, we are interested in the filtering and smoothing problems, and parameter estimation. In filtering, one computes the probability distribution of the current latent state, taking into account all observations obtained so far. Smoothing refers to updating the probability distributions of the latent states on the previous times based on new observations obtained after those times. Both filtering and smoothing problems are analytically intractable except in some special cases. In this thesis, sigma-point and particle based filtering and smoothing methods are used. Sigma-point filters and smoothers are based on approximating the filters and smoothers by Gaussian density approximations and then further approximating certain integrals by numerical cubature rules. Particle filters and smoothers in turn use random samples to approximate the probability distributions and, under certain conditions, converge to exact filters and smoothers when the number of samples tends to infinity. The research topics of this thesis are to develop new importance distributions for particle filters, to develop methods for static parameter estimation, and an application to animal population size estimation. A split-Gaussian importance distribution is proposed for particle filters and compared to alternatives. In addition, in a certain time-varying Poisson regression model, it is shown that a split-Gaussian modification to a Gaussian approximation based importance distribution guarantees convergence of the particle filter when the pure Gaussian approximation does not. A parameter estimation method for multiple target tracking models is developed based on combining recently proposed particle Markov chain Monte Carlo algorithms with the Rao-Blackwellized Monte Carlo data association algorithm. This method allows for joint estimation of the target movements and the parameters of the models, as well as the number of targets. The method is applied to estimating bear population size based on a database of field signs. Additionally, parameter estimation in nonlinear systems with additive Gaussian noise is discussed using both direct likelihood maximization and expectation-maximization (EM), and both particle and sigma-point algorithms for the smoothing problem arising in EM.Dynaamisten systeemien tila-avaruusmalleilla mallinnetaan ajassa eteneviä ilmiöitä, joista saadaan epätarkkoja havaintoja. Näitä malleja voidaan soveltaa esimerkiksi liikkuvan kohteen seuraamiseen. Tila-avaruusmalli kuvaa todennäköisyysjakaumina miten systeemin tila riippuu aiemmasta tilasta ja miten kunkin ajanhetken mittaus riippuu tilasta. Tila-avaruusmallin suodatustehtävässä lasketaan tilan todennäköisyysjakauma kullakin ajanhetkellä ottaen huomioon kaikki siihen mennessä saadut mittaukset. Silotustehtävässä puolestaan nämä jakaumat päivitetään ottamaan huomioon myös myöhemmät mittaukset. Suodatus- ja silotustehtävää ei voi ratkaista analyyttisesti suljetussa muodossa kuin tietyissä erikoistapauksissa. Tässä väitöskirjassa käytetään sigmapiste- ja partikkelipohjaisia suodatus- ja silotusmenetelmiä. Sigmapistemenetelmät perustuvat suotimen ja silottimen todennäköisyysjakaumien approksimointiin gaussisilla jakaumilla ja eräiden integraalien approksimointiin numeerisilla integrointisäännöillä. Partikkelisuotimissa ja -silottimissa puolestaan käytetään satunnaisotoksia. Tietyillä ehdoilla partikkelisuotimet ja -silottimet suppenevat suodatus- ja silotustehtävän täsmällisiin ratkaisuihin, kun otoskoko lähestyy ääretöntä. Tämän väitöskirjan tutkimuskohteet ovat importanssijakaumien kehittäminen partikkelisuodinalgoritmeihin, tila-avaruusmallien parametrien estimointimenetelmien kehittäminen sekä sovellus eläinpopulaation koon arviointiin. Väitöskirjassa ehdotetaan split-gaussista importanssijakaumaa partikkelisuotimiin ja verrataan sitä muihin importanssijakaumiin. Aikariippuville Poisson-regressiomalleille osoitetaan, että eräs split-gaussinen importanssijakauma takaa partikkelisuotimen suppenemisen - toisin kuin gaussiseen approksimaatioon perustuva importanssijakauma. Väitöskirjassa kehitetään monen kohteen seurantatehtäviin parametriestimointialgoritmi, joka perustuu partikkelipohjaisten Markov-ketju- Monte Carlo -algoritmien ja rao-black-wellisoidun Monte Carlo -data-assosiaation yhdistämiseen. Tällä menetelmällä voidaan samanaikaisesti estimoida mallin parametrit ja kohteiden liikkuminen sekä kohteiden lukumäärä. Menetelmää sovelletaan karhupopulaation koon arviointiin kenttähavaintojen perusteella. Väitöskirjassa tutkitaan parametriestimointia myös additiivis-gaussisissa epälineaarisissa dynaamisissa systeemeissä. Työssä vertaillaan suoraa suurimman uskottavuuden menetelmää ja expectation-maximization -algoritmia käyttäen partikkeli- ja sigmapiste-menetelmiä.Description
Supervising professor
Lampinen, Jouko, Prof., Aalto University, Department of Biomedical Engineering and Computational Science, FinlandThesis advisor
Särkkä, Simo, Associate Prof., Aalto University, Department of Electrical Engineering and Automation, FinlandKeywords
Bayesian filtering and smoothing, state-space models, dynamic systems, particle filters, sigma-point filters, bayesilainen suodatus ja silotus, tila-avaruusmallit, dynaamiset systeemit, partikkelisuotimet, sigmapistesuotimet
Other note
Parts
- [Publication 1]: Juho Kokkala, Arno Solin, and Simo Sarkka. Expectation Maximization Based Parameter Estimation by Sigma-Point and Particle Smoothing. In The 17th International Conference on Information Fusion (FUSION), 8 pages, Salamanca, Spain, July 2014.
-
[Publication 2]: Juho Kokkala and Simo Sarkka. Combining Particle MCMC with Rao-Blackwellized Monte Carlo Data Association for Parameter Estimation in Multiple Target Tracking. Digital Signal Processing, Volume 47, Pages 84-95, December 2015.
DOI: 10.1016/j.dsp.2015.04.004 View at publisher
-
[Publication 3]: Juho Kokkala and Simo Sarkka. On the (Non-)Convergence of Particle Filters with Gaussian Importance Distributions. In Proceedings of the 17th IFAC Symposium on System Identification (SYSID), (IFACPapersOnline, Volume 48, Issue 28), Pages 793–798. Beijing, China, October 2015.
DOI: 10.1016/j.ifacol.2015.12.226 View at publisher
- [Publication 4]: Juho Kokkala and Simo Sarkka. Split-Gaussian Particle Filter. In Proceedings of 23rd European Signal Processing Conference (EUSIPCO), Nice, France, Pages 484–488. August 2015.
- [Publication 5]: Juho Kokkala, Arno Solin, and Simo Sarkka. Sigma-Point Filtering and Smoothing Based Parameter Estimation in Nonlinear Dynamic Systems. Accepted for publication in Journal of Advances in Information Fusion, arXiv preprint arXiv:1504.06173. 14 pages. 2016.
