Particle and Sigma-Point Methods for State and Parameter Estimation in Nonlinear Dynamic Systems

 |  Login

Show simple item record

dc.contributor Aalto-yliopisto fi
dc.contributor Aalto University en
dc.contributor.advisor Särkkä, Simo, Associate Prof., Aalto University, Department of Electrical Engineering and Automation, Finland
dc.contributor.author Kokkala, Juho
dc.date.accessioned 2016-02-19T10:01:26Z
dc.date.available 2016-02-19T10:01:26Z
dc.date.issued 2016
dc.identifier.isbn 978-952-60-6664-6 (electronic)
dc.identifier.isbn 978-952-60-6663-9 (printed)
dc.identifier.issn 1799-4942 (electronic)
dc.identifier.issn 1799-4934 (printed)
dc.identifier.issn 1799-4934 (ISSN-L)
dc.identifier.uri https://aaltodoc.aalto.fi/handle/123456789/19774
dc.description.abstract State-space models of dynamic systems are used to model phenomena, which evolve over time, and are observed only through noisy or incomplete measurements. An example is tracking a moving target based on sensor measurements. A state-space model consists of a probabilistic specification of the evolution of a latent state, conditional on the previous values, and a probabilistic specification of how the observations depend on the latent states. Typically, we are interested in the filtering and smoothing problems, and parameter estimation. In filtering, one computes the probability distribution of the current latent state, taking into account all observations obtained so far. Smoothing refers to updating the probability distributions of the latent states on the previous times based on new observations obtained after those times. Both filtering and smoothing problems are analytically intractable except in some special cases. In this thesis, sigma-point and particle based filtering and smoothing methods are used. Sigma-point filters and smoothers are based on approximating the filters and smoothers by Gaussian density approximations and then further approximating certain integrals by numerical cubature rules. Particle filters and smoothers in turn use random samples to approximate the probability distributions and, under certain conditions, converge to exact filters and smoothers when the number of samples tends to infinity. The research topics of this thesis are to develop new importance distributions for particle filters, to develop methods for static parameter estimation, and an application to animal population size estimation. A split-Gaussian importance distribution is proposed for particle filters and compared to alternatives. In addition, in a certain time-varying Poisson regression model, it is shown that a split-Gaussian modification to a Gaussian approximation based importance distribution guarantees convergence of the particle filter when the pure Gaussian approximation does not. A parameter estimation method for multiple target tracking models is developed based on combining recently proposed particle Markov chain Monte Carlo algorithms with the Rao-Blackwellized Monte Carlo data association algorithm. This method allows for joint estimation of the target movements and the parameters of the models, as well as the number of targets. The method is applied to estimating bear population size based on a database of field signs. Additionally, parameter estimation in nonlinear systems with additive Gaussian noise is discussed using both direct likelihood maximization and expectation-maximization (EM), and both particle and sigma-point algorithms for the smoothing problem arising in EM. en
dc.description.abstract Dynaamisten systeemien tila-avaruusmalleilla mallinnetaan ajassa eteneviä ilmiöitä, joista saadaan epätarkkoja havaintoja. Näitä malleja voidaan soveltaa esimerkiksi liikkuvan kohteen seuraamiseen. Tila-avaruusmalli kuvaa todennäköisyysjakaumina miten systeemin tila riippuu aiemmasta tilasta ja miten kunkin ajanhetken mittaus riippuu tilasta. Tila-avaruusmallin suodatustehtävässä lasketaan tilan todennäköisyysjakauma kullakin ajanhetkellä ottaen huomioon kaikki siihen mennessä saadut mittaukset. Silotustehtävässä puolestaan nämä jakaumat päivitetään ottamaan huomioon myös myöhemmät mittaukset. Suodatus- ja silotustehtävää ei voi ratkaista analyyttisesti suljetussa muodossa kuin tietyissä erikoistapauksissa. Tässä väitöskirjassa käytetään sigmapiste- ja partikkelipohjaisia suodatus- ja silotusmenetelmiä. Sigmapistemenetelmät perustuvat suotimen ja silottimen todennäköisyysjakaumien approksimointiin gaussisilla jakaumilla ja eräiden integraalien approksimointiin numeerisilla integrointisäännöillä. Partikkelisuotimissa ja -silottimissa puolestaan käytetään satunnaisotoksia. Tietyillä ehdoilla partikkelisuotimet ja -silottimet suppenevat suodatus- ja silotustehtävän täsmällisiin ratkaisuihin, kun otoskoko lähestyy ääretöntä. Tämän väitöskirjan tutkimuskohteet ovat importanssijakaumien kehittäminen partikkelisuodinalgoritmeihin, tila-avaruusmallien parametrien estimointimenetelmien kehittäminen sekä sovellus eläinpopulaation koon arviointiin. Väitöskirjassa ehdotetaan split-gaussista importanssijakaumaa partikkelisuotimiin ja verrataan sitä muihin importanssijakaumiin. Aikariippuville Poisson-regressiomalleille osoitetaan, että eräs split-gaussinen importanssijakauma takaa partikkelisuotimen suppenemisen - toisin kuin gaussiseen approksimaatioon perustuva importanssijakauma. Väitöskirjassa kehitetään monen kohteen seurantatehtäviin parametriestimointialgoritmi, joka perustuu partikkelipohjaisten Markov-ketju- Monte Carlo -algoritmien ja rao-black-wellisoidun Monte Carlo -data-assosiaation yhdistämiseen. Tällä menetelmällä voidaan samanaikaisesti estimoida mallin parametrit ja kohteiden liikkuminen sekä kohteiden lukumäärä. Menetelmää sovelletaan karhupopulaation koon arviointiin kenttähavaintojen perusteella. Väitöskirjassa tutkitaan parametriestimointia myös additiivis-gaussisissa epälineaarisissa dynaamisissa systeemeissä. Työssä vertaillaan suoraa suurimman uskottavuuden menetelmää ja expectation-maximization -algoritmia käyttäen partikkeli- ja sigmapiste-menetelmiä. fi
dc.format.extent 72 + app. 54
dc.format.mimetype application/pdf en
dc.language.iso en en
dc.publisher Aalto University en
dc.publisher Aalto-yliopisto fi
dc.relation.ispartofseries Aalto University publication series DOCTORAL DISSERTATIONS en
dc.relation.ispartofseries 30/2016
dc.relation.haspart [Publication 1]: Juho Kokkala, Arno Solin, and Simo Sarkka. Expectation Maximization Based Parameter Estimation by Sigma-Point and Particle Smoothing. In The 17th International Conference on Information Fusion (FUSION), 8 pages, Salamanca, Spain, July 2014.
dc.relation.haspart [Publication 2]: Juho Kokkala and Simo Sarkka. Combining Particle MCMC with Rao-Blackwellized Monte Carlo Data Association for Parameter Estimation in Multiple Target Tracking. Digital Signal Processing, Volume 47, Pages 84-95, December 2015. DOI: 10.1016/j.dsp.2015.04.004
dc.relation.haspart [Publication 3]: Juho Kokkala and Simo Sarkka. On the (Non-)Convergence of Particle Filters with Gaussian Importance Distributions. In Proceedings of the 17th IFAC Symposium on System Identification (SYSID), (IFACPapersOnline, Volume 48, Issue 28), Pages 793–798. Beijing, China, October 2015. DOI: 10.1016/j.ifacol.2015.12.226
dc.relation.haspart [Publication 4]: Juho Kokkala and Simo Sarkka. Split-Gaussian Particle Filter. In Proceedings of 23rd European Signal Processing Conference (EUSIPCO), Nice, France, Pages 484–488. August 2015.
dc.relation.haspart [Publication 5]: Juho Kokkala, Arno Solin, and Simo Sarkka. Sigma-Point Filtering and Smoothing Based Parameter Estimation in Nonlinear Dynamic Systems. Accepted for publication in Journal of Advances in Information Fusion, arXiv preprint arXiv:1504.06173. 14 pages. 2016.
dc.relation.haspart [Errata file]: Errata Juho Kokkala DD-30/2016 publications 1, 3, 4 and 5
dc.subject.other Computer science en
dc.subject.other Mathematics en
dc.title Particle and Sigma-Point Methods for State and Parameter Estimation in Nonlinear Dynamic Systems en
dc.title Partikkeli- ja sigmapistemenetelmiä epälineaaristen dynaamisten systeemien tila- ja parametriestimointiin fi
dc.type G5 Artikkeliväitöskirja fi
dc.contributor.school Perustieteiden korkeakoulu fi
dc.contributor.school School of Science en
dc.contributor.department Neurotieteen ja lääketieteellisen tekniikan laitos fi
dc.contributor.department Department of Neuroscience and Biomedical Engineering en
dc.subject.keyword Bayesian filtering and smoothing en
dc.subject.keyword state-space models en
dc.subject.keyword dynamic systems en
dc.subject.keyword particle filters en
dc.subject.keyword sigma-point filters en
dc.subject.keyword bayesilainen suodatus ja silotus fi
dc.subject.keyword tila-avaruusmallit fi
dc.subject.keyword dynaamiset systeemit fi
dc.subject.keyword partikkelisuotimet fi
dc.subject.keyword sigmapistesuotimet fi
dc.identifier.urn URN:ISBN:978-952-60-6664-6
dc.type.dcmitype text en
dc.type.ontasot Doctoral dissertation (article-based) en
dc.type.ontasot Väitöskirja (artikkeli) fi
dc.contributor.supervisor Lampinen, Jouko, Prof., Aalto University, Department of Biomedical Engineering and Computational Science, Finland
dc.opn Gustafsson, Fredrik, Prof., Linköping University, Sweden
dc.rev Gasbarra, Dario, Dr., University of Helsinki, Finland
dc.rev Hendeby, Gustaf, Associate Prof., Linköping University, Sweden
dc.date.defence 2016-03-04


Files in this item

This item appears in the following Collection(s)

Show simple item record

Search archive


Advanced Search

article-iconSubmit a publication

Browse

My Account