Least Squares Support Vector Machines For Time Series Prediction
No Thumbnail Available
URL
Journal Title
Journal ISSN
Volume Title
Helsinki University of Technology |
Diplomityö
Checking the digitized thesis and permission for publishing
Instructions for the author
Instructions for the author
Authors
Date
2005
Department
Major/Subject
Informaatiotekniikka
Mcode
T-115
Degree programme
Language
en
Pages
12+67
Series
Abstract
Tässä työssä aikasarjaennustusta tarkastellaan mallinnusongelmana. Sitä varten aikasarjan arvot muutetaan syötematriisiksi eli regressiomatriisiksi ja syötetään pienimmän neliösumman tukivektorikoneelle (LS-SVM), joka pyrkii ratkaisemaan mallinnusongelman. Kuten perinteiset tukivektorikoneet (SVM), myös LS-SVM on kerneleihin perustuva oppiva järjestelmä, mutta se ei tarvitse konveksia optimointia kuten SVM. Sen sijaan LS-SVM pärjää lineaarisen yhtälöryhmän ratkaisemisella ja on siten huomattavasti nopeampi ja yksinkertaisempi. Regressiomatriisin käyttö vaatii kuitenkin sen leveyden määrittämisen etukäteen, kuten käytettäessä miltei mitä tahansa neuroverkkoa. Kun matriisin leveyttä kasvatetaan, kasvaa samalla syötevektoreiden dimensio, joka heikentää neuroverkon suorituskykyä (curse of dimensionality). Tässä työssä tarkastellaan matriisin leveyden vaikutusta LS-SVM mallin toimintaan. Kaikille kerneleihin perustuville malleille yhteinen ongelma on kernelin valinta. Jos käytetään tavallista Gaussin kerneliä, täytyy etukäteen valita kaksi hyperparametria, kernelin leveys sekä sakkotermi. Näiden valitsemiseen esitellään useita eri menetelmiä, kuten uusi, nopea hyperparametrien valintamenetelmä. Tässä työssä esitettyjen kokeiden tulosten perusteella uusi menetelmä antaa nopeita, mutta myös tarkkoja valintoja hyperparametrien arvoiksi.Description
Supervisor
Simula, OlliThesis advisor
Lendasse, AmauryKeywords
time series prediction, aikasarjojen ennustus, LS-SVM, LS-SVM, regressor length, regressorin pituus, model selection, mallin valinta, hyperparameter selection, Hyperparametrien valinta