Scaled sparse linear regression with the elastic net

Simple item page
dc.contributorAalto-yliopistofi
dc.contributorAalto Universityen
dc.contributor.advisorOllila, Esa
dc.contributor.authorRaninen, Elias
dc.contributor.schoolSähkötekniikan korkeakoulufi
dc.contributor.supervisorOllila, Esa
dc.date.accessioned2017-05-11T10:31:41Z
dc.date.available2017-05-11T10:31:41Z
dc.date.issued2017-05-08
dc.description.abstractScaled linear regression is a form of penalized linear regression in which the penalty level is automatically scaled in proportion to the estimated noise level in the data. This makes the penalty parameter independent of the noise scale enabling an analytical approach for choosing an optimal penalty level for a given problem. In this thesis, we first review conventional penalized regression methods, such as ridge regression, lasso, and the elastic net. Then, we review some scaled sparse linear regression methods, the most relevant of which is the scaled lasso, also known as square-root lasso. As an original contribution, we propose two elastic net formulations, which extend the scaled lasso to the elastic net framework. We demonstrate by numerical examples that the proposed estimators improve upon the scaled lasso in the presence of high correlations in the feature space. As a real-world application example, we apply the proposed estimators in a simulated single snapshot direction-of-arrival (DOA) estimation problem, where we show that the proposed estimators perform better, especially when the angles of incidence of the DOAs are oblique with respect to the uniform linear array (ULA) axis.en
dc.description.abstractSkaalattu lineaarinen regressio käsittää regularisointimenetelmiä, joissa regularisointitermin painoa skaalataan datasta estimoidun kohinatason perusteella. Tämä poistaa optimaalisen regularisointitermin riippuvuuden tuntemattomasta kohinatasosta, mikä mahdollistaa analyyttisesti johdettujen regularisointitermien käytön. Diplomityössä tarkasteltiin ridge, lasso ja elastinen verkko -regressiomenetelmien ominaisuuksia sekä skaalattuja regressiomenetelmiä, kuten skaalattua lasso- eli neliöjuurilassomenetelmää. Diplomityössä kehitettiin täysin uudet estimaattorit: skaalattu elastinen verkko ja neliöjuuri elastinen verkko, jotka toimivat paremmin kuin skaalattu lasso multikollineaarisissa tilanteissa, mikä osoitettiin numeerisilla simulaatioilla. Esimerkkinä käytännön sovelluksesta, uusia estimaattoreita sovellettiin DOA-estimoinnissa, jossa pyritään antenniryhmän avulla määrittämään signaalin tulosuunta. Saatujen tulosten perusteella voitiin päätellä, että diplomityössä ehdotetut estimaattorit pystyivät määrittämään tulosuunnan paremmin kuin skaalattu lasso etenkin, kun signaalin tulokulma oli suuri antenniryhmän akselin suhteen.fi
dc.ethesisidAalto 9322
dc.format.extent8+52
dc.format.mimetypeapplication/pdfen
dc.identifier.urihttps://aaltodoc.aalto.fi/handle/123456789/26143
dc.identifier.urnURN:NBN:fi:aalto-201705114623
dc.language.isoenen
dc.locationP1fi
dc.programmeCCIS - Master’s Programme in Computer, Communication and Information Sciences (TS2013)fi
dc.programme.majorSignal, Speech and Language Processingfi
dc.programme.mcodeELEC3031fi
dc.subject.keywordpenalized linear regressionen
dc.subject.keywordregularizationen
dc.subject.keywordscaled lassoen
dc.subject.keywordsquare-root lassoen
dc.subject.keywordelastic neten
dc.subject.keywordsparse methodsen
dc.titleScaled sparse linear regression with the elastic neten
dc.titleSkaalattu harva lineaarinen regressio elastisella verkollafi
dc.typeG2 Pro gradu, diplomityöfi
dc.type.ontasotMaster's thesisen
dc.type.ontasotDiplomityöfi
Files
Original bundle
Now showing 1 - 1 of 1
No Thumbnail Available
Name:
master_Raninen_Elias_2017.pdf
Size:
821 KB
Format:
Adobe Portable Document Format
Download
Collections
[dipl] Sähkötekniikan korkeakoulu / ELEC