Scaled sparse linear regression with the elastic net

 |  Login

Show simple item record

dc.contributor Aalto-yliopisto fi
dc.contributor Aalto University en
dc.contributor.advisor Ollila, Esa
dc.contributor.author Raninen, Elias
dc.date.accessioned 2017-05-11T10:31:41Z
dc.date.available 2017-05-11T10:31:41Z
dc.date.issued 2017-05-08
dc.identifier.uri https://aaltodoc.aalto.fi/handle/123456789/26143
dc.description.abstract Scaled linear regression is a form of penalized linear regression in which the penalty level is automatically scaled in proportion to the estimated noise level in the data. This makes the penalty parameter independent of the noise scale enabling an analytical approach for choosing an optimal penalty level for a given problem. In this thesis, we first review conventional penalized regression methods, such as ridge regression, lasso, and the elastic net. Then, we review some scaled sparse linear regression methods, the most relevant of which is the scaled lasso, also known as square-root lasso. As an original contribution, we propose two elastic net formulations, which extend the scaled lasso to the elastic net framework. We demonstrate by numerical examples that the proposed estimators improve upon the scaled lasso in the presence of high correlations in the feature space. As a real-world application example, we apply the proposed estimators in a simulated single snapshot direction-of-arrival (DOA) estimation problem, where we show that the proposed estimators perform better, especially when the angles of incidence of the DOAs are oblique with respect to the uniform linear array (ULA) axis. en
dc.description.abstract Skaalattu lineaarinen regressio käsittää regularisointimenetelmiä, joissa regularisointitermin painoa skaalataan datasta estimoidun kohinatason perusteella. Tämä poistaa optimaalisen regularisointitermin riippuvuuden tuntemattomasta kohinatasosta, mikä mahdollistaa analyyttisesti johdettujen regularisointitermien käytön. Diplomityössä tarkasteltiin ridge, lasso ja elastinen verkko -regressiomenetelmien ominaisuuksia sekä skaalattuja regressiomenetelmiä, kuten skaalattua lasso- eli neliöjuurilassomenetelmää. Diplomityössä kehitettiin täysin uudet estimaattorit: skaalattu elastinen verkko ja neliöjuuri elastinen verkko, jotka toimivat paremmin kuin skaalattu lasso multikollineaarisissa tilanteissa, mikä osoitettiin numeerisilla simulaatioilla. Esimerkkinä käytännön sovelluksesta, uusia estimaattoreita sovellettiin DOA-estimoinnissa, jossa pyritään antenniryhmän avulla määrittämään signaalin tulosuunta. Saatujen tulosten perusteella voitiin päätellä, että diplomityössä ehdotetut estimaattorit pystyivät määrittämään tulosuunnan paremmin kuin skaalattu lasso etenkin, kun signaalin tulokulma oli suuri antenniryhmän akselin suhteen. fi
dc.format.extent 8+52
dc.format.mimetype application/pdf en
dc.language.iso en en
dc.title Scaled sparse linear regression with the elastic net en
dc.title Skaalattu harva lineaarinen regressio elastisella verkolla fi
dc.type G2 Pro gradu, diplomityö fi
dc.contributor.school Sähkötekniikan korkeakoulu fi
dc.subject.keyword penalized linear regression en
dc.subject.keyword regularization en
dc.subject.keyword scaled lasso en
dc.subject.keyword square-root lasso en
dc.subject.keyword elastic net en
dc.subject.keyword sparse methods en
dc.identifier.urn URN:NBN:fi:aalto-201705114623
dc.programme.major Signal, Speech and Language Processing fi
dc.programme.mcode ELEC3031 fi
dc.type.ontasot Master's thesis en
dc.type.ontasot Diplomityö fi
dc.contributor.supervisor Ollila, Esa
dc.programme CCIS - Master’s Programme in Computer, Communication and Information Sciences (TS2013) fi
dc.ethesisid Aalto 9322
dc.location P1 fi


Files in this item

This item appears in the following Collection(s)

Show simple item record

Search archive


Advanced Search

article-iconSubmit a publication

Browse

My Account