Generative multi-task learning for the air channel via hierarchical GANs
No Thumbnail Available
URL
Journal Title
Journal ISSN
Volume Title
Perustieteiden korkeakoulu |
Master's thesis
Authors
Date
2024-08-19
Department
Major/Subject
Machine Learning, Data Science and Artificial Intelligence
Mcode
SCI3044
Degree programme
Master’s Programme in Computer, Communication and Information Sciences
Language
en
Pages
61
Series
Abstract
In wireless communication, channel model refers to an abstraction that aims to explain how a transmitted signal is altered in the process of wireless communication. Currently, most of the channel models are a compromise between accuracy and computational ex- penses. In order to achieve higher accuracy with lower computational costs, deep learning based generative modelling has been suggested for the channel modelling problem, with promising results. However, a major drawback within the framework of deep learning is the amount of training data required for success. Since channel measurements are expensive to obtain, methods for enhancing the data efficiency of generative modelling must be investigated. Specifically, as channel models for different locations share inherent similarities, multi-task learning from different, yet related datasets could reduce required data volume for an individual channel model. This thesis investigates the deep generative modelling via generative adversarial net- works (GANs), their Bayesian generalisation, and finally proposes a novel generative modelling scheme for multi-task generation, motivated by Bayesian hierarchical mod- elling. Our simulations show that our proposed scheme does not only greatly enhance the data efficiency of the channel modelling, but it also decreases instabilities usually present in GAN training. Furthermore, as our proposed modelling scheme is of great generality, it may be utilised in any modelling problem where multiple related, but limited datasets are present.Langattomassa tiedonsiirrossa kanavamallilla viitataan abstraktioon, jonka tarkoituk- sena on selittää, kuinka lähetetty signaali muuttuu tiedonsiirron seurauksena. Tällä hetkellä suurin osa käytetyistä kanavamalleista ovat kompromisseja laadun ja laskennallisten kustannusten välillä. Paremman laadun saavuttamiseksi matalammilla laskennallisilla kustannuksilla, syväoppimiseen perustuvia generatiivisia malleja on ehdotettu kanavamallinnusongelmaan, lupaavin tuloksin. Huomattava varjopuoli syväoppimisen viitekehyksessä on kuitenkin tarve suurelle määrälle dataa. Koska kanavamittaukset ovat kalliita, metodeja datan käytön tehokkuuden parantamiseksi täytyy tutkia. Erityisesti, koska kanavamallit eri sijainneille jakavat luontaisia samankaltaisuuksia, monitehtäväoppiminen (multi-task learning) erilaisista, mutta toisiinsa liittyvistä datajoukoista voisi vähentää vaadittavaa datamäärää yksittäiselle kanavamallille. Tämä tutkielma tutkii syvää generatiivista mallinnusta generatiivisilla kilpailevilla neuroverkoilla, niiden Bayesilaista yleistystä ja lopuksi ehdottaa uutta mallinnusjärjestelmää monitehtävägeneroinnille (multi-task generation), jonka motivaationa on bayesilainen hierarkinen mallinnus. Simuloimamme tulokset osoittavat, että ehdotettu mallinnusjärjestelmä ei ainoastaan suuresti paranna datan käytön tehokkuutta kanavamallinnukselle, vaan lisäksi vähentää koulutusprosessin epävakautta, joka on usein läsnä generatiivisten kilpailevien neuroverkkojen koulutuksessa. Lisäksi, koska ehdottamamme mallinnusjärjestelmä on hyvin yleisluontoinen, sitä voidaan käyttää missä tahansa mallinnusongelmassa jossa esiintyy useita toisiinsa liittyviä, mutta kooltaan rajoitettuja datajoukkoja.Description
Supervisor
Ollila, EsaThesis advisor
Vorobyov, SergiyKeywords
GANs, Bayesian deep learning, stochastic gradient Markov Chain Monte Carlo, hierarchical modelling, air channel, multi-task learning