Deep learning-based receiver for mobile networks

Loading...
Thumbnail Image

URL

Journal Title

Journal ISSN

Volume Title

School of Science | Master's thesis

Department

Major/Subject

Mcode

Language

en

Pages

50

Series

Abstract

As mobile networks evolve toward 5G-Advanced and 6G, new approaches are needed to meet increasingly demanding requirements in areas such as data rate, power consumption, and reliability. Artificial intelligence (AI) and machine learning (ML) techniques are expected to provide solutions to many of these challenges. However, determining how much performance can practically be enhanced by AI/ML remains an open question for many tasks. To investigate potential performance gains enabled by AI/ML in a radio receiver, this thesis proposes a deep learning model that replaces channel estimation, equalization, and symbol demapping in the conventional receiver pipeline. Specifically, the proposed deep learning-based receiver utilizes a modified transformer architecture. To maintain compatibility with the conventional receiver pipeline, the transformer model is trained to predict soft transmitted bits from the received frequency domain signal and reference symbols. The training is conducted as a supervised learning task using a 5G-compliant simulator. The performance of the transformer model is measured in computational complexity and prediction accuracy. The results are evaluated by comparing the transformer model to a conventional linear minimum mean square error (LMMSE) receiver and DeepRx, which is among the best performing neural network receivers reported in literature. The results demonstrate that, especially in challenging high-order modulation test scenarios, the transformer-based receiver significantly outperforms the LMMSE receiver in terms of prediction accuracy. Furthermore, the transformer-based receiver achieves similar radio performance as DeepRx with comparable model complexity and parameter count.

Mobiiliverkkojen kehitys kohti 5G-Advanced- ja 6G-teknologioita luo tarvetta uusille menetelmille, joiden avulla yhä haastavammat vaatimukset, esimerkiksi tiedonsiirtonopeudessa, energiankulutuksessa ja toimintavarmuudessa, voidaan saavuttaa. Tekoälystä (AI) ja koneoppimisesta (ML) odotetaan ratkaisua moniin näistä haasteista, mutta todelliset suorituskykyparannukset ovat useille ongelmille vielä tuntemattomia. Selvittääkseen AI/ML-algoritmien mahdollistamia suorituskyvyn parannuksia radiovastaanottimessa tämä työ esittää syväoppimismallin, joka korvaa kanavan estimoinnin, ekvalisoinnin ja symbolien demoduloimisen tavanomaisen vastaanottimen prosessointiketjusta. Esitelty syväoppimispohjainen vastaanotin hyödyntää muokattua transformer-arkkitehtuuria ja on harjoitettu ennustamaan vastaanotetun taajuustasossa olevan signaalin ja referenssisymbolien perusteella koodatut lähetetyt bitit. Transformer-malli on harjoitettu ohjattua oppimista hyödyntäen ja käyttäen 5G-yhteensopivaa simulaattoria. Transformer-mallin suorituskykyä arvioidaan vertaamalla mallin laskennallista kompleksisuutta ja tarkkuutta tavanomaiseen lineaarista pienintä keskineliövirhettä (LMMSE) hyödyntävään vastaanottimeen ja konvoluutioneuroverkko DeepRx:ään, jonka suorituskyky on parhaiden kirjallisuudessa raportoitujen neuroverkkovastaanotinmallien joukossa. Työn tulokset osoittavat, että varsinkin haastavissa korkean asteen modulaation testiskenaarioissa esitellyn transformer-pohjaisen vastaanottimen suorituskyky tarkkuudessa mitattuna on huomattavasti parempi kuin LMMSE-vastaanottimen. Lisäksi transformer-pohjaisen vastaanottimen suorituskyky on samankaltainen kuin DeepRx:n, jonka laskennallinen kompleksisuus ja parametrimäärä ovat samaa luokkaa työssä esitetyn mallin kanssa.

Description

Supervisor

Hannukainen, Antti

Thesis advisor

Izadi, Kimia
Barzegar Marvasti, Neda

Other note

Citation