aalto1 untyped-item.component.html
Deep learning model interpretability in 6G physical layer via influence functions
Loading...
URL
Journal Title
Journal ISSN
Volume Title
School of Science |
Master's thesis
Unless otherwise stated, all rights belong to the author. You may download, display and print this publication for Your own personal use. Commercial use is prohibited.
Authors
Date
Department
Mcode
Language
en
Pages
111
Series
Abstract
Deep Learning (DL) has recently demonstrated superior performance in wireless‐communication tasks, with fully convolutional receivers such as DeepRx mapping noisy frequency‑domain symbols directly to bit estimates under challenging channel conditions. The opaque nature of these high-capacity models, however, hinders stakeholder trust and obstructs targeted debugging and reliability assessment in critical 6G physical-layer deployments. Influence Functions (IF) offer a framework for attributing test loss changes to individual training instances by measuring the effect of their infinitesimal upweighting on model parameters. In this work, influence is quantified using a differentiable approximation of the Bit Error Rate (BER) as the test loss in place of the Binary Cross-Entropy loss used for training, ensuring that attribution is based on the true uncoded performance metric for the receiver. Four research problems are addressed in the context of DeepRx: the utility of Arnoldi‑based influence functions for DL receiver debugging; the identification of training instances that widely affect the most accurately or inaccurately predicted test instances; the interpretation of model behavior through analysis of the influential instances; and the empirical justification of the proposed BER approximation as a test loss. Theoretical analysis and experiments on simulated channel data validate that the BER approximation prevents misleading attributions in confidently classified cases, making IF a potential tool for interpretable DL in next-generation wireless receivers.
Syväoppimismallit ovat viime aikoina osoittaneet ylivoimaista suorituskykyä langattomaan tiedonsiirtoon liittyvissä tehtävissä. Konvoluutionaaliset neuroverkkovastaanottimet kuten DeepRx arvioivat lähetetyt bittijonot tarkasti vastaanotetuista kohinaisista taajuusalueen symboleista vaativissa kanavaolosuhteissa. Näiden voimakkaiden tekoälymallien ominaisuus mustina laatikkoina kuitenkin heikentää eri käyttäjäryhmien luottamusta niihin sekä vaikeuttaa kohdennettua virheenkorjausta ja luotettavuuden arviointia 6G:n fyysisen kerroksen sovelluksissa. Vaikutusfunktiot tarjoavat työkalun mittaamaan yksittäisen koulutuspisteen vaikutuksen testidatapisteen tuottamaan tappiofunktion arvoon. Vaikutus testidatapisteen tappioon kohdennetaan laskemalla koulutusdatapisteen äärettömän pienen painotuksen vaikutus mallin parametreihin. Tässä työssä vaikutus lasketaan käyttämällä derivoituvaa approksimaatiota koodaamattomasta bittivirhesuhteesta koulutuksessa käytetyn binäärisen ristientropiatappiofunktion sijaan, jotta vaikutusarvot kuvaavat vastaanottimen todellista koodaamatonta suorituskykymetriikkaa. Työssä tutkitaan neljää tutkimusongelmaa DeepRx-arkkitehtuurin näkökulmasta: Arnoldi-pohjaisten vaikutusfunktioiden toimivuutta neuroverkkovastaanottimien virheenkorjaukseen; tarkimmin ja epätarkimmin vastaanotettujen testidatapisteiden keskuudessa laajasti vaikuttavien koulutusdatapisteiden olemassaoloa; vaikuttavien koulutusdatapisteiden pohjalta tehtyjä havaintoja mallin toiminnasta; ja esitetyn bittivirhesuhteen käytön soveltuvuutta vaikutuslaskentaan. Teoreettinen analyysi ja simuloidulla kanavadatalla tehdyt kokeet osoittavat, että bittivirhesuhteen approksimaatio estää harhaanjohtavia attribuutioita, mikä tekee vaikutusfunktioista potentiaalisen työkalun syväoppimismallien tulkintaan tulevaisuuden langattomissa vastaanottimissa.