Konvoluutioneuroverkkojen tulkinta visualisointimenetelmien avulla

Thumbnail Image

Files

URL

Journal Title

Journal ISSN

Volume Title

School of Electrical Engineering | Bachelor's thesis
Electronic archive copy is available locally at the Harald Herlin Learning Centre. The staff of Aalto University has access to the electronic bachelor's theses by logging into Aaltodoc with their personal Aalto user ID. Read more about the availability of the bachelor's theses.
Unless otherwise stated, all rights belong to the author. You may download, display and print this publication for Your own personal use. Commercial use is prohibited.

Authors

Date

2025-12-12

Department

Major/Subject

Information Technology

Mcode

Degree programme

Bachelor's Programme in Electrical Engineering
Sähkötekniikan kandidaattiohjelma
Kandidatprogrammet i elektroteknik

Language

fi

Pages

31

Series

Abstract

Työssä tarkastellaan konvoluutioneuroverkkojen (CNN) tulosten selitettävyyttä visualisointimenetelmien avulla. Koneoppimismallien sisäinen toiminta on usein vaikeasti tulkittavaa. Visualisointi auttaa käyttäjää tai kehittäjää ymmärtämään, mihin mallin päätökset perustuvat. Työn tavoitteena on vertailla neljää yleistä CNN-visualisointimenetelmää: Saliency map, Grad-CAM, Guided Grad-CAM ja Layer-wise Relevance Propagation (LRP). Menetelmiä esitetään esimerkeillä, joissa käytetään ImageNet-tietokannalla esikoulutettua AlexNet-mallia. Visualisoinnit toteutetaan Pythonilla hyödyntäen PyTorch-ekosysteemiä sekä avoimen lähdekoodin toteutuksia. Tuloksissa havaittiin, että eri menetelmät näyttävät mallin päätöksiä eri tarkkuuksilla. Saliency map on yksinkertainen ja laskennallisesti tehokas, mutta sen tuottamat kuvat ovat kohinaisia. Grad-CAM antaa selkeän kuvan siitä, mihin mallin huomio kohdistuu ja säilyttää tehokkuuden. Guided Grad-CAM tuo tähän yksityiskohtia. LRP näyttää verkon sisäiset päätökset tarkemmin, mutta sen tulkinta vaatii hieman teknisempää ymmärrystä. Tulosten perusteella voidaan todeta, että visualisointimenetelmät auttavat ymmärtämään CNN-malleja paremmin. Menetelmän valinta riippuu sovelluskohteesta, mutta useamman menetelmän käyttäminen antaa yleensä parhaan kokonaiskuvan mallin toiminnasta.

Description

Supervisor

Lassila, Pasi

Thesis advisor

Alku, Paavo

Keywords

visualisointi, XAI, explainable artificial intelligence, konvoluutioneuroverkko

Other note

Citation

Permanent link to this item

https://urn.fi/URN:NBN:fi:aalto-202512199498

Collections

[kand] Sähkötekniikan korkeakoulu / ELEC