Vähäkoodisen ohjelmistokehityksen vaikutus tekoälyn selitettävyyteen ja ymmärrettävyyteen

Abstract

Vähäkoodinen ohjelmistokehitys on aiheena ajankohtainen. Vähäkoodisella ohjelmistokehityksellä voidaan kehittää ohjelmistoja graafisten komponenttien avulla siten, että perinteistä koodia tarvitaan joko vähän tai ei lainkaan. Tämän diplomityön tavoitteena on tutkia, miten vähäkoodinen ohjelmistokehitys vaikuttaa tekoälyn ymmärrettävyyteen ja selitettävyyteen ohjelmiston tilaajan kannalta.

Tämän diplomityön empiirisen tutkimuksen lähestymistavaksi valittiin konstruktiivinen tutkimusmenetelmä ja se toteutettiin tapaustutkimuksen ja puolistrukturoitujen haastattelujen avulla. Tutkimuksessa toteutettiin olemassa olevaan rekrytointipeliin lisäosa, jossa pelaajalle annetaan suosituksia kohdeyrityksen avoimista työpaikoista. Lisäosa toteutettiin OutSystems-kehitysalustalla, joka on tekoälyä hyödyntävä vähäkoodinen ohjelmistokehitysalusta. Lisäosan demonstroinnin yhteydessä haastatteluun valituille henkilöille esiteltiin OutSystems-kehitysalustan avulla tuotetut graafiset prosessimallit.

Tutkimustuloksista selvisi, että vähäkoodisen kehitysalustan avulla tuotetut graafiset mallit lisäävät tekoälyä hyödyntävän sovelluksen ymmärrettävyyttä ja selitettävyyttä. Haastateltavat olivat yksimielisiä siitä, että graafiset prosessikaaviot auttoivat ymmärtämään työpaikkojen suosittelu -osion toimintalogiikkaa. Tekoälyn selitettävyys parani, kun tilaaja pystyi tunnistamaan ohjelmistossa käytettävän datan ja ymmärtämään, mistä data oli peräisin ja miten sitä käsiteltiin.

Low-code software development will play an increasingly important role in future software development. Low-code software development allows software to be developed using graphical components with little or no need for traditional coding. The aim of this thesis is to investigate how low-code software development affects the understandability and explainability of artificial intelligence (AI) for the client.

Design science was chosen as the empirical research method for the thesis. The research was conducted through a case study and semi-structured interviews. In the case study, an extension to an existing recruitment game was developed. In the developed extension, the player is given recommendations on job vacancies in the target company. The extension was implemented on the OutSystems which is low-code development platform. During the presentation of the extension, the interviewees were shown graphical process models produced on the OutSystems development platform.

The results of the empirical study showed that graphical models provided by a low-code development platform support the understandability and explainability of AI-based system. The interviewees agreed that the graphical process diagrams helped to understand the functional logic of the job recommendation section. The explainability of the AI-based system improved when the client was able to identify the data used in the software, understand where the data came from and how it was processed.