Human-AI interaction in intelligent decision support systems
Loading...
URL
Journal Title
Journal ISSN
Volume Title
Perustieteiden korkeakoulu |
Master's thesis
Unless otherwise stated, all rights belong to the author. You may download, display and print this publication for Your own personal use. Commercial use is prohibited.
Authors
Date
2018-06-19
Department
Major/Subject
Information Networks
Mcode
SCI3047
Degree programme
Master’s Programme in Information Networks
Language
en
Pages
79+4
Series
Abstract
There has been a significant amount of debate whether artificially intelligent systems will make humans totally obsolete in the future or will humans still have a role in decision-making. This debate exists both in academia and in business. The most optimistic predictions state that AI systems can perform every task better than humans in the next 45 years. On the other end of the spectrum, some people say that there will always be tasks where AI is inferior to humans or to humans working together with AI. Whichever is the case, there will be a time period of at least 45 years, when humans are making decisions alongside AI. During this time of “man-computer symbiosis”, the focus should be on the joint performance of the human-machine system. Some key points of view are how the application needs to be designed, how the work needs to be divided between human and machine, how to maximize the benefit of having a human in the loop, and how to create a system that is as understandable as possible for the human user. This thesis will focus on how these questions need to be addressed when designing and developing an intelligent decision support system (IDSS), so that the joint performance is maximized. To gain more insight on the subject an IDSS that, in collaboration with the human user, creates customer segments out of geospatial customer data, is designed and developed. The objective of the study is to find an optimal way in which the user and AI can work together to perform as well as possible. To do this there are various aspects that need to be addressed ranging from human decision-making, to automation bias, and from interpretability of machine learning to human-AI interaction. These concepts and some guidelines on how the interaction should be designed based on these concepts will be introduced in the literature review. The design of the developed IDSS will be introduced in the application section. The results section will focus on how the IDSS addresses the issues found in the literature review to achieve the best possible joint performance of the human-machine system. Questions such as what succeeded, what proved to be a challenge, and what are the problems that lacked a passable solution, will be answered in the discussion section. Finally, in the conclusion the thesis will be recapped and some interesting potential topics that need further research will be introduced.Viime vuosina on käyty kiivasta keskustelua siitä, että tuleeko tekoäly ja koneoppiminen syrjäyttämään ihmiset päätöksentekijöinä kokonaan. Tätä keskustelua on käyty sekä liiketoiminnallisissa että akateemisissa ympäristöissä. Kaikkein optimistisimmat ennustukset väittävät, että tekoälyjärjestelmät ohittavat ihmisten kyvyt kaikessa seuraavan 45 vuoden aikana. Toisaalta, jotkut väittävät, että on olemassa tehtäviä, joissa ihmiset tulevat aina pärjäämään paremmin kuin tekoäly. Riippumatta siitä, että kumpi näkökanta tulee toteutumaan, tiedossa on ainakin 45 vuotta, jolloin ihmiset tekevät päätöksiä yhdessä tekoälyn kanssa. Tämän “ihmisen ja tietokoneen välisen symbioosin” aikana huomio tulisikin kohdistaa ihmisen ja koneen yhteissuoritukseen. Tärkeitä näkökulmia ovatkin, miten sovellukset tulisi suunnitella, miten työtehtävät tulisi jakaa ihmisen ja koneen välillä, miten maksimoida hyödyt siitä, että ihminen on aktiivisena osana järjestelmää, ja miten luoda mahdollisimman helposti ymmärrettäviä järjestelmiä. Tässä diplomityössä tutkitaan, miten näitä kysymyksiä tulisi lähestyä suunniteltaessa älykkäitä päätöksentukijärjestelmiä niin, että yhteissuoritus tulisi maksimoitua. Jotta aihetta pystyttäisiin tutkia tarkemmin, tässä työssä esitellään älykäs päätöksentukijärjestelmä, joka on suunniteltu ja kehitetty työtä varten. Kyseisessä päätöksentukijärjestelmässä ihmiskäyttäjä luo yhteistyössä koneen kanssa käyttäjäsegmenttejä geospatiaalisesta käyttäjädatasta. Työn tavoite on löytää ihanteellinen tapa, joka mahdollistaa käyttäjän ja tekoälyn maksimaalisen suorituksen. Jotta tämä onnistuisi, tulee ottaa huomioon monia näkökulmia vaihdellen ihmisten päätöksenteosta automaatioharhoihin, ja koneoppimisen ymmärrettävyydestä ihmisen ja tekoälyn väliseen vuorovaikutukseen. Nämä aihealueet ja ohjesääntöjä vuorovaikutuksen suunnitteluun esitellään kirjallisuuskatsauksessa. Kehitetty päätöksentukijärjestelmä tullaan esittelemään kappaleessa “Application”. Kappaleessa “Results” keskitytään siihen, miten kehitetty sovellus ottaa huomioon kirjallisuuskatsauksessa löytyneet kysymykset. Kappaleessa “Discussion” esitellään, mitä tätä työtä tehdessä on opittu, mikä onnistui, mitä haasteita oli, ja mihin ongelmiin ei löytynyt sopivaa ratkaisua. Lopulta, yhteenvedossa kerrataan työ ja esitellään muutamia mielenkiintoisia aiheita tuleville tutkimuksille.Description
Supervisor
Takala, TapioThesis advisor
Similä, TimoKeywords
human-aI interaction, human-in-the-loop, decision support system, machine learning, artificial intelligence