Preventing unfair outcomes caused by algorithmic bias

Abstract

Algorithms and AI increasingly impact people, organizations, and nations. A lot of the past research has focused on the positive effects of these technologies but recently there has also been an increasing amount of attention directed towards the possible negative effects and the scope of the issue. Negative effects may potentially include things like increases in biases, destructive effects, reduction of human agency, spread of misinformation and propaganda trough deepfakes, privacy issues and transparency issues.

This thesis inspects the issues of unfair outcomes caused by algorithmic bias through a literature review aiming to bring together research from various fields due to the complex and multidisciplinary nature of the issue. The 3-D Dependable AI Framework is utilized as a tool to showcase possible ways of preventing unfair outcomes.

Different types of biases, broadly categorized into cognitive and technical biases, are identified and presented as potential causes of unfair outcomes. The autonomy of AI systems and shortcomings in legal and regulatory frameworks are also examined and highlighted as potential causes of unfair outcomes, warranting further attention.

Possible ways of preventing unfair outcomes are examined and introduced with the help of the 3-D Dependable AI Framework which divides the life cycle of AI into 3 main stages: design, develop and deploy. Each of these stages hold important steps in developing and maintaining ethical AI.

The limitations of the research are discussed, along with implications for both research and practice, emphasizing the need for action and further examination from both governmental and organizational perspectives. Directions and recommendations for future research are also presented.

Tekoäly ja algoritmit vaikuttavat lisääntyvissä määrin ihmisten, organisaatioiden ja jopa valtioiden toimintaan. Suurin osa aikaisemmasta tutkimuksesta on keskittynyt näiden järjestelmien positiivisiin vaikutuksiin, mutta lähiaikoina myös tekoälyn mahdollisten negatiivisten vaikutusten sekä ongelmien laajuuden tarkastelu ovat lisääntyneet. Mahdolliset negatiiviset vaikutukset voivat sisältää esimerkiksi algoritmisten harhojen lisääntyminen, tuhoisia vaikutuksia, ihmisen toimijuuden vähentyminen, väärän tiedon ja propagandan leviäminen deepfake teknologian avulla, yksityisyysoikeuksien heikkeneminen ja toiminnallisen läpinäkyvyyden heikkeneminen.

Tämä kandidaatintyö tarkastelee algoritmisten harhojen aiheuttamien epäoikeudenmukaisuuksien ehkäisemistä kirjallisuuskatsauksen avulla. Työ pyrkii yhdistämään tutkimusta monelta eri alalta, aiheen monimutkaisuuden ja monitieteisyyden takia. 3-D Dependable AI Framework viitekehystä hyödynnetään työkaluna ja sen mahdollisuuksia ehkäistä haittavaikutuksia tuodaan esille löydöksien avulla.

Työ tunnistaa karkeasti jaoteltuna kahden tyyppisiä vinoumia, kognitiivisia sekä teknisiä vinoumia, joiden osoitetaan aiheuttavan algoritmisia vinoumia ja negatiivisia haittavaikutuksia. Tekoälyjärjestelmien autonomia sekä lainsäädännön ja sääntelykehysten puutteet tunnistetaan myös mahdollisiksi syiksi tekoälyn aiheuttamille haittavaikutuksille.

Mahdollisia tapoja ehkäistä tekoälyn aiheuttamia haittavaikutuksia tarkastellaan ja esitellään 3-D Dependable AI Framework viitekehystä avuksi käyttäen. Viitekehys jakaa tekoälyn kehittämis- sekä tarkasteluprosessin kolmeen päävaiheeseen: suunnittelu, kehittäminen ja käyttöönotto, jotka jokainen sisältävät tärkeitä vaiheita eettisen tekoälyn kehittämistä ja ylläpitämistä varten.

Lopuksi tutkimuksen rajoitteista keskustellaan, sekä vaikutuksista tutkimukselle ja käytännölle korostaen tarvetta toiminnalle ja tarkastelulle valtioiden sekä organisaatioiden näkökulmasta. Myös suuntia sekä suosituksia tulevaisuuden tutkimukselle esitetään.