aalto1 untyped-item.component.html
Laajojen kielimallien päättelykyvyn rajoitteet ja mahdollisuudet sovellusintegraation avulla
Loading...
URL
Journal Title
Journal ISSN
Volume Title
School of Science |
Bachelor's thesis
Unless otherwise stated, all rights belong to the author. You may download, display and print this publication for Your own personal use. Commercial use is prohibited.
Authors
Date
Department
Major/Subject
Mcode
Language
fi
Pages
27
Series
Abstract
Tässä kandidaatintyössä tutkitaan laajojen kielimallien päättelykyvyn rajoitteita sekä mahdollisuutta parantaa generetiivisten tekoälysovellusten päättelykykyä soveltamalla eri menetelmien avulla kielimalleja sekä päättelyä tukevia rakenteita. Työn alussa tarkastellaan kielimallien kehitystä sekä niiden käyttömahdollisuuksien nykytilaa. Tämän jälkeen perehdytään kielimallien käytön rajoitteisiin keskittyen etenkin päättelykyvyn rajoitteisiin. Lopussa tutkitaan, minkälaisilla menetelmillä kielimalleja hyödyntäviin sovelluksiin voitaisiin tuoda päättelyn rakenteita, ja miten päättelykyky paranee näiden avulla. Työtä ohjaa Marcuksen (2020) näkemys siitä, että kielimalleja voidaan hyödyntää tehokkaasti generointikerroksen osana, mutta logiikkakerroksen on ohjattava niiden toimintaa.
Tämä kandidaatintyö on kirjallisuuskatsaus, jossa hyödynnettään 27 keskeistä artikkelia, jotka löydettiin muun muassa Scopushaun avulla. Työn tulokset osoittavat, että kielimallien toimintalogiikkaan ei sisälly totuusarvojen hyödyntämistä, syy-seuraussuhteiden noudattamista tai muita päättelyn rakenteita. Kielimallien peruslogiikkana on rakentaa tekstiyksiköistä (engl. token) jonona valitsemalla peräkkäisiä tekstiyksikköjä mallien koulutusdatasta analysoitujen tekstin rakenteisiin perustuvien tilastollisten todennäköisyyksien avulla. Kielimalleja hyödyntäviin sovelluksiin voidaan integroida päättelyn rakenteita siten, että generointikerroksessa sijaitsevia kielimalleja ohjataan erilaisten menetelmien avulla sovelluksen logiikkakerroksesta. Kielimalleja hyödyntäviin sovelluksiin voidaan siis integroida päättelyä tukevia rakenteita, mutta prosessien niihin osiin, joissa työstövastuu on kielimalleilla, ei saada lisättyä päättelyn rakenteita ilman, että kielimallien sisäistä logiikkaa muutetaan.