Generating Role-Playing Game Quest Descriptions With the GPT-2 Language Model

Thumbnail Image

Files

master_Värtinen_Susanna_2022.pdf (776.82 KB)

URL

Journal Title

Journal ISSN

Volume Title

Perustieteiden korkeakoulu | Master's thesis
Unless otherwise stated, all rights belong to the author. You may download, display and print this publication for Your own personal use. Commercial use is prohibited.

Authors

Date

2022-01-24

Department

Major/Subject

Computer Science

Mcode

SCI3042

Degree programme

Master’s Programme in Computer, Communication and Information Sciences

Language

en

Pages

50

Series

Abstract

Recent advances in artificial intelligence research have brought forth text-generating language models with promising computational storytelling capabilities. This thesis leveraged one of the most successful Transformer models, GPT-2, to automatically generate video game quest descriptions. We aimed to replace traditional procedural content generation methods for quests in games, as these often produce uninteresting, mechanical descriptions. We have gathered and processed a novel quest data set from a selection of popular 3D role-playing games. We have fine-tuned GPT-2 on the data set using various learning optimizations. Most notably, we replaced proper nouns within raw quest data with generic placeholder tokens to reduce unnecessary variance. We validated the resulting \questgpt{} model via an online user study performed by role-playing game players. Our results indicate that one in five quest descriptions would be deemed acceptable by a human critic, yet the variation in quality across individual quests is large. Further work utilizing next-generation language models and our quest data set is expected to result in improved quest description quality.

Tekoälytutkimuksen viimeaikaiset edistysaskeleet ovat synnyttäneet tekstiä generoivia kielimalleja, joiden kyvyt algoritmisen tarinankerronnan saralla ovat lupaavia. Tämä diplomityö hyödynsi GPT-2:ta, yhtä menestyneintä Transformer-mallia, videopelitehtävien kuvausten automaattiseen generointiin. Tavoitteenamme oli korvata perinteiset videopelitehtävien luomiseen käytetyt proseduraaliset sisällönluontimetodit, sillä ne tuottavat usein mielenkiinnottomia, mekaanisia tehtävänkuvauksia. Olemme keränneet ja käsitelleet uudenlaisen pelitehtävistä koostuvan tietoaineiston muutamista suosituista 3D-roolipeleistä. Hienosäädimme GPT-2:ta käyttäen kokoamaamme tietoaineistoa hyödyntäen samalla useita oppimisen optimointitapoja. Korvasimme erityisesti perusmuotoisen tehtäväaineiston sisältämät erisnimet yleisluontoisilla tekstipaikkamerkeillä vähentääksemme turhaa vaihtelevaisuutta. Validoimme tuottamamme \questgpt{}-mallin roolipelipelaajille suunnatulla internetkyselytutkimuksella. Tuloksemme osoittavat, että ihmiskriitikot hyväksyisivät viidenneksen tehtävänkuvauksista, joskin laadun vaihtelu yksittäisten tehtävien välillä on suurta. On oletettavaa, että tehtävänkuvausten laatua voitaisiin parantaa seuraavan sukupolven kielimalleja ja pelitehtävätietoainestoamme hyödyntäen.

Description

Supervisor

Hämäläinen, Perttu

Thesis advisor

Guckelsberger, Christian

Keywords

artificial intelligence, generative models, procedural content generation, computational storytelling, quests, video games

Other note

Citation

Permanent link to this item

https://urn.fi/URN:NBN:fi:aalto-202202061745

Collections

[dipl] Perustieteiden korkeakoulu / SCI