Dissimilarity measures between binary data sets

No Thumbnail Available
Journal Title
Journal ISSN
Volume Title
Helsinki University of Technology | Diplomityö
Checking the digitized thesis and permission for publishing
Instructions for the author
Date
2004
Major/Subject
Informaatiotekniikka
Mcode
T-122
Degree programme
Language
en
Pages
73
Series
Abstract
Eroavaisuusmitoilla kahden abstraktin objektin välillä on tärkeä osa tiedonlouhinnassa. Perinteisesti mitat on määritelty kahden datapisteen välille. Tässä työssä tutkitaan mittoja kahden binääridatan välillä. Binääridatalla tarkoitetaan joukkoa, joka koostuu 0-1 vektoreista. Esimerkiksi tällainen data voisi olla myyntidata siten, että jokainen vektori edustaisi yhtä ostostapahtumaa. Jos sellainen myyntidata olisi kerätty eri kuukausina, niin siinä tapauksessa voitaisiin tutkia miten ostoskäyttäytyminen eroaa eri aikoina. Työssä oletetaan, että binääridata on generoitu jostain tuntemattomasta jakaumasta. Mitta määritellään epäsuorasti jakaumien kautta. Estimoidakseen jakauma datasta käytetään hyväksi kattavia joukkoja ja tunnettuja informaatioteoreettisia työkaluja: Estimaatti on jakauma, jolla on korkein entropia ja joka täyttää tietyt kattavien joukkojen asettamat ehdot. Kahden datajoukon väliseksi mitaksi määritellään näitten datajoukkojen jakaumien estimaattien Kullback-Leibler informaatio. Suurin ongelma tässä lähestymistavassa on, että kyseinen mitta ei ole yleisessä tapauksessa laskettavissa polynomisessa ajassa. Työssä tarkastellaan kahta mallia, tarkemmin sanottuna riippumattomuusmallia ja Chow-Liu -puumallia, joita käyttämällä mitta voidaan laskea tehokkaasti. Yleisempää tapausta varten Kullback-Leibler korvataan toisen asteen estimaatilla. Työssä esitetään, miten tällainen estimaatti voidaan laskea tehokkaasti. Testatakseen mittoja työssä käytetään tunnettua datajoukkoa, joka koostuu 20 000 artikkelista, jotka on kerätty 20 eri uutisryhmästä. Uutisryhmistä muodostetaan bag-of-words -esitykset, joita käytetään mittojen testaamiseen. Työssä tarkastellaan saatuja tuloksia ja päädytään lopputulokseen, että ne ovat järkeviä.
Description
Supervisor
Mannila, Heikki
Thesis advisor
Mannila, Heikki
Keywords
information theory, informaatioteoria, binary data, binääridata, itemsets, kattavat joukot
Other note
Citation