Dissimilarity measures between binary data sets

No Thumbnail Available

URL

Journal Title

Journal ISSN

Volume Title

Helsinki University of Technology | Diplomityö
Checking the digitized thesis and permission for publishing
Instructions for the author

Date

2004

Major/Subject

Informaatiotekniikka

Mcode

T-122

Degree programme

Language

en

Pages

73

Series

Abstract

Eroavaisuusmitoilla kahden abstraktin objektin välillä on tärkeä osa tiedonlouhinnassa. Perinteisesti mitat on määritelty kahden datapisteen välille. Tässä työssä tutkitaan mittoja kahden binääridatan välillä. Binääridatalla tarkoitetaan joukkoa, joka koostuu 0-1 vektoreista. Esimerkiksi tällainen data voisi olla myyntidata siten, että jokainen vektori edustaisi yhtä ostostapahtumaa. Jos sellainen myyntidata olisi kerätty eri kuukausina, niin siinä tapauksessa voitaisiin tutkia miten ostoskäyttäytyminen eroaa eri aikoina. Työssä oletetaan, että binääridata on generoitu jostain tuntemattomasta jakaumasta. Mitta määritellään epäsuorasti jakaumien kautta. Estimoidakseen jakauma datasta käytetään hyväksi kattavia joukkoja ja tunnettuja informaatioteoreettisia työkaluja: Estimaatti on jakauma, jolla on korkein entropia ja joka täyttää tietyt kattavien joukkojen asettamat ehdot. Kahden datajoukon väliseksi mitaksi määritellään näitten datajoukkojen jakaumien estimaattien Kullback-Leibler informaatio. Suurin ongelma tässä lähestymistavassa on, että kyseinen mitta ei ole yleisessä tapauksessa laskettavissa polynomisessa ajassa. Työssä tarkastellaan kahta mallia, tarkemmin sanottuna riippumattomuusmallia ja Chow-Liu -puumallia, joita käyttämällä mitta voidaan laskea tehokkaasti. Yleisempää tapausta varten Kullback-Leibler korvataan toisen asteen estimaatilla. Työssä esitetään, miten tällainen estimaatti voidaan laskea tehokkaasti. Testatakseen mittoja työssä käytetään tunnettua datajoukkoa, joka koostuu 20 000 artikkelista, jotka on kerätty 20 eri uutisryhmästä. Uutisryhmistä muodostetaan bag-of-words -esitykset, joita käytetään mittojen testaamiseen. Työssä tarkastellaan saatuja tuloksia ja päädytään lopputulokseen, että ne ovat järkeviä.

Description

Supervisor

Mannila, Heikki

Thesis advisor

Mannila, Heikki

Keywords

information theory, informaatioteoria, binary data, binääridata, itemsets, kattavat joukot

Other note

Citation