Dissimilarity measures between binary data sets

Abstract

Eroavaisuusmitoilla kahden abstraktin objektin välillä on tärkeä osa tiedonlouhinnassa. Perinteisesti mitat on määritelty kahden datapisteen välille. Tässä työssä tutkitaan mittoja kahden binääridatan välillä. Binääridatalla tarkoitetaan joukkoa, joka koostuu 0-1 vektoreista. Esimerkiksi tällainen data voisi olla myyntidata siten, että jokainen vektori edustaisi yhtä ostostapahtumaa. Jos sellainen myyntidata olisi kerätty eri kuukausina, niin siinä tapauksessa voitaisiin tutkia miten ostoskäyttäytyminen eroaa eri aikoina.

Työssä oletetaan, että binääridata on generoitu jostain tuntemattomasta jakaumasta. Mitta määritellään epäsuorasti jakaumien kautta. Estimoidakseen jakauma datasta käytetään hyväksi kattavia joukkoja ja tunnettuja informaatioteoreettisia työkaluja: Estimaatti on jakauma, jolla on korkein entropia ja joka täyttää tietyt kattavien joukkojen asettamat ehdot. Kahden datajoukon väliseksi mitaksi määritellään näitten datajoukkojen jakaumien estimaattien Kullback-Leibler informaatio.

Suurin ongelma tässä lähestymistavassa on, että kyseinen mitta ei ole yleisessä tapauksessa laskettavissa polynomisessa ajassa. Työssä tarkastellaan kahta mallia, tarkemmin sanottuna riippumattomuusmallia ja Chow-Liu -puumallia, joita käyttämällä mitta voidaan laskea tehokkaasti. Yleisempää tapausta varten Kullback-Leibler korvataan toisen asteen estimaatilla. Työssä esitetään, miten tällainen estimaatti voidaan laskea tehokkaasti.

Testatakseen mittoja työssä käytetään tunnettua datajoukkoa, joka koostuu 20 000 artikkelista, jotka on kerätty 20 eri uutisryhmästä. Uutisryhmistä muodostetaan bag-of-words -esitykset, joita käytetään mittojen testaamiseen. Työssä tarkastellaan saatuja tuloksia ja päädytään lopputulokseen, että ne ovat järkeviä.