Sonic gestures and rhythmic interaction between the human and the computer

Abstract

This thesis addresses the use of sonic gestures as input in human-computer interaction with a special applicability focus on rhythmic interactive systems and their design and evaluation. Sonic gestures are defined as human-generated sounding actions which convey information to a computational system. Examples of such gestures are impulsive sounding actions such as hand claps and finger snaps, sustained actions such as humming and blowing, and iterative actions, such as tapping a table to the beat of music. The use of sonic gestures at the interface requires analysis algorithms that are capable of tracking the desired information from an audio stream containing the human-generated sounds. In interactive systems, these algorithms must be capable of real-time processing. In this thesis, the focus is on percussive sonic gestures, which can be seen to be analogous to the sounds of percussive instruments. Therefore, it is reasonable to assume that the same tools that are applied for retrieving information from drums and percussion in music can be deployed for sonic gesture analysis. This work presents algorithms for the classification of different percussive sounds, such as different types of hand claps. To demonstrate the use of sonic gestures, a hand clap interface capable of recognizing different hand clap types and extracting continuous information, such as the tempo, from a clapping sequence has been developed. This interface has been utilized in the development of various rhythmic prototype applications, most importantly a system called iPalmas, an interactive Flamenco rhythm tutor. The iPalmas system can produce realistic-sounding synthetic Flamenco hand clapping patterns to the user, listen to the clapping of the user, and give audiovisual feedback on the learning and performance. The iPalmas system was evaluated in a subjective experiment, resulting in qualitative and quantitative findings related to the system design, the human capabilities, and the interaction. In conjunction with this evaluation, a structured framework for evaluating this kind of systems has been proposed. Based on the evaluation results, the system has undergone iterative development of the audiovisual feedback elements. The main outcomes of the thesis are a novel definition of sonic gestures in human-computer interaction and a taxonomy of the information they can convey to computational systems and the interactive iPalmas system, resulting in several relevant findings that can be generalized in the design and evaluation of rhythmic interactive systems.

Tämä väitöskirja käsittelee äänieleiden käyttöä ihmisen ja tietokoneen välisessä vuorovaikutuksessa, keskittyen erityisesti rytmisten vuorovaikutusjärjestelmien suunnitteluun ja arviointiin. Äänieleet määritellään ihmisen tuottamiksi äänitapahtumiksi, jotka välittävät informaatiota tietokonejärjestelmälle. Äänieleet voivat olla impulsiivisia, kuten taputukset ja sormien napsutukset, jatkuvia, kuten vihellys ja puhallus, sekä iteratiivisia, kuten pöydän naputtaminen musiikin tahdissa. Äänieleiden käyttö vuorovaikutusrajapinnassa vaatii algoritmeja, jotka pystyvät erottamaan halutun äänieleiden sisältämän informaation äänisyötevirrasta. Vuorovaikutteisissa järjestelmissä näiden algoritmien on kyettävä reaaliaikaiseen äänenkäsittelyyn. Tässä väitöskirjassa keskitytään perkussiivisiin äänieleisiin, jotka ovat rinnastettavissa perkussiosoittimiin; niinpä näiden äänieleiden analyysiin voidaan soveltaa samoja menetelmiä kuin perkussiosoittimien äänten analyysiin. Tässä työssä esitetään algoritmeja erilaisten perkussiivisten äänieletapahtumien tunnistamiseen. Äänieleiden käyttöä vuorovaikutteisissa järjestelmissä havainnollistetaan kehitetyllä vuorovaikutusrajapinnalla, joka tunnistaa erityyppisiä käsien taputuksia ja jatkuvan taputuksen sisältämää jatkuva-aikaista informaatiota, kuten taputuksen tempo. Rajapintaa käyttäen on kehitetty erilaisia prototyyppisovelluksia, joista merkittävin on iPalmas, vuorovaikutteinen flamenco-opettaja. iPalmas osaa tuottaa realistisen kuuloisia flamenco rytmejä taputussynteesin avulla, kuunnella käyttäjän taputuksia ja analysoida niitä, sekä antaa audiovisuaalista palautetta taputussarjojen oppimisesta ja suorittamisesta. iPalmas -järjestelmälle tehtiin käyttäjäkoe, jonka perusteella saatiin paljon kvalitatiivista ja kvantitatiivista informaatiota liittyen sekä järjestelmään itseensä että käyttäjien rytmisiin taipumuksiin ja vuorovaikutukseen järjestelmän kanssa. Arvioinnin yhteydessä kehitettiin myös arvioinnin viitekehys tämänkaltaisten vuorovaikutusjärjestelmien arviointiin. Arvioinnin perusteella järjestelmän audiovisuaalinen palaute suunniteltiin uudelleen. Väitöskirjan keskeiset tulokset ovat uusi määritelmä äänieleille ja luokittelu näiden välittämälle informaatiolle sekä iPalmas -järjestelmä ja sen arvioinnin yhteydessä saavutetut löydökset, joita voidaan yleistää rytmisten vuorovaikutusjärjestelmien suunnitteluun ja arviointiin.