Evaluating privacy and ethical implications of AI-assisted documentation in healthcare: A case study

Thumbnail Image

Files

master_Pulkkinen_Leevi_2026.pdf (384.13 KB)

URL

Journal Title

Journal ISSN

Volume Title

School of Science | Master's thesis
Unless otherwise stated, all rights belong to the author. You may download, display and print this publication for Your own personal use. Commercial use is prohibited.

Authors

Date

2025-12-18

Department

Major/Subject

Computer Science

Mcode

Degree programme

Master's Programme in Computer, Communication and Information Sciences
Master's Programme in Computer, Communication and Information Sciences
Master's Programme in Computer, Communication and Information Sciences

Language

en

Pages

54

Series

Abstract

Clinical documentation is an essential part of patient care, but can be time consuming and reduce interaction time with patients. With the emergence of artificial intelligence (AI) technologies, such as automatic speech recognition (ASR), natural language processing (NLP), and large language models (LLMs), promising new tools have been proposed to make clinical documentation more efficient and patient centric. However, the introduction of AI powered documentation tools in healthcare settings raises a multitude of concerns regarding data protection, privacy, and ethics. This thesis examines these implications by conducting a Data Ethics Decision Aid (DEDA) evaluation of an AI assisted documentation tool called Smart Care and contrasting the findings with the overlying literature. The findings emphasized the importance of lawful data processing and robustness of AI services against attacks as key factors to maintaining the privacy of individuals. In addition, human oversight, accountability, and proper training were highlighted to ensure responsible use. Finally, transparency towards patients and proper acquisition of consent were seen as essential for creating trust between patients, users, and technology. Further research in practical settings is needed to perform a sophisticated evaluation of these issues and the proposed solutions.

Kliininen dokumentointi on olennainen osa potilashoitoa, mutta se voi olla aikaa vievää ja vähentää vuorovaikutusaikaa potilaiden kanssa. Tekoälyteknologioiden, kuten automaattisen puheentunnistuksen (ASR), luonnollisen kielen käsittelyn (NLP) ja suurten kielimallien (LLM), esiintulon myötä on ehdotettu lupaavia uusia työkaluja, jotka voisivat tehdä kliinisestä dokumentoinnista tehokkaampaa ja potilaskeskeisempää. Tekoälypohjaisten dokumentointityökalujen käyttöönotto terveydenhuoltoympäristössä herättää kuitenkin useita huolenaiheita tietoturvan, yksityisyyden ja etiikan suhteen. Tässä opinnäytetyössä tarkastellaan näitä seurauksia tekemällä Data Ethics Decision Aid (DEDA) arviointi tekoälyavusteisesta dokumentointityökalusta nimeltä Smart Care ja vertaamalla tuloksia taustalla olevaan kirjallisuuteen. Tulokset korostivat, että lainmukainen tiedonkäsittely ja hyökkäyksiltä suojattu tekoälypalvelu ovat keskeisiä tekijöitä yksilöiden yksityisyyden turvaamisessa. Lisäksi ihmiskontrollia, vastuullisuutta ja asianmukaista kouluttamista pidettiin tärkeinä tekijöinä vastuullisen käytön varmistamiseksi. Lopuksi läpinäkyvyyttä potilaita kohtaan ja suostumuksen asianmukaista hankkimista pidettiin olennaisina luottamuksen luomisessa potilaiden, käyttäjien ja teknologian välille. Lisätutkimusta käytännön kontekstissa tarvitaan näiden ongelmien ja mahdollisten ratkaisujen syvällistä arviointia varten.

Description

Supervisor

Bäckström, Tom

Thesis advisor

Kotkamaa, Matts

Keywords

clinical documentation, artificial intelligence, AI, privacy, ethics, data ethics decision aid

Other note

Citation

Permanent link to this item

https://urn.fi/URN:NBN:fi:aalto-202601221902

Collections

[dipl] Perustieteiden korkeakoulu / SCI