Evaluating privacy and ethical implications of AI-assisted documentation in healthcare: A case study

Abstract

Clinical documentation is an essential part of patient care, but can be time consuming and reduce interaction time with patients. With the emergence of artificial intelligence (AI) technologies, such as automatic speech recognition (ASR), natural language processing (NLP), and large language models (LLMs), promising new tools have been proposed to make clinical documentation more efficient and patient centric. However, the introduction of AI powered documentation tools in healthcare settings raises a multitude of concerns regarding data protection, privacy, and ethics. This thesis examines these implications by conducting a Data Ethics Decision Aid (DEDA) evaluation of an AI assisted documentation tool called Smart Care and contrasting the findings with the overlying literature. The findings emphasized the importance of lawful data processing and robustness of AI services against attacks as key factors to maintaining the privacy of individuals. In addition, human oversight, accountability, and proper training were highlighted to ensure responsible use. Finally, transparency towards patients and proper acquisition of consent were seen as essential for creating trust between patients, users, and technology. Further research in practical settings is needed to perform a sophisticated evaluation of these issues and the proposed solutions.

Kliininen dokumentointi on olennainen osa potilashoitoa, mutta se voi olla aikaa vievää ja vähentää vuorovaikutusaikaa potilaiden kanssa. Tekoälyteknologioiden, kuten automaattisen puheentunnistuksen (ASR), luonnollisen kielen käsittelyn (NLP) ja suurten kielimallien (LLM), esiintulon myötä on ehdotettu lupaavia uusia työkaluja, jotka voisivat tehdä kliinisestä dokumentoinnista tehokkaampaa ja potilaskeskeisempää. Tekoälypohjaisten dokumentointityökalujen käyttöönotto terveydenhuoltoympäristössä herättää kuitenkin useita huolenaiheita tietoturvan, yksityisyyden ja etiikan suhteen. Tässä opinnäytetyössä tarkastellaan näitä seurauksia tekemällä Data Ethics Decision Aid (DEDA) arviointi tekoälyavusteisesta dokumentointityökalusta nimeltä Smart Care ja vertaamalla tuloksia taustalla olevaan kirjallisuuteen. Tulokset korostivat, että lainmukainen tiedonkäsittely ja hyökkäyksiltä suojattu tekoälypalvelu ovat keskeisiä tekijöitä yksilöiden yksityisyyden turvaamisessa. Lisäksi ihmiskontrollia, vastuullisuutta ja asianmukaista kouluttamista pidettiin tärkeinä tekijöinä vastuullisen käytön varmistamiseksi. Lopuksi läpinäkyvyyttä potilaita kohtaan ja suostumuksen asianmukaista hankkimista pidettiin olennaisina luottamuksen luomisessa potilaiden, käyttäjien ja teknologian välille. Lisätutkimusta käytännön kontekstissa tarvitaan näiden ongelmien ja mahdollisten ratkaisujen syvällistä arviointia varten.