Explainability for Autonomous Driving
No Thumbnail Available
URL
Journal Title
Journal ISSN
Volume Title
Sähkötekniikan korkeakoulu |
Bachelor's thesis
Electronic archive copy is available locally at the Harald Herlin Learning Centre. The staff of Aalto University has access to the electronic bachelor's theses by logging into Aaltodoc with their personal Aalto user ID. Read more about the availability of the bachelor's theses.
Authors
Date
2024-05-16
Department
Major/Subject
Automaatio ja robotiikka
Mcode
ELEC3014
Degree programme
Sähkötekniikan kandidaattiohjelma
Language
en
Pages
29
Series
Abstract
The automotive industry has seen significant advancements over the years, transitioning from producing manually operated vehicles to those with advanced automation. With the recent advancements in artificial intelligence (AI), automotive manufacturers are beginning to incorporate complex black-box AI models into the vehicles, to allow vehicles to sense their surroundings and make autonomous driving decisions with minimal human intervention. As autonomous vehicles (AVs) come closer to commercial deployment, gaining public acceptance and trust becomes crucial. This largely depends on the transparency and explainability of AV systems. Explainability is consequently regarded as a crucial requirement for AVs. AVs should have the capability to describe what they have detected, decisions they have made, and potential future actions within their operating environment. This capability not only enhances user confidence, but also ensures that AVs operate under ethical guidelines that support transparency and accountability. This thesis provides a literature review of various methods for providing these explanations in AVs, beginning with a discussion on the necessity of explainability to improve transparency, acceptance and trust in AVs. The discussion highlights how important it is for users to understand the decisions made by an AV, particularly in scenarios where an AV's decisions may impact the safety of the driver, or in unusual and complex driving situations. Secondly, the thesis presents different methods for providing explanations, highlighting the strengths and weaknesses of each approach. This analysis is crucial as it reveals how each method aligns with the goal of user transparency and explainability. The review includes visual, textual, auditory and haptic feedback methods, as well as some combinations of methods. Finally, the methods and user preferences are discussed and compared, and suggestions for future research is provided. This part of the thesis considers how effectively each method meets the users' need for explainability. Suggestions on future research directions are provided based on identified gaps in the current understanding of explainability.Fordonsindustrin har gjort stora framsteg under årens lopp och har gått från att tillverka manuellt styrda fordon till fordon med avancerad automatisering. Med de senaste framstegen inom artificiell intelligens (AI) börjar fordonstillverkarna integrera komplexa black-box AI modeller i bilarna, så att fordonen kan känna av sin omgivning och fatta autonoma körbeslut med minimal mänsklig inblandning. I takt med att autonoma fordon (AV) närmar sig kommersiell användning blir det avgörande att få allmänhetens acceptans och förtroende. Detta beror till stor del på AV-systemens transparens och förklarbarhet. Förklarbarhet betraktas därför som ett avgörande krav för AV-system. AV-system bör ha förmågan att beskriva vad de har upptäckt, beslut de har fattat och potentiella framtida åtgärder inom sin driftsmiljö. Denna förmåga ökar inte bara användarnas förtroende, utan säkerställer också att en AV fungerar enligt etiska riktlinjer som stöder öppenhet och ansvarsskyldighet. Denna avhandling består av en litteraturstudie av olika metoder för att tillhandahålla dessa förklaringar i AV-system, och inleds med en diskussion om nödvändigheten av förklarbarhet för att förbättra transparens, acceptans och förtroende för AV-system. Diskussionen belyser hur viktigt det är för användarna att förstå de beslut som fattas av en AV, särskilt i scenarier där besluten kan påverka förarens säkerhet, eller i ovanliga och komplexa körsituationer. För det andra presenterar avhandlingen olika metoder för att tillhandahålla förklaringar och belyser styrkorna och svagheterna i varje tillvägagångssätt. Denna analys är avgörande eftersom den presenterar hur varje metod överensstämmer med målet om användartransparens och förklarbarhet. Granskningen omfattar metoder för visuell, textuell, auditiv och haptisk respons, samt vissa kombinationer av dessa metoder. Slutligen diskuteras och jämförs metoderna och användarnas preferenser, och förslag till framtida forskning ges. I den här delen av avhandlingen undersöks hur effektivt varje metod uppfyller användarnas behov av förklarbarhet. Förslag på framtida forskningsriktningar ges baserat på identifierade luckor i den nuvarande förståelsen av förklarbarhet. Resultaten från arbetet tyder på att en kombination av metoder, som innehåller både detaljerade textuella förklaringar för utvecklare och lättolkade visuella förklaringar för förare, samt haptisk och auditiv respons, kan ge de mest praktiska resultaten för alla.Description
Supervisor
Forsman, PekkaThesis advisor
Mihaylova, TsvetomilaKeywords
autonomous driving, autonomous vehicle, explainability, shared autonomy, attention