Integrating humans and artificial intelligence in diagnostic tasks
Lade...
Datum
2025
Autor:innen
Betreuer:innen
Zeitschriftentitel
ISSN der Zeitschrift
Bandtitel
Verlag
Zusammenfassung
This dissertation investigates the integration of humans and artificial intelligence (AI) in diagnostic tasks, focusing on user experience and interaction in explainable AI (XAI) systems. Central to this research is the development of the Subjective Information Processing Awareness (SIPA) concept, which deal with user experience in automated information processing. The work addresses the increasing reliance on AI for automating information processing in critical domains such as healthcare, where transparency and human oversight may be enabled through explainable systems. Drawing on theories of human-automation interaction, this research develops and validates a model of integrated human-AI information processing. Four empirical studies explore automation-related user experience in different contexts: digital contact tracing, automated insulin delivery, AI-supported pattern recognition, and AI-based diagnosis. The findings highlight the psychological impacts of AI explanations on trust, situation awareness, and decision-making. Based on empirical findings, this dissertation discusses the concept of diagnosticity as a central metric for successful human-AI integration and proposes a framework for designing XAI systems that enhance user experience by aligning with human information processing. The dissertation concludes with practical guidelines for developing human-centered AI systems, emphasizing the importance of SIPA, user awareness, system transparency, and maintaining human control in automated diagnostic processes.
Beschreibung
Diese Dissertation untersucht die Integration von Menschen und künstlicher Intelligenz (KI) in diagnostische Aufgaben, wobei der Schwerpunkt auf der Benutzererfahrung und der Interaktion in erklärbaren KI-Systemen (XAI) liegt. Im Mittelpunkt dieser Forschung steht die Entwicklung des Konzepts der subjektiven Informationsverarbeitungswahrnehmung (SIPA), das sich mit der Benutzererfahrung bei der automatisierten Informationsverarbeitung befasst. Die Arbeit befasst sich mit der zunehmenden Abhängigkeit von KI bei der Automatisierung der Informationsverarbeitung in kritischen Bereichen wie dem Gesundheitswesen, wo Transparenz und menschliche Aufsicht durch erklärbare Systeme ermöglicht werden können. Auf der Grundlage von Theorien zur Mensch-Automation-Interaktion entwickelt und validiert diese Forschung ein Modell der integrierten Mensch-KI-Informationsverarbeitung. Vier empirische Studien untersuchen die automatisierungsbezogene Benutzererfahrung in verschiedenen Kontexten: digitale Kontaktverfolgung, automatisierte Insulinabgabe, KI-gestützte Mustererkennung und KI-basierte Diagnostik. Die Ergebnisse heben die psychologischen Auswirkungen von KI-Erklärungen auf Vertrauen, Situationsbewusstsein und Entscheidungsfindung hervor. Auf der Grundlage empirischer Erkenntnisse diskutiert diese Dissertation das Konzept der Diagnostizität als zentrale Messgröße für eine erfolgreiche Mensch-KI-Integration und schlägt einen Rahmen für die Gestaltung von XAI-Systemen vor, die die Benutzererfahrung durch Anpassung an die menschliche Informationsverarbeitung verbessern. Die Dissertation schließt mit praktischen Leitlinien für die Entwicklung menschenzentrierter KI-Systeme, wobei die Bedeutung von SIPA, Benutzerbewusstsein, Systemtransparenz und der Aufrechterhaltung der menschlichen Kontrolle in automatisierten Diagnoseprozessen hervorgehoben wird.
Schlagwörter
Explainable AI, Human-AI Interaction, Subjective Information Processing Awareness, Diagnostic Tasks, Automation-Related User Experience, Trust in AI and Decision Support Systems, Integrated Information Processing
Zitierform
Institut/Klinik
Institut für Multimediale und Interaktive Systeme