Virtual Reality und Conversational AI zur Ergänzung der Patientenedukation im chronischen Krankheitsmanagement
Wissensdatenbank Strukturen & Prozesse Technologie Datenmanagement & Digitalisierung Mensch Schulung & Digitale Kompetenz Patient*innenzentrierung C.1: Verbessertes Selbstmanagement mit Virtual Reality CompanionsProblembeschreibung, Forschungsfrage und Relevanz
Chronisch kranke Patient*innen, wie beispielsweise Menschen mit chronischer Nierenerkrankung (CKD), haben einen hohen Bedarf an wirksamer Aufklärung und Beratung. Eine gezielte Patientenedukation kann den Krankheitsverlauf positiv beeinflussen und den Verlust der Nierenfunktion verlangsamen. Embodied Conversational Agents (ECAs) in Virtual Reality (VR) bieten hierbei eine innovative Möglichkeit, um sowohl verbale als auch non-verbale Elemente der zwischenmenschlichen Kommunikation effektiv einzusetzen.
Das Forschungsziel war es, ein VR-basiertes System namens "RealCo" zu entwickeln und die Akzeptanz bei Patient*innen zu evaluieren. RealCo kombiniert immersive VR-Technologien mit fortschrittlichen Sprachmodellen und soll eine sozial präsente, virtuelle Beratung für CKD-Patient*innen ermöglichen.
Methoden und Vorgehen im Projekt
Im Zentrum des Projekts stand der Anwendungsfall der Aufklärung von CKD-Patient*innen über eine neue Medikamentengruppe, die sogenannten Sodium-Glucose Co-Transporter 2 (SGLT-2)-Inhibitoren.
Das methodische Vorgehen umfasste:
- Analyse von Beratungsgesprächen mit Nephrolog*innen, um typische Gesprächsverläufe zu verstehen.
- Iterative Entwicklung und Testung des VR-Systems und des Chatbots in enger Zusammenarbeit mit medizinischen Expert*innen.
- User Experience Studie: Durchführung von drei VR-Beratungssitzungen mit insgesamt 15 CKD-Patient*innen in einer kontrollierten, ambulanten Krankenhausumgebung über einen Zeitraum von sieben Monaten.
Technisch wurde ein multilineares Storyboard für die Konsultationen in Twine entwickelt und in die VR-Entwicklungsumgebung Unity importiert.Ein dynamisches Dialogsystem basierend auf einer Finite-State-Machine steuert Gespräche mit dem beratenden Avatar, dessen Äusserungen mithilfe von GPT (via Microsoft Azure OpenAI) in Echtzeit generiert und von Text in Sprache umgewandelt werden. Non-verbale Kommunikation wird durch Salsa und Unity Animator realisiert. Nutzerfeedback und Sitzungsdaten werden in einer Back-End-Datenbank systematisch erfasst.
Ergebnisse und Erkenntnisse
- Durch die Kombination von GPT und dem Langchain-Framework können die Stärken großer Sprachmodelle effektiv genutzt werden, ohne die Kontrolle über sensible medizinische Inhalte zu verlieren.
- Erfolgreiches "Prompt Engineering" erfordert ein tiefes Verständnis der Gesprächsziele und -phasen, um Patient*innen gezielt und engagiert in Dialoge einzubinden.
Empfehlungen für die Praxis
- Integration von VR und Conversational AI: Immersive VR-Umgebungen kombiniert mit intelligenten Sprachmodellen bieten großes Potenzial für die Patientenedukation und sollten in zukünftige Schulungsprogramme integriert werden.
- Sorgfältige Gestaltung von Dialogen: Zielgerichtetes Prompt Engineering und eine strukturierte Gesprächsführung sind entscheidend, um Patient*innen erfolgreich einzubinden und Vertrauen in virtuelle Berater zu schaffen.
- Interdisziplinäre Entwicklungsteams: Eine enge Zusammenarbeit zwischen Technolog*innen und medizinischen Fachkräften ist essenziell, um valide und praxisnahe Lösungen für den Gesundheitsbereich zu entwickeln.
Poster
Virtual Reality und Conversational AI zur Ergänzung der Patientenedukation im chronischen Krankheitsmanagement

Literatur und andere Quellen
Brucker-Kley, E., Michot, J., Keller, T., Scherer, C., Segerer, S. (2024). Virtual Reality and Conversational AI for Complementing Patient Education in Chronic Disease Management. In: De Paolis, L.T., Arpaia, P., Sacco, M. (eds) Extended Reality. XR Salento 2024. Lecture Notes in Computer Science, vol 15028. Springer, Cham. https://doi.org/10.1007/978-3-031-71704-8_27
Zitierung des Beitrags
Brucker-Kley, E., Michot, J., Keller, T., Scherer, C., Segerer, S. (2024). Virtual Reality und Conversational AI zur Ergänzung der Patientenedukation im chronischen Krankheitsmanagement. In Flagshipprojekt SHIFT. Wissensbeitrag C.1 (Nr. 2).