DFG-gefördertes Forschungsprojekt
Künstliche Intelligenz wird zu einem festen Bestandteil der medizinischen Diagnostik und bietet Ärzt:innen leistungsstarke Werkzeuge zur Unterstützung komplexer Entscheidungsprozesse. Der Wert dieser Systeme hängt jedoch nicht nur von ihrer technischen Leistungsfähigkeit ab, sondern auch davon, wie Menschen mit ihnen umgehen. Dieses DFG-geförderte Projekt versucht, diese Interaktion zu verstehen, indem es die adaptive Abhängigkeit von KI-Empfehlungen im medizinischen Kontext theoretisiert und die entscheidende Rolle der metakognitiven Kontrolle untersucht – also die Fähigkeit des Einzelnen, sein eigenes Denken bei der Arbeit mit KI zu regulieren.
Das Projekt untersucht, wie medizinische Studierenden und Fachleute KI-generierte Empfehlungen bewerten, wie sie entscheiden, ob sie diesen Vorschlägen vertrauen oder sie hinterfragen, und wie sie strategische Kontrollentscheidungen entwickeln, während sie wiederholt mit KI-Systemen interagieren. Durch die Untersuchung metakognitiver Strategien wie der gezielten Integration von KI-Empfehlungen, der Überprüfung und Überarbeitung früherer Annahmen will das Projekt herausfinden, welche Formen des reflektierenden Denkens zu besseren Diagnoseergebnissen und einer ausgewogeneren Nutzung von KI führen. Diese Perspektive ermöglicht es uns, eine zentrale Herausforderung der modernen medizinischen Praxis anzugehen: zu verstehen, warum Menschen sich so auf KI verlassen, wie sie es tun, und wie sie lernen können, sie weder blind noch ablehnend, sondern adaptiv und überlegt einzusetzen.
Um die Komplexität des diagnostischen Denkens zu erfassen, verwendet das Projekt einen umfassenden methodischen Ansatz, der auf Think-Aloud-Protokollen basiert. Diese Verbalisierungen des Echtzeitdenkens werden durch eine Kombination aus qualitativer Datenanalyse, großen Sprachmodellen, die als unterstützende Codierer verwendet werden, und Process-Mining-Techniken analysiert, die Denkwege visualisieren und vergleichen. Dieser integrierte Ansatz fördert neue methodische Perspektiven wie computergestützte Theoriebildung und quantitative Grounded Theory und bietet neue Möglichkeiten, kognitive und metakognitive Prozesse in großem Maßstab zu untersuchen.
Die aus diesem Projekt gewonnenen Erkenntnisse haben direkte praktische Relevanz. Ein tieferes Verständnis der Muster diagnostischer Argumentation kann in die Entwicklung intelligenter Schulungsinstrumente einfließen, die medizinischen Neulingen Echtzeit-Feedback zu ihrem Denken geben und ihnen helfen, effektive Argumentationsstrategien zu erkennen und ihre Herangehensweise bei kritischen Entscheidungen anzupassen. Darüber hinaus werden die Ergebnisse die Entwicklung von KI-Systemen unterstützen, die aktiv die metakognitive Kontrolle fördern und die Nutzer dazu ermutigen, kritisch zu reflektieren, anstatt sich übermäßig oder zu wenig auf algorithmische Empfehlungen zu verlassen. Auf diese Weise trägt das Projekt dazu bei, eine sicherere, transparentere und effektivere Zusammenarbeit zwischen Mensch und KI in medizinischen Umgebungen mit hohem Risiko zu schaffen.
Projektleitung:
Prof. Dr. Ekaterina Jussupow
Immer häufiger arbeiten Menschen bei komplexen kognitiven Aufgaben mit Systemen zusammen, die auf künstlicher Intelligenz (KI) basieren. Die KI-unterstützte Entscheidungsfindung stellt menschliche Entscheidungsträger:innen vor neue metakognitive Anforderungen: Sie müssen neben ihren eigenen Ergebnissen und Lösungen auch diejenigen der KI überwachen, interpretieren, bewerten und verfeinern. In diesem vom Forum interdisziplinäre Forschung geförderten Projekt kombinieren wir methodische und theoretische Ansätze aus Psychologie und Wirtschaftsinformatik, um die Rolle von Metakognitionen bei der KI-unterstützten Entscheidungsfindung zu untersuchen.
Finanziert durch das Forum Interdisziplinäre Forschung
Projektmitarbeitende
Prof. Dr. Monika Undorf – Projektleiterin
Prof. Dr. Ekaterina Jussupow – Projektleiterin
Franziska Ingendahl – Doktorandin
In einer aufregenden Ära, in der künstliche Intelligenz (KI) zunehmend in unser tägliches Leben und in Organisationen eingeflochten wird, war das Verständnis der komplizierten Interaktion zwischen Mensch und KI noch nie so wichtig wie heute. In dieser schnelllebigen Zeit ist es unerlässlich, dass Forschung und Praxis ihre Kräfte bündeln, um diese laufenden Veränderungsprozesse aktiv zu erforschen, zu verstehen und zu steuern. Dieses wegweisende Forschungsprogramm ist eine Kooperation zwischen dem Elektronics Geschäft der Merck KGaA, Darmstadt, Deutschland (Merck-Gruppe), einem führenden Wissenschafts- und Technologieunternehmen, und dem Lehrstuhl für Wirtschaftsinformatik an der Technischen Universität Darmstadt. Gemeinsam wollen wir die vielfältigen Dynamiken der menschlichen Auseinandersetzung mit KI-Technologien erforschen und deren Auswirkungen aus individueller und organisatorischer Sicht untersuchen.
Auf individueller Ebene erforschen wir, wie Menschen KI in ihre täglichen Arbeitsabläufe integrieren und die erzeugten Ergebnisse evaluieren. Wir untersuchen nicht nur die Effizienz dieser Interaktionen, sondern auch die affektiven und kognitiven Reaktionen, die sie hervorrufen. Auf organisatorischer Ebene werden wir untersuchen, wie KI die Teamdynamik umgestaltet, Entscheidungsprozesse beeinflusst und die Arbeitsplatzkultur verändert. Durch das Sammeln von Erkenntnissen aus diesen verschiedenen Perspektiven wollen wir empirische Erkenntnisse liefern, die es Unternehmen ermöglichen, KI-Lösungen zu implementieren und gleichzeitig ein positives und sinnstiftendes Arbeitsumfeld zu fördern.
Das Hauptziel dieser Partnerschaft zwischen der Technischen Universität Darmstadt und der Merck-Gruppe ist es, ein umfassendes Verständnis der Auswirkungen der KI-Integration zu fördern, den akademischen Diskurs zu unterstützen und die Implementierung dieser transformativen Technologie für Unternehmen proaktiv zu steuern und zu verbessern. Durch rigorose empirische Forschung wollen wir wertvolle Erkenntnisse beisteuern, die sowohl die wissenschaftliche Forschung als auch die Praktiker informieren und sicherstellen, dass KI für alle Beteiligten vorteilhaft und nachhaltig bleibt.
Projektmitarbeitende
Julian Wohlschlegel
Prof. Dr. Ekaterina Jussupow
Janek Dittrich