Die Psychologie der Chatbot-Interaktion
Universität Würzburg
Förderbereich:
Digitale Vernetzung und Formen der Zusammenarbeit
Projektpartner:
Julius-Maximilians-Universität Würzburg
Projektbeschreibung
Künstliche Intelligenz (KI) verändert die Art wie wir kommunizieren. Gespräche, wie sie bis vor Kurzem nur mit einem menschlichen Gegenüber möglich waren, können wir heute mit einer KI führen. Generative KI-Chatbots wie ChatGPT ahmen das menschliche Kommunikationsverhalten nahezu perfekt nach – so gut, dass wir das Gefühl haben, wir kommunizieren mit einem Menschen und nicht mit einem technischen System. Was mit vielen Vorteilen verbunden ist, birgt allerdings auch Nachteile: Nutzer:innen reagieren in Interaktion mit KI-Systeme ähnlich wie in zwischenmenschlichen Begegnungen. Obwohl ihnen bewusst ist, dass sie mit einer Maschine und nicht mit einem Menschen kommunizieren, reagieren sie sozial und emotional. Die Wissenschaft spricht von einer gedankenlose, mindless Nutzung, die mit problematischem Verhalten wie der Preisgabe sensibler Daten oder der unkritischen Befolgung von Empfehlungen verbunden sein kann.
Hier setzt das Projekt an und analysiert die psychologischen Mechanismen der Mensch-KI-Interaktion um evidenzbasierte Unterstützungsmaßnahmen für Nutzer:innen zu entwickeln, um sie vor den Gefahren unachtsamer KI-Nutzung zu schützen. Das Projekt umfasst drei Teile:
- Analyse psychologischer Aspekte der Mensch-KI-Interaktion: Empirische Studien untersuchen die sozialen Reaktionen von Nutzer:innen auf Chatbots sowie psychologische Mechanismen, die diese begünstigen. Berücksichtigt werden Eigenschaften der menschlichen Nutzer:innen, Merkmale der KI-Chatbots und spezifischer Aufgaben, um gezielt Risikofaktoren zu identifizieren.
- Empowerment der Nutzer:innen: Basierend auf den Ergebnissen der Analysen werden Lerninterventionen entwickelt, die Nutzer:innen in die Lage versetzen, ihre eigenen Reaktionen auf KI-Systeme zu reflektieren, manipulative Versuche der Technologien zu erkennen und diese souveräner zu nutzen.
- Kommunikation und Wissenstransfer: Sowohl die Analyseergebnisse als auch die Lerninterventionen werden der Öffentlichkeit auf einer Online-Plattform zugänglich gemacht, unterstützt durch Medienarbeit und wissenschaftliche Publikationen. Zudem werden Kooperationen mit relevanten Akteur:innen aus unterschiedlichen Anwendungskontexten angestrebt.
Mit der Entwicklung einer praxisorientierten Lernumgebung, die auf wissenschaftlichen Analysen aufbauen, leistet das Projekt einen Beitrag zu einer selbstbestimmten und verantwortungsbewussten Nutzung von KI-Technologien.
Über unseren Förderpartner
Am Lehrstuhl für Medienpsychologie an der Universität Würzburg erforscht Dr. Astrid Carolus die Interaktion von Menschen mit digitalen Technologien – insbesondere mit KI-basierten Systemen. Aus psychologischer Perspektive analysiert sie Mensch-Technik-Interaktionen, leitet Bedingungen für eine erfolgreiche Nutzung sowie Maßnahmen zur Förderung der Digital- und KI-Kompetenz ab. Im Projekt „Die Psychologie der Chatbot-Interaktion“ legt sie den Fokus auf generative Künstlicher Intelligenz. Über ihre technisch-pragmatischen Funktionen hinauskonzeptualisiert sie diese als psychologisch relevante Kommunikationspartner. Vor diesem Hintergrund beschreibt und erklärt sie Interaktionen mit diesen auf kognitiver sowie auf motivational-affektiver Ebene und legt so die Grundlage für die Entwicklung psychologisch fundierter Kompetenztrainings.
