Kann KI "Mentale Immunität" aufbauen? Immunisierung gegen schädliche Einflüsse mit KI-Chatbots

08.06.2025 - 07.06.2027
Forschungsförderungsprojekt

Der rasante Fortschritt generativer künstlicher Intelligenz (KI) und immersiver synthetischer Realitäten (SR) verändert die Landschaft der Informationskriegsführung. Extremistische Gruppen und autoritäre Regime nutzen diese Technologien, um durch Propaganda, Desinformation und Hassrede öffentliche Diskurse zu manipulieren und das Vertrauen in demokratische Institutionen zu untergraben. Bestehende Gegenmaßnahmen wie algorithmische Moderation oder Inhaltsentfernung erweisen sich aufgrund ihrer reaktiven Natur, potenziellen Verzerrungen und unbeabsichtigten Nebenwirkungen, insbesondere in SR-Umgebungen, oft als unzureichend. Dieses Projekt schlägt eine innovative Lösung vor: die Immunisierung von Individuen gegen schädliche Einflusskampagnen durch KI-gesteuerte Chatbots, die auf der Theorie der psychologischen Inokulation basieren. Diese Chatbots fungieren als „mentale Impfstoffe“ und fördern durch ethisch geleitete, persuasive Dialoge die kognitive Widerstandsfähigkeit gegen manipulative Narrative.

Personen

Projektleiter_in

Institut

Förderungmittel

  • FWF - Österr. Wissenschaftsfonds (National) 1000-Ideen-Programm Fonds zur Förderung der wissenschaftlichen Forschung (FWF)

Forschungsschwerpunkte

  • Visual Computing and Human-Centered Technology: 100%

Schlagwörter

DeutschEnglisch
KIAI
chatbotschatbots
generative KIgenerative AI
soziale Innovationsocial innovation
persuasive technologypersuasive technology

Publikationen