Eine der zentralen Krisen unserer Zeit beruht auf Fehlinformation und Desinformation, die Verbreitung von Fake News, Verschwörungstheorien und somit die Erosion des Vertrauens in Medien, Wissenschaft und staatliche Institutionen. Die Kommunikationskrise hat sich durch den digitalen Diskurs noch verschlimmert. Wir gehen davon aus, dass sich die Krise weiter verschärfen könnte, da unserer Gesprächspartner zusehends nicht mehr andere menschliche Personen, sondern KI-Sprachmodelle sein werden. Eine kulturübergreifende Untersuchung verantwortungvoller Kommunikationsnormen für KI-Sprachmodelle ist von Nöten, um dieser Entwicklung zu begegnen.
Das Forschungsvorhaben, das an der Schnittstelle von Ethik, Linguistik, Medien- und Kommunikationswissenschaft sowie Sozialinformatik angesiedelt ist, wird (i) normative Erwartungen in sprachbasierter Mensch-KI-Interaktion sowie (ii) die Bewertung von Normverletzungen und deren nachgelagerte interaktive Konsequenzen in verschiedenen Sprachen und Kulturen empirisch untersuchen. Unter anderem werden (iii) relevante Moderatoren (z.B. Kontext, Rolle, Modellkomplexität des KI-Systems, Einsatz) und Mediatoren (z.B. agentische Eigenschaften, Projektion von menschlichen Eigenschaften) untersucht werden, um (iv) ihren Einfluss auf Vertrauen in konversationelle KI-Systeme kulturübergreifend zu erfassen. Auf der Grundlage der Ergebnisse werden wir (v) Grundsätze für die verantwortungsvolle Entwicklung und Nutzung von Sprachmodellen erarbeiten. Diese werden u.a. direkt an KI Anwendungen getestet, wie z.B. der Laien-Journalismus-App Reporter unseres assoziierten Partners Polaris News.
Das Forschungsvorhaben wird mit über 1 Mio Euro vom ERC Chanse/Hera Programm gefördert. Das Projekt wird von Prof. Markus Kneer (project leader), Universität Graz, PD Dr. Markus Christen (PI), Universität Zürich, Prof. Mihaela Constantinescu (PI), Universität Bucharest, und Prof. Izabela Skoczen (PI), Jagiellonian Universität Krakau geleitet. Eine tiefgreifende Kollaboration ist mit Polaris News und Hannes Grassegger geplant.