L’une des crises centrales de notre époque concerne la diffusion à grande échelle de la désinformation, des fake news, des théories du complot et, par conséquent, l’érosion de la confiance dans les médias, la science et les institutions gouvernementales. La crise de la communication, comme nous l’appellerons, a été exacerbée par l’utilisation de moyens numériques de communication. Et elle va encore s’intensifier, car dans un avenir proche, nombre de nos interlocuteurs ne seront plus des humains, mais des agents conversationnels pilotés par l’IA. Nous proposons une enquête interculturelle approfondie sur les principes de fonctionnement responsables des agents conversationnels pilotés par l’IA, afin de contribuer à atténuer ou à prévenir une nouvelle vague de crise de la communication alimentée par l’IA.
Ce projet de recherche, qui se situe à l’interface de l’éthique, de la linguistique, des médias et de la communication ainsi que de l’informatique sociale, explorera empiriquement (i) les attentes normatives dans l’interaction homme-IA basée sur le langage ainsi que (ii) l’évaluation des violations de normes et leurs conséquences interactives en aval dans plusieurs langues et cultures européennes et non-européennes. Nous suivrons de près (iii) les modérateurs pertinents (par exemple, le contexte, le rôle, la complexité du modèle du système d’IA, les enjeux) et les médiateurs (par exemple, l’agence perçue, la projection de l’esprit), afin (iv) d’étudier leur influence sur l’évaluation des systèmes d’IA conversationnels et la disposition à s’y fier dans les différentes cultures. Sur la base des résultats, nous (v) proposerons des principes pour la conception et l’utilisation responsables d’agents conversationnels pilotés par l’IA, qui seront testés immédiatement sur l’application de journalisme profane piloté par l’IA, Reporter, fournie par notre partenaire associé Polaris News.
La recherche envisagée est financée à hauteur de plus d’un million d’euros par le programme ERC Chanse/Hera.
Le projet sera mené par le professeur Markus Kneer (chef de projet), de l’université de Graz, le docteur Markus Christen (PI), de l’université de Zurich, le professeur Mihaela Constantinescu (PI), de l’université de Bucarest, et le professeur Izabela Skoczen (PI), de l’université Jagiellonian. Polaris News, dirigé par le journaliste primé Hannes Grassegger, est un collaborateur clé.