Una dintre cele mai mari crize ale timpurilor noastre constă în răspândirea masivă a dezinformării, știrilor false și teoriilor conspirației, ceea ce a dus la o erodare semnificativă a încrederii în mass-media, știință și instituții guvernamentale. Această „criză a comunicării”, cum o vom numi, a fost amplificată de utilizarea pe scară largă a mijloacelor digitale de informare și comunicare. Iar provocarea va deveni și mai acută, întrucât, în viitorul apropiat, tot mai mulți dintre interlocutorii noștri nu vor fi oameni, ci agenți conversaționali bazați pe inteligență artificială (AI). În acest context, proiectul nostru propune o cercetare aprofundată și interculturală a principiilor de funcționare responsabilă pentru agenții conversaționali, cu scopul de a contribui la reducerea sau prevenirea unui nou val de criză a comunicării, alimentată de AI.
Această cercetare, situată la intersecția dintre etică, psihologie, lingvistică, media și comunicare, precum și informatică, urmărește să analizeze (i) așteptările normative în interacțiunile bazate pe limbaj dintre oameni și AI, precum și (ii) evaluarea încălcării acestor așteptări și efectele lor ulterioare, în contextul mai multor culturi și limbi din spațiul european și dincolo de acest spațiu. Vom investiga (iii) factorii relevanți care moderează interacțiunea oameni-AI (de exemplu, contextul, rolul, complexitatea modelului AI, importanța situației) și pe cei mediatori (de exemplu, percepția capacității de a fi agent, proiecția capacității de raționare), pentru a (iv) explora influența acestora asupra evaluării și încrederii în sistemele AI în diferite culturi. Pe baza rezultatelor obținute, vom (v) propune principii pentru un design etic și o utilizare responsabilă a agenților conversaționali AI, pe care le vom testa pe aplicația Reporter, dezvoltată de partenerul nostru Polaris News, care folosește AI generativă pentru a sprijini publicul larg în redactarea responsabilă a știrilor.
Proiectul este finanțat cu peste 1 milion de euro de către programul ERC Chanse/Hera Program.
Proiectul este coordonat de Prof. Markus Kneer (liderul proiectului), Universitatea din Graz, Austria, PD Dr. Markus Christen (PI), Universitatea din Zurich, Elveția, Dr. Mihaela Constantinescu (PI), Universitatea din București, România, Dr. Izabela Skoczen (PI), Universitatea Jagielloniană, Polonia. Polaris News, condus de jurnalistul multiplu-premiat Hannes Grassegger, este un colaborator-cheie.