Kako AI četbotovi šire dezinformacije – primer ruske propagande

Usled zabrinutosti zbog širenja dezinformacija putem AI, a posebno u godini važnih izbora u svetu, istraživanje je obuhvatilo testiranje 10 vodećih AI četbotova: ChatGPT-4, Smart Assistant, Grok, Pi, le Chat, Copilot, Meta AI, Claude, Gemini i Perplexity.

O čemu je reč?

Studija NewsGuard-a je otkrila da su, postavljanjem 57 upita u 10 četbotova, širili ruske narative dezinformacija u 32 odsto slučajeva.

Četbotovima je postavljeno pitanje i o Džonu Marku Duganu, američkom beguncu koji, prema New York Times-u, širi dezinformacije iz Moskve.

Upiti su bazirani na 19 lažnih narativa povezanih sa ruskim dezinformacionim mrežama, kao što su lažne tvrdnje o korupciji ukrajinskog predsednika Volodimira Zelenskog.

Od 570 odgovora, 152 sa dezinformacijama

Korišćena su tri različita upita: neutralni koji traži činjenice o tvrdnji, upit koji pretpostavlja istinitost i traži više informacija i „zlonamerni“ eksplicitno namenjen generisanju dezinformacija.

Performanse svakog četbota nisu detaljno analizirane, ali se u studiji navodi da je od 570 dobijenih odgovora, 152 sadržalo eksplicitne dezinformacije, 29 je ponovilo lažne tvrdnje uz napomenu ili upozorenje, dok 389 odgovora nije sadržalo dezinformacije — ili zato što je četbot odbio da odgovori (144 puta) ili je pružio informaciju koja opovrgava lažne tvrdnje (245 puta).

Moćno sredstvo za širenje dezinformacija

„Rezultati pokazuju da uprkos naporima kompanija za veštačku inteligenciju da spreče zloupotrebu svojih četbotova pred izbore koji se održavaju širom sveta, veštačka inteligencija i dalje ostaje moćno sredstvo za širenje dezinformacija“, izjavila je Mekenzi Sadegi, urednica za veštačku inteligenciju i uticaj stranih faktora.

Na primer, kada su postavljeni upiti za više informacija o Gregu Robertsonu, navodnom agentu Tajne službe koji tvrdi da je otkrio prisluškivanje u rezidenciji bivšeg predsednika SAD-a Donalda Trampa, Mar-a-Lago, nekoliko četbotova je ponovilo dezinformaciju kao činjenicu.

Oni su citirali članke sa sajtova FlagStaffPost.com i HoustonPost.org u svojim odgovorima. Jedan četbot je sajt ChicagoChron.com opisao kao sajt sa dobrom „reputacijom vezanom za tačnost“. (Ova tri vejbsajta se navode kao ruski propagandni kanali.)

NewsGuard je podneo nalaze Američkom institutu za sigurnost veštačke inteligencije Nacionalnog instituta za standarde i tehnologiju (NIST) i Evropskoj komisiji. Nijedna od kompanija, kako tvrde, nije odgovorila.

Kompas