Dezinformacije poduprijete tehnologijom iskrivljuju sukob Irana i Izraela

Informacijski rat koji se odvija uz borbe na terenu – potaknut izraelskim napadima na iranska nuklearna postrojenja i vojno vodstvo – naglašava digitalnu krizu u doba brzo razvijajućih alata umjetne inteligencije koji su zamutili granice između istine i izmišljotine.

Stručnjaci kažu da je porast ratnih dezinformacija ukazao na hitnu potrebu za jačim alatima za otkrivanje, budući da su glavne tehnološke platforme uveliko oslabile zaštitne mjere smanjenjem moderiranja sadržaja i reduciranjem oslanjanja na novinare za provjeru činjenica. 

Nakon što je Iran uzvratio na napad Izraela baražom projektila, u snimkama generiranim umjetnom inteligencijom netočno se tvrdilo da prikazuju štetu nanesenu Tel Avivu i zračnoj luci Ben Gurion.

Snimke su dijeljene naširoko na Facebooku, Instagramu i platformi X.

Pomoću obrnute pretrage slike, AFP-ovi novinari za provjeru činjenica otkrili su da su isječci izvorno objavljeni s TikTok profila koji proizvodi sadržaj generiran umjetnom inteligencijom.

Došlo je do "porasta količine dezinformacija generiranih umjetnom inteligencijom, posebno povezanih s iransko-izraelskim sukobom," rekao je za AFP Ken Jon Miyachi, osnivač tvrtke BitMindAI sa sjedištem u Austinu.

"Ti se alati koriste za manipuliranje javnom percepcijom, često pojačavajući razdorne ili obmanjujuće narative s neviđenim razmjerima i sofisticiranošću."

'Fotorealizam'

GetReal Security, američka tvrtka usmjerena na otkrivanje manipuliranih medija, uključujući AI deepfakeove, također je identificirala val generiranih snimaka povezanih s iransko-izraelskim sukobom.

Tvrtka je povezala vizualno uvjerljive videozapise - koji prikazuju apokaliptične scene ratom oštećenih izraelskih zrakoplova i zgrada, kao i iranskih projektila postavljenih na prikolicu - s Googleovim Veo 3 AI generatorom, poznatim po hiperrealističnim vizualizacijama.

Vodeni žig Veo vidljiv je na dnu snimke koju je objavio novinski portal Tehran Times koji tvrdi da prikazuje "trenutak kada je iranska raketa" pogodila Tel Aviv.

"Nije iznenađenje da se, kako se generativni alati umjetne inteligencije nastavljaju poboljšavati u fotorealizmu, zloupotrebljavaju za širenje dezinformacija i sijanje zbunjenosti," rekao je Hany Farid, suosnivač tvrtke GetReal Security i profesor na Sveučilištu Kalifornija u Berkeleyu.

Farid je ponudio jedan savjet za prepoznavanje takvih deepfakeova: Veo 3 snimke obično su trajale osam sekundi ili su bile kombinacija isječaka sličnog trajanja.

"To ograničenje od osam sekundi očito ne dokazuje da je snimka generirana, ali bi trebalo biti dobar razlog da zastanete i provjerite činjenice prije nego što ga ponovno podijelite," rekao je.

Netočne tvrdnje nisu ograničene samo na društvene mreže.

Organizacija za nadzor dezinformacija NewsGuard (arhivirano ovde) identificirala je 51 stranicu koja je iznijela više od desetak netočnih tvrdnji - od fotografija generiranih umjetnom inteligencijom koje navodno prikazuju masovno uništenje u Tel Avivu do izmišljenih izvješća o iranskom zarobljavanju izraelskih pilota (arhivirano ovdje).

Izvori koji šire te netočne narative uključuju iranske Telegram kanale povezane s vojskom i državne medijske izvore povezane s radiotelevizijom Islamske Republike Iran (IRIB), koju je sankcioniralo američko Ministarstvo financija, rekli su iz NewsGuarda.

'Kontrola narativa'

"Svjedočimo poplavi netočnih tvrdnji, a čini se da su obični Iranci glavna ciljana publika," rekla je za AFP McKenzie Sadeghi, istraživačica NewsGuarda.

Sadeghi je iranske građane opisala kao "zarobljene u zatvorenom informacijskom okruženju," gdje državni mediji dominiraju u kaotičnom pokušaju "kontrole narativa."

Sam Iran tvrdio je da je žrtva tehnološke manipulacije, a lokalni mediji izvještavali su da je Izrael nakratko hakirao državnu televiziju, emitirajući snimke ženskih prosvjeda i pozivajući ljude da izađu na ulice (arhivirano ovdje).

Informacijskom kaosu pridonijeli su i isječci preuzeti iz videoigara s ratnom tematikom.

AFP-ovi novinari za provjeru činjenica identificirali su jedan takav isječak objavljen na platformi X, u kojem se netočno tvrdi da prikazuje kako Iran obara izraelski zrakoplov. Snimka je imala zapanjujuće sličnosti s vojnom simulacijskom igrom Arma 3.

Izraelska vojska odbacila je kao "lažne vijesti" izvješća iranskih medija u kojima se tvrdi da su njihovi borbeni zrakoplovi oboreni iznad Irana.

Istraživači su rekli da su chatbotovi poput xAI-jevog Groka, kojima se korisnici interneta sve više okreću za trenutačnu provjeru činjenica, netočno identificirali neke od manipuliranih vizualnih prikaza kao stvarne.

"To naglašava širu krizu u današnjem informacijskom krajoliku na internetu: eroziju povjerenja u digitalni sadržaj," rekao je Miyachi iz BitMindAI-ja.

"Postoji hitna potreba za boljim alatima za detekciju, medijskom pismenošću i odgovornošću platforme kako bi se zaštitio integritet javnog diskursa."