'Alat za prevarante': Deepfake AI snimke promiču lažne seksualne lijekove

Rast generativne umjetne inteligencije olakšao je - i učinio financijski isplativom - masovnu proizvodnju takvih snimki uz minimalan ljudski nadzor, često s lažiranim preporukama poznatih osoba za lažne i potencijalno štetne proizvode.

U nekim TikTok snimkama, mrkva se koristi kao eufemizam za muške genitalije, očito kako bi se izbjegla moderacija sadržaja koja kontrolira seksualno eksplicitan govor.

"Primijetili biste da vam je mrkva narasla," kaže mišićavi muškarac robotskim glasom u jednoj snimci, usmjeravajući korisnike na poveznicu za online kupnju.

"Ovaj proizvod će vam promijeniti život," dodaje muškarac, tvrdeći bez dokaza da biljke koje se koriste kao sastojci povisuju razinu testosterona i podižu razinu energije "do neba."

Čini se da je snimka generirana umjetnom inteligencijom, prema organizaciji za otkrivanje deepfakeova koju je nedavno pokrenula tvrtka Resemble AI sa sjedištem u području zaljeva San Francisca koja je svoje rezultate podijelila s AFP-om.

"Kao što se vidi u ovom primjeru, obmanjujući sadržaj generiran umjetnom inteligencijom koristi se za oglašavanje dodataka prehrani s pretjeranim ili neprovjerenim tvrdnjama, što potencijalno dovodi u opasnost zdravlje potrošača," rekao je AFP-u Zohaib Ahmed, glavni izvršni direktor i suosnivač Resemble AI-a.

"Svjedočimo sadržaju generiranom umjetnom inteligencijom koji se koristi kao oružje za širenje netočnih informacija."

'Jeftini način'

Trend naglašava kako je brzi napredak umjetne inteligencije potaknuo ono što istraživači nazivaju AI distopijom, online prostorom ispunjenim obmanama osmišljenim za manipuliranje naivnim korisnicima da kupuju sumnjive proizvode.

To uključuje sve, od neprovjerenih - a u nekim slučajevima i potencijalno štetnih - dodataka prehrani do proizvoda za mršavljenje i lijekova za seksualne probleme.

"Umjetna inteligencija koristan je alat za prevarante koji žele stvoriti velike količine sadržaja za nisku cijenu," rekla je za AFP istraživačica dezinformacija Abbie Richards.

"To je jeftin način za proizvodnju reklama," dodala je.

Alexios Mantzarlis, direktor Inicijative za sigurnost, povjerenje i zaštitu na Cornell Techu, primijetio je porast broja avatara i audio zapisa "liječnika generiranih umjetnom inteligencijom" na TikToku koji promoviraju upitne seksualne lijekove.

Neke od tih snimki, mnoge s milijunima pregleda, prodaju mješavine za povećanje razine testosterona napravljene od sastojaka poput limuna, đumbira i češnjaka.

Još više zabrinjava to što su brzo razvijajući alati umjetne inteligencije omogućili stvaranje deepfakeova koji oponašaju poznate osobe poput glumice Amande Seyfried i glumca Roberta De Nira.

"Vašem mužu se ne diže?" čini se da Anthony Fauci, bivši ravnatelj Nacionalnog instituta za alergije i zarazne bolesti, pita u TikTok snimci kojom promovira dodatak prehrani za prostatu.

No, isječak je lažiran i zlorabljuje Faucijev lik.

'Štetno'

Mnoge manipulirane snimke stvaraju se iz postojećih, modificiraju se glasovima generiranim umjetnom inteligencijom i sinkroniziraju se kako bi odgovarali onome što izmijenjeni glas govori.

"Snimke s lažnim predstavljanjem posebno su štetne jer dodatno smanjuju našu sposobnost prepoznavanja autentičnih profila na internetu," rekao je Mantzarlis.

Prošle godine Mantzarlis je otkrio stotine oglasa na YouTubeu s lažnim profilima slavnih osoba - uključujući Arnolda Schwarzeneggera, Sylvestera Stallonea i Mikea Tysona - koji promoviraju dodatke prehrani brendirane kao lijekove za erektilnu disfunkciju.

Brzi tempo generiranja kratkih snimki stvorenih umjetnom inteligencijom znači da čak i kada tehnološke platforme uklone upitan sadržaj, gotovo identične verzije brzo se ponovno pojave - pretvarajući moderiranje u igru mačke i miša.

Istraživači kažu da to stvara jedinstvene izazove za nadzor sadržaja generiranog umjetnom inteligencijom i zahtjeva nova rješenja i sofisticiranije alate za otkrivanje.

AFP-ovi novinari za provjeru činjenica više su puta razobličili lažirane oglase na Facebooku koji promoviraju tretmane - uključujući lijekove za erektilnu disfunkciju - koji koriste lažirane preporuke Bena Carsona, neurokirurga i bivšeg člana američkog kabineta.

Unatoč tome, mnogi korisnici i dalje smatraju preporuke legitimnima, što ilustrira privlačnost deepfakeova.

"Obmanjujući oblici oglašavanja i upitni dodaci prehrani za seks postoje otkad postoji internet, pa čak i duže," rekao je Mantzarlis.

"Kao i sa svakom drugom lošom stvari na internetu, generativna umjetna inteligencija učinila je ovaj vektor zloupotrebe jeftinijim i bržim za primjenu u velikim razmjerima."