Slika generirana umjetnom inteligencijom kruži u objavama o violinistu u nacističkom koncentracijskom logoru
- Objavljeno 31. srpnja 2025. u 15:56
- Minuta potrebno za čitanje: 10
- Autor: Magdalini GKOGKOU, AFP Grčka
- Prijevod i prilagodba Nikola KIS
Copyright © AFP 2017-2025. Za bilo kakvu komercijalnu uporabu ovog sadržaja potrebna je pretplata. Kliknite ovdje za više informacija.
"Henek, violinist, bio je prisiljen pridružiti se logorskom orkestru. Njegova uloga: svirati glazbu dok su drugi zatvorenici odvođeni u plinske komore.Svirao je 'Schubertovu Serenadu' dok su mu suze tekle niz lice, gudalo mu je drhtalo u ruci", stoji u opisu objave na Facebooku od 6. srpnja 2025.
"Jedna djevojka se okrenula i šapnula: 'Vaša glazba je posljednje što ću čuti. Hvala vam.' Henek je preživio rat. Nikada više nije dotaknuo violinu", nastavlja se.
Objava uključuje sliku mršavog muškarca koji svira violinu, a iza njega stoje mršave figure nalik zatvorenicima. Podijeljena je više od 270 puta.
Sliku sa sličnim opisom podijelili su i drugi korisnici na Facebooku (na primjer ovdje i ovdje).
Također je kružila na drugim jezicima, uključujući grčki, engleski i bugarski.
Komentari korisnika odražavaju istinsko uvjerenje u netočnu priču. "Moj komšija je bio u Aušvicu. Trebao je taj dio njegovog života slušati. Suze same šetaju licem. Da to ljudi rade ljudima," napisao je jedan korisnik. "Sve si točno napisao ali, tom čovjeku sva ljudska postignuća uništio je nacifašist Netanjahu. Točka," komentirao je drugi, misleći na aktualnu izraelsku vojnu operaciju u Gazi.
Slika kruži tijekom trenda u sklopu kojeg kreatori sadržaja izbacuju snimke generirane umjetnom inteligencijom za novac, ciljajući na emocionalne reakcije korisnika na holokaust, u kojem je šest milijuna Židova ubijeno (arhivirano je ovdje).
Muzej na mjestu nacističkog koncentracijskog logora i logora smrti Auschwitz-Birkenau upozorio je na taj trend nakon što je prvi put primijetio objave u svibnju 2025., izvijestio je AFP.
Iako je glazba bila dio svakodnevnog života u gotovo svim nacističkim logorima, a zatvorenici su bili prisiljeni pjevati ili svirati instrumente po naredbi, slika i priča podijeljene na društvenim mrežama nisu stvarne.
Vizualne nedosljednosti
Obrnuto pretraživanje slika dalo je rezultate iz objava s istom netočnom tvrdnjom na grčkom i engleskom jeziku i iz organizacija za provjeru činjenica i medija koji su već opovrgnuli tvrdnju.
AFP je identificirao nekoliko vizualnih nedosljednosti na slici, što pokazuje da nije vjerojatno da je autentična. Konkretno, osoba iza violinista ima tri prsta, a violinist kao da ima četvrtaste zglobove prstiju nerazmjerne veličine.
Nadalje, četvrta žica violine nestaje na donjem dijelu instrumenta.
Izgled violinista također djeluje neprimjereno - ima gustu kosu, za razliku od ostalih u pozadini čije su glave obrijane, a ostaci onoga što je nekada možda bila košulja prilijepljeni su mu za jednu stranu torza.
Povijesne netočnosti
Dana 6. srpnja 2025. službeni profil Memorijalnog centra Auschwitz objavio je na platformi X snimku zaslona jedne od netočnih objava uz komentar: "objavljivanje netočnih, umjetnom inteligencijom generiranih slika Auschwitza nije samo opasno iskrivljavanje. Takva izmišljotina ne poštuje žrtve ni sjećanje na njih."
Još jedna povijesna nedosljednost koju je označio Memorijalni centar Auschwitz jest da je "muški orkestar svirao u muškom logoru - priča o djevojci koja je prošla pored muškog orkestra vrlo je malo vjerojatna."
U komentaru ispod svoje objave dodali su da je sama priča vjerojatno izmišljena jer ima povijesnih nedosljednosti, uključujući, na primjer, činjenicu da orkestri u Auschwitzu nisu svirali "dok su muškarci, žene i djeca marširali u smrt," kako se tvrdi u objavama. Njihov glavni posao bio je svirati kada su kolone zatvorenika izlazile na posao i vraćale se u logor," nastavlja se u objavi - činjenica koju su potvrdili i drugi stručnjaci s kojima je AFP razgovarao.
Publishing fake, AI-generated images of Auschwitz is not only a dangerous distortion. Such fabrication disrespects victims and harasses their memory.
— Auschwitz Memorial (@AuschwitzMuseum) July 6, 2025
If you see such posts, please don’t share them. Instead, follow the official @AuschwitzMuseum, where every name, every photo, and… pic.twitter.com/8sMBxvPkOt
Dr. Elise Petit, čije istraživanje je usredotočeno na mapiranje zvučnih prostora unutar nacističkog sustava logora, rekla je da je prikaz glazbenika koji svira violinu kako bi pratio zatvorenike u plinske komore činjenično netočan. Orkestri su "svirali blizu vrata kada su zatvorenici marširali u i iz logora kako bi radili u Kommandosu," rekla je za AFP 21. srpnja.
Iako se neki istraživači slažu da bi mogli postojati dokazi da se to događalo u nekim slučajevima, mišljenja im se malo razlikuju oko toga je li se to nastavilo tijekom pogubljenja.
Povjesničar Državnog muzeja Auschwitz-Birkenau dr. Jacec Lachendro rekao je da postoje zapisi koji spominju muški orkestar u Birkenauu koji je svirao koncerte dok su novopridošli Židovi vođeni u plinske komore ili dok su "zatvorenici vođeni na mjesto pogubljenja vješanjem ili strijeljanjem (ali ne tijekom samog pogubljenja)." Međutim, naglasio je da glazbenici "u pravilu" nisu svirali u tim situacijama, već da se to događalo "sporadično i kao rezultat slučajnosti." "Transporti su ipak stizali u različita doba dana, kada je Lagerkapelle [logorski orkestar] vježbao ili održavao svoje nedjeljne koncerte," napomenuo je.
Dr. Sybille Steinbacher sa Sveučilišta u Beču napisala je u elektroničkoj poruci AFP-u 23. srpnja da, iako uloga zatvoreničkih orkestara u nacističkim koncentracijskim logorima nije u potpunosti istražena, bilo je slučajeva kada je glazba služila i kao pratnja, na primjer tijekom dolaska zatvoreničkih transporta, posjeta visokih nacističkih dužnosnika ili stranih gostiju, a ponekad i za pogubljenja. "Kažu da su glazbenici morali svirati operetne melodije dok su ljudi ubijani u plinskim komorama," rekla je u elektroničkoj poruci AFP-u 23. srpnja.
Štoviše, Steinbacher je dodala da slika sadrži daljnje povijesne netočnosti, poput pozadine i odjeće prikazanih zatvorenika.
"Pozadina se ne može identificirati, ali to nije Birkenau," napisala je. "Odjeća i izrazito mršavi zatvorenici pojačavaju moje sumnje u autentičnost slike. Štoviše, zatvorenici su morali biti odjeveni; nije bilo stajanja na prozivci s golim gornjim dijelom tijela," dodala je.
"Većina zatvorenika u Auschwitzu imala je prugaste uniforme (što ovdje nije vidljivo), nisu imali remene, a logorski brojevi bili su im prišiveni i na hlačama. Možete pogledati i kosu 'Heneka' - zatvorenici su brijali kosu. Godine 1943. zatvorenici su također tetovirali svoje brojeve - posebno židovski zatvorenici koji su tetovirani od proljeća 1942.," rekao je Pawel Sawicki, zamjenik glasnogovornika Memorijalnog centra Auschwitz.
AFP je pretražio Arhiv Arolsen – Međunarodni centar za nacistički progon žrtava i preživjelih Holokausta za imenom "Klara Milkovits," (arhivirano ovdje) spomenutim u objavama na grčkom, koristeći filtere za "Auschwitz" i "Birkenau" pod "Mjesto zatočenja." Jedna osoba pronađena je uz pomoć tih filtera, rođena 1932., što znači da bi imala 11 godina 1943. (a ne 16, kako je navedeno u objavi) - godine kada je navodno snimljena fotografija violinista.
Detektori umjetne inteligencije
AFP-ov servis za provjeru činjenica također je analizirao sliku putem GetReal Labsa, tvrtke za kibernetičku sigurnost koja koristi forenzičku analizu za otkrivanje sintetičkog sadržaja, koja je potvrdila da je slika sintetička.
Sliku smo analizirali i uz pomoć alata za detekciju umjetne inteligencije Hive Moderation, koji je pokazao da slika vrlo vjerojatno sadrži sadržaj generiran umjetnom inteligencijom ili deepfake sadržaj, s razinom pouzdanosti od 99,9%.
AFP je pronašao snimku objavljenu na Facebooku 5. srpnja 2025. koja prikazuje istog violinista kao na sintetičnoj slici kako svira uz pozadinsku pjesmu koja zvuči kao glazba za violinu.
Koristeći ključne kadrove iz snimke i alat za povećanje InVID, AFP je pronašao neke nedosljednosti. Glazbenik izgleda slijepo, što bi moglo biti stvarno, ali zombi lica u pozadini - neki izgledaju kao zombiji ili nose sunčane naočale – izgledaju generirano.
Osoba lijevo od glazbenika izgleda kao da nema prsnu kost, s rebrima koja se vide do remena hlača.
Uz to, AFP je analizirao zvuk snimke uz pomoć Deepfake Totala, alata za otkrivanje zvučnih deepfakeova. S ocjenom od 74%, vrlo je vjerojatno da je zvuk generirala umjetna inteligencija.
Koristeći alat za generiranje slika ChatGPT-a, AFP-ov tim za provjeru činjenica generirao je sliku sličnu obmanjujućoj koja je kružila internetom uz pomoć detaljnog upita na temelju opisa te slike. Dobili smo sljedeće rezultate.
Prvi koncentracijski logori otvoreni 1933., nedugo nakon što je Hitler postao kancelar, prvenstveno su korišteni za zatvaranje političkih protivnika nacističke politike. Do kraja 1942. godine u funkciji je bilo šest logora smrti, uključujući Auschwitz-Birkenau, nakon konferencije u Wannseeju koja je formalizirala nacističku politiku istrebljenja Židova u okupiranoj Europi.
Oko 1,1 milijun ljudi sustavno je ubijeno u Auschwitzu - najvećem logoru smrti - od 1,3 milijuna ljudi koji su tamo deportirani između 1940. i 1945. Otprilike milijun ubijenih bili su Židovi, a među ostalima koji su umrli bili su Romi, ruski ratni zarobljenici i Poljaci.
AFP je provjerio činjenice i u drugim tvrdnjama koje uključuju slike generirane umjetnom inteligencijom.
Vidjeli ste sumnjivu informaciju na društvenim mrežama?
Kontaktirajte nas
