Feb 26, 2024 8 min read

F-zin #33: Hipertenzija uoči izbora

Kojim tempom evoluiraju AI dezinformacije u Hrvatskoj? Zašto su u glavnoj ulozi političari, novinarke i liječnici? Koje pouke o utjecaju AI dezinformacija na izbore možemo izvući iz primjera lanjskih izbora u Slovačkoj? Kako se Europska unija u tom kontekstu priprema za europske izbore?

ilustracija: Ivana Živković/Faktograf.hr

Drage čitateljice i čitatelji,

“danas ću podijeliti s vama neke neobične vijesti koje će sigurno promijeniti živote mnogima od vas” – ovako počinje video generiran alatima umjetne inteligencije (AI) u kojem hrvatski predsjednik Zoran Milanović potiče građane da ulože u MOL, naftnu kompaniju koja je većinski vlasnik INA-e. Nevješto izveden video objavljen je na Facebooku u siječnju, a cilj ove online prevare je krađa osobnih podataka korisnika i korisnica društvenih mreža.

Tjedan dana kasnije lik i glas predsjednika Milanovića iskorišteni su u još jednoj AI generiranoj snimci. Nakon lažne najave urednice i voditeljice emisije RTL Direkt Mojmire Pastorčić, Milanović građane poziva da ulože novac u “prvu državnu investicijsku platformu u Hrvatskoj”. Video i audio u ovom su primjeru nešto uspješnije sinkronizirani, opet je u pitanju online prevara, opet je cilj krađa osobnih podataka.

S istim ciljem kreirana je deepfake snimka na kojoj ministar zdravstva Vili Beroš prodaje lijek koji je sam “stvorio”, a “popravlja sto posto zglobova”. Isti taj lijek prodaje i znanstvenik Ivan Đikić, koji se od molekularnog biologa premetnuo u kardiologa te osim zglobova liječi i hipertenziju. Društvenim mrežama širila se i snimka Đikićevog navodnog razgovora o lijeku za hipertenziju s HRT-ovom voditeljicom Sanjom Smiljanić Grubišić. I ne samo to – Đikić je zbog lijeka za povišeni krvni tlak napadnut na snimanju emisije posvećene toj bolesti, a o napadu izvještava voditelj Igor Bobić s N1 televizije. Voditeljica iste televizije Nina Kljenak izvještava, pak, kako je neurokirurg Josip Paladino (također odjednom kardiolog) nakon “skandaloznog intervjua” o istom lijeku ostao bez liječničke licence.

ŠIRA SLIKA

Korisnici društvenih mreža u Hrvatskoj mjesecima su izloženi deepfakeu – sintetskim video i audio dezinformacijama generiranima pomoću različitih alata umjetne inteligencije, o čemu na Faktografu opsežno izvještavamo.

U prvim pokušajima alati umjetne inteligencije korišteni su samo za kloniranje glasa. U slučaju ministra Beroša je preko autentičnog videa montiran umjetno generirani glas pa su mimika lica i glas vidljivo neusklađeni. Međutim, na deepfake snimkama koje uključuju Zorana Milanovića i Igora Bobića pokreti usana doista prate glas, mada i dalje ne zvuče pretjerano uvjerljivo.

Prevaranti i propagandisti koriste identitete javnih osoba – liječnika, novinarki, političara – zato što njihov autoritet prevaru čini uvjerljivijom i zato što su često pred televizijskim kamerama. Naime, alatima umjetne inteligencije potreban je autentičan materijal iz kojeg mogu učiti, a snimke javnih ličnosti lako su dostupne na, primjerice, YouTubeu i sličnim servisima.

Od subreddita do kršenja predizborne šutnje

Do prije nekoliko godina, o deepfakeu se uglavnom raspravljalo u kontekstu pornografije. Javno dostupne fotografije nebrojenih žena, isprva poznatih ličnosti, montirane su preko lica glumica u pornografskim filmovima. I sam termin deepfake nastao je u tom kontekstu – pojavio se krajem 2017. godine na društvenoj mreži Reddit. U jednom od podforuma (subreddit), nazvanom “r/deepfakes”, korisnici te mreže objavljivali su pornografske snimke na kojima su lica glumica zamijenjena licima “poznatih” žena.

Trenutno se u Hrvatskoj deepfake tehnologija koristi primarno za krađu osobnih podataka, uključujući podatke o bankovnim karticama. Tehničke nedostatke zasad je lako uočiti, odnosno relativno je lako prepoznati da je sadržaj lažan. Međutim, građani Hrvatske u 2024. i 2025. godini izlaze na europske, parlamentarne, predsjedničke i lokalne izbore te se utjecaj AI dezinformacija na predizborne kampanje može očekivati.

U Slovačkoj se, primjerice, krajem rujna prošle godine dogodilo upravo to. Dva dana uoči parlamentarnih izbora na Facebooku je objavljena audio snimka na kojoj političar Michal Šimečka i novinarka Monika Tódová razgovaraju o planu da namjeste izborni rezultat kupovinom glasova romske manjine. Oboje su se ogradili od snimke, AFP je istog dana objavio analizu prema kojoj snimka pokazuje tragove manipulacije, ali tajming puštanja deepfakea učinio je svoje. Prema slovačkim izbornim pravilima, predizborna šutnja traje 48 sati prije otvaranja biračkih mjesta. Pitanje je koliko je glasača izborima pristupilo uvjereno da je riječ o autentičnoj audio snimci.

Pripreme za izbore

Akt o digitalnim uslugama (DSA) dokument je kojim Europska unija digitalne platforme obavezuje na poduzimanje konkretnih mjera u borbi protiv dezinformacija. U vrijeme izbora u Slovačkoj DSA se već primjenjivao na platforme s više od 45 milijuna korisnika. Od sredine veljače ove godine Akt o digitalnim uslugama primjenjuje se na sve platforme koje posluju na području Europske unije.

Europska mreža organizacija za provjeravanje činjenica (EFCSN), dio koje je i Faktograf, analizirala je provedbu Kodeksa prakse protiv dezinformacija godinu i pol od potpisivanja tog samoregulatornog instrumenta. Od početka je zamišljeno da Kodeks postane dio budućih kodeksa ponašanja predviđenih Aktom o digitalnim uslugama. Iako su digitalne platforme dobrovoljno potpisale Kodeks, analiza EFCSN-a pokazuje da je većina najvećih platformi daleko od implementacije mjera propisanih Kodeksom. Akt o digitalnim uslugama, za razliku od Kodeksa, predviđa sankcije.

U tom kontekstu treba promatrati ovih dana najavljeno “savezništvo” velikih tehnoloških kompanija u borbi protiv AI dezinformacija. Dvadeset najvećih tehnoloških kompanija, kao što su Google, Meta, Microsoft, TikTok, X, ali i Open AI, kompanija koja predvodi u ovom polju, najavilo je da će uoči brojnih izbora koji se u svijetu odvijaju ove godine zajedno raditi na identificiranju i označavanju AI dezinformacija u kojima se koriste javne ličnosti.

Akt o digitalnim uslugama predviđa i da zemlje članice EU-a imenuju Koordinatore za digitalne usluge, koji na nacionalnoj razini prate primjenjuju li se odredbe Akta dosljedno. Nacionalni koordinatori sudjeluju u Europskom odboru za digitalne usluge pri Europskoj komisiji. Hrvatska Vlada je 15. veljače tu funkciju povjerila Hrvatskoj regulatornoj agenciji za mrežne djelatnosti (HAKOM).

HITOVI MJESECA

PRATITE NAŠE WHATSAPP KANALE

U superizbornoj godini posebno je važno provjeravati tvrdnje koje u javnost iznose političari i istaknute javne ličnosti, a ključnim društvenim i političkim temama pristupati konstruktivno. Faktografove analize sada možete pronaći i na WhatsApp kanalu. Pratite nas!

Klimatski portal novi je medijski projekt udruge Faktograf. Ubrzo krećemo s radom, a o klimatskoj krizi izvještavat ćemo s fokusom na rješenja. Zasad nas možete pratiti na WhatsApp kanalu, a uskoro više!

Zanima vas dublji uvid u rad Hrvatskog sabora? Pomoću Gongove platforma Parlametar analizirajte glasanja i zastupnička pitanja. Registrirajte se za Parlametar bilten i jednom tjedno u vašem inboxu bit će podaci o radu Sabora.

Sve brojeve F-zina možete pronaći ovdje. Ako vam F-zin slijeće u Gmail te završava u Promotions ili Spam, povucite ga u Primary inboks i kliknite “Da” na pitanje želite li da newsletter stiže u Primary inbox.