Izraz deepfake potječe od „dubokog učenja”, podskupa „strojnog učenja” u kojem neuronske mreže modeliraju podatke kako bi oponašale obrasce, uključujući pokrete lica, ton glasa i druge ljudske karakteristike.
Deepfakeovi su proizvod umjetne inteligencije. Ovi sustavi uče replicirati ljudske glasove, lica, pa čak i geste analizirajući ogromne skupove podataka.
Na prvi pogled, zvuči zabavno. Ali nije tako. Deepfakeovi se već koriste u nezakonite svrhe, a njihov potencijal za nastanak štete daleko nadilazi ono što uopće možemo shvatiti.
Videozapisi, slike ili audio datoteke generirane umjetnom inteligencijom mogu uvjerljivo oponašati likove i glasove stvarnih ljudi što otežava razlikovanje autentičnih medija od izmišljenog sadržaja.
Ono što je kod deepfakeova opasno je njihov potencijal da unište povjerenje koje imamo u izvore informacija koje dobivamo putem digitalnih medija.
Ako počnemo sumnjati u sve vizualne ili audio medije, potkopavamo našu sposobnost učinkovitog reagiranja na krizne situacije u svim segmentima života pa tako i u gospodarstvu.
S vremenom se smanjuje sposobnost ljudi da razlikuju istinu od laži, što dovodi do mogućnosti velikih manipulacija u društvu i gospodarstvu.
Utjecaj na poslovanje
U okruženju digitalne transformacije, digitalnih medija, online poslovanja bez kojih moderna gospodarstva više ne mogu funkcionirati, zlonamjernima se otvara mogućnost stvaranja videozapisa ili audiozapisa direktora koji daju lažne upute za poslovanje, domaće i međunarodne financijske transakcije, što zaposlenicima gotovo onemogućuje provjeru autentičnosti izvora dobivenih naloga.
Tako lažno predstavljanje pojedinaca u komercijalnim transakcijama dovodi do prevara u poslovanju – lažni videozapis direktora kompanije koji odobrava financijsku transakciju ili odobrava ugovor, iako to nije stvarno učinio.
Utjecaj na financijska tržišta
Implikacije se na naveden način protežu i na financijska tržišta. Lažni video izvršnog direktora korporacije koji najavljuje značajan financijski gubitak ili nadolazeće otpuštanja mogao bi izazvati rasprodaju, brišući tržišnu vrijednost kompanije prije nego što istina izađe na vidjelo.
Utjecaj na ugled robne marke i povjerenje potrošača
Kompanije ulažu velika sredstva u izgradnju brendova i povjerenja kupaca u svoje brendove i proizvode, često to čine desetljećima. Deepfakeovi mogu u trenu uništiti to povjerenje.
Lažna reklama s logotipom brenda ili glasnogovornikom koji podržava štetan proizvod mogla bi postati viralna. To bi izazvalo negativne reakcije ključne za ugled kompanije, sudske tužbe i skupu PR krizu.
Na primjer netko napravi i omogući objavu deepfake oglasa u kojem poznata osoba promovira proizvod koji sadrži štetne sastojke. Do trena kada se deepfake identificira kao lažan, šteta i za brend i za ugled slavne osobe najčešće je nepovratna.
Nadalje, stvaranje i širenje deepfakeova može kršiti zakone o zaštiti podataka, kao što su Opća uredba o zaštiti podataka (GDPR) u Europi ili Kalifornijski zakon o privatnosti potrošača (CCPA) u SAD. Primjer je neovlaštena uporaba osobnih podataka, poput nečijeg lika ili glasa, za stvaranje sintetičkih medija.
Štete za gospodarstvo
Deepfakeovi mogu uzrokovati značajnu ekonomsku štetu za korporacije. Jedan lažni video direktora tvrtke koji najavljuje otpuštanja, optužbe za prijevaru ili stečaj mogao bi uzrokovati pad cijena dionica na financijskom tržištu.
Investitori, vođeni nastalom krizom, prodaju svoje dionice, što dovodi do daljnjih financijskih gubitaka koji traje.
Opasnost za manje poslovne subjekte koji su posebno tržišno ranjivi, također je velika. Deepfake video ili audio oglasi objavljeni na digitalnim medijima, koji sadrži štetne lažne informacije, izravno narušavaju povjerenje kupaca, što dovodi do smanjenja prodaje i prihoda.
Ako promatramo regionalnu ili globalnu trgovinu navedene zlouporabe mogu narušiti povjerenje kupaca odnosno potrošača u cijele industrije, stvarajući domino efekte koji štete širem gospodarstvu.
Pozitivan utjecaj na gospodarstvo
Iako su rizici deepfakeova značajni, oni također imaju ogroman potencijal za poticanje inovacija. Kada se koristi zakonito, ova tehnologija može revolucionirati industrije i stvoriti nove mogućnosti koje su prije bile nezamislive.
Deepfake alati mogu simulirati poslovne i životne scenarije za profesionalce, od tehničke, medicinske i druge obuke do korisničke službe, što dovodi do učinkovitih okruženja za učenje.
U marketingu i prodaji, poslovni subjekti mogu, umjesto generičkih e-mail kampanja, stvarati personalizirane video poruke koje se doimaju kao razgovori jedan na jedan što pomaže u izgradnji dubljih veza s kupcima.
Umjetna inteligencija je tu da ostane, stoga je najbolji način da joj pristupimo razumjeti kako nas zaštititi od svih negativnih aspekata, a istodobno iskoristiti pozitivne. Održavanjem informiranosti, ulaganjem u tehnologije detekcije možemo maksimalno iskoristiti prednosti deepfakeova uz istovremeno minimiziranje njihovih rizika.
Digitalna forenzika u otkrivanju deepfakeova
1. Analiza slike i videa – primarna metoda za otkrivanje deepfakeova je analiza slika i videa.
• Nedosljednosti piksela – na razini piksela, stručnjaci mogu pronaći nepravilnosti u rezoluciji ili artefakte kompresije koji nisu tipični za nepromijenjeni videozapis.
• Osvjetljenje i sjene – u mnogim deepfakeovima, razlike u osvjetljenju su česte.
• Neprirodni pokreti – pokreti ljudskog lica su složeni i nijansirani, ali deepfakeovi često imaju poteškoća s njihovom savršenom replikacijom. Asimetrija lica, trzajni pokreti ili neprirodni obrasci treptanja uobičajeni su znakovi upozorenja.
2. Audio forenzika – audio forenzika usredotočuje se na utvrđivanje je li snimka glasa sintetički stvorena ili manipulirana.
• Analiza frekvencije – forenzički stručnjaci koriste specijalizirani softver za analizu frekvencijskog raspona audio snimaka. Glasovi generirani umjetnom inteligencijom često imaju neprirodne tonske varijacije ili frekvencijske raspone.
• Analiza glasovnih uzoraka – glas svake osobe ima jedinstvene karakteristike, uključujući ton, visinu tona i kadencu. Sintetički glasovi često ne uspijevaju savršeno oponašati te prirodne obrasce.
• Pozadinska buka i artefakti – deepfake audio snimke također mogu pokazivati anomalije u pozadinskoj buci, poput neprirodnih odjeka ili naglih promjena u ambijentalnom zvuku.
3. Ispitivanje metapodataka – metapodaci se odnose na skrivene informacije ugrađene u digitalne datoteke, kao što su datum stvaranja, vrsta uređaja i povijest uređivanja.
• Nedovršeni ili nedostajući metapodaci – jedan od prvih koraka u otkrivanju deepfakea je provjera metapodataka datoteke. Ako ključna polja metapodataka nedostaju ili su izmijenjena, to bi mogao biti znak da je datoteka neovlašteno mijenjana.
• Povijest uređivanja – metapodaci također mogu otkriti je li medijska datoteka obrađena ili uređena softverom za uređivanje videa ili zvuka.
• Geolokacija i podaci o uređaju – forenzički stručnjaci također mogu istražiti geografsku lokaciju i podatke o uređaju povezane s medijskom datotekom.
4. Alati umjetne inteligencije za detekciju – budući da se deepfakeovi stvaraju pomoću umjetne inteligencije, stručnjaci za digitalnu forenziku sve se više okreću alatima umjetne inteligencije za detekciju.
• Modeli strojnog učenja – alati umjetne inteligencije mogu se obučiti za prepoznavanje jedinstvenih izobličenja ili nepravilnosti pronađenih u deepfakeovima.
• Algoritmi za detekciju deepfakea – razvijeno je nekoliko specijaliziranih algoritama za razlikovanje autentičnih i manipuliranih medija.
Pravne i etičke implikacije deepfakeova
Porast deepfakeova donosi složene pravne i etičke izazove. Osobe, fizičke ili pravne, mogu se suočiti sa značajnom štetom ako se deepfake koristi protiv njih. Na primjer, lažni video ili audio isječak mogao bi ozbiljno oštetiti ugled pojedinca ili brend tvrtke, što potencijalno dovodi do tužbi za klevetu, prijevaru ili drugih građanskih odštetnih zahtjeva.
U slučajevima kada je deepfake tehnologija zlonamjerno korištena, forenzička analiza može pomoći u opovrgavanju valjanosti dokaza.
Upravljanje rizicima povezanih s deepfakovima:
• uključiti forenzičke stručnjake u ranoj fazi postupka kada se pojavi sumnja u manipulaciju
• koristiti napredne alate umjetne inteligencije
• proaktivno informirati sve izložene o rizicima koji predstavljaju deepfakeovi
• savjetovati sve izložene kako mogu zaštititi svoju digitalnu prisutnost
