Prijeđi na sadržaj

Što je deepfake?

Deepfake je video, slika ili zvučni zapis izrađen ili izmijenjen umjetnom inteligencijom tako da uvjerljivo prikazuje stvarnu osobu kako govori ili radi nešto što nikada nije rekla ni učinila. Naziv dolazi od engleskih izraza deep learning i fake. Napadači deepfake koriste za prijevare s plaćanjima, lažno predstavljanje i zaobilaženje provjere identiteta.

Poznato i kao: deep fake, AI krivotvorina

Kako nastaje deepfake

Deepfake se izrađuje modelima strojnog učenja koji uče izgled lica ili boju glasa osobe iz postojećih snimki. Za imitaciju glasa danas je dovoljna kratka snimka, a takve snimke većine direktora postoje u javnim nastupima, intervjuima i videozapisima na društvenim mrežama. Alati za izradu deepfake sadržaja javno su dostupni i ne zahtijevaju posebno tehničko znanje.

Deepfake u napadima na tvrtke

Najpoznatiji slučaj dogodio se 2024. godine u Hong Kongu. Zaposlenik međunarodne inženjerske tvrtke Arup sudjelovao je u video sastanku s osobama za koje je mislio da su financijski direktor i kolege. Svi ostali sudionici bili su deepfake. Zaposlenik je izvršio niz uplata u ukupnom iznosu od oko 25 milijuna američkih dolara.

Napadači deepfake koriste i na druge načine:

  • lažni glasovni poziv direktora koji traži hitno plaćanje (vishing)
  • lažni kandidati na video razgovorima za posao, s ciljem dobivanja pristupa sustavima tvrtke
  • zaobilaženje provjere identiteta putem videa kod otvaranja računa
  • lažne izjave uprave kojima se nanosi šteta ugledu tvrtke

Kako prepoznati deepfake

Kvaliteta deepfake sadržaja brzo raste, pa vizualni znakovi postaju sve manje pouzdani. Mogući znakovi su neprirodno treptanje, nesklad pokreta usana i zvuka, mutni rubovi lica i neobična rasvjeta. Pouzdanija zaštita je postupak provjere koji ne ovisi o tome kako osoba izgleda ili zvuči.

Kako zaštititi tvrtku

  • Za svako plaćanje ili promjenu podataka o plaćanju tražite potvrdu drugim kanalom, pozivom na poznati broj.
  • Za veća plaćanja uvedite odobrenje dviju osoba, bez iznimki za hitne zahtjeve.
  • Dogovorite s upravom kontrolno pitanje ili postupak za hitne zahtjeve.
  • Upoznajte financije, kadrovsku službu i službu za podršku s deepfake scenarijima kroz edukaciju zaposlenika.
  • U procesima koji se oslanjaju na video provjeru identiteta uvedite provjeru živosti i dodatne kontrole.

EU AI Act u članku 50. propisuje da sadržaj koji je deepfake mora biti označen kao umjetno izrađen ili izmijenjen. Napadači tu obvezu ne poštuju, pa oznaka ne može biti zaštitna mjera.

Česta pitanja

Mogu li se deepfake pozivi otkriti alatima?

Postoje alati za otkrivanje deepfake sadržaja, ali nijedan nije pouzdan u svim slučajevima, a napadači stalno poboljšavaju modele. Alati mogu pomoći, ali zaštitu plaćanja treba temeljiti na postupcima provjere drugim kanalom.

Koje su tvrtke najizloženije deepfake prijevarama?

Najizloženije su tvrtke čiji su direktori javno prisutni u videima i medijima te tvrtke s mnogo međunarodnih plaćanja. Rizik raste kad jedna osoba može sama odobriti veliko plaćanje.

Više o temi

Povezana uslugaEdukacija zaposlenika

Kontaktirajte nas

Recite nam što trebate zaštititi. Odgovaramo u roku jednog radnog dana.

Što slijedi

  1. Poruka

    Napišete nam što trebate. Odgovaramo u roku jednog radnog dana.

  2. Razgovor

    30 minuta o vašim sustavima i potrebama.

  3. Ponuda

    Opseg, rok i cijena u roku od 48 sati.