Raptoric Journal/Sigurnost AI sustava
Sigurnost AI sustava15. lipnja 2026. · 11 min čitanja

Shadow AI: skriveni rizik neodobrene upotrebe AI alata

Zaposlenici već koriste AI alate, sa znanjem tvrtke ili bez njega. Ta neodobrena upotreba zove se shadow AI i nosi stvarne rizike. Evo kako ih obuzdati bez zabrane.
Zaposlenik u uredu koristi AI asistenta na prijenosnom računalu.
Autor
LH
Lovro Heruc
Ofenzivna sigurnost, aplikacije i detekcija
Podijelite
LinkedInX / TwitterCopy link

Shadow AI je upotreba AI alata u tvrtki bez odobrenja ili nadzora. Zaposlenici lijepe dijelove ugovora u javni chatbot da ih sažme, prevode interne dokumente vanjskim alatom ili koriste AI pomoćnike za kod, a da IT i uprava o tome ništa ne znaju. Motiv je dobar: žele raditi brže. Rizik je stvaran: osjetljivi podaci napuštaju tvrtku, a nitko ne zna gdje završavaju. Ovaj tekst objašnjava rizik i kako ga obuzdati bez kontraproduktivne zabrane.

Ovo je dio našeg pregleda sigurnosti AI sustava. Pomažemo postaviti upravljanje AI upotrebom kroz sigurnost umjetne inteligencije.

Zašto shadow AI nastaje

Zaposlenici žele raditi brže, a AI alati su moćni i dostupni u nekoliko klikova. Ako tvrtka nema odobreno rješenje ni jasna pravila, ljudi će posegnuti za onim što im je pri ruci, najčešće besplatnim javnim alatima. To rijetko dolazi iz zle namjere; dolazi iz praznine koju tvrtka nije popunila.

Glavni rizici

Problem nije AI sam po sebi, nego nenadzirani protok podataka.

  • Curenje osjetljivih podataka, jer uneseni sadržaj napušta tvrtku i može se zadržati kod pružatelja.
  • Povreda GDPR-a ako u alat uđu osobni podaci bez osnove i nadzora.
  • Gubitak poslovne tajne kroz ugovore, kod ili interne dokumente.
  • Netočni rezultati koje zaposlenici prihvate bez provjere.
  • Nemogućnost nadzora, jer tvrtka ne zna ni koje alate ljudi koriste.

Zašto zabrana ne radi

Prva reakcija mnogih tvrtki je zabraniti AI alate. U praksi to rijetko uspijeva: zaposlenici nađu zaobilazni put, koriste alate na privatnim uređajima ili jednostavno prešute. Zabrana tada samo gura upotrebu dublje u sjenu, gdje je nemoguće nadzirati. Cilj nije zaustaviti AI, nego ga usmjeriti u sigurne okvire.

Kako obuzdati rizik

Shadow AI se rješava upravljanjem, ne zabranom.

  1. 01
    Donesite jasnu politiku
    Definirajte što se smije unositi u AI alate, a što nikako.
  2. 02
    Ponudite odobrene alate
    Dajte zaposlenicima sigurnu opciju da im javni alat ne bude jedini izbor.
  3. 03
    Educirajte ljude
    Objasnite rizik na konkretnim primjerima, ne samo zabranama.
  4. 04
    Uskladite s GDPR-om
    Osigurajte da obrada osobnih podataka kroz AI ima osnovu i nadzor.
  5. 05
    Pratite upotrebu
    Steknite uvid u to koji se alati koriste i prilagodite politiku.

Veza s upravljanjem AI-jem

Shadow AI je dio šire teme upravljanja umjetnom inteligencijom. Tvrtke koje uvode AI trebaju jasna pravila, popis odobrenih alata i odgovornu osobu. To se povezuje i s EU aktom o umjetnoj inteligenciji, koji uvodi obveze za određene primjene AI-ja.

Kako Raptoric pomaže

Pomažemo postaviti politiku upotrebe AI alata, uskladiti je s GDPR-om i dati zaposlenicima sigurne opcije, kroz sigurnost umjetne inteligencije. Dogovorite uvodni razgovor.

Česta pitanja

Što je shadow AI?
Upotreba AI alata u tvrtki bez odobrenja ili nadzora, primjerice unos internih dokumenata u javni chatbot. Glavni rizik je da osjetljivi podaci napuste tvrtku, a nitko ne zna gdje završavaju.
Trebamo li zabraniti AI alate?
Potpuna zabrana najčešće ne radi jer zaposlenici nađu zaobilazni put i upotreba ode dublje u sjenu. Bolji pristup je jasna politika, odobreni alati i edukacija.
Kakve veze shadow AI ima s GDPR-om?
Ako u AI alat uđu osobni podaci bez pravne osnove i nadzora, tvrtka može prekršiti GDPR. Zato upotrebu AI alata treba uskladiti sa zaštitom osobnih podataka.
Kako steći kontrolu nad upotrebom AI-ja?
Donesite jasnu politiku, ponudite sigurne odobrene alate, educirajte zaposlenike i pratite koje se alate koristi. Cilj je usmjeriti AI u sigurne okvire, ne zaustaviti ga.

Izvori

  1. 1NIST. AI Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology, 2023. Poveznica
  2. 2ENISA. ENISA Threat Landscape. European Union Agency for Cybersecurity, 2024. Poveznica
Želite li ovakvu provjeru na vlastitim sustavima?
Naš tim definirat će opseg posla s vama u 30-minutnom razgovoru.
Dogovorite razgovor
Nastavite čitati
Svi tekstovi →