EU AI Act (Akt o umjetnoj inteligenciji): što tvrtke moraju znati

EU AI Act, na hrvatskom Akt o umjetnoj inteligenciji, regulativa je Europske unije koja prvi put na svijetu cjelovito uređuje razvoj i korištenje umjetne inteligencije. Formalno je riječ o Uredbi (EU) 2024/1689, donesenoj nakon višegodišnjeg zakonodavnog postupka, koja obveze postavlja prema riziku koji pojedini AI sustav nosi za zdravlje, sigurnost i temeljna prava ljudi.¹ Budući da je riječ o uredbi, a ne direktivi, primjenjuje se izravno u svim državama članicama bez nacionalne transpozicije, slično kao GDPR. Hrvatska tvrtka ne čeka da Sabor donese poseban zakon. Obveze iz Akta vrijede izravno, a nacionalna razina određuje samo nadzorno tijelo i provedbu kazni.

Doseg Akta je širok i izvanteritorijalan. Ne pokriva samo tvrtke koje AI razvijaju, nego i one koje gotove AI sustave uvode u svoje poslovanje. Pokriva i pružatelje izvan Europe ako svoje sustave stavljaju na tržište EU-a ili ako se rezultati njihovih sustava koriste u Uniji. Za reguliranu hrvatsku tvrtku u financijama, zdravstvu, kritičnoj infrastrukturi ili SaaS-u to znači da AI prestaje biti samo tehnološko pitanje i postaje obveza usklađenosti, s rokovima, dokumentacijom, ljudskim nadzorom i sigurnosnim zahtjevima koji se izravno vežu uz testiranje. Ovaj tekst objašnjava što Akt traži, od koga, do kada i što napraviti sada.

Što je Akt o umjetnoj inteligenciji i zašto je prvi te vrste

Akt je zakon utemeljen na riziku. Umjesto da svu umjetnu inteligenciju regulira jednako, sustave razvrstava u razine i primjenjuje obveze razmjerne mogućoj šteti. Sustav koji odlučuje o kreditu, zaposlenju ili pristupu zdravstvu nosi puno veće obveze od filtra neželjene pošte ili preporuke proizvoda. Ta logika čini Akt prvim sveobuhvatnim propisom te vrste. Ranije su zemlje umjetnu inteligenciju pokrivale neizravno, kroz zaštitu podataka, zaštitu potrošača ili sektorske propise. Akt prvi put daje horizontalni okvir koji vrijedi za sve sektore i sve vrste AI sustava na jedinstvenom tržištu.¹

Akt definira i uloge, što je presudno za razumijevanje obveza. Pružatelj (provider) razvija AI sustav ili ga pod svojim imenom stavlja na tržište. Korisnik, u Aktu nazvan deployer, primjenjuje AI sustav u profesionalnom kontekstu pod vlastitom odgovornošću. Najveći dio tereta nose pružatelji visokorizičnih sustava, ali ni korisnici nisu izuzeti. Jedna organizacija često je oboje, jer kupuje gotove modele i istovremeno gradi vlastite alate na njima. Zato je prvi praktični korak za svaku tvrtku utvrditi koju ulogu ima za svaki pojedini AI sustav koji koristi ili nudi.

Pristup temeljen na riziku: četiri razine

Cijela struktura Akta počiva na četiri razine rizika. Svaki AI sustav koji tvrtka koristi ili nudi treba svrstati u jednu od njih, jer razina određuje sve daljnje obveze. Tablica daje primjere i pripadajuće obveze.

Najveći broj AI sustava pada u minimalni rizik i nema posebnih obveza. Zabranjene prakse, s druge strane, primjenjuju se od veljače 2025. i tvrtka ih jednostavno ne smije koristiti. Najviše posla i najviše prostora za pogrešku nalazi se u dvije srednje kategorije. Pogrešno svrstavanje visokorizičnog sustava u ograničeni rizik najčešća je i najopasnija pogreška u klasifikaciji.

Akt ne pita koristite li umjetnu inteligenciju. Pita što bi vaš AI mogao učiniti ljudima ako zakaže, i prema tome odmjerava obveze.

Obveze za sustave visokog rizika

Ako pružate visokorizični AI sustav, obveze su značajne i trajne, a ne jednokratna provjera prije lansiranja. Akt ih razrađuje u nizu konkretnih zahtjeva koji moraju biti zadovoljeni prije nego sustav dođe na tržište i održavani kroz cijeli njegov životni vijek.

• Sustav upravljanja rizicima koji djeluje neprekidno kroz cijeli životni ciklus sustava, identificira i smanjuje rizike te se redovito ažurira.
• Upravljanje podacima, kojim se osigurava da su skupovi podataka za treniranje, validaciju i testiranje relevantni, reprezentativni i bez nedostataka koji vode pristranosti.
• Tehnička dokumentacija koja dokazuje sukladnost i koja se priprema prije stavljanja sustava na tržište.
• Automatsko bilježenje rada (logovi) koje omogućuje praćenje rada sustava i naknadnu istragu incidenata.
• Transparentnost i jasne upute za korištenje, tako da korisnik može ispravno upotrijebiti i protumačiti rezultate sustava.
• Ljudski nadzor osmišljen tako da osoba može razumjeti, pratiti i prema potrebi intervenirati ili zaustaviti sustav.
• Točnost, otpornost i kibernetička sigurnost primjerena namjeni i riziku sustava.

Posljednji zahtjev mjesto je gdje se Akt izravno spaja s kibernetičkom sigurnošću. Akt traži dokaze, ne tvrdnje. Dokazivanje otpornosti i sigurnosti znači testiranje sustava u protivničkim uvjetima, što obuhvaća napade specifične za AI poput injekcije prompta, trovanja podataka i izvlačenja modela. To je posao koji pokrivaju testiranje sigurnosti AI sustava i tehnike opisane u tekstovima o sigurnosti LLM aplikacija i OWASP LLM Top 10. Sigurnosni zahtjev iz Akta ne ispunjava se izjavom, nego nalazima testiranja.

Pravila za AI opće namjene (GPAI) i temeljne modele

Akt postavlja poseban skup pravila za opće namjenske AI modele (general-purpose AI, GPAI), velike temeljne modele na kojima se gradi mnoštvo aplikacija. Tipičan primjer su veliki jezični modeli iza popularnih asistenata. Ova pravila uvedena su jer takav model nije vezan uz jednu namjenu, pa se njegov rizik ne može procijeniti samo na razini krajnje aplikacije. Svi pružatelji GPAI modela imaju obveze transparentnosti i dokumentacije, uključujući sažetak podataka korištenih za treniranje i mjere za poštivanje autorskih prava.

Modeli koji se ocijene sustavno rizičnima, najsposobniji modeli s najvećim mogućim utjecajem, nose dodatne obveze. Tu spadaju evaluacija modela, protivničko testiranje, procjena i ublažavanje sistemskih rizika te prijava ozbiljnih incidenata. Za većinu hrvatskih tvrtki praktična posljedica je posredna ali važna. Ako gradite na tuđem temeljnom modelu umjesto da trenirate vlastiti, te obveze prije svega oblikuju modele na koje se možete osloniti. Pri odabiru dobavljača AI modela traženje dokumentacije o usklađenosti s GPAI obvezama postaje dio dužne pažnje, jednako kao i kod ostalih dobavljača.

Vremenski raspored primjene kroz 2025. do 2027.

Akt se ne primjenjuje odjednom. Obveze stupaju na snagu u fazama, što tvrtkama daje vrijeme za pripremu za teže zahtjeve. Tablica prikazuje ključne datume.

Fazni rokovi su prilika, a ne razlog za odgodu. Uspostava upravljanja rizicima, dokumentacije i testiranja za visokorizični sustav traje mjesecima, pa ranija priprema izbjegava kasniju jurnjavu pred rok. Po našem iskustvu, popis i klasifikacija AI sustava u srednjoj tvrtki obično traje nekoliko tjedana, a stvarna procjena ovisi o broju sustava i njihovoj složenosti. Priprema usput podiže i opću razinu sigurnosti, jer mnoge mjere koje Akt traži ionako su dobra praksa.

Tko je obveznik: pružatelji i korisnici

Obveze ovise o ulozi. Pružatelj nosi najveći teret jer odgovara za sukladnost samog sustava: dokumentaciju, upravljanje rizicima, sigurnost i ocjenu sukladnosti prije stavljanja na tržište. Korisnik (deployer) visokorizičnog sustava ima vlastite, manje ali stvarne obveze. Mora koristiti sustav prema uputama, osigurati ljudski nadzor, pratiti rad sustava i čuvati logove te obavijestiti pružatelja i nadzorno tijelo ako uoči ozbiljan incident ili rizik.

Granica između uloga može se pomaknuti. Ako korisnik bitno izmijeni visokorizični sustav ili ga stavi na tržište pod svojim imenom, prema Aktu preuzima obveze pružatelja. Zato tvrtka koja kupuje gotov AI alat, a zatim ga znatno prilagođava ili integrira, mora provjeriti nije li time postala pružatelj. Ovo je čest izvor zabune i pravi razlog zašto popis AI sustava mora bilježiti i ulogu tvrtke za svaki od njih, a ne samo naziv sustava.

Kazne

Akt svoje obveze podupire visokim, stupnjevanim kaznama. Kršenje zabrana praksi neprihvatljivog rizika nosi najviše kazne, do 35 milijuna eura ili 7 posto ukupnog godišnjeg prometa na svjetskoj razini, ovisno o tome što je veće. Kršenje većine ostalih obveza, uključujući one za visokorizične sustave, nosi do 15 milijuna eura ili 3 posto svjetskog prometa. Davanje netočnih ili obmanjujućih informacija nadzornim tijelima kažnjava se do 7,5 milijuna eura ili 1 posto prometa.¹

Kao i kod GDPR-a, riječ je o gornjim granicama. Stvarna kazna ovisi o naravi i težini kršenja, trajanju, suradnji s nadzornim tijelom i veličini tvrtke. Razmjer ipak jasno pokazuje da Akt nije preporuka. Za tvrtku koja gradi ili uvodi visokorizični AI, trošak usklađivanja gotovo je uvijek manji od izloženosti kazni i poslovnoj šteti.

Odnos prema GDPR-u i drugim propisima

Akt ne ukida ni zamjenjuje druge propise, nego se s njima preklapa. Najvažnije preklapanje je s GDPR-om. Svaki AI sustav koji obrađuje osobne podatke istovremeno mora poštovati GDPR, neovisno o tome u koju razinu rizika pada prema Aktu. To znači zakonitu osnovu obrade, načelo minimizacije podataka, prava ispitanika i, gdje je primjenjivo, procjenu učinka na zaštitu podataka. U Hrvatskoj nadzor nad obradom osobnih podataka i dalje provodi AZOP, o čemu pišemo u tekstu o zaštiti osobnih podataka.

Postoje i drugi dodirni propisi. Tvrtke obuhvaćene NIS2 direktivom, u Hrvatskoj prenesenom kroz Zakon o kibernetičkoj sigurnosti, moraju AI sustave uklopiti u svoje mjere upravljanja rizicima kibernetičke sigurnosti. Norma ISO/IEC 42001 nudi certificirljiv sustav upravljanja umjetnom inteligencijom, a NIST AI RMF dobrovoljni okvir za upravljanje rizicima. Mnoge organizacije te okvire koriste kao strukturu posla, dok EU AI Act tretiraju kao obvezujući propis. Usklađivanje svih njih kroz jedinstven program upravljanja izbjegava dvostruki posao i proturječne kontrole.

Što tvrtke trebaju napraviti sada

Priprema slijedi jasan redoslijed, prilagodljiv veličini organizacije. Cilj nije odmah zadovoljiti svaki zahtjev, nego znati gdje stojite i krenuti pravim redom.

1. 01
   Popišite sve AI sustave

   Izradite registar AI sustava koje tvrtka koristi ili nudi, uključujući alate trećih strana i one koje su odjeli uveli sami. Skrivena upotreba AI-ja čest je izvor rizika, o čemu pišemo u tekstu o shadow AI-ju.
2. 02
   Klasificirajte rizik i ulogu

   Za svaki sustav odredite razinu rizika prema Aktu i je li tvrtka pružatelj ili korisnik. Posebno pažljivo provjerite postoji li ijedan visokorizični sustav, jer on nosi najteže obveze.
3. 03
   Uspostavite upravljanje i dokumentaciju

   Za visokorizične sustave postavite sustav upravljanja rizicima, tehničku dokumentaciju, bilježenje rada i jasno definiran ljudski nadzor. Ovo je osnova koju nadzorno tijelo može tražiti na uvid.
4. 04
   Testirajte sigurnost i otpornost

   Provedite protivničko testiranje AI sustava da dokažete točnost, otpornost i kibernetičku sigurnost koje Akt traži. Pregled prijetnji specifičnih za AI dajemo u tekstu o AI prijetnjama za tvrtke.
5. 05
   Pratite rokove i upravljajte programom

   Postavite vlasnika programa usklađivanja, pratite fazne rokove i AI rizik uklopite u postojeći registar rizika i program upravljanja, umjesto da ga vodite zasebno.

Veza sa sigurnošću AI sustava

Najvažnija poruka Akta za sigurnosne timove krije se u zahtjevu za točnošću, otpornošću i kibernetičkom sigurnošću. Taj se zahtjev ne ispunjava politikom na papiru. Ispunjava se dokazima da sustav izdrži stvarne napade. AI sustavi imaju vlastitu površinu napada koju klasične kontrole ne pokrivaju, od injekcije prompta i trovanja podataka do zlouporabe alata koje agent može pozvati. Tko gradi ili uvodi visokorizični AI, tom riziku mora pristupiti istom ozbiljnošću kao bilo kojem drugom kritičnom sustavu.

Zato Akt i kibernetičku sigurnost spaja u jedan posao. Upravljanje rizicima, dokumentacija i ljudski nadzor pripadaju domeni upravljanja i usklađenosti, dok dokazivanje otpornosti pripada domeni testiranja. Tvrtke koje obje strane vode zajedno, kroz jedinstven program, ispunjavaju Akt uz manje napora i istovremeno stvarno smanjuju rizik, umjesto da samo skupljaju dokumente za nadzorno tijelo.

Kako Raptoric pomaže

Raptoric povezuje dvije strane EU AI Acta u jedan posao. Kroz program upravljanja i usklađenosti (GRC) pomažemo popisati AI sustave, klasificirati rizik i ulogu te postaviti upravljanje rizicima, dokumentaciju i ljudski nadzor koje Akt traži za visokorizične sustave. Kroz testiranje sigurnosti AI sustava dokazujemo otpornost i kibernetičku sigurnost protivničkim testiranjem, jer Akt traži dokaze, ne tvrdnje. Ako gradite ili uvodite AI koji bi mogao biti visokorizičan, dogovorite uvodni razgovor i krenut ćemo od popisa i klasifikacije vaših sustava.