Prijeđi na sadržaj

EU AI Act (Akt o umjetnoj inteligenciji)

EU AI Act, službeno Uredba (EU) 2024/1689 ili Akt o umjetnoj inteligenciji, postavlja obveze prema razini rizika AI sustava i vrijedi izravno u cijeloj Uniji. Najstroži zahtjevi, uključujući otpornost i kibernetičku sigurnost, vrijede za visokorizične sustave.

Vrsta
Uredba (EU) 2024/1689
Pristup
Prema razini rizika
Zabranjene prakse
Od 2. veljače 2025.
Visokorizični sustavi
Od 2. prosinca 2027.

Na koga se odnosi. Na one koji razvijaju, uvode ili distribuiraju AI sustave u EU‑u, s najviše obveza za visokorizične sustave.

  • Dobavljači i korisnici AI sustava

    Svi koji razvijaju, uvode ili distribuiraju AI sustave koji se koriste u Uniji.

  • Timovi s visokorizičnim sustavima

    Ili oni koji još utvrđuju u koju razinu rizika njihovi sustavi spadaju.

  • AI u reguliranim proizvodima

    Tvrtke koje AI ugrađuju u proizvode na koje se već primjenjuju propisi o sigurnosti proizvoda.

Što propis traži od vas

Što uredba traži od vas, u četiri dijela.

  • Razvrstavanje prema riziku

    Za svaki sustav utvrđujete je li zabranjen, visokorizičan, ograničenog ili minimalnog rizika.

  • Upravljanje rizikom i podacima

    Upravljanje rizikom, upravljanje podacima i tehnička dokumentacija za visokorizične sustave.

  • Ljudski nadzor

    Učinkovit ljudski nadzor i transparentnost prema korisnicima.

  • Otpornost i sigurnost

    Točnost, otpornost i kibernetička sigurnost primjerene namjeni sustava, uključujući zaštitu od manipulacije ponašanjem modela.

Od zahtjeva do dokaza u četiri koraka

Isporučujemo testiranja, kontrole i dokumentaciju. Ne djelujemo kao prijavljeno tijelo ni kao pravni savjetnik.

  1. Popis i razvrstavanje

    Popisujemo AI sustave u tvrtki i razvrstavamo ih prema zahtjevima uredbe.

  2. Testiranje AI sustava

    Testiramo modele, agente i procese oko njih prema zahtjevima otpornosti i sigurnosti.

  3. Zaštitni mehanizmi

    Projektiramo i provjeravamo kontrole koje ponašanje AI sustava drže u zadanim granicama.

  4. Dokumentacija

    Pripremamo dokumentaciju usklađenu s EU AI Actom i okvirom NIST AI RMF.

Četiri razine rizika

Obveze ovise o tome za što se AI sustav koristi, a ne o tehnologiji.

RazinaPrimjeriObveze
Neprihvatljiv rizikDruštveno bodovanje, manipulacija koja iskorištava ranjivosti, neciljano prikupljanje slika lica s interneta, prepoznavanje emocija na radnom mjestu i u školi, izrada intimnog sadržaja bez pristankaZabranjeno (članak 5.)
Visok rizikAI u zapošljavanju, obrazovanju, procjeni kreditne sposobnosti, kritičnoj infrastrukturi i biometriji te AI kao sigurnosna komponenta proizvoda poput medicinskih uređajaUpravljanje rizikom, dokumentacija, ljudski nadzor, otpornost i kibernetička sigurnost, ocjena sukladnosti
Ograničen rizikChatboti, sustavi koji stvaraju tekst, sliku, zvuk ili video, deepfake sadržajTransparentnost: korisnik mora znati da razgovara s AI-jem, a umjetno stvoren sadržaj mora biti označen (članak 50.)
Minimalan rizikFiltri neželjene pošte, preporuke u video igramaNema posebnih obveza
Razine rizika prema EU AI Actu

Isti model može biti u različitim razinama ovisno o namjeni. Chatbot za korisničku podršku ima obveze transparentnosti, a isti model koji rangira kandidate za posao postaje visokorizičan sustav.

Rokovi primjene nakon izmjena iz 2026.

Uredba se primjenjuje u fazama. Izmjene iz srpnja 2026. pomaknule su rokove za visokorizične sustave.

DatumŠto se primjenjuje
1. kolovoza 2024.Uredba stupa na snagu
2. veljače 2025.Zabranjene prakse i obveza AI pismenosti zaposlenika
2. kolovoza 2025.Obveze za modele opće namjene, nadležna tijela i kazne
2. kolovoza 2026.Obveze transparentnosti iz članka 50. i većina ostalih odredbi. Generativni sustavi koji su na tržištu bili prije tog datuma označavaju sadržaj od 2. prosinca 2026.
2. kolovoza 2027.Modeli opće namjene koji su na tržištu bili prije 2. kolovoza 2025.
2. prosinca 2027.Samostalni visokorizični sustavi iz Priloga III., na primjer u zapošljavanju, obrazovanju i procjeni kreditne sposobnosti
2. kolovoza 2028.Visokorizični sustavi ugrađeni u proizvode iz Priloga I., na primjer u medicinske uređaje
Rokovi primjene Uredbe (EU) 2024/1689 s izmjenama iz Uredbe (EU) 2026/1744

Rokove za visokorizične sustave pomaknula je Uredba (EU) 2026/1744, poznata kao Digital Omnibus o umjetnoj inteligenciji, objavljena u Službenom listu EU 24. srpnja 2026. Odgoda ne smanjuje zahtjeve, nego daje više vremena za pripremu. Ista izmjena dodala je nove zabranjene prakse i ublažila obvezu AI pismenosti: tvrtke moraju poduzeti mjere za razvoj pismenosti zaposlenika, umjesto da je jamče.

Što moraju ispuniti visokorizični sustavi

Zahtjevi iz članaka 9. do 15. odnose se na pružatelja, a korisnik ima vlastite obveze iz članka 26.

ZahtjevČlanakŠto znači u praksi
Sustav upravljanja rizikom9.Rizici se prepoznaju, procjenjuju i smanjuju kroz cijeli životni vijek sustava, uključujući testiranje
Podaci i upravljanje podacima10.Podaci za učenje, provjeru i testiranje moraju biti relevantni, reprezentativni i provjereni na pristranost
Tehnička dokumentacija11.Dokumentacija koja nadležnom tijelu pokazuje da sustav ispunjava zahtjeve
Bilježenje događaja12.Sustav automatski bilježi događaje potrebne za praćenje i istragu
Transparentnost prema korisniku13.Upute iz kojih korisnik razumije mogućnosti, ograničenja i pravilnu upotrebu sustava
Ljudski nadzor14.Čovjek može razumjeti rad sustava, pratiti ga i zaustaviti
Točnost, otpornost i kibernetička sigurnost15.Otpornost na pogreške i napade, uključujući trovanje podataka i modela, zavaravajuće ulaze i napade na povjerljivost
Zahtjevi za visokorizične AI sustave

Korisnik visokorizičnog sustava koristi ga prema uputama, osigurava ljudski nadzor, prati rad i čuva zapise koje sustav stvara. Javna tijela i korisnici koji AI koriste za procjenu kreditne sposobnosti ili cijene životnog i zdravstvenog osiguranja prije upotrebe provode i procjenu učinka na temeljna prava (članak 27.).

Zahtjev iz članka 15. provjeravamo testiranjem: kroz testiranje sigurnosti AI sustava napadamo model, agente i izvore podataka i dokumentiramo otpornost sustava.

Pružatelj ili korisnik: tko ima koje obveze

UlogaTko je toGlavne obveze
PružateljTvrtka koja razvija AI sustav ili ga stavlja na tržište pod svojim imenomIspunjavanje zahtjeva za razinu rizika, dokumentacija, ocjena sukladnosti i registracija visokorizičnih sustava
KorisnikTvrtka koja AI sustav koristi u svom poslovanjuUpotreba prema uputama, ljudski nadzor, čuvanje zapisa i obavještavanje osoba na koje sustav utječe
Uvoznik i distributerTvrtka koja sustav uvozi ili prodaje na tržištu EU-aProvjera da sustav ima potrebnu dokumentaciju i oznake
Uloge prema EU AI Actu

Kad korisnik postaje pružatelj

Tvrtka koja visokorizični sustav stavi na tržište pod svojim imenom, bitno ga izmijeni ili mu promijeni namjenu tako da postane visokorizičan preuzima obveze pružatelja (članak 25.). Zato je popis AI sustava s ulogom tvrtke za svaki sustav prvi korak.

Kazne prema EU AI Actu

PovredaNajviša kazna
Zabranjene prakse35 milijuna eura ili 7 % ukupnog godišnjeg svjetskog prometa
Ostale obveze, uključujući visokorizične sustave i transparentnost15 milijuna eura ili 3 % prometa
Netočni ili obmanjujući podaci nadležnim tijelima7,5 milijuna eura ili 1 % prometa
Pružatelji modela opće namjene15 milijuna eura ili 3 % prometa, izriče ih Europska komisija
Najviše upravne novčane kazne (članci 99. i 101.)

Primjenjuje se viši od dva iznosa. Za mala i srednja poduzeća primjenjuje se niži iznos.

Što napraviti sada

  1. Popišite AI sustave

    Uključite i alate koje zaposlenici koriste bez odobrenja IT-ja. Rizike takvih alata opisujemo u tekstu shadow AI.

  2. Odredite razinu rizika i ulogu

    Za svaki sustav utvrdite je li zabranjen, visokorizičan ili ima obveze transparentnosti te jeste li pružatelj ili korisnik.

  3. Provjerite zabranjene prakse i transparentnost

    Zabrane vrijede od veljače 2025., a označavanje chatbota i generiranog sadržaja od kolovoza 2026.

  4. Planirajte visokorizične sustave

    Do prosinca 2027. ili kolovoza 2028. uvedite upravljanje rizikom, dokumentaciju, bilježenje i ljudski nadzor.

  5. Testirajte otpornost i sigurnost

    Članak 15. traži otpornost na napade. Rezultati testa postaju dio tehničke dokumentacije.

EU AI Act ne zamjenjuje GDPR. Ako AI sustav obrađuje osobne podatke, vrijede oba propisa, uključujući sigurnost obrade iz članka 32. GDPR-a, opisanu na stranici GDPR usklađenost i sigurnost obrade. Pravna tumačenja i ocjenu sukladnosti ne provodimo: radimo popis i razvrstavanje sustava, testiranje i tehničku dokumentaciju.

Povezane usluge

Tri usluge koje pokrivaju pripremu za EU AI Act.

Česta pitanja

Ako vašeg pitanja nema ovdje, postavite ga inženjeru na uvodnom razgovoru.

Odnosi li se EU AI Act na nas?

Gotovo sigurno, ako razvijate, uvodite ili koristite AI sustave u Europskoj uniji. Obveze ovise o namjeni sustava i vašoj ulozi. Za većinu tvrtki koje AI samo koriste vrijede zabranjene prakse, AI pismenost i transparentnost, a znatno više obveza imaju pružatelji i korisnici visokorizičnih sustava.

Od kada se primjenjuje Akt o umjetnoj inteligenciji?

Uredba je na snazi od 1. kolovoza 2024. i primjenjuje se u fazama: zabranjene prakse od 2. veljače 2025., obveze za modele opće namjene od 2. kolovoza 2025., a transparentnost od 2. kolovoza 2026. Visokorizični sustavi iz Priloga III. slijede od 2. prosinca 2027., a oni iz Priloga I. od 2. kolovoza 2028.

Jesu li rokovi za visokorizične sustave odgođeni?

Jesu. Uredba (EU) 2026/1744, objavljena u Službenom listu EU 24. srpnja 2026., pomaknula je rok za samostalne visokorizične sustave na 2. prosinca 2027., a za sustave u reguliranim proizvodima na 2. kolovoza 2028. Obveze transparentnosti nisu odgođene i primjenjuju se od 2. kolovoza 2026.

Što je visokorizični AI sustav?

Sustav koji se koristi u području navedenom u Prilogu III., poput zapošljavanja, obrazovanja, procjene kreditne sposobnosti, kritične infrastrukture ili biometrije, ili sustav koji je sigurnosna komponenta proizvoda iz Priloga I., poput medicinskog uređaja. Razina ovisi o namjeni, pa isti model može biti visokorizičan u jednoj primjeni, a u drugoj ne.

Kolike su kazne prema EU AI Actu?

Za zabranjene prakse do 35 milijuna eura ili 7 % ukupnog godišnjeg svjetskog prometa, za ostale obveze do 15 milijuna eura ili 3 %, a za netočne podatke nadležnim tijelima do 7,5 milijuna eura ili 1 %. Primjenjuje se viši iznos, a za mala i srednja poduzeća niži.

Imamo li obveze ako samo koristimo ChatGPT ili Copilot?

Imate manje obveza, ali ne nijednu. Morate poduzeti mjere za AI pismenost zaposlenika i ne smijete koristiti AI za zabranjene prakse. Ako chatbot stavite pred korisnike ili objavljujete umjetno stvoren sadržaj, vrijede obveze transparentnosti. Ako AI koristite za odluke o zapošljavanju, postajete korisnik visokorizičnog sustava.

Što uredba traži tehnički?

Za visokorizične sustave: sustav upravljanja rizikom, kvalitetne i provjerene podatke, tehničku dokumentaciju, automatsko bilježenje događaja, upute za korisnike, ljudski nadzor te točnost, otpornost i kibernetičku sigurnost. Te zahtjeve pretvaramo u konkretne zadatke za razvojni tim i provjeravamo ih testiranjem.

Kako se testiranje sigurnosti AI-ja povezuje s uredbom?

Izravno. Članak 15. traži otpornost visokorizičnih sustava na napade poput trovanja podataka, zavaravajućih ulaza i napada na povjerljivost, a članak 55. adversarijalno testiranje modela opće namjene sa sistemskim rizikom. Izvještaj testa s ponovnim testom postaje dio tehničke dokumentacije i dokaz spremnosti.

Pripremate se za EU AI Act?

Recite nam što trebate zaštititi. Odgovaramo u roku jednog radnog dana.

Što slijedi

  1. Poruka

    Napišete nam što trebate. Odgovaramo u roku jednog radnog dana.

  2. Razgovor

    30 minuta o vašim sustavima i potrebama.

  3. Ponuda

    Opseg, rok i cijena u roku od 48 sati.