Sigurnost AI sustava
AI agenti: sigurnosni rizici autonomnih sustava
15. lipnja 2026. · 8 min čitanja
Testiramo AI modele, agente, RAG sustave i zaštitne mehanizme prije i nakon puštanja u rad. Tražimo prompt injection, zlouporabu alata i curenje podataka.

AI sustavi koji čitaju dokumente i izvršavaju radnje otvaraju nove putove napada. Testiramo cijelu aplikaciju: model, izvore podataka, alate i integracije.
Poznate tehnike napada
Prompt injection, zlouporaba alata i curenje podataka.
Cijela aplikacija
Model, izvori podataka, alati i integracije.
Kontrole izvan prompta
Ovlasti alata, provjera izlaza i bilježenje.
Prijetnje karakteristične za AI sustave.
Izravno i neizravno ubacivanje uputa preko korisnika, dokumenata i drugih izvora podataka.
Kad AI sustav može izvršavati radnje, provjeravamo što se dogodi kad ga napadač pokuša preusmjeriti.
Pregledavamo procese treniranja i dohvata podataka i tražimo manipulaciju i curenje.
Četiri usluge koje su ovom sektoru najvažnije.
Red teaming modela i agenata s nalazima koje možete ponoviti.
DetaljnijeAplikacija, API‑ji i oblak oko modela.
DetaljnijePenetracijsko testiranje infrastrukture na kojoj modeli rade.
DetaljnijePolitike i dokumentacija za upravljanje AI‑jem i EU AI Act.
DetaljnijeRezultati prilagođeni AI sustavima u produkciji.

Okviri i propisi za ovaj sektor
Ako vašeg pitanja nema ovdje, postavite ga inženjeru na uvodnom razgovoru.
EU AI Act uvodi obveze prema razini rizika AI sustava. Za visokorizične sustave traži upravljanje rizicima, kvalitetu podataka, dokumentaciju, ljudski nadzor te točnost, otpornost i kibernetičku sigurnost.
Prompt injection je napad u kojem napadač ubacuje upute u ulaz AI sustava, izravno ili kroz dokument, e-poruku ili web stranicu koju sustav čita. Cilj je natjerati model da zanemari pravila, otkrije podatke ili pokrene radnju.
Da. Provjeravamo može li napadač preko agenta pokrenuti alate, pristupiti podacima ili izvršiti radnje izvan dopuštenog, uključujući integracije preko MCP-a.
Da. Testiramo prema OWASP Top 10 za LLM aplikacije, uz scenarije prilagođene vašem sustavu i podacima.
Cijena ovisi o broju aplikacija, agenata i povezanih alata. Pisanu ponudu šaljemo u roku od 48 sati nakon uvodnog razgovora.
Sigurnost AI sustava
15. lipnja 2026. · 8 min čitanja
Sigurnost AI sustava
15. lipnja 2026. · 11 min čitanja
Sigurnost AI sustava
15. lipnja 2026. · 8 min čitanja
Recite nam što trebate zaštititi. Odgovaramo u roku jednog radnog dana.
Napišete nam što trebate. Odgovaramo u roku jednog radnog dana.
30 minuta o vašim sustavima i potrebama.
Opseg, rok i cijena u roku od 48 sati.