Prijeđi na sadržaj

Sigurnost AI platformi

Testiramo AI modele, agente, RAG sustave i zaštitne mehanizme prije i nakon puštanja u rad. Tražimo prompt injection, zlouporabu alata i curenje podataka.

Prolaz u podatkovnom centru
Za koga
AI proizvodi i platforme
Tipične usluge
AI red teaming
Opseg
Modeli, agenti, RAG
Okviri
EU AI Act, OWASP LLM Top 10

AI sustavi koji čitaju dokumente i izvršavaju radnje otvaraju nove putove napada. Testiramo cijelu aplikaciju: model, izvore podataka, alate i integracije.

  • Poznate tehnike napada

    Prompt injection, zlouporaba alata i curenje podataka.

  • Cijela aplikacija

    Model, izvori podataka, alati i integracije.

  • Kontrole izvan prompta

    Ovlasti alata, provjera izlaza i bilježenje.

Najčešće prijetnje

Prijetnje karakteristične za AI sustave.

  • Prompt injection

    Izravno i neizravno ubacivanje uputa preko korisnika, dokumenata i drugih izvora podataka.

  • Zlouporaba agenata i alata

    Kad AI sustav može izvršavati radnje, provjeravamo što se dogodi kad ga napadač pokuša preusmjeriti.

  • Trovanje modela i podataka

    Pregledavamo procese treniranja i dohvata podataka i tražimo manipulaciju i curenje.

Usluge za vaš sektor

Četiri usluge koje su ovom sektoru najvažnije.

Što dobivate

Rezultati prilagođeni AI sustavima u produkciji.

  • Nalazi s koracima za ponavljanje napada
  • Provjera zaštitnih mehanizama pod napadom
  • Priprema za EU AI Act i NIST AI RMF
  • Politike za upravljanje AI‑jem
Sigurnosni inženjeri rade za računalima

Okviri i propisi za ovaj sektor

  • EU AI Act
  • NIST AI RMF
  • ISO/IEC 42001
  • MITRE ATLAS

Česta pitanja

Ako vašeg pitanja nema ovdje, postavite ga inženjeru na uvodnom razgovoru.

Što EU AI Act traži od AI platformi?

EU AI Act uvodi obveze prema razini rizika AI sustava. Za visokorizične sustave traži upravljanje rizicima, kvalitetu podataka, dokumentaciju, ljudski nadzor te točnost, otpornost i kibernetičku sigurnost.

Što je prompt injection?

Prompt injection je napad u kojem napadač ubacuje upute u ulaz AI sustava, izravno ili kroz dokument, e-poruku ili web stranicu koju sustav čita. Cilj je natjerati model da zanemari pravila, otkrije podatke ili pokrene radnju.

Testirate li AI agente koji koriste alate?

Da. Provjeravamo može li napadač preko agenta pokrenuti alate, pristupiti podacima ili izvršiti radnje izvan dopuštenog, uključujući integracije preko MCP-a.

Testirate li prema OWASP Top 10 za LLM aplikacije?

Da. Testiramo prema OWASP Top 10 za LLM aplikacije, uz scenarije prilagođene vašem sustavu i podacima.

Koliko košta testiranje AI platforme?

Cijena ovisi o broju aplikacija, agenata i povezanih alata. Pisanu ponudu šaljemo u roku od 48 sati nakon uvodnog razgovora.

Svi članci

Kontaktirajte nas

Recite nam što trebate zaštititi. Odgovaramo u roku jednog radnog dana.

Što slijedi

  1. Poruka

    Napišete nam što trebate. Odgovaramo u roku jednog radnog dana.

  2. Razgovor

    30 minuta o vašim sustavima i potrebama.

  3. Ponuda

    Opseg, rok i cijena u roku od 48 sati.