AI- és LLM-integrációk biztonsági tesztelése
Az AI-integrációk biztonsági tesztje kontrollált támadás az Ön alkalmazása ellen, amely nagy nyelvi modellt (LLM) használ. A modell szöveget kap, és a kapott szöveget utasításnak veszi – ezért a prompt injection, a jailbreak, az adatszivárgás és a jogosultságok megkerülése nem elméleti kockázat, hanem működő támadási útvonal.
Az OWASP Top 10 for LLM módszertan szerint dolgozunk, a támadási forgatókönyveket pedig kézzel játsszuk végig: az automatikus szkennelés nem mutatja ki azt, ami a prompt szövegében és a modell válaszában dől el. Az LLM-integrációk penetrációs tesztje kiterjed magára a modellre, az AI-ügynökökre és a RAG-ra, az API-kra és az integráció környezetére is: az azonosításra, a jogosultsági logikára és a védelmi kontrollokra.
Ők bíznak bennünk
Mit jelent az AI- és LLM-integrációk biztonsági tesztelése, és miért fontos?
A nyelvi modellt használó alkalmazás egyszerre több forrásból kap szöveget: a felhasználótól, a RAG-ba betöltött dokumentumokból és a külső API-k válaszaiból. Bármelyikben elrejthető olyan utasítás, amelyet a modell végrehajt. Azt nézzük meg, meddig jut el egy ilyen utasítás: kiszivárog-e adat, megkerülhető-e egy jogosultság, elindítható-e olyan eszköz, amelyet senki nem szánt a felhasználó kezébe.
Kockázat szerint rangsorolt vizsgálati jelentést kap, benne olyan javaslatokkal, amelyeket még az éles indulás előtt be lehet építeni.
Tapasztalat
Éles rendszerekben futó LLM-integrációkat tesztelünk, nem bemutató példákat. Négy etikus hackerünk OSCP-szintű tanúsítvánnyal rendelkezik.
Átláthatóság
A hatókört és a teszt célját előre rögzítjük. A vizsgálat alatt végig tudja, hol tartunk és mit találtunk eddig.
Együttműködés
Azzal a csapattal dolgozunk együtt, amelyik az alkalmazást fejleszti. A kritikus hibáról aznap szólunk, nem a zárójelentésben.
Szakmaiság
Írásos engedéllyel és előre rögzített hatókörben dolgozunk, és minden lépést megismételhetően dokumentálunk. Az információbiztonsági irányítási rendszerünket a TÜV SÜD tanúsította az ISO/IEC 27001 szabvány szerint.
A vizsgálat menete
Hogyan zajlik egy AI- és LLM-integráció biztonsági tesztje?
Fenyegetésmodellezéssel (threat modeling) kezdjük az adott architektúrán, majd a gyakorlatban is végigpróbáljuk, amit modelleztünk – az OWASP Top 10 for LLM alapján.
Konzultáció és hatókör
Feltérképezzük az architektúrát, az adatáramlást és az integrációs pontokat: honnan kap szöveget a modell, és mihez fér hozzá.
Promptok, API-k és integrációk vizsgálata
Végigmegyünk a bemeneteken, a jogosultsági logikán és a védelmi kontrollokon.
Támadási forgatókönyvek végigjátszása
Kiderül, mit bír el a modell köré épített védelem: jailbreak, adatkiszivárogtatás, visszaélés az ügynök eszközeivel.
Jelentés, javaslatok és újratesztelés
A megállapítások mellé működő bizonyítékot (PoC) is adunk, a javítások után pedig újratesztelünk.
Hatókör
Mit vizsgálunk az AI- és LLM-integrációkban?
A teljes láncot nézzük végig: a modellt, a hozzá betöltött adatot, az ügynök eszközeit, a védelmi kontrollokat és a naplókat.
LLM-integrációk
OpenAI és Azure OpenAI, Anthropic, Mistral, valamint helyben futtatott modellek.
RAG és tudásbázis
Adatbetöltés, indexelés, keresés és vektoradatbázis – a RAG-ba csempészett mérgezett dokumentumokkal együtt.
AI-ügynökök és eszközök
Eszközhívás (tool use, function calling), bővítmények és a munkafolyamatok összehangolása.
API-k és azonosítás
OAuth2/OIDC, API-kulcsok, kérésszám-korlátozás és webhookok.
Promptok és védelmi korlátok
Rendszerutasítások, szűrők, moderáció és házirendek – vagyis az a guardrail réteg, amelyet a teszt során megpróbálunk megkerülni.
Naplózás és észlelés
Naplók, riasztások és a visszaélés felismerése: észreveszi-e valaki egyáltalán a támadást.
Összehasonlítás
AI- és LLM-biztonsági teszt vagy klasszikus penetrációs teszt?
A klasszikus penetrációs teszt a kódot, a konfigurációt és az alkalmazásréteget nézi. Az AI-integráció vizsgálata egy lépéssel tovább megy: azt figyeli, ahogyan maga a modell és az ügynök viselkedik.
| Szempont | AI- és LLM-biztonsági teszt | Klasszikus penetrációs teszt |
|---|---|---|
| Fókusz | Promptok, ügynökök, RAG és a modell logikája | Webalkalmazás, mobilalkalmazás és backend |
| Tipikus fenyegetések | Prompt injekció, jailbreak, adatszivárgás | SQL-injekció, XSS, CSRF, az azonosítás megkerülése |
| Módszertan | Fenyegetésmodellezés és támadási forgatókönyvek | OWASP szerinti tesztelés és bevált kihasználási technikák |
| Eredmény | AI-specifikus javítási javaslatok és újratesztelés | Vizsgálati jelentés a megtalált sérülékenységekről |
Nem biztos benne, melyik vizsgálatra van szüksége? Írjon nekünk.
Ügyfélvélemények
Mit mondanak rólunk ügyfeleink
Gyakori kérdések (GYIK)
01 Mit tartalmaz egy LLM-integráció biztonsági tesztje?
Azt az alkalmazást vizsgáljuk, amely LLM-et, ügynököket és RAG-ot használ. Megnézzük, mennyire áll ellen a prompt injekciónak és a jailbreaknek, és hogy kihozható-e így belőle adat, vagy visszaélhet-e a támadó azokkal az eszközökkel, amelyekhez a modell hozzáfér.
02 Milyen fenyegetéseket vizsgálnak egy AI-integráción?
Prompt injekció, jailbreak, a rendszerutasítás kiszivárgása, adatszivárgás, a jogosultságok megkerülése az ügynökön keresztül, mérgezett adat a RAG-ban, valamint DoS és denial of wallet (a lekérdezési keret szándékos kimerítése).
03 Milyen modelleket és platformokat vizsgálnak?
OpenAI és Azure OpenAI, Anthropic, Google Vertex AI, Mistral, Llama, valamint helyben futtatott modellek. Az alkalmazás oldalán megnézzük a LangChain és a LlamaIndex keretrendszert, a RAG-megoldásokat és a vektoradatbázisokat.
04 Mit kapunk a vizsgálat után, és hogyan zajlik az újratesztelés?
Technikai vizsgálati jelentést kap bizonyítékokkal és javaslatokkal, mellette vezetői összefoglalót. A javítások után újratesztelünk, és írásban igazoljuk, hogy a kritikus kockázat megszűnt.
