Azonnali injekciós támadások magában foglalja a modell manipulálását nem szándékos vagy káros válaszok generálására. Itt a támadó stratégiailag felszólításokat fogalmaz meg az LLM megtévesztésére, potenciálisan megkerülve a mesterséges intelligencia (AI) felelős használatának biztosítása érdekében bevezetett biztonsági intézkedéseket vagy etikai korlátozásokat. Ennek eredményeként az LLM válaszai jelentősen eltérhetnek a tervezett vagy elvárt viselkedéstől, ami komoly kockázatot jelent a magánéletre, a biztonságra és az AI-vezérelt alkalmazások megbízhatóságára nézve.

Nem biztonságos kimenetkezelés akkor merül fel, ha egy LLM vagy hasonló mesterséges intelligencia rendszer által generált kimenetet elfogadják és beépítik egy szoftveralkalmazásba vagy webszolgáltatásba anélkül, hogy megfelelő ellenőrzésen vagy érvényesítésen esne át. Ez leleplezheti háttérrendszereket a sebezhetőségekre, mint például a helyek közötti szkriptelés (XSS), a helyek közötti kérés hamisítása (CSRF), a szerveroldali kéréshamisítás (SSRF), a jogosultságok eszkalációja és a távoli kódvégrehajtás (RCE).

Képzési adatok mérgezése akkor fordul elő, ha az LLM képzéséhez használt adatokat szándékosan manipulálják, vagy rosszindulatú vagy elfogult információkkal szennyezik. A betanítási adatmérgezés folyamata jellemzően megtévesztő, félrevezető vagy káros adatpontok beszúrását jelenti a betanítási adatkészletbe. Ezeket a manipulált adatpéldányokat stratégiailag választották ki a modell tanulási algoritmusainak sérülékenységeinek kihasználására, vagy olyan torzítások beiktatására, amelyek nem kívánt eredményekhez vezethetnek a modell előrejelzéseiben és válaszaiban.

Bemeneti fertőtlenítés magában foglalja, mint a névjavaslat, a a bemenetek fertőtlenítése a rosszindulatú felszólítások által kezdeményezett jogosulatlan műveletek és adatkérések megelőzése érdekében. Az első lépés a bemenet érvényesítése annak biztosítására, hogy a bemenet megfeleljen az elvárt formátumoknak és adattípusoknak. A következő a bemeneti fertőtlenítés, ahol a potenciálisan káros karaktereket vagy kódokat eltávolítják vagy kódolják a támadások meghiúsítása érdekében. Az egyéb taktikák közé tartozik a jóváhagyott tartalmak fehérlistái, a tiltott tartalmak feketelistái, az adatbázis-interakciók paraméterezett lekérdezései, a tartalombiztonsági szabályzatok, a reguláris kifejezések, a naplózás és a folyamatos figyelés, valamint a biztonsági frissítések és tesztelések.

Kimeneti vizsgálat is az LLM által generált kimenet szigorú kezelése és értékelése a sebezhetőségek, például az XSS, CSRF és RCE csökkentése érdekében. A folyamat az LLM válaszainak érvényesítésével és szűrésével kezdődik, mielőtt elfogadná azokat bemutatásra vagy további feldolgozásra. Olyan technikákat foglal magában, mint a tartalomellenőrzés, a kimeneti kódolás és a kimeneti kilépés, amelyek mindegyike a generált tartalom lehetséges biztonsági kockázatainak azonosítását és semlegesítését célozza.

Az edzési adatok védelme elengedhetetlen a képzési adatok mérgezésének megelőzéséhez. Ez magában foglalja a szigorú hozzáférés-ellenőrzések érvényesítését, az adatvédelmi titkosítás alkalmazását, az adatmentések és a verzióellenőrzés fenntartását, az adatok hitelesítésének és anonimizálásának megvalósítását, átfogó naplózás és monitorozás létrehozását, rendszeres auditok lefolytatását, valamint az alkalmazottak adatbiztonsági képzését. Fontos az adatforrások megbízhatóságának ellenőrzése, valamint a biztonságos tárolási és átviteli gyakorlatok biztosítása is.

Szigorú homokozó szabályzatok és hozzáférés-szabályozások betartatása segíthet csökkenteni az SSRF kihasználások kockázatát az LLM műveletekben. Az itt alkalmazható technikák közé tartozik a sandbox elkülönítés, a hozzáférés-vezérlés, az engedélyező- és/vagy feketelistázás, a kérés érvényesítése, a hálózati szegmentálás, a tartalomtípus-ellenőrzés és a tartalomvizsgálat. A rendszeres frissítések, az átfogó naplózás és az alkalmazottak képzése szintén kulcsfontosságú.

Folyamatos figyelés és tartalomszűrés integrálható az LLM feldolgozási folyamatába a káros vagy nem megfelelő tartalom észlelésére és megelőzésére, kulcsszóalapú szűréssel, kontextuális elemzéssel, gépi tanulási modellekkel és testreszabható szűrőkkel. Az etikai irányelvek és az emberi moderálás kulcsszerepet játszanak a felelős tartalomgenerálás fenntartásában, míg a folyamatos valós idejű monitorozás, a felhasználói visszajelzések és az átláthatóság biztosítják, hogy a kívánt viselkedéstől való bármilyen eltérést azonnal orvosolják.