Teknik RehberAI / LLM Security
RAG Güvenliği: Dolaylı Komut Enjeksiyonu Nedir ve Sistemlerimizi Nasıl Koruruz?
Büyük Dil Modellerinin (LLM) statik bilgi sınırlarını aşmak için kullanılan RAG altyapıları, dolaylı komut enjeksiyonu (Indirect Prompt Injection) zafiyetini doğurur. Bu çalışmada, RAG hatlarındaki vektör tabanlı erişim manipülasyonları, yerel test ortamlarında gözlemlenen görünmez karakter tehditleri ve siber savunma perspektifinde kurulabilecek katmanlı bariyer tasarımları incelenmiştir.
