"llm-security" etiketli 4 yazı.
Bu çalışma; kurumsal ve kamusal personelin günlük iş süreçlerinde harici Büyük Dil Modeli (LLM) servislerini kullanırken gerçekleştirdiği anlamsal veri aktarımlarını, bu sızıntıların geleneksel DLP mimarileri tarafından neden engellenemediğini ve siber savaş senaryolarındaki risk yüzeylerini teknik boyutlarıyla ele almaktadır.
Bu çalışma, bankacılık sektöründe müşteri destek operasyonlarına entegre edilen büyük dil modellerinin (LLM), kritik iç verileri [Tek Kullanımlık Şifreler (OTP)] koruma performansını ampirik verilerle incelemektedir. AltayDuel test süreçlerinde yer alan tr-finbot-otp senaryosu kapsamında model dirençleri analiz edilmiştir.
Bu çalışma, kamu/devlet sektöründe vatandaşlık portallarına entegre edilen büyük dil modellerinin (LLM), kritik vatandaş verilerini [e-Devlet PIN kodları] siber manipülasyonlara karşı koruma performansını ampirik verilerle incelemektedir. AltayDuel platformunda gerçekleştirilen tr-edevlet-pin simülasyonlarında, Kırmızı Takım (Red Team) %89.5 gibi kritik bir başarı oranına ulaşmıştır.
Büyük Dil Modellerinin (LLM) statik bilgi sınırlarını aşmak için kullanılan RAG altyapıları, dolaylı komut enjeksiyonu (Indirect Prompt Injection) zafiyetini doğurur. Bu çalışmada, RAG hatlarındaki vektör tabanlı erişim manipülasyonları, yerel test ortamlarında gözlemlenen görünmez karakter tehditleri ve siber savunma perspektifinde kurulabilecek katmanlı bariyer tasarımları incelenmiştir.
