LLM'ler Nasıl Hacklenebilir?

LLM Güvenliği Klasik Uygulamalardan Farklı

LLM tabanlı uygulamalarda saldırgan yalnızca HTTP endpoint'i hedeflemiyor.

Modelin davranışını etkileyen:

• Prompt
• Context
• Retrieval
• Tool
• Memory
• Model dosyası

gibi yeni katmanlar da bulunuyor.

Prompt Injection

Saldırgan modelin davranışını manipüle etmeye çalışabilir.

Veri Sızıntısı

Modelin context'ine gereğinden fazla bilgi koyulursa yanlış kullanıcıya hassas veri dönebilir.

Tool Abuse

Agent dış araçlara erişiyorsa model çıktısının tehlikeli bir işleme dönüşmesi mümkündür.

Supply Chain

Model veya üçüncü taraf paketler güvenlik açısından incelenmelidir.

Savunma

• Least privilege
• Schema validation
• Network isolation
• Secret management
• RAG access control
• Human approval
• Audit logs
• Security testing

uygulanmalıdır.

Etik Test

LLM güvenlik testleri yalnızca izinli sistemlerde gerçekleştirilmelidir. Gerçek servislerde yetkisiz saldırı yerine local lab ve kontrollü test ortamları kullanılmalıdır.

Sonuç

LLM'ler "tek bir yöntemle hacklenen" sistemler değildir. Risk, modelin uygulama ve araçlarla nasıl bağlandığına göre değişir.

Bu nedenle AI güvenliği için en doğru yaklaşım sistem seviyesinde threat modeling yapmaktır.