Yapay Zekâ ve LLM Güvenliği
LLM Uygulaması Güvenlik Testi
Yapay zekâ asistanınızı arayüzü, yetki yapısı ve arka uç servisleriyle birlikte test ediyoruz. Her kullanıcı rolünün model üzerinden hangi veriye ve işleme erişebildiğini gösteriyoruz.
Nedir?
Bir LLM uygulaması yalnızca modelden ibaret değildir. Arayüz, oturum yönetimi, bilgi kaynakları ve modelin çağırdığı servisler de sisteme dahildir. Test, OWASP Top 10 for LLM Applications 2025'teki riskleri tüm bu katmanlarda sınar. Klasik web zafiyetleri de aynı çalışmada OWASP ASVS'e göre değerlendirilir.
Kapsam
- Arayüz, API'ler ve oturum yönetimi
- Konuşma geçmişine ve yüklenen dosyalara başka kullanıcıların erişip erişemediği
- Doğrudan ve dolaylı prompt injection senaryoları
- Sistem talimatına yazılmış bilgilerin dışarı sızması
- Model çıktısının arayüzde ve arka uçta nasıl işlendiği
- Kullanım sınırları ve maliyeti kontrolsüz büyüten istekler
İhtiyaç
Hangi durumlarda ihtiyaç duyulur?
- Müşterilere açık bir sohbet asistanı canlıya alınmadan önce.
- Mevcut asistana yeni bir veri kaynağı veya yeni bir araç bağlanacağında.
- Kullanılan model veya model sağlayıcısı değiştirileceğinde.
Yöntem
Nasıl çalışıyoruz?
-
Sistem haritası
Modelin okuduğu kaynakları, çağırdığı araçları ve her rolün yetkisini çıkarırız.
-
Test hesapları
Sizin belirlediğiniz, farklı rollerdeki test hesaplarıyla çalışırız.
-
Tekrarlı senaryolar
Model aynı girdiye her seferinde aynı yanıtı vermez. Bu nedenle her senaryoyu birden çok kez deneriz.
-
Model dışı kontroller
Bulguları, modelin dışında uygulanacak yetki, onay ve doğrulama kontrolleriyle raporlarız.
Sonuç
Çalışmanın sonunda elinizde olan
Her kullanıcı rolünün model üzerinden hangi veriye ve işleme erişebildiğini görürsünüz. Bulgular, kaç denemede tekrarlandığı ve model dışında uygulanacak kontrollerle birlikte sunulur.
Sık sorulan sorular
Hangi modeli kullandığımız sonucu değiştirir mi?
Kısmen. Modeller yönlendirmeye farklı ölçüde direnç gösterir. Ancak riskin büyük bölümü modelin bağlandığı veri ve araçlardan kaynaklanır. Model değiştiğinde senaryoların yeniden çalıştırılmasını öneririz.
Test canlı ortamda mı yapılır?
Tercihen canlıya eşdeğer bir test ortamında. Canlı ortamda test gerekirse, gerçek müşteri verisine erişmeyen test hesapları ve maliyet sınırları önceden belirlenir.
Yapay Zekâ ve LLM Güvenliği
Bu alandaki diğer hizmetler
Bu hizmet için görüşelim.
İhtiyacınızı kısaca anlatın. Kapsamı ve takvimi ilk görüşmede birlikte netleştirelim.
Görüşme Planlayın