Yapay Zekâ ve LLM Güvenliği
Hassas Veri ve Müşteri Ayrımı
Konuşma geçmişi, bellek ve önbellek üzerinden bir kullanıcının verisinin başkasına geçip geçemediğini test ediyoruz. Çok müşterili ürünlerde bir müşterinin verisinin diğerine ulaşmadığını doğruluyoruz.
Nedir?
Yapay zekâ uygulamaları, klasik uygulamalarda olmayan yeni veri depoları oluşturur. Konuşma geçmişi ve benzer sorulara kayıtlı yanıt döndüren anlamsal önbellek bunlara örnektir. Bu depolarda kullanıcı veya müşteri ayrımı eksikse, veri bir oturumdan diğerine geçebilir. Test, bu depolarda her isteğin yalnızca yetkili olduğu veriye eriştiğini sınar.
Kapsam
- Konuşma geçmişinin ve paylaşılan sohbet bağlantılarının erişim kontrolü
- Kullanıcı belleği ve kişiselleştirme verilerinin ayrımı
- Anlamsal önbelleğin başka bir kullanıcının yanıtını döndürüp döndürmediği
- Vektör dizininde müşteri filtresinin her sorguda uygulanıp uygulanmadığı
- İstem ve yanıtların loglarda ve model sağlayıcısında nerede, ne kadar saklandığı
- Yanıtlarda kişisel verilerin maskelenmesi
İhtiyaç
Hangi durumlarda ihtiyaç duyulur?
- Yapay zekâ özelliği, birden çok kurumsal müşterinin kullandığı bir SaaS ürününe eklendiğinde.
- Asistana, kullanıcıları önceki konuşmalarından hatırlayan bir bellek özelliği eklendiğinde.
- Maliyeti düşürmek için model yanıtları önbelleğe alınmaya başlandığında.
Yöntem
Nasıl çalışıyoruz?
-
Veri depoları
Uygulamanın konuşmaları, belleği, önbelleği ve dizini nerede tuttuğunu belirleriz.
-
Çapraz testler
Farklı müşteri ve kullanıcı hesaplarıyla birinin verisine diğerinden erişimi deneriz.
-
Saklama
İstem ve yanıtların loglarda ve model sağlayıcısında ne kadar tutulduğunu inceleriz.
-
Ayrım kontrolleri
Her depo için kimliğe bağlı filtreleme ve maskeleme kontrolleri öneririz.
Sonuç
Çalışmanın sonunda elinizde olan
Bir kullanıcının veya müşterinin verisinin hangi yoldan diğerine geçebildiğini görürsünüz. Her veri deposu için uygulanacak ayrım ve saklama kontrolleri belirlenir.
Sık sorulan sorular
Model sağlayıcısı verilerimizi model eğitiminde kullanır mı?
Bu, sağlayıcının sözleşme koşullarına ve kullandığınız hizmet türüne bağlıdır. Çalışmada hangi verinin sağlayıcıya gittiğini ve ne kadar saklandığını belgeleriz.
Kişisel verileri modele hiç göndermemek mümkün mü?
Bazı kullanımlarda evet. Kimlik bilgileri modele gönderilmeden önce maskelenebilir veya takma adla değiştirilebilir. Bunun yanıt kalitesine etkisi kullanım senaryosuna göre değerlendirilir.
Yapay Zekâ ve LLM Güvenliği
Bu alandaki diğer hizmetler
Bu hizmet için görüşelim.
İhtiyacınızı kısaca anlatın. Kapsamı ve takvimi ilk görüşmede birlikte netleştirelim.
Görüşme Planlayın