Yapay Zekâ ve LLM Güvenliği
Yapay Zekâ Tedarik Zinciri Güvenliği
Kullandığınız modellerin, veri setlerinin, eklentilerin ve kütüphanelerin kaynağını ve değiştirilip değiştirilmediğini değerlendiriyoruz. Dışarıdan alınan bir bileşenin sisteminize neler taşıyabileceğini gösteriyoruz.
Nedir?
Yapay zekâ sistemleri, başkalarının eğittiği modellere ve hazırladığı veri setlerine dayanır. Bazı model dosya biçimleri yüklenirken kod çalıştırabilir. Eğitim verisine veya önceden eğitilmiş bir modele müdahale, modelin davranışını fark edilmeden değiştirebilir. AB Yapay Zekâ Tüzüğü, yüksek riskli sistemlerde veri ve model zehirlenmesine karşı gerektiğinde önlem alınmasını öngörür.
Kapsam
- Modellerin kaynağı, yayıncısı ve bütünlük doğrulaması
- Yüklenirken kod çalıştırabilen model dosya biçimlerinin tespiti
- Eğitim ve ince ayar verisinin kökeni ve değiştirilme riski
- MCP sunucuları, eklentiler ve yapay zekâ kütüphanelerinin bağımlılık analizi
- Model sağlayıcısı API'lerinin veri saklama ve erişim koşulları
- Yapay zekâ bileşen envanteri (AI-BOM)
İhtiyaç
Hangi durumlarda ihtiyaç duyulur?
- Ekipler, açık model depolarından indirdikleri modelleri ürüne eklemeye başladığında.
- Bir model, kurum dışından alınan bir veri setiyle ince ayardan geçirileceğinde.
- Kurumsal bir müşteri, ürününüzdeki yapay zekâ bileşenlerinin envanterini istediğinde.
Yöntem
Nasıl çalışıyoruz?
-
Envanter
Modelleri, veri setlerini, eklentileri ve kütüphaneleri kaynaklarıyla birlikte listeleriz.
-
Köken ve bütünlük
Her bileşenin yayıncısını, sürümünü ve özet değerini doğrularız.
-
Dosya ve yetki incelemesi
Model dosyalarının biçimini ve eklentilerin istediği yetkileri inceleriz.
-
Kabul kuralları
Yeni bir bileşenin hangi kaynaktan ve hangi kontrolden sonra alınacağını tanımlayan kuralları öneririz.
Sonuç
Çalışmanın sonunda elinizde olan
Sisteminizdeki her yapay zekâ bileşeninin nereden geldiği ve doğrulanıp doğrulanmadığı bellidir. Yeni bileşenlerin hangi kontrolden geçerek alınacağı yazılıdır.
Sık sorulan sorular
Açık kaynak model kullanmak riskli mi?
Kaynağına ve biçimine bağlıdır. Doğrulanmış bir yayıncıdan alınan ve kod çalıştırmayan bir biçimde saklanan model daha az risk taşır. Kaynağı bilinmeyen bir modelin doğrudan ürüne girmesi ise ciddi bir risktir.
Ticari bir model API'si kullanıyoruz. Tedarik zinciri riski yine de var mı?
Evet, ama farklı biçimde. Modeli siz yüklemezsiniz, ancak istemleriniz ve verileriniz sağlayıcıya gider. Sözleşme koşulları, veri saklama süreleri ve model sürüm değişiklikleri değerlendirilir.
Yapay Zekâ ve LLM Güvenliği
Bu alandaki diğer hizmetler
Bu hizmet için görüşelim.
İhtiyacınızı kısaca anlatın. Kapsamı ve takvimi ilk görüşmede birlikte netleştirelim.
Görüşme Planlayın