sir-sizintisi
Bu etikete sahip 5 yazı.
Ölçüm
739 gerçek görevi sınıflandırdık — çıkan tablo beklediğimiz gibi değildi
Kendi yapay zeka kullanımımızı görev bazında ölçtük. En değerli bulgu iş dışı kullanım değil, sızmış üretim anahtarları oldu.
Güvenlik
API anahtarı sızdığında ilk 60 dakika
Bir anahtar bir AI istemine yapıştırıldığında ne yapılacağını anlatan somut olay müdahale planı: 0-5, 5-15 ve 15-60 dakika adımları ve döndürme tablosu.
Güvenlik
Sır tespitini dil modeline bırakmayın — 7'ye 4 farkı
Aynı veride desen taraması 7 sızmış kimlik bilgisi buldu, dil modeli 4'ünü fark etti. Aktif üretim anahtarını sıradan iş sandı.
Güvenlik
Çalışanlar yapay zekaya ne yapıştırıyor?
739 gerçek görevi taradık: regex yedi kimlik bilgisi buldu, LLM sınıflandırıcı yalnızca dördünü işaretledi. Sır tespiti neden deterministik olmalı?
Güvenlik
İstem enjeksiyonu: gizli talimatlarla modeli kandırmak
Bir dil modeli veriyle talimatı ayırt edemez. İstem enjeksiyonu nasıl çalışır, gizli talimat nerelere saklanır ve savunma hattı nerede kurulur?