istem-enjeksiyonu
Bu etikete sahip 2 yazı.
Güvenlik
Gizli sistem istemleri: her AI uygulamasındaki görünmez katman
Her AI uygulamasında görmediğiniz bir talimat katmanı var. Bu katman hem yönetişim kontrolü hem saldırı yüzeyi; ikisini birlikte ele almak gerekiyor.
Güvenlik
İstem enjeksiyonu: gizli talimatlarla modeli kandırmak
Bir dil modeli veriyle talimatı ayırt edemez. İstem enjeksiyonu nasıl çalışır, gizli talimat nerelere saklanır ve savunma hattı nerede kurulur?