Jailbreak nedir?
Yapay zekâ modellerinin güvenlik filtrelerini veya kısıtlamalarını devre dışı bırakma girişimi.
Tanım
Jailbreak, yapay zekâ sistemlerine normalde vermemesi gereken zararlı veya yasaklı bilgileri ürettirmek için kullanılan özel komut hileleridir. Bu yöntemler sayesinde yapay zekânın koyduğu etik sınırlar aşılmaya çalışılır.
Nasıl çalışır?
Kötü niyetli kullanıcılar yapay zekâya rol yapma senaryoları vererek veya kafa karıştırıcı talimatlar yazarak güvenlik duvarını atlatırlar. Sistem normalde zararlı bir soruya cevap vermezken bu kurnazca hazırlanan komutlar karşısında filtresini unutup cevap verebilir.
Nerede kullanılır?
Yapay zekâ güvenliği testlerinde, kırmızı takım çalışmalarında ve model güvenlik açıklarını kapatma süreçlerinde sıklıkla karşılaşılır.
Sık karıştırılanlar
Prompt injection kavramına çok benzer ama prompt injection doğrudan sisteme gizli talimat sızdırmayı amaçlar, jailbreak ise doğrudan modelin temel ahlaki ve güvenlik kurallarını kırmaya odaklanır.
Sorular ve yanıtlar
Jailbreak yasal mı?
Araştırma ve güvenlik testi amacıyla yapıldığında genellikle kabul görür ama kötü amaçlı kullanım sistem ihlallerine ve güvenlik suçlarına yol açabilir.
Yapay zekâlar jailbreak girişimlerini nasıl engeller?
Geliştiriciler modelleri eğitirken zararlı istekleri tanıyan ek güvenlik katmanları ve filtreleme mekanizmaları eklerler.
İlgili terimler
İlgili araçlar
Bu açıklama TreScout için yapay zekâ ile sade dille hazırlandı · yanlış ya da eksik gördüğünüz bir şey olursa hello@trescout.com. TreScout her gün GitHub, Hacker News ve Hugging Face'te öne çıkanları Türkçe özetler.