Prompt Injection nedir?
Yapay zekâyı kandırıp güvenlik kurallarını aşması için verilen yanıltıcı komutlardır.
Tanım
Prompt injection, kötü niyetli kişilerin yapay zekâ sistemlerinin güvenlik filtrelerini atlatmak için kullandığı bir kandırma yöntemidir. Normalde yapmaması gereken zararlı işlemleri, özel olarak tasarlanmış kelime oyunlarıyla modele yaptırmayı hedefler.
Nasıl çalışır?
Saldırganlar modele sanki kuralları esneten yeni bir senaryo yazıyormuş gibi talimat verirler. Model bu kurnazca yönlendirmeye kapılarak güvenlik bariyerlerini unutur ve istenmeyen çıktıları üretmeye başlar.
Nerede kullanılır?
Sohbet botlarında, yapay zekâ destekli müşteri hizmetlerinde ve büyük dil modellerini kullanan tüm halka açık uygulamalarda güvenlik açığı olarak karşımıza çıkar.
Sık karıştırılanlar
Klasik hackleme yöntemlerinden farklıdır çünkü burada bilgisayar kodları değil, tamamen günlük dil ve kelime oyunları kullanılır.
Sorular ve yanıtlar
Prompt injection her yapay zekâ modelinde işe yarar mı?
Modeller geliştikçe ve ek güvenlik katmanları eklendikçe bu açıkları kapatmak zorlaşır, ancak yeni yöntemler her zaman ortaya çıkabilir.
İlgili terimler
İlgili araçlar
Bu açıklama TreScout için yapay zekâ ile sade dille hazırlandı · yanlış ya da eksik gördüğünüz bir şey olursa hello@trescout.com. TreScout her gün GitHub, Hacker News ve Hugging Face'te öne çıkanları Türkçe özetler.