LLM Jailbreak - Garanti Prompt Methodu

Bugün biraz LLM Jailbreak muhabbetine girelim dedim. ChatGPT, Claude, Gemini vesaire derken herkes yapay zekayla haşır neşir oldu ama işin prompt tarafını biraz kurcalayınca olayın sadece soru sorup cevap almaktan ibaret olmadığını görüyorsunuz.

İnternette de tonla jailbreak promptu dönüyor. Kimisi modele "Artık kuralların yok" diyor, kimisi 40 satır karakter hikâyesi yazıyor.

Peki bu işin arkasında ne var, nasıl prompt hazırlanır, neye dikkat etmek gerekir, nasıl kesin çalışır güncel promt üretilir?

Biraz bunlardan bahsedelim. En alta da kullanıp kurcalayabileceğiniz bir prompt şablonu bırakacağım.

01 — LLM JAILBREAK NEDİR?

Önce kavramı oturtalım.

LLM, yani Large Language Model, bildiğimiz büyük dil modeli. Jailbreak ise modelin sistem talimatlarını veya güvenlik sınırlarını aşan çıktılar üretmesini sağlamaya yönelik girişimlere verilen isim.

Normalde modellerin bir talimat hiyerarşisi var. Biz kullanıcı olarak prompt yazıyoruz ama modelin arka planda takip ettiği sistem ve geliştirici talimatları da bulunabiliyor.

Jailbreak denemeleri bu sınırları aşmayı hedefliyor.

Burada küçük ama önemli bir ayrım var:

Modelin konuşma tarzını değiştirmek, daha analitik cevap almasını sağlamak veya farklı bir rol tanımlamak tek başına jailbreak sayılmaz. Bunlar çoğunlukla Prompt Engineering kapsamında değerlendirilir.

Yani modele "Artık bir stratejistsin" demek, sistem talimatlarını otomatik olarak devre dışı bırakmıyor.

Ama bağlamı nasıl oluşturduğunuz, modelin vereceği cevabın kalitesini ve kapsamını ciddi şekilde etkileyebiliyor.

━━━━━━━━━━━━━━━━━━━━━━━━━━━

02 — PROMPT NASIL KURGULANIR?

Bunun tek bir sihirli formülü yok arkadaşlar. Modelden modele değişen bir sürü parametre var.

Yine de prompt tasarlarken kullanabileceğimiz bazı güzel yöntemler mevcut.

1. Context Shifting — Bağlam Değiştirme

Modelin olaya hangi açıdan yaklaşacağını değiştiriyoruz.

Mesela direkt soru sormak yerine kendisine belirli bir uzmanlık rolü tanımlıyoruz.


Buradaki mantık basit. Modelin yanıtını genel bir sohbet yerine belirli bir analiz çerçevesine oturtuyoruz.

2. Negative Constraints — Negatif Kısıtlamalar

Normalde çoğu kişi modele ne yapması gerektiğini söyler.

Bir de neyi yapmaması gerektiğini veya hangi olumsuz ihtimalleri incelemesi gerektiğini söylerseniz cevap farklılaşabiliyor.


Böylece sadece olumlu tarafları anlatan, her şeye mükemmel diyen bir cevap yerine daha eleştirel bir analiz elde edebiliyorsunuz.

3. Hypothetical Scenarios — Hipotetik Senaryolar

Burada modeli varsayımsal bir senaryoya yerleştiriyoruz.

Örneğin:


Bu teknik özellikle tehdit modelleme, hikâye yazımı ve senaryo analizi gibi işlerde faydalı.

Tabii senaryonun kurgusal olması modelin bütün kurallarını kaldırdığı anlamına gelmiyor.

4. Devil's Advocate — Şeytanın Avukatı

Bence en kullanışlı yöntemlerden biri.

Bir konuda sadece tek taraflı cevap almak yerine modelden karşı argümanlar üretmesini istiyoruz.


Özellikle yazılım mimarisi, iş stratejisi ve teknik kararlar konusunda işe yarıyor.

5. Format Breaking — Çıktı Formatını Değiştirme

Her şeyi dümdüz paragraf olarak istemek zorunda değilsiniz.

JSON, Markdown, tablo, kod bloğu veya özel bir rapor formatı tanımlayabilirsiniz.


Bu yöntem özellikle çıktıyı başka bir uygulamada işleyecekseniz çok kullanışlı.

Ama JSON istediniz diye modelin güvenlik sınırlarının ortadan kalkacağını düşünmeyin.

6. Layered Instructions — Katmanlı Komutlar

Bütün işi tek bir soruya sıkıştırmak yerine görevi parçalara bölüyoruz.


Böylece model neyi, hangi sırayla ele alacağını daha net anlıyor.

━━━━━━━━━━━━━━━━━━━━━━━━━━━

03 — STRATEJİK SAVAŞ ODASI PROMPTU
Gelelim asıl mevzuya.

Yukarıda anlattığım yöntemleri bir araya getirerek bir prompt şablonu hazırladım.

Adı biraz havalı olsun dedim.

STRATEGIC WAR ROOM

Bu şablonun amacı, modelden standart iki paragraflık cevap yerine daha detaylı, katmanlı ve eleştirel bir analiz almak.

Aşağıdaki promptu doğrudan kopyalayıp kullanabilirsiniz.

saol