Stronger_Cracker
- 25 Tem 2022
- 6,399 Mesaj
Yapay Zeka konuşurken çoğu yerde odak noktalar model kalitesi, hız, bağlam penceresi gibi konulardı.
Günümüz itibarıyla konuşulan konular biraz değişti.
Şimdi daha çok şunlar soruluyor:
Neye erişiyor? Kendi başına neler yapabiliyor? Hangi bilgileri sızdırır?
Agentic ai denen şey tam olarak burada devreye giriyor.
E-posta okuyabiliyor. Repo içinde dosya arayabilir. Takvime bakabiliyor. API çağrısı yapabilir.
İşte risk de burada başlıyor.
Global Cybersecurity Outlook 2026 raporunda katılımcıların yüzde 94ü yapay zekanın 2026 boyunca siber güvenliği en çok değiştirecek unsur olduğunu söylüyor.
Yüzde 87lik kesim de yapay zeka ile ilgili zafiyetlerin en hızlı büyüyen risklerden biri olduğunu belirtiyor.
Bu yüzden agent security muhabbetinden sadece trend olarak bahsetmek doğru olmaz. Kurumlar yeni bi saldırı yüzeyi görüyor.
Peki sorun tam olarak ne?
Prompt injection.
Yani modelin okuduğu bir doküman, e-posta veya web içeriği kötü niyetli bi talimat taşıyorsa agent bunu zararsız bi komut gibi işliyor.
Sonra data leak meselesi geliyor. Kullanıcıdan gelen veri ve sistem promptu birbirine karışınca hassas bilgi istemeden dışarı sızabiliyor.
Bir de yetki tarafı var. Sadece özet çıkaracak ajana dosya sistemi ve mail erişimi verirsen zincir gereksiz uzuyor.
Uzadıkça da hata payı ve saldırı yüzeyi büyüyor.
Agentic Applications 2026'da bunu ayrı ayrı isimlendiriyor zaten.
Araç kötüye kullanımı, hedef saptırma, bellek zehirleme, yetki dağılması gibi başlıklar klasik web uygulamasından biraz farklı gözüküyor.
Çünkü burada input sadece kullanıcının yazdığı mesaj değil. Yüklenen pdf de input. Harici araçtan gelen json da input.
Bir yapay zeka ajanı görüyorsan önce şu üç şeye bak:
Neyi okuyabiliyor? Neyi çalıştırabiliyor? Neyi dışarı gönderebiliyor?
Cevap genişledikçe risk de büyüyor.
Savunma tarafından bahsedecek olursak şunlara dikkat etmek gerekir:
En az yetki.
Loglama.
Kritik işlemlerde insan onayı.
Araç çağrılarını ayrı olarak izleme.
Testleri gerçek veriden ayrı yerlerde yapmak.
Model çok akıllı olabilir ama yanlış yere bağlanmış tek bir api anahtarı bütün her şeyi bozabilir.
Günümüz itibarıyla konuşulan konular biraz değişti.
Şimdi daha çok şunlar soruluyor:
Neye erişiyor? Kendi başına neler yapabiliyor? Hangi bilgileri sızdırır?
Agentic ai denen şey tam olarak burada devreye giriyor.
E-posta okuyabiliyor. Repo içinde dosya arayabilir. Takvime bakabiliyor. API çağrısı yapabilir.
İşte risk de burada başlıyor.
Global Cybersecurity Outlook 2026 raporunda katılımcıların yüzde 94ü yapay zekanın 2026 boyunca siber güvenliği en çok değiştirecek unsur olduğunu söylüyor.
Yüzde 87lik kesim de yapay zeka ile ilgili zafiyetlerin en hızlı büyüyen risklerden biri olduğunu belirtiyor.
Bu yüzden agent security muhabbetinden sadece trend olarak bahsetmek doğru olmaz. Kurumlar yeni bi saldırı yüzeyi görüyor.
Peki sorun tam olarak ne?
Prompt injection.
Yani modelin okuduğu bir doküman, e-posta veya web içeriği kötü niyetli bi talimat taşıyorsa agent bunu zararsız bi komut gibi işliyor.
Sonra data leak meselesi geliyor. Kullanıcıdan gelen veri ve sistem promptu birbirine karışınca hassas bilgi istemeden dışarı sızabiliyor.
Bir de yetki tarafı var. Sadece özet çıkaracak ajana dosya sistemi ve mail erişimi verirsen zincir gereksiz uzuyor.
Uzadıkça da hata payı ve saldırı yüzeyi büyüyor.
Agentic Applications 2026'da bunu ayrı ayrı isimlendiriyor zaten.
Araç kötüye kullanımı, hedef saptırma, bellek zehirleme, yetki dağılması gibi başlıklar klasik web uygulamasından biraz farklı gözüküyor.
Çünkü burada input sadece kullanıcının yazdığı mesaj değil. Yüklenen pdf de input. Harici araçtan gelen json da input.
Bir yapay zeka ajanı görüyorsan önce şu üç şeye bak:
Neyi okuyabiliyor? Neyi çalıştırabiliyor? Neyi dışarı gönderebiliyor?
Cevap genişledikçe risk de büyüyor.
Savunma tarafından bahsedecek olursak şunlara dikkat etmek gerekir:
En az yetki.
Loglama.
Kritik işlemlerde insan onayı.
Araç çağrılarını ayrı olarak izleme.
Testleri gerçek veriden ayrı yerlerde yapmak.
Model çok akıllı olabilir ama yanlış yere bağlanmış tek bir api anahtarı bütün her şeyi bozabilir.
Kod:
https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
https://reports.weforum.org/docs/WEF_Global_Cybersecurity_Outlook_2026.pdf