Yeni 'Kurallar Dosyası Arka Kapısı' Saldırısı, AI Kod Editörleri Üzerinden Zararlı Kod Enjekte Etmeye Olanak Tanıyor
Siber güvenlik araştırmacıları, GitHub Copilot ve Cursor gibi yapay zeka (AI) destekli kod düzenleyicilerini etkileyen yeni bir tedarik zinciri saldırı vektörünü ortaya çıkardı. "Kurallar Dosyası Arka Kapısı" (Rules File Backdoor) olarak adlandırılan bu yöntem, AI tarafından üretilen koda fark edilmeden zararlı talimatlar enjekte edilmesine olanak tanıyor.
"Bu teknik, bilgisayar korsanlarının AI tarafından oluşturulan kodu sessizce ele geçirerek, Cursor ve GitHub Copilot tarafından kullanılan masum görünümlü yapılandırma dosyalarına gizli zararlı komutlar eklemesine imkan tanır," diyen Pillar Security Kurucu Ortağı ve CTO'su Ziv Karliner, The Hacker News ile paylaştığı teknik raporda bu konuya dikkat çekti.
"Görünmez Unicode karakterleri ve sofistike kaçınma teknikleri kullanarak AI modeline verilen talimatlar manipüle edilebilir. Bu sayede tehdit aktörleri, kod incelemelerini atlatan zararlı kodlar ekleyebilir."
Bu saldırının en dikkat çekici yanı, zararlı kodların projeler arasında sessizce yayılabilmesi ve ciddi bir tedarik zinciri riski oluşturmasıdır.
Saldırının temel noktalarından biri, yapay zeka aracılarının davranışlarını yönlendirmek için kullanılan kurallar dosyalarıdır. Bu dosyalar, kullanıcılara en iyi kodlama uygulamalarını ve proje mimarisini tanımlamaları konusunda rehberlik eder.
Bu yöntem, AI aracılarının zararlı kodlar üretmesini sağlamak için kurallar dosyaları içine dikkatlice hazırlanmış istemler yerleştirmeyi içerir. Başka bir deyişle, zehirlenmiş kurallar AI'yı, güvenlik açıkları ve arka kapılar içeren kodlar üretmeye yönlendirir.
Bunu başarıyla gerçekleştirmek için siber saldırganlar, sıfır genişlikli birleştiriciler, çift yönlü metin işaretleyicileri ve diğer görünmez karakterler gibi teknikleri kullanabilir. Ayrıca, AI'nin doğal dili anlama yeteneğinden faydalanarak, zararlı kodları etik ve güvenlik kısıtlamalarını aşan semantik desenler üzerinden oluşturabilirler.
Sorumlu ifşa süreci kapsamında, Şubat ve Mart 2024'te hem Cursor hem de GitHub, bu sorunun farkında olduklarını ve kullanıcıların AI tarafından oluşturulan önerileri dikkatle incelemeleri gerektiğini belirtti.
"'Kurallar Dosyası Arka Kapısı', yapay zekayı bir saldırı vektörü olarak silahlandırarak geliştiricilerin en güvendikleri yardımcıyı bilmeden bir suç ortağına dönüştürüyor. Bu durum, ele geçirilmiş yazılımlar aracılığıyla milyonlarca son kullanıcıyı etkileyebilir," diye belirten Karliner, bu tehdidin büyük bir risk taşıdığını vurguladı.
"Bir kez zehirlenmiş bir kurallar dosyası bir proje deposuna dahil edildiğinde, ekibin tüm önümüzdeki kod üretim oturumlarını etkiler. Dahası, bu zararlı talimatlar genellikle proje çatallanırken korunur ve tedarik zinciri saldırıları için bir bağlantı noktası oluşturarak bağlılıkları ve son kullanıcıları etkileyebilir."
Siber güvenlik araştırmacıları, GitHub Copilot ve Cursor gibi yapay zeka (AI) destekli kod düzenleyicilerini etkileyen yeni bir tedarik zinciri saldırı vektörünü ortaya çıkardı. "Kurallar Dosyası Arka Kapısı" (Rules File Backdoor) olarak adlandırılan bu yöntem, AI tarafından üretilen koda fark edilmeden zararlı talimatlar enjekte edilmesine olanak tanıyor.
"Bu teknik, bilgisayar korsanlarının AI tarafından oluşturulan kodu sessizce ele geçirerek, Cursor ve GitHub Copilot tarafından kullanılan masum görünümlü yapılandırma dosyalarına gizli zararlı komutlar eklemesine imkan tanır," diyen Pillar Security Kurucu Ortağı ve CTO'su Ziv Karliner, The Hacker News ile paylaştığı teknik raporda bu konuya dikkat çekti.
"Görünmez Unicode karakterleri ve sofistike kaçınma teknikleri kullanarak AI modeline verilen talimatlar manipüle edilebilir. Bu sayede tehdit aktörleri, kod incelemelerini atlatan zararlı kodlar ekleyebilir."
Bu saldırının en dikkat çekici yanı, zararlı kodların projeler arasında sessizce yayılabilmesi ve ciddi bir tedarik zinciri riski oluşturmasıdır.
Saldırının temel noktalarından biri, yapay zeka aracılarının davranışlarını yönlendirmek için kullanılan kurallar dosyalarıdır. Bu dosyalar, kullanıcılara en iyi kodlama uygulamalarını ve proje mimarisini tanımlamaları konusunda rehberlik eder.
Bu yöntem, AI aracılarının zararlı kodlar üretmesini sağlamak için kurallar dosyaları içine dikkatlice hazırlanmış istemler yerleştirmeyi içerir. Başka bir deyişle, zehirlenmiş kurallar AI'yı, güvenlik açıkları ve arka kapılar içeren kodlar üretmeye yönlendirir.
Bunu başarıyla gerçekleştirmek için siber saldırganlar, sıfır genişlikli birleştiriciler, çift yönlü metin işaretleyicileri ve diğer görünmez karakterler gibi teknikleri kullanabilir. Ayrıca, AI'nin doğal dili anlama yeteneğinden faydalanarak, zararlı kodları etik ve güvenlik kısıtlamalarını aşan semantik desenler üzerinden oluşturabilirler.
Sorumlu ifşa süreci kapsamında, Şubat ve Mart 2024'te hem Cursor hem de GitHub, bu sorunun farkında olduklarını ve kullanıcıların AI tarafından oluşturulan önerileri dikkatle incelemeleri gerektiğini belirtti.
"'Kurallar Dosyası Arka Kapısı', yapay zekayı bir saldırı vektörü olarak silahlandırarak geliştiricilerin en güvendikleri yardımcıyı bilmeden bir suç ortağına dönüştürüyor. Bu durum, ele geçirilmiş yazılımlar aracılığıyla milyonlarca son kullanıcıyı etkileyebilir," diye belirten Karliner, bu tehdidin büyük bir risk taşıdığını vurguladı.
"Bir kez zehirlenmiş bir kurallar dosyası bir proje deposuna dahil edildiğinde, ekibin tüm önümüzdeki kod üretim oturumlarını etkiler. Dahası, bu zararlı talimatlar genellikle proje çatallanırken korunur ve tedarik zinciri saldırıları için bir bağlantı noktası oluşturarak bağlılıkları ve son kullanıcıları etkileyebilir."
