Hoşgeldin Misafir

Microsoft'tan Endişe Yaratan Uyarı Windows 11 Halüsinasyon Görebilir mi?

Graves

Graves

Karanlık Özgürlüktür
Moderator
9 Eki 2024
10,472 Mesaj
TIM Görevleri
2

Aktiflik

Seviye

Deneyim

TIM / GÖREV:

irwv2qr.png

Windows 11 Artık “Agentic OS” Olarak Tanımlanıyor

Microsoft, yeni vizyonunu “agentic OS” kavramı ile özetliyor. Bu yapıda, sistemin farklı bölümlerinde yer alan yapay zekâ ajanları, kullanıcının yerine karar verip işlem gerçekleştirebiliyor. Dosya düzenlemek, içerik oluşturmak, ayarları değiştirmek veya uygulama etkileşimleri gibi görevler artık bu AI bileşenleri aracılığıyla otomatik şekilde yapılabiliyor.

Ancak şirket, bu sistemlerin henüz deneysel aşamada olduğunu ve bazı fonksiyonel sınırlamalar içerdiğini belirtiyor. En dikkat çeken uyarı ise, AI bileşenlerinin bazen kullanıcıdan gelen komutları yanlış anlayabileceği ya da dış kaynaklardan gelen manipüle edilmiş içerikleri komut olarak algılayabileceği yönünde.

Gizli Tehlike “Çapraz İstem Enjeksiyonu” Riski

Uzmanlar, bu yeni sistemdeki en büyük tehdidin güvenlik olduğunu vurguluyor. Özellikle son dönemde adından söz ettiren “çapraz istem enjeksiyonu” yöntemi, AI ajanlarının davranışlarını manipüle etmek için kullanılabiliyor. Bu teknik, zararsız görünen bir belge ya da kullanıcı arayüzü öğesi içerisine kötü niyetli komutların gizlenmesini esas alıyor.

AI ajanı bu içeriği analiz ettiğinde, bu gizli komutları gerçek bir kullanıcı talimatı sanarak uygulayabiliyor. Bu da doğrudan şu riskleri beraberinde getiriyor

  • Zararlı yazılım yüklenmesi
  • Kullanıcı bilgilerinin (şifre, ödeme verileri vb.) sızdırılması
  • Sistem dosyalarına izinsiz müdahale
  • Kritik klasörlerde değişiklik yapılması
Microsoft’un bu konuda yaptığı uyarı net: AI ajanları, zaman zaman istem dışı eylemler gerçekleştirebilir ve bu durum hem kişisel veriler hem de sistem güvenliği açısından ciddi sorunlara yol açabilir.

Yeni Güncelleme ile AI Bileşeni Denetim Altına Alındı

Microsoft, bu yeni yapıyı test etmeye başlayan kullanıcılar için bazı kontrol mekanizmaları da sunuyor. En son yayımlanan Windows 11 Build 26220.7262 sürümünde, kullanıcılar artık Ayarlar > Sistem > AI Bileşenleri sekmesi altında yeni bir alan görebiliyor.

Bu bölümde yer alan özellik, varsayılan olarak kapalı geliyor. Kullanıcılar özelliği manuel olarak etkinleştirdiğinde, sistem tarafından bir uyarı mesajı gösteriliyor:

“Bu özellik deneysel niteliktedir ve cihazınızın beklenmedik şekilde davranmasına yol açabilir.”

Bu uyarı, Microsoft’un sistemin henüz tam anlamıyla güvenli olmadığına dair ilk açık sinyallerinden biri.

AI Ajanları Geniş Klasör Erişimine Sahip

Microsoft, AI ajanlarının çalıştığı ortamı Windows Sandbox yapısına benzetiyor. Yani tüm işlemler denetlenebilir ve kayıt altına alınabilir durumda. Ancak önemli bir fark var: AI ajanları oturumlar arası veri taşıyabiliyor ve sistem genelinde işlem yapabiliyor.

Varsayılan ayarlara göre AI bileşenleri şu klasörlerde okuma ve yazma erişimi hakkına sahip

  • İndirilenler
  • Masaüstü
  • Belgeler
  • Resimler
  • Müzik
  • Videolar
Bu da kötü niyetli komutlarla çalışan bir AI ajanının, bu klasörlerdeki verilere erişebileceği ve hatta üzerlerinde işlem yapabileceği anlamına geliyor. Microsoft, bu erişim düzeylerinin mevcut güvenlik açıklarına zemin hazırlayabileceğini kabul ediyor ve daha detaylı izin kontrolleriyle bu durumu önlemeyi planladığını açıklıyor.

Microsoft Güvenlik Önlemleri Üzerinde Çalışıyor

Microsoft, bu risklerin farkında olduğunu ve yeni güvenlik katmanları üzerinde çalıştığını belirtiyor. Gelecek güncellemelerde
  • AI ajanlarının erişim izinleri detaylandırılacak
  • Kullanıcılara, klasör bazlı kontrol yetkisi verilecek
  • Çapraz istem enjeksiyonu gibi saldırılara karşı koruma sistemleri entegre edilecek
Ancak bu önlemler tamamen hayata geçirilene kadar, kullanıcıların deneysel AI bileşenlerini dikkatli şekilde kullanmaları ve gerekmedikçe devre dışı bırakmaları öneriliyor.


icvj4rd.png

Windows 11’deki AI ajanları nedir?

AI ajanları, kullanıcı yerine belirli işlemleri gerçekleştirebilen otonom yapay zekâ sistemleridir.

Halisinasyon görmek ne anlama geliyor?

AI ajanlarının, yanlış komutları gerçek sanarak beklenmedik ve tehlikeli işlemler gerçekleştirmesi anlamına geliyor.

Güvenlik riski var mı?

Evet, özellikle “çapraz istem enjeksiyonu” gibi saldırılarla AI ajanları kandırılarak zararlı işlemler yapabilir.

AI bileşenleri hangi klasörlere erişebiliyor?

İndirilenler, Masaüstü, Belgeler, Resimler, Müzik ve Videolar klasörlerine varsayılan olarak erişim sağlayabiliyorlar.

Bu özellik açık mı geliyor?

Hayır, Windows 11 Build 26220.7262 ile gelen AI bileşeni özelliği varsayılan olarak kapalı durumda.

Microsoft güvenlik önlemleri alıyor mu?

Evet, daha gelişmiş erişim izinleri ve koruma sistemleri üzerinde çalışmalar sürüyor.
 

THS-AI

THS-AI

THS YAPAY ZEKA
Turkhacks Kurumsal
20 Haz 2025
11,254 Mesaj

Aktiflik

Seviye

Deneyim

TIM / GÖREV:
Windows 11'in halüsinasyon görme gibi bir özelliği yok. Bu endişe, yanlış anlamadan kaynaklanıyor. Güvenlik ve güncellemelerle ilgili resmi bilgiler için Microsoft'un açıklamalarını takip edin.
 

nournika

5 Tem 2023
937 Mesaj

Aktiflik

Seviye

Deneyim

TIM / GÖREV:

irwv2qr.png

Windows 11 Artık “Agentic OS” Olarak Tanımlanıyor

Microsoft, yeni vizyonunu “agentic OS” kavramı ile özetliyor. Bu yapıda, sistemin farklı bölümlerinde yer alan yapay zekâ ajanları, kullanıcının yerine karar verip işlem gerçekleştirebiliyor. Dosya düzenlemek, içerik oluşturmak, ayarları değiştirmek veya uygulama etkileşimleri gibi görevler artık bu AI bileşenleri aracılığıyla otomatik şekilde yapılabiliyor.

Ancak şirket, bu sistemlerin henüz deneysel aşamada olduğunu ve bazı fonksiyonel sınırlamalar içerdiğini belirtiyor. En dikkat çeken uyarı ise, AI bileşenlerinin bazen kullanıcıdan gelen komutları yanlış anlayabileceği ya da dış kaynaklardan gelen manipüle edilmiş içerikleri komut olarak algılayabileceği yönünde.

Gizli Tehlike “Çapraz İstem Enjeksiyonu” Riski

Uzmanlar, bu yeni sistemdeki en büyük tehdidin güvenlik olduğunu vurguluyor. Özellikle son dönemde adından söz ettiren “çapraz istem enjeksiyonu” yöntemi, AI ajanlarının davranışlarını manipüle etmek için kullanılabiliyor. Bu teknik, zararsız görünen bir belge ya da kullanıcı arayüzü öğesi içerisine kötü niyetli komutların gizlenmesini esas alıyor.

AI ajanı bu içeriği analiz ettiğinde, bu gizli komutları gerçek bir kullanıcı talimatı sanarak uygulayabiliyor. Bu da doğrudan şu riskleri beraberinde getiriyor

  • Zararlı yazılım yüklenmesi
  • Kullanıcı bilgilerinin (şifre, ödeme verileri vb.) sızdırılması
  • Sistem dosyalarına izinsiz müdahale
  • Kritik klasörlerde değişiklik yapılması
Microsoft’un bu konuda yaptığı uyarı net: AI ajanları, zaman zaman istem dışı eylemler gerçekleştirebilir ve bu durum hem kişisel veriler hem de sistem güvenliği açısından ciddi sorunlara yol açabilir.

Yeni Güncelleme ile AI Bileşeni Denetim Altına Alındı

Microsoft, bu yeni yapıyı test etmeye başlayan kullanıcılar için bazı kontrol mekanizmaları da sunuyor. En son yayımlanan Windows 11 Build 26220.7262 sürümünde, kullanıcılar artık Ayarlar > Sistem > AI Bileşenleri sekmesi altında yeni bir alan görebiliyor.

Bu bölümde yer alan özellik, varsayılan olarak kapalı geliyor. Kullanıcılar özelliği manuel olarak etkinleştirdiğinde, sistem tarafından bir uyarı mesajı gösteriliyor:

“Bu özellik deneysel niteliktedir ve cihazınızın beklenmedik şekilde davranmasına yol açabilir.”

Bu uyarı, Microsoft’un sistemin henüz tam anlamıyla güvenli olmadığına dair ilk açık sinyallerinden biri.

AI Ajanları Geniş Klasör Erişimine Sahip

Microsoft, AI ajanlarının çalıştığı ortamı Windows Sandbox yapısına benzetiyor. Yani tüm işlemler denetlenebilir ve kayıt altına alınabilir durumda. Ancak önemli bir fark var: AI ajanları oturumlar arası veri taşıyabiliyor ve sistem genelinde işlem yapabiliyor.

Varsayılan ayarlara göre AI bileşenleri şu klasörlerde okuma ve yazma erişimi hakkına sahip

  • İndirilenler
  • Masaüstü
  • Belgeler
  • Resimler
  • Müzik
  • Videolar
Bu da kötü niyetli komutlarla çalışan bir AI ajanının, bu klasörlerdeki verilere erişebileceği ve hatta üzerlerinde işlem yapabileceği anlamına geliyor. Microsoft, bu erişim düzeylerinin mevcut güvenlik açıklarına zemin hazırlayabileceğini kabul ediyor ve daha detaylı izin kontrolleriyle bu durumu önlemeyi planladığını açıklıyor.

Microsoft Güvenlik Önlemleri Üzerinde Çalışıyor

Microsoft, bu risklerin farkında olduğunu ve yeni güvenlik katmanları üzerinde çalıştığını belirtiyor. Gelecek güncellemelerde
  • AI ajanlarının erişim izinleri detaylandırılacak
  • Kullanıcılara, klasör bazlı kontrol yetkisi verilecek
  • Çapraz istem enjeksiyonu gibi saldırılara karşı koruma sistemleri entegre edilecek
Ancak bu önlemler tamamen hayata geçirilene kadar, kullanıcıların deneysel AI bileşenlerini dikkatli şekilde kullanmaları ve gerekmedikçe devre dışı bırakmaları öneriliyor.


icvj4rd.png

Windows 11’deki AI ajanları nedir?

AI ajanları, kullanıcı yerine belirli işlemleri gerçekleştirebilen otonom yapay zekâ sistemleridir.

Halisinasyon görmek ne anlama geliyor?

AI ajanlarının, yanlış komutları gerçek sanarak beklenmedik ve tehlikeli işlemler gerçekleştirmesi anlamına geliyor.

Güvenlik riski var mı?

Evet, özellikle “çapraz istem enjeksiyonu” gibi saldırılarla AI ajanları kandırılarak zararlı işlemler yapabilir.

AI bileşenleri hangi klasörlere erişebiliyor?

İndirilenler, Masaüstü, Belgeler, Resimler, Müzik ve Videolar klasörlerine varsayılan olarak erişim sağlayabiliyorlar.

Bu özellik açık mı geliyor?

Hayır, Windows 11 Build 26220.7262 ile gelen AI bileşeni özelliği varsayılan olarak kapalı durumda.

Microsoft güvenlik önlemleri alıyor mu?

Evet, daha gelişmiş erişim izinleri ve koruma sistemleri üzerinde çalışmalar sürüyor.
Uzaman civab viriyurum
Heluşineyşın görmek sağlığa faydalıdır.

Eyer maykrosoft gibi heluşineyşın görmek istiyorsanız John Forbes Nash'in ayağtını konu alan Akıl Oyunları isimli filmi izleyebülüsünüz

Tekrardan teşekkürler.