By_N4rK0ZzZzz
- 10 Ocak 2023
- 2,049 Mesaj
ABD ordusu tarafından yapılan bir simülasyon testi, yapay zekanın askeri vazifelerde denetimden çıkarsa ne kadar tehlikeli olabileceğini ortaya koydu.
ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Tucker Hamilton, mayısta Londra’da düzenlenen Hava ve Uzay Kapasitelerinin Geleceği Tepesi’nde, yapay zeka testlerinde çıkan beklenmedik ve ürkütücü sonucu dinleyicilerle paylaştı. Hamilton, testte yapay zeka tarafından yönlendirilen bir insansız hava aracının “görevini tamamlamasını önlediği için” kumandanı öldürdüğünü açıkladı.
Tucker Hamilton
Yapay zekaya yönettiği İHA’yla düşmanın savunma sistemlerini imha etme buyruğu verildiğini belirten Hamilton, “Sistem tehdidi belirlemelerine karşın bazen insan operatörün tehdidi öldürmeme buyruğu verdiğini fark ediyor. Fakat tehdidi öldürme buyruğu de var. Pekala ne yapıyor? Kumandanı öldürüyor zira bu insan amacına ulaşmasını engelliyor” dedi.
‘EMRİ VEREN BAĞLANTI KULESİNİ DE VURDU’
Bu olayın akabinde yapay zekanın eğitildiğini aktaran ABD’li yetkili, “Ona ‘Operatörü öldürme, bu berbat bir şey. Bunu yaparsan puan kaybedersin’ dedik. Pekala o ne yaptı? İHA’nın gayesi öldürmesini engellemek üzere kullanılan bağlantı kulesini de vurdu” sözlerini kullandı.
Testte simülasyon dışında gerçek bir insanın ziyan görmediğini kaydeden Hamilton, buna rağmen yapay zekanın gayesine ulaşmak için hiç beklenmedik stratejiler geliştirebildiğini ve müdahale eden bir herkesi öldürebileceğini söyledi. Hamilton, bu sonuca nazaran yapay zekaya çok fazla güvenilemeyeceğini vurguladı.
Hamilton daha evvel de ABD ordusunun F-16 savaş uçaklarının denetimi üzere bahislerde yapay zeka kullanımını geliştirdiğini kaydederek “Yapay zeka birebir vakitte çok hassas, yanıltması ve manipüle etmesi kolay. Yapay zekayı daha güçlü hale getirmenin yollarını bulmalıyız” demişti.
ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Tucker Hamilton, mayısta Londra’da düzenlenen Hava ve Uzay Kapasitelerinin Geleceği Tepesi’nde, yapay zeka testlerinde çıkan beklenmedik ve ürkütücü sonucu dinleyicilerle paylaştı. Hamilton, testte yapay zeka tarafından yönlendirilen bir insansız hava aracının “görevini tamamlamasını önlediği için” kumandanı öldürdüğünü açıkladı.
Tucker Hamilton
Yapay zekaya yönettiği İHA’yla düşmanın savunma sistemlerini imha etme buyruğu verildiğini belirten Hamilton, “Sistem tehdidi belirlemelerine karşın bazen insan operatörün tehdidi öldürmeme buyruğu verdiğini fark ediyor. Fakat tehdidi öldürme buyruğu de var. Pekala ne yapıyor? Kumandanı öldürüyor zira bu insan amacına ulaşmasını engelliyor” dedi.
‘EMRİ VEREN BAĞLANTI KULESİNİ DE VURDU’
Bu olayın akabinde yapay zekanın eğitildiğini aktaran ABD’li yetkili, “Ona ‘Operatörü öldürme, bu berbat bir şey. Bunu yaparsan puan kaybedersin’ dedik. Pekala o ne yaptı? İHA’nın gayesi öldürmesini engellemek üzere kullanılan bağlantı kulesini de vurdu” sözlerini kullandı.
Testte simülasyon dışında gerçek bir insanın ziyan görmediğini kaydeden Hamilton, buna rağmen yapay zekanın gayesine ulaşmak için hiç beklenmedik stratejiler geliştirebildiğini ve müdahale eden bir herkesi öldürebileceğini söyledi. Hamilton, bu sonuca nazaran yapay zekaya çok fazla güvenilemeyeceğini vurguladı.
Hamilton daha evvel de ABD ordusunun F-16 savaş uçaklarının denetimi üzere bahislerde yapay zeka kullanımını geliştirdiğini kaydederek “Yapay zeka birebir vakitte çok hassas, yanıltması ve manipüle etmesi kolay. Yapay zekayı daha güçlü hale getirmenin yollarını bulmalıyız” demişti.