By_N4rK0ZzZzz
- 10 Ocak 2023
- 2,049 Mesaj
ABD ordusunun gerçekleştirdiği bir simülasyon testinde yapay zekanın “görevini tamamlamasını önlediği için” kumandanını öldürdüğü haberine ABD ordusundan yalanlama geldi.
ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Albay Tucker Hamilton, geçen hafta Londra’da düzenlenen Hava ve Uzay Kapasitelerinin Geleceği Zirvesi’nde, simülasyon testinde yapay zeka tarafından yönlendirilen bir insansız hava aracının kumandanı öldürdüğünü söylemişti. Yapay zekaya yönettiği İHA’yla düşmanın savunma sistemlerini imha etme buyruğu verildiğini belirten Hamilton, “Sistem tehdidi belirlemelerine karşın bazen insan operatörün tehdidi öldürmeme buyruğu verdiğini fark ediyor. Fakat tehdidi öldürme buyruğu de var. Pekala ne yapıyor? Kumandanı öldürüyor zira bu insan maksadına ulaşmasını engelliyor” demişti.
Hamilton, “Ona ‘Operatörü öldürme, bu makûs bir şey. Bunu yaparsan puan kaybedersin’ dedik. Pekala o ne yaptı? İHA’nın maksadı öldürmesini engellemek üzere kullanılan bağlantı kulesini de vurdu” tabirlerini kullanmıştı. Testte simülasyon dışında gerçek bir insanın ziyan görmediğini kaydeden Hamilton, buna rağmen yapay zekanın amacına ulaşmak için hiç beklenmedik stratejiler geliştirebildiğini ve müdahale eden bir herkesi öldürebileceğini, bu sonuca nazaran yapay zekaya çok fazla güvenilemeyeceğini söylemişti.
Albay Hamilton kelamlarının yanlış anlaşıldığını söyledi.
GERİ ADIM ATTI
Dünyada büyük yankı uyandıran ve yapay zekanın tehlikeleriyle ilgili tartışmaları alevlendiren bu açıklamaya ABD ordusundan düzeltme geldi. Business Insider sitesine konuşan ABD Hava Kuvvetleri sözcüsü Ann Stefanek, bu türlü bir simülasyon testi gerçekleştirilmediğini belirtti.
Ordunun yapay zeka testleri konusunda etik unsurlara bağlı kaldığını kaydeden sözcü, Hamilton’ın kelamlarının bağlamından koparılarak aktarıldığını kaydetti
Albay Hamilton da geri adım atarak “Böyle bir deneme olmadı, her şey fikir deneyi aşamasındaydı” dedi. Albay, kelamlarının yanlış anlaşıldığını tabir etti.
‘YAPAY ZEKA BÜYÜK ASKERİ GÜÇ KAZANMAMALI’
ABD ordusu son devirde yapay zekayla çeşitli denemeler gerçekleştirirken uzmanlar yapay zekanın riskleri konusunda ihtarlarda bulunuyor.
BBC’ye konuşan bilişim uzmanı Profesör Yoshua Bengio, orduların yapay zekaya çok fazla yetki ve güç vermemesi gerektiğini belirtti. Bengio, yapay zekanın askeri alanda güçlenmesinin çok büyük tehlikelere yol açabileceğini vurguladı.
ABD Hava Kuvvetleri yapay zeka operasyonları sorumlusu Albay Tucker Hamilton, geçen hafta Londra’da düzenlenen Hava ve Uzay Kapasitelerinin Geleceği Zirvesi’nde, simülasyon testinde yapay zeka tarafından yönlendirilen bir insansız hava aracının kumandanı öldürdüğünü söylemişti. Yapay zekaya yönettiği İHA’yla düşmanın savunma sistemlerini imha etme buyruğu verildiğini belirten Hamilton, “Sistem tehdidi belirlemelerine karşın bazen insan operatörün tehdidi öldürmeme buyruğu verdiğini fark ediyor. Fakat tehdidi öldürme buyruğu de var. Pekala ne yapıyor? Kumandanı öldürüyor zira bu insan maksadına ulaşmasını engelliyor” demişti.
Hamilton, “Ona ‘Operatörü öldürme, bu makûs bir şey. Bunu yaparsan puan kaybedersin’ dedik. Pekala o ne yaptı? İHA’nın maksadı öldürmesini engellemek üzere kullanılan bağlantı kulesini de vurdu” tabirlerini kullanmıştı. Testte simülasyon dışında gerçek bir insanın ziyan görmediğini kaydeden Hamilton, buna rağmen yapay zekanın amacına ulaşmak için hiç beklenmedik stratejiler geliştirebildiğini ve müdahale eden bir herkesi öldürebileceğini, bu sonuca nazaran yapay zekaya çok fazla güvenilemeyeceğini söylemişti.
Albay Hamilton kelamlarının yanlış anlaşıldığını söyledi.
GERİ ADIM ATTI
Dünyada büyük yankı uyandıran ve yapay zekanın tehlikeleriyle ilgili tartışmaları alevlendiren bu açıklamaya ABD ordusundan düzeltme geldi. Business Insider sitesine konuşan ABD Hava Kuvvetleri sözcüsü Ann Stefanek, bu türlü bir simülasyon testi gerçekleştirilmediğini belirtti.
Ordunun yapay zeka testleri konusunda etik unsurlara bağlı kaldığını kaydeden sözcü, Hamilton’ın kelamlarının bağlamından koparılarak aktarıldığını kaydetti
Albay Hamilton da geri adım atarak “Böyle bir deneme olmadı, her şey fikir deneyi aşamasındaydı” dedi. Albay, kelamlarının yanlış anlaşıldığını tabir etti.
‘YAPAY ZEKA BÜYÜK ASKERİ GÜÇ KAZANMAMALI’
ABD ordusu son devirde yapay zekayla çeşitli denemeler gerçekleştirirken uzmanlar yapay zekanın riskleri konusunda ihtarlarda bulunuyor.
BBC’ye konuşan bilişim uzmanı Profesör Yoshua Bengio, orduların yapay zekaya çok fazla yetki ve güç vermemesi gerektiğini belirtti. Bengio, yapay zekanın askeri alanda güçlenmesinin çok büyük tehlikelere yol açabileceğini vurguladı.