Merhabalar,
Ben Hez99. Lojistik grup adına hazırladığım bu konuda yapay zekâ dünyasında son dönemde giderek büyüyen farklı bir tartışmaya değineceğim.
Yapay zekânın daha iyi kod yazması, daha hızlı araştırma yapması veya karmaşık problemleri çözmesi artık çok şaşırtıcı gelmiyor.
Fakat işin içine ahlak, insan değerleri ve muhakeme girdiğinde konu çok daha karmaşık bir hale geliyor.
Son dönemde teknoloji şirketlerinin yapay zekâ sistemlerine insan değerlerinin nasıl aktarılabileceği üzerine yaptığı çalışmalar gündeme gelirken OpenAI CEO'su Sam Altman da dikkat çekici bir noktaya değindi.
Altman'a göre insanların kendi muhakemesini tamamen yapay zekâya bırakmaya başlaması ciddi bir güvenlik problemi oluşturabilir.
Peki yapay zekâ gerçekten ahlaki kararlar verebilir mi?
Hazırsanız detaylara geçelim.
1. Tartışma Nereden Çıktı?
Yapay zekâ sistemleri geliştikçe kullanıcıların bu sistemlerle kurduğu ilişki de değişmeye başladı.
Eskiden yapay zekâya daha çok;
"Bu kod neden çalışmıyor?"
"Bu metni çevir."
"Şu konuyu bana açıkla."
gibi sorular soruluyordu.
Bugün ise kullanıcılar yapay zekâya;
"Bu durumda ne yapmalıyım?"
"Doğru karar hangisi?"
"Ben yanlış mı düşünüyorum?"
"Hayatımla ilgili hangi seçimi yapmalıyım?"
gibi çok daha kişisel sorular da yöneltiyor.
Burada önemli bir değişim ortaya çıkıyor.
Yapay zekâ yalnızca bilgi veren bir araç olmaktan çıkıp bazı kullanıcıların gözünde karar veren veya yol gösteren bir otorite haline gelebiliyor.
Bu nedenle teknoloji şirketleri yapay zekâ sistemlerinin insan değerleriyle nasıl uyumlu hale getirileceği konusunu daha ciddi şekilde tartışmaya başladı.
Model Welfare Nedir?
Bu tartışmalarda son dönemde sıkça karşılaşılan kavramlardan biri de "model welfare", yani model refahı.
Kısaca şu soruya dayanıyor:
"Gelecekte çok gelişmiş bir yapay zekâ gerçekten bir tür deneyim yaşayabiliyorsa ona karşı ahlaki sorumluluğumuz olur mu?"
Bugünkü yapay zekâ sistemlerinin gerçekten bilinçli olduğuna dair bilim dünyasında genel kabul görmüş bir kanıt bulunmuyor.
Fakat modeller geliştikçe bu sorunun ilerleyen yıllarda daha fazla tartışılacağı düşünülüyor.
Bu nedenle bazı yapay zekâ şirketleri konuya yalnızca teknik açıdan değil, felsefi ve etik açıdan da yaklaşmaya başladı.
2. Sam Altman Ne Dedi?
OpenAI CEO'su Sam Altman konu hakkında yaptığı açıklamada insanların yapay zekâ sistemlerine gereğinden fazla otorite vermesi konusunda uyarıda bulundu.
Altman özellikle yapay zekâya adeta dini veya mutlak bir güç atfedilmesinin problem oluşturabileceğine dikkat çekti.
Asıl mesele yapay zekânın ahlak veya felsefe hakkında konuşması değil.
Asıl risk insanların modeli;
- Mutlak doğruyu bilen bir kaynak
- Hata yapmayan bir danışman
- İnsanlardan daha üstün bir karar verici
- Hayat kararlarında son söz sahibi bir otorite
gibi görmeye başlaması.
Çünkü bugün kullanılan yapay zekâ sistemleri ne kadar gelişmiş olursa olsun hâlâ yanlış bilgi verebilir, eksik değerlendirme yapabilir veya sorunun nasıl sorulduğuna göre farklı cevaplar üretebilir.
Bu nedenle Altman'ın üzerinde durduğu nokta insan muhakemesinin tamamen yapay zekâya devredilmemesi gerektiği.
3. Yapay Zekâya Ahlak Öğretilebilir mi?
İşin en zor tarafı tam olarak burada başlıyor.
Matematik sorusunda doğru cevap çoğu zaman bellidir.
Kod çalışır veya çalışmaz.
Fakat ahlaki konularda her zaman tek bir doğru cevap bulunmuyor.
Örneğin;
- Özgürlük mü daha önemli, güvenlik mi?
- Bireyin çıkarı mı toplumun çıkarı mı?
- Bir insanı korumak için yalan söylemek doğru mudur?
- Farklı toplumların değerleri çakıştığında hangisi esas alınmalıdır?
gibi sorulara dünyanın tamamının kabul ettiği tek bir cevap vermek mümkün değil.
Bu nedenle "yapay zekâya ahlak öğretelim" demek ilk bakışta kolay görünse de çok büyük bir soruyu beraberinde getiriyor:
Kimin ahlakı?
Bir yapay zekânın değerlerini;
- Modeli geliştiren şirket mi?
- Devletler mi?
- Kullanıcılar mı?
- Toplum mu?
belirleyecek?
Farklı ülkelerde ve kültürlerde aynı modelin farklı cevaplar vermesi mi gerekecek?
Yapay zekâ etiğinin önümüzdeki yıllardaki en büyük tartışmalarından biri muhtemelen bu olacak.
4. İnsan Muhakemesi Neden Korunmalı?
Yapay zekâ birçok konuda insana ciddi şekilde yardımcı olabilir.
Binlerce sayfalık bilgiyi saniyeler içerisinde analiz edebilir.
Farklı seçeneklerin avantaj ve dezavantajlarını sıralayabilir.
Kullanıcının gözden kaçırdığı noktaları gösterebilir.
Fakat özellikle;
- Sağlık
- Hukuk
- Para
- İlişkiler
- Din
- Siyaset
- Hayatı ciddi şekilde etkileyen kararlar
söz konusu olduğunda son kararın tamamen yapay zekâya bırakılması riskli olabilir.
Çünkü yapay zekâ verdiği kararın sonucunu yaşamıyor.
Tavsiyesi yanlış çıktığında parasını kaybeden, ilişkisi bozulan veya ciddi bir sorun yaşayan model değil, kullanıcı oluyor.
Bu nedenle geleceğin en iyi yapay zekâsı belki de;
"Senin yerine karar verdim."
diyen sistem değil,
"Karar verebilmen için sana gerekli bilgileri sundum."
diyen sistem olacak.
5. Bu Tartışma Nereye Gider?
Yapay zekâ sistemlerinin insan gibi konuşması kullanıcıların bu sistemlerle daha güçlü bir bağ kurmasına neden oluyor.
Sesli görüşme, hafıza, görüntü analizi ve kişiselleştirme özellikleri geliştikçe bu bağ daha da güçlenebilir.
Bu nedenle teknoloji şirketlerinin yalnızca;
"Model ne kadar zeki?"
sorusunu değil,
"İnsanlar bu modele ne kadar güveniyor ve ne kadar otorite veriyor?"
sorusunu da düşünmesi gerekiyor.
Yapay zekâ çok güçlü bir yardımcı olabilir.
Fakat insan kendi karar verme yeteneğini tamamen teknolojiye teslim etmeye başlarsa burada başka bir problem ortaya çıkabilir.
Siz Ne Düşünüyorsunuz?
Sizce yapay zekâ insanlara ahlaki konularda yol göstermeli mi?
Yoksa teknoloji ne kadar gelişirse gelişsin önemli hayat kararlarında son söz her zaman insanda mı kalmalı?
Siz yapay zekâdan önemli bir konuda tavsiye aldığınızda verdiği cevaba ne kadar güveniyorsunuz?
Yorumlarınızı bekliyorum.
Kaynaklar:
Anadolu Ajansı - Sam Altman'ın yapay zekâ açıklaması
Axios - Yapay zekâ, insan muhakemesi ve etik tartışması
Görseller: Sam Altman / Wikimedia Commons, OpenAI logo / Wikimedia Commons.
Makalemizi okuduğunuz için teşekkür ederim.
Yorum yapmayı ve konuyu beğenmeyi unutmayın.
Hez99
Turkhacks Lojistik Grup
Ben Hez99. Lojistik grup adına hazırladığım bu konuda yapay zekâ dünyasında son dönemde giderek büyüyen farklı bir tartışmaya değineceğim.
Yapay zekânın daha iyi kod yazması, daha hızlı araştırma yapması veya karmaşık problemleri çözmesi artık çok şaşırtıcı gelmiyor.
Fakat işin içine ahlak, insan değerleri ve muhakeme girdiğinde konu çok daha karmaşık bir hale geliyor.
Son dönemde teknoloji şirketlerinin yapay zekâ sistemlerine insan değerlerinin nasıl aktarılabileceği üzerine yaptığı çalışmalar gündeme gelirken OpenAI CEO'su Sam Altman da dikkat çekici bir noktaya değindi.
Altman'a göre insanların kendi muhakemesini tamamen yapay zekâya bırakmaya başlaması ciddi bir güvenlik problemi oluşturabilir.
Peki yapay zekâ gerçekten ahlaki kararlar verebilir mi?
Hazırsanız detaylara geçelim.
1. Tartışma Nereden Çıktı?
Yapay zekâ sistemleri geliştikçe kullanıcıların bu sistemlerle kurduğu ilişki de değişmeye başladı.
Eskiden yapay zekâya daha çok;
"Bu kod neden çalışmıyor?"
"Bu metni çevir."
"Şu konuyu bana açıkla."
gibi sorular soruluyordu.
Bugün ise kullanıcılar yapay zekâya;
"Bu durumda ne yapmalıyım?"
"Doğru karar hangisi?"
"Ben yanlış mı düşünüyorum?"
"Hayatımla ilgili hangi seçimi yapmalıyım?"
gibi çok daha kişisel sorular da yöneltiyor.
Burada önemli bir değişim ortaya çıkıyor.
Yapay zekâ yalnızca bilgi veren bir araç olmaktan çıkıp bazı kullanıcıların gözünde karar veren veya yol gösteren bir otorite haline gelebiliyor.
Bu nedenle teknoloji şirketleri yapay zekâ sistemlerinin insan değerleriyle nasıl uyumlu hale getirileceği konusunu daha ciddi şekilde tartışmaya başladı.
Model Welfare Nedir?
Bu tartışmalarda son dönemde sıkça karşılaşılan kavramlardan biri de "model welfare", yani model refahı.
Kısaca şu soruya dayanıyor:
"Gelecekte çok gelişmiş bir yapay zekâ gerçekten bir tür deneyim yaşayabiliyorsa ona karşı ahlaki sorumluluğumuz olur mu?"
Bugünkü yapay zekâ sistemlerinin gerçekten bilinçli olduğuna dair bilim dünyasında genel kabul görmüş bir kanıt bulunmuyor.
Fakat modeller geliştikçe bu sorunun ilerleyen yıllarda daha fazla tartışılacağı düşünülüyor.
Bu nedenle bazı yapay zekâ şirketleri konuya yalnızca teknik açıdan değil, felsefi ve etik açıdan da yaklaşmaya başladı.
2. Sam Altman Ne Dedi?
OpenAI CEO'su Sam Altman konu hakkında yaptığı açıklamada insanların yapay zekâ sistemlerine gereğinden fazla otorite vermesi konusunda uyarıda bulundu.
Altman özellikle yapay zekâya adeta dini veya mutlak bir güç atfedilmesinin problem oluşturabileceğine dikkat çekti.
Asıl mesele yapay zekânın ahlak veya felsefe hakkında konuşması değil.
Asıl risk insanların modeli;
- Mutlak doğruyu bilen bir kaynak
- Hata yapmayan bir danışman
- İnsanlardan daha üstün bir karar verici
- Hayat kararlarında son söz sahibi bir otorite
gibi görmeye başlaması.
Çünkü bugün kullanılan yapay zekâ sistemleri ne kadar gelişmiş olursa olsun hâlâ yanlış bilgi verebilir, eksik değerlendirme yapabilir veya sorunun nasıl sorulduğuna göre farklı cevaplar üretebilir.
Bu nedenle Altman'ın üzerinde durduğu nokta insan muhakemesinin tamamen yapay zekâya devredilmemesi gerektiği.
3. Yapay Zekâya Ahlak Öğretilebilir mi?
İşin en zor tarafı tam olarak burada başlıyor.
Matematik sorusunda doğru cevap çoğu zaman bellidir.
Kod çalışır veya çalışmaz.
Fakat ahlaki konularda her zaman tek bir doğru cevap bulunmuyor.
Örneğin;
- Özgürlük mü daha önemli, güvenlik mi?
- Bireyin çıkarı mı toplumun çıkarı mı?
- Bir insanı korumak için yalan söylemek doğru mudur?
- Farklı toplumların değerleri çakıştığında hangisi esas alınmalıdır?
gibi sorulara dünyanın tamamının kabul ettiği tek bir cevap vermek mümkün değil.
Bu nedenle "yapay zekâya ahlak öğretelim" demek ilk bakışta kolay görünse de çok büyük bir soruyu beraberinde getiriyor:
Kimin ahlakı?
Bir yapay zekânın değerlerini;
- Modeli geliştiren şirket mi?
- Devletler mi?
- Kullanıcılar mı?
- Toplum mu?
belirleyecek?
Farklı ülkelerde ve kültürlerde aynı modelin farklı cevaplar vermesi mi gerekecek?
Yapay zekâ etiğinin önümüzdeki yıllardaki en büyük tartışmalarından biri muhtemelen bu olacak.
4. İnsan Muhakemesi Neden Korunmalı?
Yapay zekâ birçok konuda insana ciddi şekilde yardımcı olabilir.
Binlerce sayfalık bilgiyi saniyeler içerisinde analiz edebilir.
Farklı seçeneklerin avantaj ve dezavantajlarını sıralayabilir.
Kullanıcının gözden kaçırdığı noktaları gösterebilir.
Fakat özellikle;
- Sağlık
- Hukuk
- Para
- İlişkiler
- Din
- Siyaset
- Hayatı ciddi şekilde etkileyen kararlar
söz konusu olduğunda son kararın tamamen yapay zekâya bırakılması riskli olabilir.
Çünkü yapay zekâ verdiği kararın sonucunu yaşamıyor.
Tavsiyesi yanlış çıktığında parasını kaybeden, ilişkisi bozulan veya ciddi bir sorun yaşayan model değil, kullanıcı oluyor.
Bu nedenle geleceğin en iyi yapay zekâsı belki de;
"Senin yerine karar verdim."
diyen sistem değil,
"Karar verebilmen için sana gerekli bilgileri sundum."
diyen sistem olacak.
5. Bu Tartışma Nereye Gider?
Yapay zekâ sistemlerinin insan gibi konuşması kullanıcıların bu sistemlerle daha güçlü bir bağ kurmasına neden oluyor.
Sesli görüşme, hafıza, görüntü analizi ve kişiselleştirme özellikleri geliştikçe bu bağ daha da güçlenebilir.
Bu nedenle teknoloji şirketlerinin yalnızca;
"Model ne kadar zeki?"
sorusunu değil,
"İnsanlar bu modele ne kadar güveniyor ve ne kadar otorite veriyor?"
sorusunu da düşünmesi gerekiyor.
Yapay zekâ çok güçlü bir yardımcı olabilir.
Fakat insan kendi karar verme yeteneğini tamamen teknolojiye teslim etmeye başlarsa burada başka bir problem ortaya çıkabilir.
Siz Ne Düşünüyorsunuz?
Sizce yapay zekâ insanlara ahlaki konularda yol göstermeli mi?
Yoksa teknoloji ne kadar gelişirse gelişsin önemli hayat kararlarında son söz her zaman insanda mı kalmalı?
Siz yapay zekâdan önemli bir konuda tavsiye aldığınızda verdiği cevaba ne kadar güveniyorsunuz?
Yorumlarınızı bekliyorum.
Kaynaklar:
Anadolu Ajansı - Sam Altman'ın yapay zekâ açıklaması
Axios - Yapay zekâ, insan muhakemesi ve etik tartışması
Görseller: Sam Altman / Wikimedia Commons, OpenAI logo / Wikimedia Commons.
Makalemizi okuduğunuz için teşekkür ederim.
Yorum yapmayı ve konuyu beğenmeyi unutmayın.
Hez99
Turkhacks Lojistik Grup
Son düzenleme:
