By_N4rK0ZzZzz
- 10 Ocak 2023
- 2,049 Mesaj
OpenAI tarafından ortaya çıkarılan sohbet botu teknoloji dünyasının gündeminden düşmüyor. Bir şiirden bir iş sunumuna kadar farklı hususlarda yazabilen yapay zeka botu, son haftalarda politik olarak önyargılı olmakla suçlanıyor.
Cumhuriyetçi senatör Ted Cruz, ChatGPT’nin bölücü olduğunu söyledi. Cruz, Fidel Castro’nun hayatını kutlayan bir müzik yazmayı nasıl reddettiğini vurgularken, Donald Trump’ı öven bir şiir yazmaya istekli oluşuna da dikkat çekti.
OpenAI de bu problemleri ele almak için yapay zeka botunu nasıl eğittiğine ait anlatımları yayınladı. Şirket bir blog gönderisinde şunları söyledi: “ChatGPT’yi piyasaya sürmemizden bu yana, kullanıcılar siyasi olarak önyargılı, saldırgan yahut diğer nedenlerle sakıncalı buldukları telaffuzları paylaştılar.”
“BİR KÖPEK ÜZERE EĞTİLİR”
Open AI, sohbet botunun eğitimini bir köpeğe verilen eğitimle karşılaştırdı: “Sıradan yazılımların tersine, modellerimiz çok büyük hudut ağlarından oluşuyor. Davranışları, açıkça programlanmış değil, geniş bir data yelpazesinden öğrenir. Eksiksiz bir benzetme olmasa da süreç, sıradan bir programlamadan çok bir köpeği eğitmeye emsal. Birinci olarak, modelin bir cümledeki bir sonraki kelimeyi varsayım etmeyi öğrendiği, çok sayıda internet metnine maruz kalmasıyla ön eğitim kademesi olur. Bunu, sistem davranışını daraltmak için modellerimizde ince ayar yaptığımız ikinci bir kademe izler.”
Ancak şirket bu sürecin gerçek bir formda işlemediğini ve sohbet botunun meseleleri olduğunu kabul ediyor. Microsoft, uzun sorgulamalardan sonra son günlerde doğuşçu, taciz edici ve manipülatif hale gelen kendi chatbot kullanıcılarını kısıtlayacağını duyurdu.
Microsoft, kullanıcıların artık oturum başına belli bir soru sayısıyla sınırlanacağını duyurdu.
Cumhuriyetçi senatör Ted Cruz, ChatGPT’nin bölücü olduğunu söyledi. Cruz, Fidel Castro’nun hayatını kutlayan bir müzik yazmayı nasıl reddettiğini vurgularken, Donald Trump’ı öven bir şiir yazmaya istekli oluşuna da dikkat çekti.
OpenAI de bu problemleri ele almak için yapay zeka botunu nasıl eğittiğine ait anlatımları yayınladı. Şirket bir blog gönderisinde şunları söyledi: “ChatGPT’yi piyasaya sürmemizden bu yana, kullanıcılar siyasi olarak önyargılı, saldırgan yahut diğer nedenlerle sakıncalı buldukları telaffuzları paylaştılar.”
“BİR KÖPEK ÜZERE EĞTİLİR”
Open AI, sohbet botunun eğitimini bir köpeğe verilen eğitimle karşılaştırdı: “Sıradan yazılımların tersine, modellerimiz çok büyük hudut ağlarından oluşuyor. Davranışları, açıkça programlanmış değil, geniş bir data yelpazesinden öğrenir. Eksiksiz bir benzetme olmasa da süreç, sıradan bir programlamadan çok bir köpeği eğitmeye emsal. Birinci olarak, modelin bir cümledeki bir sonraki kelimeyi varsayım etmeyi öğrendiği, çok sayıda internet metnine maruz kalmasıyla ön eğitim kademesi olur. Bunu, sistem davranışını daraltmak için modellerimizde ince ayar yaptığımız ikinci bir kademe izler.”
Ancak şirket bu sürecin gerçek bir formda işlemediğini ve sohbet botunun meseleleri olduğunu kabul ediyor. Microsoft, uzun sorgulamalardan sonra son günlerde doğuşçu, taciz edici ve manipülatif hale gelen kendi chatbot kullanıcılarını kısıtlayacağını duyurdu.
Microsoft, kullanıcıların artık oturum başına belli bir soru sayısıyla sınırlanacağını duyurdu.