By_N4rK0ZzZzz
- 10 Ocak 2023
- 2,049 Mesaj
İngiltere’deki University College London’dan araştırmacılar, her lisanda 50 uydurma konuşma örneği oluşturmak için biri İngilizce ve oburu Mandarin lisanında olmak üzere halka açık iki bilgi kümesi üzerinde eğitilmiş algoritma kullandılar.
Yapay zekanın bir çeşidi olan Deepfake, gerçek bir kişinin sesine yahut görünüşünün benzerliğine erişmek için oluşturulan sentetik bir medyadır.
Gerçek örneği düzmece konuşmadan tespit edip edemediklerini görmek için 529 iştirakçiye ses örnekleri dinletildi. İştirakçiler, uydurma konuşmayı örneklerin sırf %73’ünde tespit edebildiler. Bu sayı, iştirakçiler düzmece konuşmanın özelliklerini tanımak için eğitim aldıktan sonra biraz arttı.
Çalışma, insanın İngilizce dışındaki bir lisanda yapay olarak oluşturulmuş konuşmayı algılama yeteneğini kıymetlendiren birinci çalışma olarak nitelendiriliyor. Uzmanlar, insanların, eğitilmelerine karşın bir sesin, geçersiz olduğunu dengeli bir biçimde tespit edemediği konusundaki telaşlarını lisana getirdi.
UYGULAMALAR DA ANLAYAMIYOR
Çalışmanın birinci müellifi Kimberly Mai, “Çalışmamızda, insanları yapay zekayla sahtekarlıkları tespit etmeleri için eğitmenin, bu hususta daha düzgün olmalarına yardımcı olmak için kesinlikle sağlam bir yol olmadığını gösterdik. Ne yazık ki, deneylerimiz şu anda otomatik dedektörlerin de sağlam olmadığını gösteriyor.”
“Eğitim kademesinde benzeri örnekler görmüşlerse, örneğin konuşmacı aynıysa yahut klipler emsal bir ses ortamında kaydedilmişse, deepfake’leri tespit etmede nitekim çok uygunlar. Fakat farklı bir konuşmacı olması üzere ses şartlarında değişiklikler olduğunda sağlam değiller.” dedi.
Deepfake ile oluşturulmuş görüntüde, sentetik olarak oluşturulup oluşturulmadığını belirlemek için sesten daha fazla ipucuna bakılıyor.
Bu yıl Microsoft’un lideri Brad Smith, yapay zeka konusundaki en büyük kaygısının deepfake olduğunu söyledi.
Yapay zekayla yapılan sahtekarlıkların gelişimi devam ederken bilinen yaygın tespit sistemleri ise geride kalıyor.
Yapay zekanın bir çeşidi olan Deepfake, gerçek bir kişinin sesine yahut görünüşünün benzerliğine erişmek için oluşturulan sentetik bir medyadır.
Gerçek örneği düzmece konuşmadan tespit edip edemediklerini görmek için 529 iştirakçiye ses örnekleri dinletildi. İştirakçiler, uydurma konuşmayı örneklerin sırf %73’ünde tespit edebildiler. Bu sayı, iştirakçiler düzmece konuşmanın özelliklerini tanımak için eğitim aldıktan sonra biraz arttı.
Çalışma, insanın İngilizce dışındaki bir lisanda yapay olarak oluşturulmuş konuşmayı algılama yeteneğini kıymetlendiren birinci çalışma olarak nitelendiriliyor. Uzmanlar, insanların, eğitilmelerine karşın bir sesin, geçersiz olduğunu dengeli bir biçimde tespit edemediği konusundaki telaşlarını lisana getirdi.
UYGULAMALAR DA ANLAYAMIYOR
Çalışmanın birinci müellifi Kimberly Mai, “Çalışmamızda, insanları yapay zekayla sahtekarlıkları tespit etmeleri için eğitmenin, bu hususta daha düzgün olmalarına yardımcı olmak için kesinlikle sağlam bir yol olmadığını gösterdik. Ne yazık ki, deneylerimiz şu anda otomatik dedektörlerin de sağlam olmadığını gösteriyor.”
“Eğitim kademesinde benzeri örnekler görmüşlerse, örneğin konuşmacı aynıysa yahut klipler emsal bir ses ortamında kaydedilmişse, deepfake’leri tespit etmede nitekim çok uygunlar. Fakat farklı bir konuşmacı olması üzere ses şartlarında değişiklikler olduğunda sağlam değiller.” dedi.
Deepfake ile oluşturulmuş görüntüde, sentetik olarak oluşturulup oluşturulmadığını belirlemek için sesten daha fazla ipucuna bakılıyor.
Bu yıl Microsoft’un lideri Brad Smith, yapay zeka konusundaki en büyük kaygısının deepfake olduğunu söyledi.
Yapay zekayla yapılan sahtekarlıkların gelişimi devam ederken bilinen yaygın tespit sistemleri ise geride kalıyor.