By_N4rK0ZzZzz
- 10 Ocak 2023
- 2,049 Mesaj
Yapay zeka bağlamında filigranlama, bir bilgisayarın yapay zekadan metin mi yoksa fotoğraf mi oluşturulduğunu tespit etmesine imkan tanıyabilir. Çıplak gözle görülmemesine karşın filigranlar, yapay zeka tarafından oluşturulan içeriğin berbata kullanılmasıyla gayret edebilir ve hatta Google üzere teknoloji devleri tarafından geliştirilen makine tahsili programlarına entegre edilebilir. OpenAI’den Meta’ya ve Amazon’a kadar alandaki başka büyük oyuncular, yanlış bilgilerle gayret etmek için filigran teknolojisi geliştirme kelamı verdiler.
Bu nedenle Maryland Üniversitesi’ndeki (UMD) bilgisayar bilimi araştırmacıları, makûs aktörlerin filigran ekleme yahut kaldırma sürecinin ne kadar kolay olduğunu inceleme ve manaya misyonunu üstlendiler. UMD’de profesör olan Soheil Feizi, Wired’a takımının bulgularının, bu noktada rastgele bir sağlam filigran uygulamasının bulunmadığı tarafındaki kuşkularını doğruladığını söyledi.
Araştırmacılar mevcut AI üzerine korkutucu açıklamalarda bulundu
Araştırmacılar, test sırasında mevcut filigran işaretleme formüllerinden çarçabuk kaçmayı başardılar ve yapay zeka tarafından oluşturulmamış imgelere uydurma amblemler eklemenin daha da kolay olduğunu gördüler. Lakin filigranlardan kaçınmanın ne kadar kolay olduğunu test etmenin ötesinde, bir UMD takımı, fikri mülkiyetten büsbütün ödün vermeden içerikten kaldırılması neredeyse imkansız olan bir filigran geliştirdi.
Bu uygulama, eserlerin çalındığını tespit etmeyi mümkün kılıyor. Makale, bu akınlar yoluyla filigranları ortadan kaldırmanın iki farklı prosedürünün olduğunu fark ediyor: yıkıcı ve yapan. Yıkıcı ataklar kelam konusu olduğunda, makus aktörler filigranlara manzaranın bir parçasıymış üzere davranabiliyor. Parlaklık, kontrast üzere ince ayarlar yapmak yahut JPEG sıkıştırmasını kullanmak, hatta bir imgeyi döndürmek bile filigranı kaldırabiliyor.
Ancak buradaki sorun şu ki, bu formüller filigranı ortadan kaldırırken birebir vakitte imaj kalitesini de bozarak onu fark edilir derecede daha makûs hale getiriyor. Yapan bir akında ise filigran kaldırma süreci biraz daha hassas ve eski hoş Gauss bulanıklığı üzere teknikler kullanıyor.
Bu nedenle Maryland Üniversitesi’ndeki (UMD) bilgisayar bilimi araştırmacıları, makûs aktörlerin filigran ekleme yahut kaldırma sürecinin ne kadar kolay olduğunu inceleme ve manaya misyonunu üstlendiler. UMD’de profesör olan Soheil Feizi, Wired’a takımının bulgularının, bu noktada rastgele bir sağlam filigran uygulamasının bulunmadığı tarafındaki kuşkularını doğruladığını söyledi.
Araştırmacılar mevcut AI üzerine korkutucu açıklamalarda bulundu
Araştırmacılar, test sırasında mevcut filigran işaretleme formüllerinden çarçabuk kaçmayı başardılar ve yapay zeka tarafından oluşturulmamış imgelere uydurma amblemler eklemenin daha da kolay olduğunu gördüler. Lakin filigranlardan kaçınmanın ne kadar kolay olduğunu test etmenin ötesinde, bir UMD takımı, fikri mülkiyetten büsbütün ödün vermeden içerikten kaldırılması neredeyse imkansız olan bir filigran geliştirdi.
Bu uygulama, eserlerin çalındığını tespit etmeyi mümkün kılıyor. Makale, bu akınlar yoluyla filigranları ortadan kaldırmanın iki farklı prosedürünün olduğunu fark ediyor: yıkıcı ve yapan. Yıkıcı ataklar kelam konusu olduğunda, makus aktörler filigranlara manzaranın bir parçasıymış üzere davranabiliyor. Parlaklık, kontrast üzere ince ayarlar yapmak yahut JPEG sıkıştırmasını kullanmak, hatta bir imgeyi döndürmek bile filigranı kaldırabiliyor.
Ancak buradaki sorun şu ki, bu formüller filigranı ortadan kaldırırken birebir vakitte imaj kalitesini de bozarak onu fark edilir derecede daha makûs hale getiriyor. Yapan bir akında ise filigran kaldırma süreci biraz daha hassas ve eski hoş Gauss bulanıklığı üzere teknikler kullanıyor.