Meta’nın yapay zekâ tarafından oluşturulan görselleri belirlemek hedefiyle geliştirdiği yeni tespit aracının, kolay düzenlemeler karşısında güvenilirliğini kaybedebildiği ortaya çıktı.
Reuters tarafından gerçekleştirilen testte, Meta’nın Muse Image modeliyle üretilen 40 görselin tamamı özgün haliyle sisteme yüklendiğinde hakikat biçimde tanındı. Lakin tıpkı görseller üçte bir ile yarı arasında kırpıldığında aracın bunların yüzde 55’ini yapay zekâ eseri olarak belirleyemediği görüldü.
Meta’nın bu hafta kullanıma sunduğu araç, Muse Image tarafından oluşturulan görsellere eklenen ve Content Seal ismi verilen görünmez filigranı denetim ediyor. Şirket, bu işaretin görsel kırpıldığında, tekrar boyutlandırıldığında, sıkıştırıldığında yahut ekran imgesi alındığında da korunacak halde tasarlandığını açıklamıştı.
Orijinal görsellerin tamamını buldu
Reuters’ın testinde Muse Image modeli kullanılarak beşerler, hayvanlar, görünümler ve çeşitli objeler içeren 40 farklı görsel oluşturuldu.
Görseller rastgele bir değişiklik yapılmadan Meta’nın tespit aracına yüklendiğinde sistem tamamını yapay zekâ üretimi olarak belirledi.
Ancak görsellerin kenarları kırpılarak boyutları küçültüldüğünde sonuç değişti. Araç, düzenlenen 40 görselin 22’sinde görünmez filigranı bulamadı.
Böylece sistemin, sadece kolay bir kırpma süreci uygulanmış görsellerin yarısından fazlasını tanıyamadığı ortaya çıktı.
Meta: Araç şimdi ön izleme aşamasında
Meta, tespit aracının şimdi ön izleme basamağında olduğunu ve vakit içinde geliştirilmeye devam edileceğini belirtti.
Şirket, Content Seal işaretinin farklı görsel düzenlemelerine karşı güçlü biçimde geliştirildiğini fakat imaj üzerinde yapılan güçlü değişikliklerin filigran sinyalini zayıflatabileceğini bildirdi.
Meta’nın resmi açıklamasına nazaran Muse Image ile Meta AI uygulaması ve şirketin internet sitesi üzerinden oluşturulan görsellere görünmez bir kaynak işareti ekleniyor. Kullanıcılar da şirketin tespit aracı aracılığıyla bir görselde bu işaretin bulunup bulunmadığını denetim edebiliyor.
Kırpma süreci sistemi sebep etkiliyor?
Görünmez filigran sistemlerinde, yapay zekâ modelinin oluşturduğu görsele insan gözüyle fark edilmesi güç olan dijital bir işaret yerleştiriliyor.
Görsel kırpıldığında, sıkıştırıldığında yahut tekrar boyutlandırıldığında bu işaretin bir kısmı kaybolabiliyor ya da sinyalin gücü azalabiliyor. Bu durum, tespit aracının görselin kaynağını doğrulamasını zorlaştırıyor.
Uzmanlar, filigran sistemlerinin yapay zekâ içeriklerinin belirlenmesinde faydalı olduğunu fakat tek başına kesin bir tahlil sunmadığını belirtiyor. Görsellerin sosyal medya platformlarına yüklenmesi sırasında uygulanan sıkıştırma süreçleri de tespit sistemlerinin performansını etkileyebiliyor.
Yanlış bilgiyle çabayı zorlaştırabilir
Yapay zekâ modellerinin giderek daha gerçekçi görseller üretebilmesi, sosyal medya platformlarında uydurma ve aldatıcı içeriklerin belirlenmesini daha kıymetli hale getiriyor.
Meta’nın tespit aracında ortaya çıkan sonuç, yapay zekâ görsellerinin sırf küçük değişikliklerle denetim sistemlerinden kaçabileceği telaşını gündeme taşıdı.
Özellikle seçimler, savaşlar, doğal afetler ve kamuoyunda yoğun ilgi gören olaylar sırasında yayılan geçersiz görseller, yanlış bilgiyle çabayı güçleştirebiliyor.
Bu sebeple teknoloji şirketleri; görünmez filigran, içerik bilgisi ve yapay zekâ tabanlı manzara tahlilini birlikte kullanan daha kapsamlı doğrulama sistemleri geliştirmeye çalışıyor.
Sektörün ortak sorunu
Yapay zekâ tarafından oluşturulan görselleri belirlemedeki zahmet sadece Meta’ya has değil.
2026 yılında yayımlanan araştırmalar, farklı üretken yapay zekâ modelleriyle hazırlanan görselleri her şartta emniyetli biçimde tanıyabilen tek bir tespit aracının bulunmadığını gösteriyor.
Görsellerin kırpılması, tekrar boyutlandırılması, bulanıklaştırılması yahut sıkıştırılması, tespit araçlarının doğruluk oranlarını değerli ölçüde düşürebiliyor.
Meta’nın testi de yapay içeriklerin kaynağını belirlemek için sadece görünmez filigrana güvenmenin kâfi olmayabileceğini ortaya koyuyor.
Vargı Ekonomi Haberleri
