Fake News’ten Deep Fake’e: Sahte Videolar

Facebook nihayet sahte haber kötü amaçlı reklam sorunlarını kabullenerek bunun çözümü için binlerce kişiyle çalışmaya başladı. Şirket yine bunun yanında, üçüncü taraf gerçek kontrol mekanizmalarıyla da çalışacağına söz verdi ve sahte haberleri tespit etmek için algoritmalar oluşturmaya yoğunlaştı. Ancak sosyal medya devleri dolandırıcılık ve yalan içeren haber/reklamları engellemeye uğraşırken, ufukta tehdit potansiyeli çok büyük olan başka bir konu var: Yapay olarak üretilmiş sahte videolar.

Motherboard, son zamanlarda kullanıcılar tarafından üretilen, başkalarının yüzlerini porno yıldızlarına çevirerek Reddit’te yayınladıkları rahatsız edici yeni bir eğilimi ortaya çıkardı. İlk önce Reddit kullanıcısı “deepfakes”in, oyuncu Gal Gadot’un yüzünü bir videoda porno yıldızıyla değiştirdiği bir ay önce ortaya çıktı. Motherboard’a göre video, çeşitli algoritmalar, kolayca erişilebilen açık kaynak kütüphaneleri, Google görüntüleri ve Youtube videoları ile oluşturulmuştu.

Ancak sorun şu ki, bir zamanlar pornografik sahte videoları yapan tek bir kullanıcı var olmasına rağmen, şu anda on binlerce kişi yapabiliyor. Ve bunu sadece ünlülerle değil, günlük hayatlarındaki insanlarla da yapmak için geliştirilen uygulamalar var. Motherboard bu uygulamanın, teknik bir geçmişi veya herhangi bir programlama deneyimi olmayan kişiler tarafından da kullanılabileceğini söylüyor. Kullanıcıların tek bir tuşa basarak videodaki yüzlerin başka yüzle değiştirebileceğini ve ortaya çıkan sahte videoların mükemmel olmasa da genel olarak iyi bir sonuç elde edildiği gözleniyor.

Bunun korkutucu sonuçlar doğuracağını söylemeye gerek yok. Yapılan bu eylem, sadece intikam pornosu türünün kapısını açmakla kalmıyor, aynı zamanda internette hiçbir şeyin güvenilemeyeceği ve sadece salt korkunun bulunduğu bir Pandora kutusu da açılmış oluyor. Sahte haber iddiaları zaten Facebook ve Twitter gibi sosyal medya platformlarında çokça okunuyor ve paylaşılıyor. Bunun yanında devlet başkanlarının dahi söylemediği şeyleri yapay zeka sayesinde söyleterek politikacılar veya kamuoyundaki figürlerin de öznesi olduğu bu sahte videoların yapılmayacağının bir garantisi yok. Bu da bizi olabildiğince distopik bir geleceğe doğru götürüyor.

San Francisco’da düzenlenen yakın tarihli çeşitli teknoloji şirketlerinin katılımından oluşan bir panelde, bu tür kötü amaçlı uygulamalara karşı nasıl korunulabilineceği tartışıldı. Paneldeki en ilginç cevap, Facebook Direktörü Joaquin Quinonero Candela’dan geldi. Candela, “Sahte içeriği tespit etmek için algoritmalar oluşturabileceğimizden eminim.” diyerek aynı zamanda da, taklit algoritmalarının oldukça kolay ve verimliliğinin de çok yüksek olduğunu kabul ederek bunun artarak devam eden bir problem olduğunu kabul etti.

Sadece birkaç ay önce, Washington Üniversitesi’ndeki bir araştırma ekibi, Başkan Obama ile ilgili sahte bir video oluşturdu. Ekip, dudak ve sesi senkronize etmek için haftada 14 saatte yapay sinir ağları kullanarak  yeni bir ağız yapısı oluşturdular. Oluşturulan sistem, baş ve çene hareketlerinin de daha gerçekçi görünmesi için planlanmıştı. Bu tür videoların yapımı CGI teknolojisi ile oldukça uzun sürerken, yapay sinir ağının oluşturulması daha kısa zaman alıyor.

Durun daha bitmedi. Birkaç yıl önce Stanford Üniversitesi, bir web kamerasında birinin yüz ifadelerini yakalayıp daha sonra başka videolardaki kişiye aktarabilecek Face2Face adlı bir yazılım geliştirdi. Birmingham’daki Alabama Üniversitesi’nden bir ekip ayrıca YouTube videolarından ve radyo programlarından alınan seslerden elde edilen sentezlenmiş yapay konuşma oluşturma üzerinde çalışıyor.

Yapay Zeka tabi ki bir çok yönden faydalı. Bilgisayarla görmenize, görme engelli kişilerin alfabe ile web’de gezinmelerine yardımcı olabilir ya da en sevdiğiniz tatil fotoğraflarını sıralama konusunda size yardımcı olabilir. Ayrıca iyi geliştirilmiş otomatik bir dil çevirisi, farklı ülkelerin insanlarının birbirleriyle iletişim kurmasına yardımcı olur. Ancak bu teknoloji insan hatalarına karşı açıkça yetersiz ve gördüğünüz üzere yanlış ellerde oldukça zararlı olabilir. Yalan haberi engellemek için halen tam teşekküllü bir yazılım bulunamadığını da göz önüne aldığımıza, sahte videoların çok geç olmadan önce yayılmasını durdurmak en azından kısa vadede mümkün görünmüyor. Bu yüzden Twitter ve Facebook gibi şirketler, temel sorumluluklarından birinin de toplumun güvenliği olduğunu anlamalıdır.

https://www.engadget.com/2018/01/30/fake-porn-is-the-new-fake-news-and-the-internet-isn-t-ready/

Yorum Bırakın:

E-posta adresiniz yayımlanmayacaktır

Site Footer