TikTok’un Manipüle Edilmiş Görüntü ve Fotoğrafların Yeni Yuvası Olduğuna İlişkin Endişeler Artıyor

Bakec

Member
TikTok’un timsahları göründükleri gibi değil.

Görüntü hizmetine dağılmış, kasırgalarla dolu evlere photoshoplanmış, çita-pitbull melezlerine karıştırılmış veya Tom Cruise’un dijital olarak tasarlanmış bir avatarıyla bir güreş maçı bekleyen gönderilerde görünürler.

Ve TikTok’taki manipüle edilmiş medyanın çoğu gibi zararsızdırlar ve acımasız bir içerik akışına geri dönmeden önce birkaç kahkaha ve beğeniyi garanti ederler. Ancak bunların varlığı, yanlış bilgi üzerine çalışan insanları endişelendiriyor, çünkü ara seçimler öncesinde siyasi bölünme eken, komplo teorileri geliştiren ve demokrasinin temel ilkelerini tehdit eden görevlere aynı teknikler uygulanıyor.

Manipüle edilmiş ve sentetik medya konusunda uzman olan Henry Ajder, “Bu tür bir manipülasyon sadece daha yaygın hale geliyor” dedi. “Bu içerik hacmi bu kadar hızlı ve bu ölçekte oluşturulabildiğinde, manzarayı tamamen değiştiriyor.”

Düzenlenen veya sentezlenen materyal, aylık yaklaşık üç milyar aktif kullanıcısı olan Facebook gibi diğer çevrimiçi platformlarda da görünür. Ancak uzmanlar, tahmini 1,6 milyar aktif kullanıcısını başka birinin içeriğine kendi damgasını vurmaya teşvik eden ve gerçekliğin, hiciv ve düpedüz aldatmanın bazen hızlı hareket eden ve bazen de canlı yayınlanan görüntüde birbirine karıştığı TikTok’u yakalamanın özellikle zor olduğunu söyledi. beslemek.


Potansiyel olarak zararlı manipüle edilmiş medyanın yayılmasını ölçmek zordur, ancak araştırmacılar, teknolojiler daha geniş çapta erişilebilir hale geldikçe daha fazla örneğin ortaya çıktığını gördüklerini söylüyorlar. Uzmanlar, zamanla manipülasyonların daha yaygın hale geleceğinden ve tespit edilmesinin zor olacağından korktuklarını söyledi.

Geçtiğimiz haftalarda TikTok kullanıcıları, iklim değişikliğinin mevsimsel olduğunu iddia eden, var olmayan bir CNN hikayesinin sahte ekran görüntüsünü paylaştı. Bir görüntü, Beyaz Saray basın sekreteri Karine Jean-Pierre’nin Fox News muhabiri Peter Doocy’nin sorusunu görmezden geldiğini ima etmek için düzenlendi. 2021’den başka bir görüntü, bu sonbaharda sesin değiştirilmesiyle yeniden ortaya çıktı, böylece Başkan Yardımcısı Kamala Harris, Kovid-19 ile hastaneye kaldırılan neredeyse tüm insanların aşılandığını söylüyor gibiydi. (“Aşılanmamış” demişti.)

TikTok kullanıcıları, geçen ay Başkan Biden’ın milli marş yerine “Baby Shark” şarkısını söylediği veya Beyaz Saray’daki bir çocuğun First Lady Jill Biden’a küfür ettiğini öne sürenler gibi en saçma değiştirilmiş gönderileri bile benimsedi.

Solda, Başkan Biden’ın “Baby Shark” şarkısını söylüyormuş gibi görünmesi için manipüle edilmiş sesli bir TikTok ekran görüntüsü. Doğru, bir TikTok’tan iklim değişikliğiyle ilgili sahte bir CNN hikayesini gösteren bir ekran görüntüsü. Kredi… TikTok

Ancak, manipüle edilmiş medyanın tehlikesi, herhangi bir gönderiden daha fazla, birçok sosyal medya kullanıcısının gerçek ve kanıt gibi kavramlara bağlı olma becerisine daha fazla zarar verme riski taşımasında yatmaktadır. Genellikle bir başkasının vücuduna dijital bir yüz aşılanarak oluşturulan derin sahtekarlıkların varlığı, gerçekliği gözden düşürmeyi ve hesap verebilirlikten kaçınmayı umanlar tarafından bir suçlama ve bahane olarak kullanılıyor – yalancının payı olarak bilinen bir fenomen.


Komplo teorisyenleri, Bay Biden’ın resmi Beyaz Saray videolarını TikTok’ta yayınladı ve onun bir deepfake olduğuna dair çürütülmüş teoriler sundu. Siyasi danışman Roger Stone Eylül ayında Telegram’da CNN’in yayınladığı 2020 seçimleri öncesinde şiddet çağrısında bulunduğunu gösteren görüntülerin “sahte derin sahte videolar” olduğunu iddia etti. 2021’de ABD Capitol’deki 6 Ocak isyanında suçlanan en az bir kişinin avukatları, “yaygın olarak mevcut ve sinsi” deepfake yapma teknolojisini öne sürerek, o günkü görüntü kanıtlarına şüphe düşürmeye çalıştılar.


Yanlış Bilgi ve Yalanların Yayılması

  • Seçim Sahtekarlığı İddiaları:Yeni bir rapor, büyük sosyal medya şirketlerinin, ara seçimler öncesinde yanlış bilgilerle mücadele etme vaatlerine rağmen, seçim sahtekarlığıyla ilgili yanlış komploları körüklemeye devam ettiğini söylüyor.
  • Rus Yalanları :Batı’yı küresel gıda arzını bozmakla suçlayan Kremlin komplo teorileri, Amerika Birleşik Devletleri’ndeki sağcı sohbet odalarına ve ana akım muhafazakar haber medyasına sızdı.
  • Medya Okuryazarlığı Çalışmaları:Gençler internette daha fazla zaman geçirdikçe, eğitimciler de öğrencilere kendilerini yanlış anlatılardan korumaları için araçlar ve stratejiler sunmaya çalışıyor.
  • Küresel Tehdit:Yeni araştırmalar, gelişmiş ekonomilere sahip 19 ülkede yanıt verenlerin yaklaşık dörtte üçünün çevrimiçi yanlış bilgiler konusunda çok endişeli olduğunu gösteriyor.
Berkeley’deki California Üniversitesi’nde bilgisayar bilimi profesörü olan ve TikTok’un içerik danışmanlığında oturan Hany Farid, “İşlerin manipüle edildiği veya manipüle edilebildiği bu tür bir dünyaya girdiğimizde, uygunsuz gerçekleri basitçe görmezden gelebiliriz” dedi. konsey.

Teknoloji şirketleri, derin sahtekarlıklar gibi manipülasyonları tespit etmek için yeni araçlar denemek için yıllarını harcadı. 2020 seçim sezonunda TikTok, Facebook, Twitter ve YouTube, manipüle edilmiş zararlı içerikleri kaldırma veya etiketleme sözü verdi.

2019 Kaliforniya yasası, kısmen söz konusu yıl Konuşmacı Nancy Pelosi’yi sarhoş göstermek için çarpıtılan videolardan esinlenerek, seçimden sonraki 60 gün içinde politikacıların aldatıcı deepfakelerini oluşturmayı veya paylaşmayı yasa dışı hale getirdi.

TikTok yaptığı açıklamada, The New York Times tarafından tespit edilen ve dijital sahteciliği yasaklayan “olayların gerçekliğini çarpıtarak kullanıcıları yanlış yönlendiren ve görüntü konusuna, diğer kişilere ciddi zararlar veren” politikalarını ihlal eden videoları kaldırdığını söyledi. ya da toplum.”

TikTok sözcüsü Ben Rathe, “TikTok, özgün ve eğlenceli içerik için bir yerdir, bu nedenle, sentetik veya manipüle edilmiş medya da dahil olmak üzere, topluluğumuzu yanlış yönlendirmek için tasarlanmış zararlı yanlış bilgileri yasaklıyor ve kaldırıyoruz” dedi.

Ancak yanlış bilgi uzmanları, bireysel örneklerin ılımlı ve neredeyse konunun dışında olduğunu söyledi. Manipüle edilmiş medyaya uzun süre maruz kalmak kutuplaşmayı yoğunlaştırabilir ve izleyicilerin gerçeği kurgudan ayırt etme yeteneğini ve istekliliğini azaltabilir.


Yanlış bilgilendirme, ara sınavlar öncesinde platformda bir sorun haline geldi. Son günlerde, bir kurumsal hesap verebilirlik savunuculuğu grubu olan SumOfUs’tan araştırmacılar, bir hesap oluşturarak ve seçim sistemi hakkında şüphe uyandıran yaygın olarak görüntülenen 20 videoyu arayıp izleyerek TikTok’un algoritmasını test ettiler. Araştırmacılar, bir saat içinde, algoritmanın tarafsız içerik sunmaktan daha fazla seçim dezenformasyonunu, kutuplaştırıcı içeriği, aşırı sağ aşırıcılığı, QAnon komplo teorilerini ve sahte Covid-19 anlatılarını zorlamaya geçtiğini buldu.

TikTok, raporun belirttiği, yönergelerini ihlal eden içeriği kaldırdığını ve videoları bulmak için kullanılan arama terimlerini yakalamak için sistemini güncelleyeceğini söyledi.

Halsey Burgund, “Özellikle TikTok gibi platformlar, ama aslında tüm bu sosyal medya akışları, her şeyi hızlı bir şekilde halletmenizle ilgili – bu yangın hortumu içerik barajı olarak tasarlandılar ve bu, nüansı ortadan kaldırmanın bir reçetesi” dedi. MIT Açık Belgesel Laboratuvarı’nda ikamet eden yaratıcı bir teknoloji uzmanı. “Bu hızlı, hızlı, hızlı duygusal tepkilerin kalıntıları sadece beynimizde oturuyor ve birikiyor ve bu biraz ürkütücü.”

2019’da Bay Burgund, multimedya sanatçısı ve gazeteci Francesca Panetta ile, 1969 Apollo 11 görevinin başarısızlığını ilan eden derin sahte Richard Nixon’ı tasarlayan bir belgesel projesinde çalıştı. (Gerçek keşif, ilk insanları aya indirdi.) “In Event of Moon Disaster” projesi geçen yıl Emmy kazandı.

Ekip, fotoğrafların yanlış yazılması, görüntülerin kesilmesi veya hızının veya sırasının değiştirilmesi, görüntülerden sesi ayırma, sesleri klonlama, sahte metin mesajları oluşturma, sentetik hesaplar oluşturma, dudak senkronizasyonlarını otomatikleştirme gibi yanlış bilgilerin çevrimiçi yayılmasında giderek yaygınlaşan yöntemler kullandı. ve metinden sese, hatta derin sahtekarlık yapma.

Şu anda sosyal medyada yer alan çoğu manipüle edilmiş içerik örneği, bayağı ve açıkça uydurulmuş. Ancak uzmanlar, çok daha incelikli bir şekilde değiştirebilen ve sentezleyebilen teknolojilerin giderek daha erişilebilir ve genellikle kolayca öğrenilebildiğini söyledi.

Bay Burgund, “Doğru ellerde oldukça yaratıcı ve orada çok fazla potansiyel var” dedi. “Yanlış ellerde, her şey kötü.”


Geçen ay, Philadelphia Eagles’ın sahasında Beyaz Saray kanser girişimlerini tanıtan Bayan Biden’ın manipüle edilmiş görüntüsünü içeren birkaç TikTok gönderisinin her biri on binlerce kez görüntülendi. First Lady’nin kanser hastaları ve hayatta kalanlarla birlikte şarkı söylediği görüntülerde, kalabalıktan gelen sesin yerini yüksek sesli yuhalamalar ve hıçkırıklar aldı.

Eski Başkan Donald J. Trump, TikTok ve diğer platformlarda parodi için popüler bir konudur. Kullanıcılara ekstra ses ekleme veya diğer kullanıcılarla “düet” yapma ve içeriklerinde “dikiş” yapma araçları sunan TikTok’ta, Bay Trump’ın Harry Potter ile konuşmasında veya Marilyn Monroe’yu canlandırırken taklitleri ortaya çıktı.

Bay Burgund’un takım arkadaşı Bayan Panetta, “TikTok kelimenin tam anlamıyla medyanın bir araya getirilebilmesi için tasarlandı – bu, manipülasyon ve remiksleme için tasarlanmış bütün bir platform” dedi. “Bunun gibi bir platformda doğrulama nasıl olur?”

Birçok TikTok kullanıcısı, filtreler ve düzenlemelerle denemeler yaptıklarını açıklamak için etiketler ve hashtag’ler kullanır. Bazen, manipüle edilmiş medya, yorumlar bölümünde çağrılır. Ancak bu tür çabalar genellikle TikTok hızlı kaydırmada göz ardı edilir.

Geçen yıl, Federal Soruşturma Bürosu, bu sonbaharda “kötü niyetli aktörlerin siber ve dış etki operasyonları için sentetik içerikten neredeyse kesinlikle yararlanacakları” konusunda uyardı. Medya manipülasyonu, bu yıl Rusya’nın Ukrayna’yı işgalinde ve Brezilya cumhurbaşkanlığı seçimlerinde yurtdışında zaten silahlandı.

Filmin yardımcı yönetmeni Claire Wardle, “Her bir içerik parçasıyla Whac-a-Mole oynamamalıyız, çünkü kaybedeceğimiz bir oyun oynuyoruz ve daha büyük savaşlar var gibi geliyor” dedi. Brown Üniversitesi’nde Bilgi Vadeli İşlemler Laboratuvarı. “Ancak bu şeyler gerçekten tehlikeli, bir gerçek kontrol veya ters görsel arama gibi görünse de, iki saniye içinde onu çürütecek. Temel olarak, dünya görüşünüzü güçlendiren bu sürekli damlama, damlama, damlama ile besleniyor. ”
 
Üst