TikTok, 2020 seçimlerinden önce platformunu yanlış bilgilendirme, seçim müdahalesi ve diğer manipülatif içerik türlerine karşı daha iyi korumak için bugün yeni moderasyon politikaları oluşturuyor. Şu anda ABD yasağı tehdidinin ardından Microsoft ile benzeri görülmemiş bir satın alma müzakeresine karışan şirket, şimdi açık bir şekilde deepfake'i yasakladığını söylüyor. Deepfake'ler, insanları birinin yaptığı veya söylediği bir şey hakkında yanlış yönlendirmek için tasarlanmış, yapay zeka destekli ses ve video manipülasyonlarıdır.

TikTok'un ABD operasyonunun genel müdürü Vanessa Pappas, "Olayların gerçeğini zarar verecek şekilde çarpıtarak kullanıcıları yanıltan sentetik veya değiştirilmiş içeriği yasaklayan bir politika ekliyoruz" diye yazıyor. Çarşamba yayınlanan bir blog gönderisinde. "Amacımız, kullanıcıları sığ veya derin sahtekarlık gibi şeylerden korumaktır. Bu nedenle, bu tür içerik zaten genel olarak yönergelerimiz kapsamındayken, bu güncelleme politikayı kullanıcılarımız için daha anlaşılır hale getiriyor."

En çok Deepfake'ler genellikle pornografik içerik oluşturmak için kullanılan yüz değiştiren videolar ile ilişkilendirilir. Beyaz Saray ve Başkan Trump'ın yeniden seçim kampanyası, genellikle sağcı mem yapımcılarından alınan ve benzer şekilde etiketlenen daha az karmaşık düzenlemeler ve diğer aldatıcı içerikler yaratmış veya paylaşmış olsa da, şu anda herhangi bir büyük siyasi kampanya tarafından kullanılıyor gibi görünmüyorlar. yanıltıcı.

Yine de, derin sahte yaratma teknikleri son yıllarda yalnızca karmaşıklık ve kullanım kolaylığı açısından gelişti ve teknoloji, derin sahtekarlıklar bir noktada politikacıların bir şeyler için destek söyleyen veya ifade eden aldatıcı düzenlemeler yapmak için kullanılabileceği endişelerini artırdı. bu onları itibarlarını zedeleyebilir veya itibarlarına zarar verebilir. Pek çok büyük sosyal medya platformu ve hatta bazı eyaletler, sonuç olarak siyasi reklamlarda kullanılmak üzere derin sahteleri yasakladı.

Deepfake'leri yasaklamak için kullanılan politikalar, TikTok’un yeni politikası hazırlandığından, genellikle zarar vermeyi amaçlayan manipüle edilmiş videoları da içerecek kadar geniştir. Bu, söz konusu derin sahte yasakları yapay zeka destekli teknolojinin kendisi hakkında daha az, çevrimiçi siyasi rakipleri lekelemek için her türlü aldatıcı videonun kullanımına karşı savunma konusunda daha çok yapıyor. Bu tür daha az karmaşık düzenlemeler, özellikle de Trump kampanyası tarafından tercih edilenler, giderek daha fazla Pappas kategorisine girmiştir: sığ sahtekarlıklar veya tam gelişmiş yapay zeka destekli video veya ses üretimi, bunun yerine seçici ve aldatıcı düzenleme bazen eşit derecede zararlı olabilir.

TikTok zaten siyasi reklamları yasaklıyor, ancak şirket, bu derin sahte yasağın, siyasi kazanç için aldatıcı medyayı zorlamak için platformunu kullanmayı daha da zorlaştırmayı amaçladığını söylüyor. Yeni moderasyon politikalarının aynı şekilde kullanıma sunulmasının bir parçası olarak TikTok, insanları hesap sahibinin kimliği konusunda yanıltmaya çalışmak amacıyla sahte ve bot hesapların kullanılması olan "eşgüdümlü gerçek dışı davranış" yasağını daha açık hale getiriyor. kamuoyunu etkileyin veya gündeme gelen konular üzerinde siyasi bölünmeler ekmek gibi başka bir etki biçimi kullanın.

TikTok, PolitiFact ve Lead Stories ile "2020 ABD seçimleriyle ilgili olası yanlış bilgileri doğrulamak için" doğruluk kontrolü ortaklıklarını genişlettiğini ve uygulama içi raporlama mekanizmasına seçimle ilgili yanlış bilgi seçeneği eklediğini söylüyor kullanıcıların şüpheli içeriği veya hesapları işaretlemesine izin vermek. Uygulama ayrıca, kullanıcıları yarış, oylama ve diğer ilgili konular hakkında saygın bilgilere yönlendirecek yeni bir "seçim bilgi merkezine" sahip olacak. Şirket ayrıca, dış müdahaleye karşı mücadelesinde bir başka cephe olarak İç Güvenlik Bakanlığı Dış Etkiye Karşı Görev Gücü ile olan ortaklığını vurguladı.