Son dönemde Güney Kore’de yapay zeka kullanılarak üretilen “sahte cinsel içerikli görüntüler” büyük bir tepkiye yol açtı. Bu durum, özellikle görüntülerin yayıldığı Telegram uygulamasının incelenmesine neden oldu. Seul merkezli Yonhap ajansının verdiği bilgilere göre, Güney Kore İletişim Standartları Komisyonu (KCSC) yetkilileri, geçtiğimiz hafta Telegram yetkilileri ile yüz yüze bir toplantı gerçekleştirdi.
Toplantının odak noktası, “Koreli kadınların değiştirilmiş görüntülerinin” ülkede yayılmasına dair ciddi endişelerin dile getirilmesiydi. Telegram, bu tür “sahte cinsel içerikli görüntüler” dahil olmak üzere yasa dışı içerikleri platformdan kaldırma taahhüdünde bulundu. Telegram yetkilileri, bu sorunun Kore’de “ne kadar ciddi olduğunun farkında olduklarını” belirterek, bu tür yasa dışı materyallere karşı sıkı önlemler alacaklarını ve “sıfır tolerans politikası” uygulayacaklarını ifade ettiler.
“ÖNEMLİ BİR TOPLUMSAL SORUN”
KCSC Başkanı Ryu Hee-lim, düzenlediği basın toplantısında, “Telegram, cinsel deepfake içeriklerin önemli bir toplumsal sorun haline geldiği Güney Kore’deki durumu anladı.” diyerek, bu konuda katı tedbirler alacaklarını vurguladı. Komisyonun talebi doğrultusunda, dijital cinsel suçları hedef alan yeni “sıfır tolerans” politikası kapsamında Telegram, fuhuş, uyuşturucu ve kumar ile ilgili içerikleri platformdan kaldıracak.
Telegram, ülkedeki güvenlik makamlarıyla yakın iş birliği yapacak ve KCSC ile düzenli olarak toplantılar gerçekleştirecek. Ayrıca, içerik ihlallerine karşı müdahaleleri hızlandırmak amacıyla KCSC ile Telegram arasında yeni bir iletişim hattı kurulacak. Yonhap ajansına göre, KCSC’nin talebi üzerine 3-25 Eylül tarihleri arasında Telegram, platformundan toplam 148 cinsel istismar materyalini kaldırdı.
Güney Kore’de “Deepfake” Olayları
Ülkede, okul ve üniversitelerle bağlantılı birçok sohbet grubunda, çoğunluğu kadın ve kız çocukları olan birçok mağdurun “deepfake” tekniği kullanılarak manipüle edilen ses ve görüntülerle oluşturulmuş “cinsel içerikli” videolarının yayıldığı tespit edildi. Ulusal Soruşturma Ofisi Başkanı Woo Jong-soo, bu görüntülerin yayıldığı Telegram’a “suça yataklık etme” gerekçesiyle ön soruşturma açıldığını duyurdu.
