Ebeveynler ve bakıcılar, çocuklarının çevrimiçi paylaşılan görüntülerinin yapay zeka ile oluşturulan cinsel istismar materyaline dönüştürülmesi yönündeki artan tehdide karşı uyarılıyor. İnternet İzleme Vakfı (IWF) ve Ulusal Suç Ajansı (NCA), çevrimiçi suçluların çocukların açıkça erişilebilir görüntülerini kullanarak gerçekçi cinsel içerikli materyaller oluşturduğunu tespit etti.
IWF analistleri 2025 yılında 3.440 adet yapay zeka ile oluşturulmuş çocuk cinsel istismarı videosu bulurken, 2024'te bu sayı yalnızca 13'tü. NCA ise suçluların yapay zeka teknolojilerini çocukları hedef almak için yeni yollarla kullandığını giderek daha fazla gözlemliyor.
Yapay zeka ile oluşturulan çocuk cinsel istismarı materyali yasa dışıdır ve gerçek zarara yol açar. Bir görüntü yapay olarak oluşturulmuş veya manipüle edilmiş olsa bile, çocukların istismarına ve sömürülmesine katkıda bulunur ve yıkıcı etkilere sahip olabilir.
Bu gerçek ve büyüyen tehdide yanıt olarak IWF ve NCA, ebeveynleri ve bakıcıları çocuklarının görüntüleri hakkında bilinçli kararlar almaya desteklemek için yeni bir kampanya başlattı. Facebook, Instagram ve YouTube'da yayınlanacak reklamlar, ebeveynlere, bakıcılara ve diğerlerine görüntü izni ve çocuklarını daha iyi korumak için atabilecekleri adımlar konusunda yardımcı olacak.
Sosyal medya kampanyasının yanı sıra, kuruluşlar suçluların çocukların görüntülerine erişimi konusunda artan endişeler nedeniyle ebeveynler ve bakıcılar için yeni bir rehber yayınladı. Rehber, insanların çocuklarının görüntülerini, çıplak veya cinsel görüntüler oluşturmak için yapay zeka kullanarak onları sömürmek isteyenlerin eline geçme riski olmadan güvenli bir şekilde paylaşmalarına yardımcı olmayı amaçlıyor.
Rehber ayrıca çocuklar ve gençlerle yapay zeka, deepfake çıplak görüntüleri ve görüntü izni hakkında konuşmanın yanı sıra, hedef alınmaları veya görüntülerinin çevrimiçi oluşturulması veya paylaşılması durumunda ne yapılması gerektiği konusunda tavsiyeler içeriyor.
Yeni rehberde şu ifadelere yer veriliyor: 'Arkadaşlarınız, aileniz ve hatta çocuğunuzun devam ettiği okullar ve kulüpler gibi yerlerle görüntü izni konusunu daha önce konuşmuş olabilirsiniz. Bu konuşmaları tekrar gözden geçirmek ve çocuğunuzu da dahil etmek faydalı olabilir, özellikle de büyüdükçe ve çevrimiçi yeni alanları keşfetmeye başladıkça. Fotoğraflarının çekilmesi veya paylaşılması hakkında ne hissettikleri hakkında konuşun ve hayır demenin sorun olmadığını anlamalarına yardımcı olun.'
Fotoğrafların paylaşılması için görüntü iznini değerlendirirken ebeveynler ve bakıcıların şunları düşünmeleri isteniyor: Çocuğumun görüntülerinin nasıl kullanılabileceği konusunda hala rahat mıyım? Tercihlerim değişti mi? İznimi sınırlamak veya geri çekmek istiyor muyum? İnsanlardan çocuğunuzun fotoğraflarını veya videolarını çevrimiçi paylaşmamalarını istemek sorun değil.
Rehber ayrıca, hala görüntü paylaşmak isteyen ebeveynler için 'yakın arkadaş' grubu oluşturmayı veya görünürlüğü sınırlayarak yalnızca seçilmiş kişilerin görmesini sağlamayı öneriyor. Ayrıca çocuklar ve gençlerle yapay zeka, 'deepfake' çıplak görüntüleri ve görüntü izni hakkında konuşma ve hedef alınmaları veya görüntülerinin çevrimiçi oluşturulması veya paylaşılması durumunda ne yapılması gerektiği konusunda tavsiyeler içeriyor.
Bu, IWF ve NCA'nın geçen yıl eğitim profesyonellerine yayınladığı, öğrenci görüntülerinin yapay zeka manipülasyonundan nasıl korunacağına dair benzer tavsiyelerin ardından geldi. Yeni tavsiye, IWF'nin Birleşik Krallık'taki bir okulu hedef alan suç çeteleri hakkında uyarıda bulunmasının ardından geldi. Çete, okulun web sitesinden öğrencilerin görüntülerini almış ve yapay zeka kullanarak çocukların 100'den fazla cinsel görüntüsünü oluşturmuştu. Ardından okulu, görüntülerin çevrimiçi yayınlanmasını engellemek için para ödemeye zorlamaya çalışmışlardı.
İnternetten çocuk cinsel istismarı görüntülerini kaldırmak ve engellemek için küresel olarak çalışan Birleşik Krallık merkezli kuruluş IWF, görüntülerin yüklenmesinin durdurulmasını sağlamak için hızlı bir şekilde harekete geçti, ancak daha fazla okulun hedef alınabileceği endişesi devam ediyor. IWF İcra Kurulu Başkanı Kerry Smith şunları söyledi: 'Tehdit rahatsız edici. Birinin görüntüsü çevrimiçiyse, suçlular için kolay bir av olabilirler ve herkes, özellikle çocuklar, hedef alınabilir. Çocuklarınızın görüntülerini sevdiğiniz ve güvendiğiniz kişilerle paylaşmayın demek istemiyoruz, ancak herkesin potansiyel risklerin farkında olmasını ve ellerindeki tüm bilgilerle bilinçli bir karar vermesini istiyoruz.'
