16 yaşındaki Torontolu Ruby’ye göre herkesin başına gelebilecek en kötü şeylerden biri internette çıplak bir fotoğrafını bulmak.
Bu tam olarak onun başına gelen şeydi, kendi hatası değildi.
“Birdenbire en kötü senaryonun içindeydim” dedi.
CBC News, Robbie’nin soyadını açıklamıyor çünkü Robbie, rahatsız edici yeni bir trendin, reşit olmayanlara yönelik müstehcen deepfake’lerin kurbanıydı.
Deepfake, çoğunlukla yapay zeka kullanılarak değiştirilmiş veya oluşturulmuş ve gerçeğinden ayırt edilmesi zor olan herhangi bir fotoğraf veya videodur.
Geçtiğimiz yıl Ruby, birinden internette resimlerinin bulunduğunu söyleyen ve bunları görmek için bir bağlantıya tıklamasını isteyen bir dizi mesaj aldı. Onları görmek istedi ve kendisine üstsüz sahte bir fotoğrafı gönderildi. Tamamen giyinik olduğu orijinal fotoğraf on üç yaşındayken çekilmişti.
Ruby internette nasıl güvende olunacağını öğrendi ve gerçek adı altında paylaşım yapmıyor.
“Yanlış bir şey yapmadım” dedi. “Bir anda oldu… O kadar çok öfkeyle doluydum ki.”
“Bu kişinin kim olduğu hakkında hiçbir fikrim yok.”
Robbie’nin ebeveynleri, insanların reşit olmayanların cinsel içerikli görüntülerini bildirmeleri için ulusal bir yardım hattı olan Cybertip.ca ile temasa geçti. Geçen yıl, rakamları takip etmeye başladığım ilk yıl, 4.000 müstehcen deepfake işlemiştim.
Cybertip.ca’yı işleten Kanada Çocuk Koruma Merkezi’nin destek hizmetleri operasyon müdürü Lindsay Loeb, sorunun “büyümeye ve gelişmeye devam ettiğini” söyledi.
Sahte fotoğrafların genellikle reşit olmayanlara şantaj yapmak, taciz etmek veya zorbalık yapmak için kullanıldığını ve fotoğrafı “çizgili” yapan pek çok site ve uygulama olduğundan bunları oluşturmanın kolay olduğunu söylüyor.
“Nesiller arası büyük sıçramalar”
Bazı yüksek profilli cinsel içerikli deepfake vakaları yaşandı Kanada’da işlem görüyor Ve Amerikan liseleri.
Kanada’da, sahte olsun veya olmasın, reşit olmayan bir kişinin cinsel içerikli herhangi bir görüntüsü yasa dışıdır ve çocuk pornografisi olarak kabul edilir. Sosyal medya ve internet platformları, sitelerindeki görselleri polise bildirdiklerini söylüyor.
Çevrimiçi güvenlik gurusu Brandon Lore, deepfake ile gerçek olanları ayırt etmenin zorlaşacağını söylüyor.
“Her yıl bu görüntülerin gerçekliğinde nesiller arasında büyük sıçramalara tanık olacağız.”
Şu anda bile ebeveynlerin, fotoğrafların gerçek olmadığını söylediklerinde çocuklarına her zaman inanmadıklarını söylüyor.
Yapay zeka tarafından üretilen sahte videolar çevrimiçi dolandırıcılık ve şakalarda kullanılıyor, ancak seçimlere müdahale etmek için oluşturulduklarında ne olur? CBC’den Katherine Toney, teknolojinin nasıl silah haline getirilebileceğini açıklıyor ve Kanada’nın sahte bir seçim düzenlemeye hazır olup olmadığına bakıyor.
Lore, insanların internette paylaşım yapmamasını beklemenin gerçekçi olmadığını söylüyor ancak bir fotoğraf bir kez internette yayınlandıktan sonra, güvenli ayarlarla bile ona ne olacağını kontrol etmenin neredeyse imkansız olduğu konusunda farkındalık yaratmak istiyor.
RCMP ve diğer polis teşkilatları bu tür görüntülerin ortaya çıkmasıyla ilgili endişelerini dile getirdi. Ancak hukuk davalarında yetişkin mağdurları temsil eden Toronto’daki Tory’s LLP’de avukat olan Molly Reynolds, kanuna başvurmanın zor olabileceğini söylüyor.
Deepfakes, eski ortaklar tarafından intikam almak amacıyla, meslektaşlar ve öğrenciler tarafından tehdit etmek ve zorbalık yapmak amacıyla veya diğer ülkelerdeki yabancılar tarafından oluşturulabilir.
Reynolds, “Bir yabancı fotoğrafınızı dünyanın herhangi bir yerinde çekip deepfake’e dönüştürdüyse, Kanada’da bunu durduracak yasal bir başvuru yolu bulmak çok zor olabilir” dedi.
Reynolds, kurbanların, görseli barındıran siteye (Google veya Meta gibi) yayından kaldırma isteği gönderebileceğini söylüyor.
Bundan sonra “taciz iddiasında bulunmanın medeni hukuk veya ceza hukuku yolları olabileceğini” ekledi.
Ruby’nin davasında polis, fotoğrafın İnternet üzerinden dağıtıldığına dair hiçbir kanıt bulamadı. Onu arayan kişinin, ayrıntılı bir kimlik avı planıyla iCloud hesabını hacklemeye çalıştığına inanıyorlar.
Hala sarsılmış durumda ve insanların bunun onların başına gelebileceğini bilmesini istiyor.
“Siber güvenlik konusunda hâlâ öğretilen şey hiçbir şeyin internetten çıkmadığıdır ve güvende olmak için çıplak fotoğraf çekmeyin” dedi. “Ve bu doğru. Ama artık durum tamamen farklı.”