Francesca Mani, New Jersey’deki Westfield Lisesi’nde hoparlörden adı anıldığında 14 yaşındaydı. Yönetmenin ofisine gittiğinde, bir fotoğrafının yapay zeka kullanılarak çıplak fotoğrafa dönüştürüldüğünü öğrendi.
Manny daha önce “çıplaklaştırma” web sitesini veya uygulamasını hiç duymamıştı. Müdürün ofisinden çıktığında ağlayan bir grup kıza gülen bir grup erkek gördüğünü söyledi.
Mane, “Sonra ağlamayı bırakıp sinirlenmem gerektiğini fark ettim çünkü bu kabul edilemez.” dedi.
Francesca Mani’ye ne oldu?
Manny geçen Ekim ayında lisenin tarih dersindeyken bazı oğlanların kadın sınıf arkadaşlarının çıplak fotoğrafları olduğuna dair bir söylenti duydu. Çok geçmeden kendisinin ve Westfield Lisesi’ndeki diğer birkaç kızın hedef alındığını öğrendi.
Daha sonra diğer kurbanlardan birinin ebeveynleri aracılığıyla açtığı davaya göre, okuldaki bir çocuk Instagram’dan fotoğrafları en popüler “soyunma” sitelerinden biri olan Clothoff adlı siteye yükledi. 60 dakika Potansiyel tehlikelere karşı farkındalığı artırmak için siteye bir isim vermeye karar verdim. Sosyal ağları analiz eden Graphika şirketine göre, yalnızca geçen ay Clothoff’un sitesi 3 milyondan fazla ziyaret edildi. Site hem erkekler hem de kadınlar için “çıplak” sunuyor ancak çıplak kadınlar çok daha popüler.
60 dakika
Siteyi ziyaret edenler bir fotoğraf yükleyebilir veya bir kadının giyinik göründüğü ve birkaç saniye sonra çıplak göründüğü ücretsiz bir demo alabilir. Sonuçlar çok gerçekçi görünüyor.
Clothoff kullanıcılarına siteye girebilmeleri için 18 yaş ve üzeri olmaları gerektiği, başkalarının görsellerini izinsiz kullanamayacakları söyleniyor. Site “küçüklerin tedavisinin imkansız” olduğunu iddia ediyor ancak şirketten hiç kimse yanıt vermedi 60 dakika Bunun kanıtını ve diğer birkaç soruyu isteyen e-postayla gönderildi.
Mani, fotoğrafına ne olduğunu hiç görmedi ancak aynı davaya göre, yapay zeka destekli en az bir öğrencinin çıplak fotoğrafı Snapchat’te paylaşıldı ve okuldaki birkaç çocuk tarafından görüntülendi.
Manny’nin fotoğrafını öğrenmesinin durumu daha da kötüleştirdiğini söyledi. Kendisinin ve diğer kızların okulun genel seslendirme sistemi aracılığıyla müdürün odasına nasıl isimleriyle çağrıldıklarını hatırladı.
“Kötü aktörler özel olarak sınıflarından çıkarılırken bunun mahremiyetimize büyük bir saldırı olduğunu düşünüyorum” dedi.
O öğleden sonra, Westfield’ın müdürü ebeveynlere “bazı öğrencilerimizin orijinal görüntülerden pornografik görüntüler oluşturmak için yapay zekayı kullandığını” bildiren bir e-posta gönderdi. Müdür ayrıca okulun konuyu araştırdığını ve “şu anda oluşturulan ve dağıtılmayan tüm görsellerin silindiğine inanıyoruz” dedi.
Sahte fotoğraflar, gerçek hasar
Manny’nin kendisi de öğretmen olan annesi Dorota ikna olmamıştı. Çevrimiçi olarak paylaşılan hiçbir şeyin aslında silinmeyeceğinden endişeleniyor.
“Kim yazdırdı? Ekran görüntüsünü kim aldı? Kim indirdi? Onu gerçekten silemezsiniz” dedi.
Okul bölgesi fotoğraflar, olaya karışan öğrenciler veya disiplin cezasının alınıp alınmadığı hakkında herhangi bir ayrıntıyı doğrulamadı. 60 dakika. Bir açıklamada müfettiş, bölgenin taciz, korkutma ve zorbalık politikasını yapay zekayı da içerecek şekilde revize ettiğini söyledi; Money’ler aylarca okul yetkililerini bunu yapmaya teşvik etmek için uğraştıklarını söylüyor.
Francesca Mani, hedef alınan kızların, görüntüleri yapan erkek veya oğlan çocuklarından daha fazla bedel ödediğini düşünüyor.
“Çünkü belki bir fotoğrafın internette dolaştığını bilerek yaşamak zorundalar” dedi. “Ve sadece oğlanların yaptıklarıyla uğraşmak zorundalar.”
Dorota Mani polise suç duyurusunda bulunduğunu ancak kendisine karşı herhangi bir suçlama getirilmediğini söyledi.
Utah Sorace, Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi’nin baş hukuk sorumlusudur. Kuruluşu, sitelerindeki uygunsuz içeriği bildirmek için teknoloji şirketleriyle birlikte çalışıyor. Yapay zeka destekli “çıplaklık” sitelerinde oluşturulan görseller sahte olsa da mağdurlara verebilecekleri zararın gerçek olduğunu söylüyor.
Sorace, “Biliyorsunuz, akıl sağlığı sorunları ve itibar kaybı yaşayacaklar” dedi. “Okul ortamında bu durum gerçekten daha da artıyor çünkü bu görüntüleri akranlarından biri yarattı. Yani bir güven kaybı var. Bir güven kaybı.”
Değişim için mücadele
60 dakika Son 20 ay içinde Amerika Birleşik Devletleri’ndeki okullarda yaklaşık 30 benzer vakanın yanı sıra dünya çapında yeni vakalar tespit edildi.
Bu vakaların en az üçünde Snapchat’in yapay zeka destekli çıplak fotoğraflar yayınlamak için kullanıldığı bildirildi. bir ebeveyn dedi ki 60 dakika Fotoğrafları paylaşan hesapların kaldırılması sekiz aydan fazla sürdü. Sorace’a göre mağdurlara yanıt verilmemesi, Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi’nin teknoloji şirketleri aracılığıyla gördüğü tekrar eden bir sorun.
“Olması gereken bu değil. Değil mi? Yani, internette sömürücü veya çocuk pornografik görüntüleri olan bir çocuğu olan hiçbir ebeveyn, üçüncü bir tarafa ulaşıp teknoloji şirketiyle iletişime geçmesini sağlamak zorunda kalmamalı. ” dedi. Şirket bu içeriğin kaldırılması konusunda derhal sorumluluk üstlenecektir.”
60 dakika
60 dakika Snapchat, şirketin kendisine sekiz ay boyunca yanıt vermediğini söyleyen ebeveyn hakkında sorular sordu. Bir Snapchat sözcüsü, kısmen şunları söyleyerek talebini tespit edemediklerini söyledi: “Bu tür içerikleri bildirmek için etkili mekanizmalarımız var.” Sözcü, Snapchat’in “bu tür içeriklere karşı sıfır tolerans politikası” olduğunu ve “… davranış” olduğunu söyledi.[s] Rapor edilir edilmez soruna hızlı bir şekilde müdahale edeceğiz.”
Adalet Bakanlığı, yapay zeka kullanan reşit olmayanların çıplak görüntülerinin, “cinsel içerikli davranış” olarak tanımlanan bir durumu tasvir etmesi halinde, federal çocuk pornografisi yasalarına göre yasa dışı olduğunu söyledi. Ancak Sorace, “çıplaklık” siteleri tarafından oluşturulan bazı görsellerin bu tanıma uymayabileceğinden endişe ediyor.
Francesca Mani, hedef alındığını keşfettiği yıldan bu yana, kendisi ve annesi Dorota, okulları yapay zekaya ilişkin politikalar uygulamaya teşvik etti. Ayrıca bir dizi federal yasa tasarısını geçirmeye çalışmak için Kongre üyeleriyle birlikte çalıştılar. Böyle bir yasa tasarısı, Senatörler Ted Cruz ve Amy Klobuchar’ın ortak sponsorluğunu üstlendiği Take It Down Act, bu ayın başlarında Senato’dan geçti ve şu anda Meclis’te oylamayı bekliyor. Yapay zeka destekli çıplak fotoğrafların paylaşılması durumunda cezai yaptırımlar uygulanacak ve sosyal medya şirketlerinin talep alındıktan sonraki 48 saat içinde fotoğraf çekmesi gerekecek.
Anderson Cooper
