Aylardır anonim bir TikTok hesabı, yapay zeka tarafından oluşturulan patlamalar ve yanan şehirlerle ilgili düzinelerce videoya ev sahipliği yaptı. Videolar on milyonlarca kez izlendi ve Ukrayna’daki savaşın gerçek görüntüleri olduğu iddia edilen başka paylaşımlara yol açtı.
CBC News, yorum almak için TikTok ve hesap sahibiyle iletişime geçtikten sonra platformdan kayboldu.
Flight_area_zone hesabı, milyonlarca izleyiciye ulaşan devasa patlamaları gösteren birkaç video içeriyordu. Videolar yapay zeka neslinin özelliklerini gösteriyordu ancak TikTok’un yönergeleri uyarınca gerekli olan herhangi bir sorumluluk reddi beyanı içermiyordu. TikTok, hesap hakkında yorum yapmayı reddetti.
Diğer kullanıcılar tarafından çeşitli sosyal medya platformlarında çok sayıda video yayınlandı ve bunların çoğu on binlerce kez izlenen gerçek savaş görüntülerini yansıttığı iddialarıyla birlikte yayınlandı. Bu gönderilerde, bazı yorumcuların videoları olduğu gibi değerlendirip, iddia edilen zararı kutlayarak veya kınayarak onlara yanlış bir savaş duygusu bıraktığı görülüyor.
“Yapay zeka düşüşü”nün yükselişi
Flight_area_zone hesabı, sosyal medya içeriğindeki uzmanların “Yapay Zeka düşüşü” olarak adlandırdığı daha geniş bir eğilimin yalnızca bir örneğidir.
Genel olarak yapay zeka kullanılarak oluşturulan içerikleri (resim, video, metin) ifade eder. Tıklama ve etkileşim oluşturmak için tasarlanmış gibi görünen şekillerde genellikle düşük kaliteli, sansasyonel veya duygusaldırlar.
Yapay zeka tarafından oluşturulan içerik, çevrimiçi ortamda yanlış bilgilerin yayılmasında önemli bir faktör haline geldi. Baskı öncesi çalışma Bu yıl çevrimiçi yayınlandıGoogle’dan araştırmacıların ortak yazdığı bir çalışma, yapay zeka tarafından üretilen yanlış bilgilerin, 2023’te hızla geleneksel manipüle edilmiş medya biçimleri kadar yaygın hale geleceğini gösterdi.
Başkalarının Ukrayna’da meydana geldiğini iddia ettiği, yapay zeka tarafından oluşturulan patlamaların videolarını barındıran bir TikTok hesabı, CBC News’in Görsel Araştırmalar ekibinin soruşturmalarının ardından platformdan kaldırıldı. Hesap, “AI eğilimi” olarak bilinen üretken yapay zeka kullanılarak oluşturulan düşük kaliteli içeriğin algıları nasıl çarpıtabileceğini ve yanlış bilgileri nasıl artırabileceğini gösteriyor.
Örneğin Ekim ayında A. Benzer video Farklı bir TikTok hesabından, İsrail’in Lübnan’a düzenlediği baskını tasvir ettiğini iddia eden kişilerle viral oldu. Beyrut’ta yanan yangınları gösteren video klip, sosyal medyada ve birçok önemli hesapta geniş çapta yayıldı. Bazı durumlarda bunlar Lübnan’ın başkentindeki yangınları gösteren gerçek videolarla birleştirildi ve bu da sahte ve gerçek haberler arasındaki çizgiyi daha da bulanıklaştırdı.
Facebook ayrıca yapay zeka tarafından oluşturulan içerik akışına da tanık oldu İçerik oluşturucularına gelir getirebilecek etkileşim (tıklamalar, görüntülemeler ve daha fazla takipçi) oluşturmak.
Flight_zone_area hesabı ayrıca insanların benzersiz rozetler veya çıkartmalar gibi şeyler için ödeme yapabileceği bir abonelik işlevine de sahiptir.
Patlamaların videoları bazıları için ilgi çekiciydi; yorumcular sıklıkla patlamaların yeri hakkında ayrıntılar soruyor veya görüntüler karşısında sevinç veya dehşet ifade ediyorlardı. Ancak videolar hala yapay zeka tarafından oluşturulan içerikte bazı bariz çarpıtmalar içeriyor.
Sokaktaki arabalar ve insanlar aşırı hız yapıyor veya yoldan çıkmış gibi görünüyor ve çok büyük bir araba gibi başka birçok bariz hata da var. Birçok video aynı sesi de paylaşır.
Hesapta Burning Horizon dışında videolar da yer alıyordu. Bunlardan birinde katedral benzeri bir bina yandı. Başka bir olayda ise tek katlı bir evin önünde bir füze patladı.
Yüzlerce teknoloji ve yapay zeka uzmanı, dünya çapındaki hükümetleri, yanlış bilginin ve dezenformasyonun yayılması yoluyla toplum için süregelen bir tehdit oluşturduğunu ve sonucu etkileyebileceğini söyledikleri derin sahtekarlıklara (AI tarafından üretilen insan sesleri, görüntüleri ve videoları) karşı derhal harekete geçmeye çağırıyor. seçimlerin.
Eski videolar, yapay zeka tarafından oluşturulan kasırgaları ve alev alan uçakları gösteriyordu. Bu gelişme, popüler olacak ve etkileşimi artıracak ve kârlı olabilecek türden içeriklerin denenmesini öneriyor.
Waterloo Üniversitesi’nde doçent ve sosyal medya uzmanı olan Amy Morrison’a göre yapay zeka ile ilgili bir sorun, izleyicilerin çoğunun her zaman ikinci kez bakmamasıdır.
Morrison, CBC News’e şunları söyledi: “Olaylara nasıl bakılacağı konusunda gerçekten eğitim almamış bir nüfus arasında oldukça imaja dayalı bir kültür yarattık.”
Sahadaki gerçekliğin hem önemli hem de tartışmalı olduğu savaş bölgelerinin görüntüleri ile ilgili ikinci bir sorun ortaya çıkıyor.
“Ülkede meydana gelen zulümlere ilişkin gerçek kanıtları göz ardı etmek daha kolay hale geliyor [Ukraine] Morrison, “Çok fazla AI içeriği dolaşıma girdiğinden, bazılarımız herhangi bir şeyi paylaşma veya inanma konusunda isteksiz oluyor, çünkü kandırılmış olarak etiketlenmek istemiyoruz” dedi Morrison.
Araştırmacılar bu yılın başlarında yapay zeka tarafından üretilen nefret içeriğinin de yükselişte olduğunu söyledi.
Son dakika haberleri ve analizler için CBCNews.ca, CBC News uygulaması ve CBC Haber Ağı’ndan en son haberleri alın.
Ayrı olarak, geçen yıl BM araştırması, yapay zekanın “Yahudi karşıtı, İslamofobik, ırkçı ve yabancı düşmanı içeriği” artırabileceği konusunda uyardı. Küresel İletişimden Sorumlu Genel Sekreter Yardımcısı Melissa Fleming, bir BM organına, üretken yapay zekanın insanların düşük maliyetle büyük miktarlarda ikna edici dezenformasyon yaratmasına olanak sağladığını söyledi.
TikTok ve diğer sosyal medya platformlarında yapay zeka tarafından oluşturulan içeriğin etiketlenmesine yönelik yönergeler bulunsa da, denetleme hâlâ bir zorluk olmaya devam ediyor. Üretilen içeriğin hacmi ve gerçekliği var Makine öğreniminin kendisi her zaman güvenilir bir araç değildir Yanıltıcı görüntülerin otomatik tespiti.
Örneğin, Flight_area_zone hesabı artık mevcut değil ancak ilgili (ancak daha az popüler) bir hesap olan Flight_zone_51 hâlâ etkin görünüyor.
Bu kısıtlamalar genellikle kullanıcıların, topluluk kurallarını ihlal eden içerikte olduğu gibi içeriği işaretlemekten veya bağlam eklemekten ve bunları kaldırmaktan sorumlu olduğu anlamına gelir.
Morrison, yapay zeka tarafından oluşturulan içeriği bildirme sorumluluğunun sosyal medya platformları ve kullanıcıları arasında paylaşıldığını söylüyor.
“Sosyal medya siteleri bu şeylere dijital filigran yerleştirilmesini gerektirmeli” dedi. “Yanlış bilgi olarak dolaşan şeyleri kaldırmalılar.”
“Fakat genel olarak bu kültür, insanları eleştirel düşünmek kadar bakmak konusunda da eğitme konusunda çok daha iyi bir iş çıkarmalı.”