tarihinde yayınlandı Yorum yapın

Bu TikTok hesabı, CBC News araştırıncaya kadar yapay zeka kullanarak sahte savaş görüntüleri yayınladı

Bu TikTok hesabı, CBC News araştırıncaya kadar yapay zeka kullanarak sahte savaş görüntüleri yayınladı

Aylardır anonim bir TikTok hesabı, yapay zeka tarafından oluşturulan patlamalar ve yanan şehirlerle ilgili düzinelerce videoya ev sahipliği yaptı. Videolar on milyonlarca kez izlendi ve Ukrayna’daki savaşın gerçek görüntüleri olduğu iddia edilen başka paylaşımlara yol açtı.

CBC News, yorum almak için TikTok ve hesap sahibiyle iletişime geçtikten sonra platformdan kayboldu.

Flight_area_zone hesabı, milyonlarca izleyiciye ulaşan devasa patlamaları gösteren birkaç video içeriyordu. Videolar yapay zeka neslinin özelliklerini gösteriyordu ancak TikTok’un yönergeleri uyarınca gerekli olan herhangi bir sorumluluk reddi beyanı içermiyordu. TikTok, hesap hakkında yorum yapmayı reddetti.

Diğer kullanıcılar tarafından çeşitli sosyal medya platformlarında çok sayıda video yayınlandı ve bunların çoğu on binlerce kez izlenen gerçek savaş görüntülerini yansıttığı iddialarıyla birlikte yayınlandı. Bu gönderilerde, bazı yorumcuların videoları olduğu gibi değerlendirip, iddia edilen zararı kutlayarak veya kınayarak onlara yanlış bir savaş duygusu bıraktığı görülüyor.

“Yapay zeka düşüşü”nün yükselişi

Flight_area_zone hesabı, sosyal medya içeriğindeki uzmanların “Yapay Zeka düşüşü” olarak adlandırdığı daha geniş bir eğilimin yalnızca bir örneğidir.

Genel olarak yapay zeka kullanılarak oluşturulan içerikleri (resim, video, metin) ifade eder. Tıklama ve etkileşim oluşturmak için tasarlanmış gibi görünen şekillerde genellikle düşük kaliteli, sansasyonel veya duygusaldırlar.

Yapay zeka tarafından oluşturulan içerik, çevrimiçi ortamda yanlış bilgilerin yayılmasında önemli bir faktör haline geldi. Baskı öncesi çalışma Bu yıl çevrimiçi yayınlandıGoogle’dan araştırmacıların ortak yazdığı bir çalışma, yapay zeka tarafından üretilen yanlış bilgilerin, 2023’te hızla geleneksel manipüle edilmiş medya biçimleri kadar yaygın hale geleceğini gösterdi.

İzle | Yanlış bilgi ateşini körüklemek:

ywAAAAAAQABAAACAUwAOw==

Çevrimiçi yanlış bilgileri körükleyen viral ‘kirli yapay zeka’yı açığa çıkarmak

Başkalarının Ukrayna’da meydana geldiğini iddia ettiği, yapay zeka tarafından oluşturulan patlamaların videolarını barındıran bir TikTok hesabı, CBC News’in Görsel Araştırmalar ekibinin soruşturmalarının ardından platformdan kaldırıldı. Hesap, “AI eğilimi” olarak bilinen üretken yapay zeka kullanılarak oluşturulan düşük kaliteli içeriğin algıları nasıl çarpıtabileceğini ve yanlış bilgileri nasıl artırabileceğini gösteriyor.

Örneğin Ekim ayında A. Benzer video Farklı bir TikTok hesabından, İsrail’in Lübnan’a düzenlediği baskını tasvir ettiğini iddia eden kişilerle viral oldu. Beyrut’ta yanan yangınları gösteren video klip, sosyal medyada ve birçok önemli hesapta geniş çapta yayıldı. Bazı durumlarda bunlar Lübnan’ın başkentindeki yangınları gösteren gerçek videolarla birleştirildi ve bu da sahte ve gerçek haberler arasındaki çizgiyi daha da bulanıklaştırdı.

Facebook ayrıca yapay zeka tarafından oluşturulan içerik akışına da tanık oldu İçerik oluşturucularına gelir getirebilecek etkileşim (tıklamalar, görüntülemeler ve daha fazla takipçi) oluşturmak.

Flight_zone_area hesabı ayrıca insanların benzersiz rozetler veya çıkartmalar gibi şeyler için ödeme yapabileceği bir abonelik işlevine de sahiptir.

Patlamaların videoları bazıları için ilgi çekiciydi; yorumcular sıklıkla patlamaların yeri hakkında ayrıntılar soruyor veya görüntüler karşısında sevinç veya dehşet ifade ediyorlardı. Ancak videolar hala yapay zeka tarafından oluşturulan içerikte bazı bariz çarpıtmalar içeriyor.

Yapay zeka tarafından oluşturulan bir görüntünün ekran görüntüsü.
Hesabın başka bir videosunun, büyük boyutlu bir araba gibi yapay zeka tarafından yapıldığını gösteren işaretlerin daire içine alınmış bir ekran görüntüsü. (flight_area_zone/TikTok)

Sokaktaki arabalar ve insanlar aşırı hız yapıyor veya yoldan çıkmış gibi görünüyor ve çok büyük bir araba gibi başka birçok bariz hata da var. Birçok video aynı sesi de paylaşır.

Hesapta Burning Horizon dışında videolar da yer alıyordu. Bunlardan birinde katedral benzeri bir bina yandı. Başka bir olayda ise tek katlı bir evin önünde bir füze patladı.

İzle | Yapay zeka ve politikayla ilgili endişeler:

ywAAAAAAQABAAACAUwAOw==

Yapay zeka uzmanları hükümetleri deepfake’lere karşı harekete geçmeye çağırıyor

Yüzlerce teknoloji ve yapay zeka uzmanı, dünya çapındaki hükümetleri, yanlış bilginin ve dezenformasyonun yayılması yoluyla toplum için süregelen bir tehdit oluşturduğunu ve sonucu etkileyebileceğini söyledikleri derin sahtekarlıklara (AI tarafından üretilen insan sesleri, görüntüleri ve videoları) karşı derhal harekete geçmeye çağırıyor. seçimlerin.

Eski videolar, yapay zeka tarafından oluşturulan kasırgaları ve alev alan uçakları gösteriyordu. Bu gelişme, popüler olacak ve etkileşimi artıracak ve kârlı olabilecek türden içeriklerin denenmesini öneriyor.

Waterloo Üniversitesi’nde doçent ve sosyal medya uzmanı olan Amy Morrison’a göre yapay zeka ile ilgili bir sorun, izleyicilerin çoğunun her zaman ikinci kez bakmamasıdır.

Morrison, CBC News’e şunları söyledi: “Olaylara nasıl bakılacağı konusunda gerçekten eğitim almamış bir nüfus arasında oldukça imaja dayalı bir kültür yarattık.”

Sahadaki gerçekliğin hem önemli hem de tartışmalı olduğu savaş bölgelerinin görüntüleri ile ilgili ikinci bir sorun ortaya çıkıyor.

“Ülkede meydana gelen zulümlere ilişkin gerçek kanıtları göz ardı etmek daha kolay hale geliyor [Ukraine] Morrison, “Çok fazla AI içeriği dolaşıma girdiğinden, bazılarımız herhangi bir şeyi paylaşma veya inanma konusunda isteksiz oluyor, çünkü kandırılmış olarak etiketlenmek istemiyoruz” dedi Morrison.

Araştırmacılar bu yılın başlarında yapay zeka tarafından üretilen nefret içeriğinin de yükselişte olduğunu söyledi.

İzle | Yapay zekanın savaşın işleyişine etkileri:

ywAAAAAAQABAAACAUwAOw==

Yapay zeka modern savaşın çehresini nasıl değiştiriyor?

Son dakika haberleri ve analizler için CBCNews.ca, CBC News uygulaması ve CBC Haber Ağı’ndan en son haberleri alın.

Ayrı olarak, geçen yıl BM araştırması, yapay zekanın “Yahudi karşıtı, İslamofobik, ırkçı ve yabancı düşmanı içeriği” artırabileceği konusunda uyardı. Küresel İletişimden Sorumlu Genel Sekreter Yardımcısı Melissa Fleming, bir BM organına, üretken yapay zekanın insanların düşük maliyetle büyük miktarlarda ikna edici dezenformasyon yaratmasına olanak sağladığını söyledi.

TikTok ve diğer sosyal medya platformlarında yapay zeka tarafından oluşturulan içeriğin etiketlenmesine yönelik yönergeler bulunsa da, denetleme hâlâ bir zorluk olmaya devam ediyor. Üretilen içeriğin hacmi ve gerçekliği var Makine öğreniminin kendisi her zaman güvenilir bir araç değildir Yanıltıcı görüntülerin otomatik tespiti.

Örneğin, Flight_area_zone hesabı artık mevcut değil ancak ilgili (ancak daha az popüler) bir hesap olan Flight_zone_51 hâlâ etkin görünüyor.

Bu kısıtlamalar genellikle kullanıcıların, topluluk kurallarını ihlal eden içerikte olduğu gibi içeriği işaretlemekten veya bağlam eklemekten ve bunları kaldırmaktan sorumlu olduğu anlamına gelir.

Morrison, yapay zeka tarafından oluşturulan içeriği bildirme sorumluluğunun sosyal medya platformları ve kullanıcıları arasında paylaşıldığını söylüyor.

“Sosyal medya siteleri bu şeylere dijital filigran yerleştirilmesini gerektirmeli” dedi. “Yanlış bilgi olarak dolaşan şeyleri kaldırmalılar.”

“Fakat genel olarak bu kültür, insanları eleştirel düşünmek kadar bakmak konusunda da eğitme konusunda çok daha iyi bir iş çıkarmalı.”

tarihinde yayınlandı Yorum yapın

CRA’nın sürekli olarak milyonlarca sahte geri ödeme yapmasıyla, on binlerce vergi mükellefinin hesabı ele geçirildi

CRA’nın sürekli olarak milyonlarca sahte geri ödeme yapmasıyla, on binlerce vergi mükellefinin hesabı ele geçirildi

Bu yılki vergi sezonunun zirvesinde Kanada Gelir İdaresi, bilgisayar korsanlarının ülkenin en büyük vergi hazırlama şirketlerinden biri olan H&R Block Canada tarafından kullanılan gizli verileri ele geçirdiğini keşfetti.

Bir CBC araştırması, dolandırıcıların yüzlerce Kanadalının kişisel CRA hesaplarına izinsiz erişim sağlamak, doğrudan para yatırma bilgilerini değiştirmek, sahte beyanlarda bulunmak ve kamu hazinesinden 6 milyon dolardan fazla sahte geri ödeme elde etmek için gizli şirket kimlik bilgilerini kullandığını ortaya çıkardı. Beşinci özellik Ve Radyo Kanada’yı buldum.

Bir vakada, bilgisayar korsanları meşru bir posta kodu kullanarak, ancak var olmayan bir Tomato Caddesi’ndeki sahte bir adresle geri bildirimde bulundular.

Quebec City’deki Laval Üniversitesi’nde vergilendirme alanında doçent olan Andre Larue bir röportajda “Açıkçası kapı açık ve bazı insanlar sisteme gizlice giriyor” dedi. “Fakat CRA kapıyı kilitleyecek anahtarı bulamamış gibi görünüyor.”

Kaynaklara göre kriz, Telekomünikasyon Düzenleme Kurumunun Gelir Bakanı Marie-Claude Bibeau’nun ofisiyle temasa geçmesine neden oldu.

Ajans, H&R Block veri ihlali ve ajansın dolandırıcılara neden milyonlar ödediğiyle ilgili soruların olması durumunda sorulara yanıt vermek için medya hatları kurdu.

Gelir Bakanı Marie-Claude Bibeau röportaj talebini reddetti. Ofisi, gizlilik ihlallerindeki son artışın ne zaman farkına varıldığını söylemedi.
Gelir Bakanı Marie-Claude Bibeau, Kanadalıların CRA hesaplarına yönelik son ihlaller de dahil olmak üzere röportaj talebini reddetti. (Justin Tang/Kanada Basını)

Sonuçta halk bu plan konusunda hiçbir zaman uyarılmadı.

Bebo reddetti Beşinci özellik/ Radyo-Kanada röportaj talep etti.

H&R Block yaptığı açıklamada ihlalin kendisinden kaynaklandığına dair hiçbir kanıt bulunmadığını söyledi.

Vergi şirketi, “kapsamlı bir iç soruşturmanın” hiçbir “veri, sistem, yazılım ve güvenliğin” tehlikeye atılmadığı sonucuna vardığını söyledi. H&R Block, ihlalden etkilenen Kanadalı vergi mükelleflerinin müşterilerinden herhangi biri olduğunun farkında olmadığını söyledi.

Kaynaklara göre, Telekomünikasyon Düzenleme Kurumu bilgisayar korsanlarının kimliğini tespit edemedi ancak kendi sistemlerine saldırı yapılması veya içeriden müdahale edilmesi olasılığını dışladı. Sonuçta bu verileri kimin hacklediği ve nereden geldiği hala bilinmiyor.

Hem Gelir Bakanı hem de CRA’nın Medya İlişkileri Ofisi, H&R Block veri ihlaliyle ilgili sorulara yanıt vermedi.

Beşinci özellik Radio-Canada, kamuya açık konuşma yetkisine sahip olmadıkları için kaynakları belirtmedi.

Parlamentoya bildirilen ihlallerde büyük artış

Soruşturma Beşinci özellik Radio-Canada’nın tespitine göre, denetçiler ve soruşturmacılar halkın vergi mükelleflerinin parasını ve kişisel bilgilerini korumakla görevli kuruma olan güvenini kaybedebileceğinden endişe ederken, H&R Block veri ihlali, CRA’yı zora sokan pek çok örnekten sadece bir tanesi.

Teşkilat, sözde tehdit aktörleriyle başa çıkmak için kendi içinde çabalarken, Beşinci özellik/ Kanada Radyosu’nda yapılan bir araştırma, çalınan şaşırtıcı miktarlar ve kurumun dolandırıcılığı tespit etme yeteneğindeki büyük kusurlar konusunda halkın çoğunlukla bilgisiz bırakıldığını ortaya çıkardı.

Larue, sorunun “büyüklüğünü” belirlemek ve CRA ile bakandan yanıt almak için parlamento soruşturması yapılması gerektiğini söyledi.

“Hepsi ne olduğunu tam olarak anlatmalı [and] “Ne kadar para söz konusu” dedi.

CRA’nın ayrıca vergi mükelleflerinin hesaplarındaki “önemli” ihlalleri doğrudan Parlamentoya rapor veren Gizlilik Komiseri’ne bildirme görevi de vardır.

Quebec City'deki Laval Üniversitesi'nde vergilendirme alanında yardımcı doçent olan Andre LaRue, Kanada vergi hesaplarındaki ihlallerin boyutundan endişe duyduğunu söylüyor. Şöyle diyor:
Quebec City’deki Laval Üniversitesi’nde vergi alanında doçent olan Andre Larue, dolandırıcılara ödenen sahte geri ödemelerin hacminden endişe duyduğunu söylüyor. “Görünüşe göre CRA kapıyı kilitleyecek anahtarı bulamamış” diyor. (Mathieu Potvin/Radyo-Kanada)

Haziran ayında Meclis’e sunulan bir raporda, Gizlilik Komiseri, 31 Mart 2024’te sona eren mali yılda CRA’da 71 ihlal bildirdi. Son üç yılda 42 gizlilik ihlali rapor edildi.

O zamandan bu yana bu rakamlar patlama yaşadı.

Gelen sorulara verilen yanıtlarda Beşinci özellik/Radio-Canada CRA, Mart 2020’den Aralık 2023’e kadar 62.000 Kanadalı vergi mükellefini etkileyen 31.468’den fazla “maddi” gizlilik ihlali yaşandığını itiraf etti.

Meclis bilgilendirilmedi

Gizlilikten Sorumlu Komisyon Üyesi Philippe Dufresne de röportaj yapmayı reddetti.

Ofisi bir e-postada, gizlilik ihlallerindeki büyük artışın milletvekillerine sunduğu Haziran 2024 raporunun dışında tutulması kararını savundu. Komiserlik, TRA’nın bilgileri Mart 2024’teki raporlama döneminden sonra gönderdiğini ve yeni rakamların gelecek yılın yıllık raporuna dahil edileceğini söyleyerek kararı gerekçelendirdi.

Telekomünikasyon Düzenleme Kurumu ise geriye dönük olarak yalnızca 31.468 gizlilik ihlalini bildirdiğini söyledi.

Dolandırıcılar, vergi mükellefleri adına beyanname vermek için üçüncü taraf dosyalama kimlik bilgilerini elde etti. Daha sonra iadeyi tahrif ettiler ve doğrudan mevduat hesabını değiştirdiler. CRA dolandırıcılığı tespit edemeden para ödendi.
Dolandırıcılar, vergi mükellefleri adına beyanname vermek için üçüncü taraf dosyalama kimlik bilgilerini elde etti. Daha sonra iadeyi tahrif edip doğrudan mevduat hesabını değiştirdiler. CRA dolandırıcılığı tespit edemeden para ödendi. (Yousry Maimouna/Kanada Radyo)

Gelen sorulara yanıt olarak Beşinci özellik/Radio-Canada Kurum, “yetkisiz üçüncü tarafların” Kanada vergi hesaplarına eriştiği, doğrudan mevduat bilgilerini değiştirdiği, “sahte vergi bilgi makbuzları” ürettiği ve sahte beyannameler sunduğu “harici veri ihlallerinde ve siber tehditlerde önemli bir artış” gözlemlediğini söyledi.

CRA, bireysel vergi mükelleflerinin bir ihlal meydana geldiğinde bilgilendirildiğini, kendilerine “gerektiğinde kredi koruması” sağlandığını ve Kanadalıların vergi bilgilerinin korunmasının “çok ciddiye alındığını” söyledi.

TRA, gizlilik ihlallerinin sayısının Parlamentoya bildirilmediğini ilk kez nasıl ve ne zaman öğrendiğine yanıt vermedi ve yıllara göre bildirilen toplam sayıların dökümünü de yapmadı.

2020 yılında Hazine Kurulu, MKK’nın o yılki siber saldırılarının kontrol altına alındığını bildirdi. 2022’de, federal hükümetin gizlilik ihlalleriyle ilgili toplu davada bir yargıç, 12.700 CRA hesabındaki doğrudan para yatırma bilgilerinin dolandırıcılar tarafından değiştirildiği sonucuna vardı.

Cuma akşamı gönderilen ikinci bir açıklamada TRA, 2020 ile Ekim 2024 başı arasında “doğrulanmış” gizlilik ihlali vakalarıyla bağlantılı olarak yanlışlıkla 190 milyon dolardan fazla hayali ödemeye izin verdiğini söyledi.

Ajans, bu vakaların çoğunun 2020 yılında Kovid-19 salgını sırasında meydana geldiğini ve son yıllarda “önemli bir düşüş” yaşandığını söyledi.

Ajans, açıklamasında dolandırıcılara 2024 yılında toplam 3 milyon dolar ödediğini söyledi; bu rakam, kaynaklara göre yalnızca bu yıl H&R Block veri ihlalinde kaybedilen 6 milyon dolar ile çelişiyor gibi görünüyor.

Kaynaklara göre Telekomünikasyon Düzenleme Kurumu’nun henüz “doğrulanmış” vakalar olarak rapor edilmemiş şüpheli vakalardan oluşan bir birikimi var.

H&R Blok kimlik bilgileri ihlal edildi küçük resim

CRA’ya karşı yapılan planların tümü gizlilik ihlallerini içermiyor. Dolandırıcılar genellikle asılsız iddialarda bulunmak için kendi hesaplarını kullanır.

Kaynaklara göre, H&R Block’u ilgilendiren dava, CRA’nın birçok vergi beyannamesi sahtekarlığını tespit edememesi nedeniyle bilgisayar korsanlarının ve dolandırıcıların başarılı olduğu, aşırı zorlanmış ve yetersiz kaynaklara sahip bir kurumun mikrokozmosudur.

Kaynaklar, ajansın hileli iadeleri engelleme çabalarını daha da karmaşık hale getiren şeyin, CRA içinde “itme ve kovalamaca” kültürü olarak bilinen şeyin, yani vergi iadelerinin mümkün olan en kısa sürede kamuya açıklanması ve tutarsızlıkların daha sonra gözden geçirilmesine yönelik kasıtlı bir politika olduğunu söylüyor. .

Larue, CRA’nın “mümkün olduğu kadar çabuk” gelir elde eden “verimli” bir kurum “imajını” desteklemeyi sevdiğini söyledi.

Kaynaklar, bu yaklaşımın dolandırıcıların gelişmesi için büyük bir boşluk bıraktığını söyledi Beşinci özellik/Radyo Kanada.

Ajans yetkilileri, Nisan ayında karanlık ağda yasa dışı olarak elde edilen H&R Block verilerini satmayı teklif eden gönderileri fark ettikten sonra bir şeylerin ters gittiğini fark etmiş gibi görünüyordu.

5. Ajans/Kanada Radyosu soruşturması, karanlık ağda H&R bloğunda gizli bilgiler arayan bir dolandırıcıyı ortaya çıkardı. Bu verileri hackleyen kişinin kimliği ve hack'in nereden geldiği hala bilinmiyor.
5. Ajans/Kanada Radyosu soruşturması, karanlık ağda H&R bloğunda gizli bilgiler arayan bir dolandırıcıyı ortaya çıkardı. Bu verileri hackleyen kişinin kimliği ve hack’in nereden geldiği hala bilinmiyor. (Beşinci Kuvvet/Radyo-Kanada)

Bilgisayar korsanları, H&R Block’un CRA tarafından sağlanan e-dosyalama kimlik bilgilerini, yani şirketin muhasebecilerinin vergi mükellefleri adına beyanname vermek için kullandıkları gizli elektronik anahtarları ele geçirdi.

Sonunda, çalınan H&R blok bilgilerinin dolandırıcıların Kanadalıların vergi beyannamelerine erişmesine, sahte geri ödemeler ve vergi indirimi talep etmek için banka bilgilerini ve hatta adreslerini değiştirmesine yardımcı olduğu ortaya çıktı.

Kaynaklara göre TRA, aynı banka hesabına bağlı olmayan birden fazla geri ödeme yaptığını fark etti.

CRA denetçileri, dolandırıcılara 14 milyon dolar daha ödenmesini durdurmadan önce, 2024’te 6 milyon dolardan fazla ödeme yapmak üzere kandırıldıkları sonucuna vardı.

Kurum içi ve kurum dışı iletişim eksikliği

Kaynaklara göre TRA, dolandırıcıların banka hesaplarından birini kullandığından şüphelense bile temel bilgileri her zaman finansal kurumlarla paylaşmıyor.

Kaynaklar, kurumun ayrıca iç iletişim eksikliğinin bilgisayar korsanlarının aranmasını yavaşlatmasından endişe duyduğunu da ekledi.

TRA yaptığı açıklamada, rapor edilen ihlallerdeki keskin artışın 2020’ye ve koronavirüs acil durum yardımlarının uygulamaya konulmasına kadar uzandığını söyledi. Ajans, bireysel vergi mükellefi hesapları için daha fazla koruma sağlayarak ve çevrimiçi hizmetlerini güvence altına alarak yanıt verdiğini söyledi.

Bir CRA sözcüsü, bir ihlal durumunda “vergi mükellefi bilgilerine ve vergi mükellefi hesaplarına yönelik tehditlere hızlı bir şekilde yanıt vermek ve bunları azaltmak için süreç ve prosedürlerin mevcut olduğunu” belirtti.

Ajans sözcüsü Kim Theveault, “Dolandırıcılar uygulamalarını uyarladıkça CRA da aynısını yapıyor” dedi.