Yapay zeka öncüsü Geoffrey Hinton, teknoloji kullanılarak oluşturulan videoları, sesleri ve görüntüleri gerçek olanlardan ayırmanın zorlaştığını söylüyor ancak bu savaşta yardımcı olacak bir fikri var.
Büyüyen çatışma, Britanyalı-Kanadalı bilgisayar bilimci ve yakın zamanda Nobel ödüllü olan bu kişinin, dünyanın sahte içerikle mücadele edebileceğine olan inancının değişmesine katkıda bulundu.
Hinton, Pazartesi günü Hinton Dersleri’nin açılışında şunları söyledi: “Bir süreliğine, şeyleri yapay zeka tarafından yaratılmış olarak sınıflandırabileceğimizi düşündüm.”
“Sanırım artık nesnelerin gerçek olduğunu, içlerindeki bir sembolü alıp bir web sitesine giderek ve o web sitesinde aynı şeyleri görerek tanıyabilmemiz gerekiyor.”
Hinton, Global Risk Enstitüsü’nün bu hafta Toronto’daki John W. H. Bassett Tiyatrosu’nda gerçekleştirilen iki gecelik Hinton Konferanslarının ilk etkinliğinde konuştu.
Çoğu zaman yapay zekanın vaftiz babası olarak anılan Hinton, seyirciyi uyardığı bir dizi tehlikeyi kısaca hatırlatmak için sahneye çıktı. Yapay zekanın kazara meydana gelen felaketlere, işsizliğe, siber suçlara, ayrımcılığa, biyolojik ve varoluşsal tehditlere neden olabileceğini veya katkıda bulunabileceğini düşünüyor.
Derecelendirme yaklaşımının içeriğin sahte olmadığını doğrulayacağını ve bunun özellikle siyasi video reklamlar söz konusu olduğunda yararlı olabileceğini öngördüğünü söyledi.
“İçinde QR kodu gibi bir şey olabilir [taking you] Hinton, “Bir web sitesine, eğer o web sitesinde eşleşen bir video varsa, yapmanız gereken tek şey o web sitesinin gerçek olduğunu bilmektir” diye açıkladı.
Toronto Metropolitan Üniversitesi’ndeki bir kamu politikası kuruluşu olan Dais’in Nisan ayında 2.501 Kanadalı ile yaptığı ankete göre Kanadalıların çoğu deepfake’leri internette keşfetti ve yaklaşık dörtte biri bunlarla her hafta karşılaşıyor.
Deepfakes, gerçekleşmemiş sahneleri tasvir eden dijital olarak değiştirilmiş fotoğraf veya videolardır. Son zamanlardaki deepfake’lerde Papa Francis’in Balenciaga şişme ceket giydiği ve pop yıldızı Taylor Swift’in müstehcen pozlar verdiği görülüyor.
Etkinlikten sonra düzenlenen basın toplantısında Hinton, kendisinin ve Princeton Üniversitesi araştırmacısı John Hopfield’ın bu ayın başlarında Nobel Fizik Ödülü’nü kazandıklarında aldıkları 1,45 milyon doların yarısıyla ne yaptığı hakkında daha fazla bilgi verdi.
Hinton, ödüldeki payının yarısını, yerli topluluklara güvenli su sistemlerinin nasıl geliştirileceği ve bu sistemlere erişimin nasıl sağlanacağı konusunda eğitim veren bir Creemore, Ontario kuruluşu olan Water First’e bağışladığını söyledi.
Başlangıçta paranın bir kısmını Afrika’da birlikte çalıştığı su temsilcisi Matt Damon’a vermeyi düşündü ancak daha sonra ortağının ona “Peki ya Kanada?” diye sorduğunu söyledi.
Bu yılın Nobel Fizik Ödülü’nün sahibi, “Yapay Zekanın Babaları” olarak bilinen İngiliz-Kanadalı Geoffrey Hinton oldu. CBC’nin baş siyasi muhabiri Rosemary Barton ile hükümetlerin teknolojiyi nasıl düzenleyebileceği ve onu seçim kampanyalarında nasıl kullanabileceği hakkında konuşuyor.
Bu, Hinton’un ilk olarak suyu keşfetmesine yol açtı. Birçok olayın başında duyduğu dünyevi itiraflar nedeniyle kendisine bağışta bulunmak zorunda kaldığını söyledi.
“Bunu kabul etmeleri harika bir şey bence [who lived on the land first]”Fakat bu durum yerli çocukların ishal olmasını engellemiyor.”
Hinton daha önce kazancının bir kısmının nöroçeşitliliğe sahip gençlere iş fırsatları sağlayan bir organizasyona yönlendirileceğini söylemişti.
“kaygılı kötümser”
Akşamın büyük bir kısmı Pazartesi gününe kadar Kaliforniya’daki UC Berkeley’de elektrik mühendisliği, bilgisayar bilimi ve istatistik alanında yardımcı doçent olan Jacob Steinhardt’ın konuşmasına ayrıldı.
Steinhardt izleyicilere yapay zekanın birçok kişinin beklediğinden daha hızlı ilerleyeceğine inandığını ancak yol boyunca sürprizlerin de olacağını söyledi.
2030 yılına gelindiğinde konu matematik, programlama ve hackleme olduğunda yapay zekanın “insanüstü” olacağını hayal ediyor.
Ayrıca yapay zeka sistemlerini destekleyen büyük dilsel modellerin ikna veya manipülasyon yeteneğine sahip olabileceğine inanılıyor.
“Biri antrenman yapmaya kalkarsa yeterince yer var [them] Steinhardt, “İkna etmek için vicdansız bir şirket ya da vatandaşlarını ikna etmeye önem veren bir hükümet olabilir” dedi. “Yapabileceğiniz birçok şey var.”
Dinleyicilere kendisini “kaygılı bir iyimser” olarak gördüğünü ve teknolojinin insanlığın yok olmasına yol açma ihtimalinin yüzde 10, muazzam ekonomik değere ve “radikal refaha” yol açma ihtimalinin ise yüzde 50 olduğuna inandığını söyledi.
Daha sonraki bir basın toplantısında Steinhardt’ı “kaygılı bir iyimser” olarak tanımlaması sorulduğunda Hinton, kendisini “kaygılı bir kötümser” olarak tanımladı.
Hinton, “İnsanlardan riskleri tahmin etmelerini isterseniz, normal, sağlıklı insanların gerçekten kötü şeylerin risklerini hafife aldığını ve riskleri doğru tahmin edenlerin orta derecede depresyona sahip kişiler olduğunu gösteren araştırmalar var” dedi.
“Sanırım ben de onlardan biriyim ve riskin Jacob’dan biraz daha yüksek olduğunu düşünüyorum.” [Steinhardt] “Düşünüyor – diyelim ki yaklaşık yüzde 20.”