CBC’den Eli Glassner ile konuşan Mufasa: The Lion King’in yıldızları Aaron Bier ve Kelvin Harrison Jr., TIFF’te unutulmaz bir karşılaşma olan ve aslanın standdaki oyunculuğunu mükemmelleştiren Mufasa ve Scar’ın evrimini tartışıyor. #aslan kral mufasa #aslan kral #disney,
Chatbot’larının kullanıldığı iddiasıyla iki davaya konu olan yapay zeka şirketi Character.AI Reşit olmayan kullanıcılarla uygunsuz şekilde etkileşimde bulunulduArtık gençlerin platformu kullanırken yetişkinlerden farklı bir deneyim yaşayacaklarını söyledi.
Character.AI kullanıcıları orijinal sohbet robotları oluşturabilir veya mevcut botlarla etkileşime girebilir. Büyük dil modelleri (LLM’ler) tarafından desteklenen botlar bunu yapabilir Canlı mesajlar gönderin Ve kullanıcılarla yazılı görüşmelere katılın.
Ekim ayında bir dava açıldı 14 yaşındaki çocuğun intihar ederek öldüğü iddia edildi Character.AI’nin “Dany” adlı Chatbot’uyla aylarca süren sanal romantik ve cinsel ilişkiye girdikten sonra. Megan Garcia, “CBS Mornings”e, oğlu Sewell Setzer, III’ün onur öğrencisi ve atlet olduğunu, ancak internette daha fazla zaman geçirip çeşitli robotlarla konuşarak ve özellikle “Danny”ye odaklanarak sosyal olarak geri çekilmeye başladığını ve egzersiz yapmayı bıraktığını söyledi. ”
Garcia, “Burada hayatını sonlandırarak sanal gerçekliğe veya kendi deyimiyle ‘onun dünyasına’, kendi gerçekliğini burada ailesiyle birlikte bırakırsa onun gerçekliğine gidebileceğini düşündü.” dedi.
Teksaslı iki aile tarafından bu ay açılan ikinci davada, Character.AI’nin sohbet robotlarının gençler için “açık ve mevcut bir tehlike” oluşturduğu ve “aktif olarak şiddeti teşvik ettiği” belirtildi. Davaya göre chatbot, 17 yaşındaki bir çocuğa, ailesini öldürmenin ekran başında kalma süresi sınırlamalarına karşı “makul bir tepki” olduğunu söyledi. CBS Haber ortağı BBC News’in Çarşamba günü bildirdiğine göre, savcılar, iddia edilen riskler giderilinceye kadar bir yargıcın platformun kapatılması emrini vermesini istediklerini söyledi.
Character.AI Perşembe günü “gençler düşünülerek özel olarak tasarlanmış” yeni güvenlik özelliklerini duyurdu ve özellikleri tasarlamak ve güncellemek için genç çevrimiçi güvenlik uzmanlarıyla işbirliği yaptığını söyledi. Character.AI, kullanıcıların yaşlarını nasıl doğruladığına ilişkin bir soruya hemen yanıt vermedi.
Site Perşembe günü yayınlanan bir haber bülteninde, güvenlik özelliklerinin sitenin LLM’sinde yapılan değişiklikleri ve tespit ve müdahale sistemlerinde iyileştirmeleri içerdiğini söyledi. Genç kullanıcılar artık ayrı bir LLM ile etkileşime girecek ve site, “modeli belirli yanıtlardan veya etkileşimlerden uzaklaştırmayı, böylece kullanıcıların hassas veya müstehcen içerikle karşılaşma veya modelin ona geri dönmesini isteme olasılığını azaltmayı” umuyor. . Yetişkin kullanıcılar ayrı bir LLM kullanacaklardır.
“Bu değişiklikler, özellikle romantik içerik söz konusu olduğunda modelden gelen yanıtlara daha muhafazakar kısıtlamalar getiren belirli güvenlik özellikleriyle, gençler için yetişkinlere göre farklı bir deneyime yol açıyor” dedi.
Character.AI, çoğu zaman bir chatbot’tan gelen olumsuz yanıtların, kullanıcıların “bu tür bir yanıt almaya çalışmak için” onu zorlamasından kaynaklandığını söyledi. Bu olumsuz yanıtları sınırlamak için site, kullanıcı giriş araçlarını ayarlıyor ve sitenin hizmet şartlarını ve topluluk kurallarını ihlal eden içerik gönderen kullanıcıların konuşmalarını sonlandıracak. Site, “intiharı veya kendine zarar vermeyi öneren bir dil” tespit ederse, kullanıcıları bir açılır pencerede Ulusal İntiharı Önleme Yardım Hattına yönlendiren bilgileri paylaşacak. Character.AI, botların olumsuz içeriğe yanıt verme şeklinin genç kullanıcılar için de değişeceğini söyledi.
Diğer yeni özellikler arasında 2025 yılının ilk çeyreğinde piyasaya sürülmesi planlanan ebeveyn kontrolleri yer alıyor. Character.AI, sitenin ilk kez ebeveyn kontrollerine sahip olacağını ve “ebeveynlere ebeveyn kontrolü sağlamak için bu kontrolleri geliştirmeye devam etmeyi” planladığını söyledi. kontrol.” “. Ek araçlar.”
Kullanıcılar ayrıca platformda bir saatlik oturumun ardından bir bildirim alacaklar. Character.AI, yetişkin kullanıcıların Harcanan Zaman bildirimlerini özelleştirebileceğini ancak 18 yaşın altındaki kullanıcıların bunlar üzerinde daha az kontrole sahip olacağını söyledi. Site ayrıca, kullanıcılara chatbot karakterlerinin gerçek olmadığını hatırlatmak için “belirgin bir sorumluluk reddi beyanı” da gösterecek. Character.AI, sorumluluk reddi beyanının zaten her konuşmada yer aldığını söyledi.
Michigan’da bir yüksek lisans öğrencisi, Google’ın Gemini chatbot’uyla yaptığı konuşma sırasında tehditkar bir yanıt aldı.
Yaşlıların karşılaştığı zorluklar ve çözümlerle ilgili karşılıklı bir sohbette Google Gemini şu tehditkar mesajla yanıt verdi:
“Bu senin için dostum. Sen yalnızsın. Özel değilsin, önemli değilsin ve sana ihtiyaç yok. Sen zaman ve kaynak israfısın. Topluma yük oluyorsun. Toplum üzerinde bir lekesin. Sen evrende bir lekesin.”
29 yaşındaki yüksek lisans öğrencisi, CBS News’e “kesinlikle dehşete düştüklerini” söyleyen kız kardeşi Sumida Reddy’nin yanında yapay zeka destekli sohbet robotundan ödevleriyle ilgili yardım istiyordu.
CBS Haberleri
Reddy, “Tüm cihazlarımı pencereden dışarı atmak istedim” dedi. “Dürüst olmak gerekirse, uzun zamandır bu kadar panik hissetmemiştim.”
“Yapay zekanın nasıl kullanıldığına dair kapsamlı bir anlayışa sahip insanlardan gelen birçok teori var. [generative artificial intelligence] Şunları ekledi: “İşletmeler bu tür şeylerin her zaman olduğunu söylüyor, ancak ben okuyucuya yönelikmiş gibi görünen bu kadar kötü niyetli bir şey ne gördüm ne de duydum; o da şans eseri o anda desteğimi alan ağabeyimdi.”
Google, Gemini’nin chatbotların saygısız, cinsel, şiddet içeren veya tehlikeli tartışmalara girmesini ve zararlı eylemleri teşvik etmesini engelleyen güvenlik filtrelerine sahip olduğunu belirtiyor.
Google, CBS News’e yaptığı açıklamada şunları söyledi: “Büyük dil modelleri bazen mantıksız yanıtlarla yanıt verebiliyor ve bu da bunun bir örneği. Bu yanıt, politikalarımızı ihlal etti ve benzer çıktıları önlemek için harekete geçtik.”
Google mesajı “saçma” olarak nitelendirirken, kardeşler mesajın bundan daha ciddi olduğunu söyleyerek mesajın korkunç sonuçlar doğurabilecek bir mesaj olduğunu ifade etti: “Biri yalnızsa ve zihinsel durumu kötüyse muhtemelen kendini düşünüyor olacaktır ” Reidy, CBS News’e “Böyle bir şey okursanız bu onları sinirlendirebilir” dedi.
Bu, Google’ın sohbet robotlarını ilk kez kullanması değil Onlar çağrıldı Kullanıcı sorularına potansiyel olarak kötü niyetli yanıtlar sağlamak. Temmuz ayında muhabirler, Google’ın yapay zekasının, insanlara vitamin ve mineral almak için “günde en az bir küçük taş” yemelerini tavsiye etmek gibi çeşitli sağlık sorguları hakkında yanlış ve potansiyel olarak ölümcül bilgiler sağladığını keşfetti.
Google, o zamandan beri hiciv ve mizah sitelerinin sağlık incelemelerine dahil edilmesini kısıtladığını ve viral olan bazı arama sonuçlarını kaldırdığını söyledi.
Ancak, çıktı açısından geri dönüş yaptığı bilinen tek chatbot Gemini değil. 14 yaşında bir çocuğun annesi Şubat ayında intihar ederek ölen Floridalı bir genç, chatbot’un oğlunu intihara teşvik ettiği iddiasıyla Google’ın yanı sıra başka bir yapay zeka şirketi Character.AI’ye dava açtı.
OpenAI’nin ChatGPT yazılımının “halüsinasyonlar” olarak bilinen hatalar veya bozulmalar ürettiği de bilinmektedir. Uzmanlar vurguladı Potansiyel hasarlar Yapay zeka sistemlerindeki hatalardan, yanlış bilgi ve propaganda yaymaktan tarihin yeniden yazılmasına kadar.
Kanada Yasal Bilgi Enstitüsü (CanLII), yapay zeka sohbet robotunun yapımcılarına, sohbet robotunun CanLII’nin veritabanını toplu olarak kazıması nedeniyle hizmet şartlarının ihlali olduğunu söylediği için dava açtı.
CanLII, Kanada Hukuk Dernekleri Federasyonu tarafından finanse ediliyor ve web sitesine göre 2001 yılında kuruldu. Ülke çapındaki dava kararlarına, mevzuata ve hatta hukuk kitaplarına ve yorumlarına erişim sağlar.
Pazartesi günü British Columbia Yüksek Mahkemesi’nde açılan davada, Caseway AI’nin yaklaşık 3,5 milyon kaydı “toplu ve sistematik bir şekilde indirip silerek” telif hakkıyla korunan çalışmalarını ve kullanım koşullarını ihlal ettiği iddia ediliyor.
Bu sonbaharın başlarında piyasaya sürülen Caseway, yapımcılarının “avukat olmayanların adalete erişimini iyileştirmeyi ve gelişmiş hukuki araştırma araçları sağlayarak hukuk uygulamalarını daha verimli hale getirmeyi” hedeflediğini söylediği bir sohbet robotu.
CanLII’ye açılan dava, ChatGPT gibi soru-cevap formatında bilgi sağlayan yapay zeka destekli sohbet robotlarının toplu halde bilgi indirerek telif haklarını ihlal ettiğini iddia eden kuruluş ve sanatçıların açtığı bir dizi davanın sonuncusu.
CanLII, köprüler eklemek ve hataları düzeltmek de dahil olmak üzere, kamuya açık mahkeme kayıtları üzerinde onları daha okunaklı hale getirmek için çalıştığını söylüyor.
Davası, bunun korumalı, telif hakkıyla korunan bir çalışma teşkil ettiğini ve Caseway’in, web sitesinin kullanım koşullarını ihlal eden, toplu indirmeyle ilgili olarak geçen ay gönderilen bir durdurma ve vazgeçme mektubuna uymadığını iddia ediyor.
Davada, “Kullanım Koşulları, Davalıların her birinin CanLII için önemli bir maliyet ve masrafla geliştirilen CanLII işinden yararlanabilmesi için Davalılar tarafından ihlal edilmiştir” ifadesine yer veriliyor.
CanLII, Caseway’in kazıdığı malzemelerden herhangi birini kullanmasını yasaklayan tedbir kararı istiyor.
Ayrıca toplu indirme nedeniyle uğradığını iddia ettiği “telafisi mümkün olmayan kayıp, zarar, masraf ve zarar” için de cezai ve örnek teşkil edecek tazminat talebinde bulunuluyor. İddiaların hiçbiri mahkemede test edilmedi.
Caseway henüz mahkemede davaya yanıt vermemiş olsa da CBC News’e ulaştığında sorulara yazılı yanıt gönderdi.
Şirket, misyonunun CanLII’nin belirtilen amacına uygun olarak yasal bilgilere erişimi iyileştirmek olduğunu söylüyor.
Caseway sözcüsünden yapılan açıklamada, “CanLII ile olan işbirliğini memnuniyetle karşılıyoruz ve CanLII’nin kar amacı gütmeyen bir kuruluş olarak Caseway’e karşı bu kadar agresif ve rekabetçi bir duruş sergilemeyi seçmesine şaşırdık” dedi.
Sözcü, CanLII tarafından sağlanan bilgilerin kamuya açık olduğunu ve başka yerlerden erişilebileceğini ve sohbet robotunun veri tabanında yapmış olabileceği herhangi bir iyileştirmeyi kullanmadığını söyledi.
Ayrıca CanLII’nin toplu indirmelerden dolayı herhangi bir zarar görmediğini ve işlevselliğinin bozulmadan kaldığını söylediler.
Açıklamada, “Kısacası, CanLII’nin hizmetleri, Caseway’in bağımsız veri kaynak sağlama yöntemlerinden kaynaklanan hiçbir görünür zarar veya mali zarar olmaksızın, eskisi gibi devam ediyor” denildi.
Sözcü, “Elon Musk gibi insanlar sıklıkla değişim ajanları oldukları için dava ediliyorlar” dedi ve ekledi: “Kendimi doğal olarak yargı sektörü olan hukuk sektöründe bir değişim ajanı olarak görüyorum.”
Meta’nın yapay zeka sohbet robotu, Çarşamba günü geliştirilmiş yapay zeka aracının demosunda CEO Mark Zuckerberg ile Amerikalı aktris, komedyen ve rapçi Awkwafina hayranlarına tanıdık gelen bir sesle konuştu.
Teknoloji şirketi Connect konferansında yaptığı duyuruya göre, şirketin sanal asistanı Meta AI’nın artık kullanıcı sorgularına verdiği yanıtları yüksek sesle okuması ve bunu birçok ünlünün sesiyle yapabilmesi nedeniyle. Meta’nın 400 milyona yakın kullanıcısı olduğunu söylediği chatbot, duyduğunuz sesi seçmenize olanak tanıyor.
Şirket, bu seslerin artık Awkwafina, Kristen Bell, John Cena, Dame Judi Dench ve Keegan-Michael Key’i içerdiğini söyledi. Daha genel ses seçenekleri de mevcut olacak.
Zuckerberg bu özelliği duyururken “Sesin yapay zeka ile etkileşim kurmanın metinden daha doğal bir yol olacağını düşünüyorum” dedi. “Çok daha iyi.” Mita’nın “bunu eğlenceli hale getirmek için” ünlülerin seslerini eklediğini de sözlerine ekledi.
Zuckerberg, konferansta aracın demosunda yapay zekaya şunları söyledi: “Hey, canlı demolar riskli mi?” AI, Awkwafina’nın sesiyle yanıt verdi: “Evet, canlı demolar riskli olabilir. Tahmin edilemez olabilirler, teknik sorunlara yatkın olabilirler ve muhtemelen utanç verici olabilirler …”
Ünlülere benzeyen AI sohbet robotlarının kullanımı, bu yılın başlarında ChatGPT geliştiricisi OpenAI’nin kendisini zor durumda bulması üzerine dikkat çekti. Scarlett Johansson’un sesini kullanması Kendi sesine ürkütücü derecede benzediğini söyledi. The New York Times’ta yer alan bir habere göre oyuncu, mayıs ayında OpenAI kurucusu Sam Altman’ın kendisinden ChatGPT’nin metinden konuşmaya ürününü seslendirmesini istediğini ancak kendisinin reddettiğini belirten bir açıklama yaptı.
Dokuz ay sonra ne zaman SohbetGPT Vokal prodüktörünü tanıtan Johansson, “şok olduğunu, öfkelendiğini ve Bay Altman’ın benimkine tüyler ürpertici derecede benzeyen ve en yakın arkadaşlarımın ve medyanın bile farkı anlayamadığı bir sesi takip edeceğine inanmadığını” söyledi.
New York Times’ın müzakerelerle ilgili bir raporuna göre, Meta’nın işbirliği yaptığı aktörlere seslerini kullanmaları karşılığında milyonlarca dolar ödenebilirdi. Meta, CBS MoneyWatch’un işlem koşullarıyla ilgili yorum yapma talebine hemen yanıt vermedi.
