tarihinde yayınlandı Yorum yapın

Yapay zeka şirketi, davaların ardından sohbet robotlarının genç kullanıcılarla olan etkileşimlerini değiştireceğini söylüyor

Yapay zeka şirketi, davaların ardından sohbet robotlarının genç kullanıcılarla olan etkileşimlerini değiştireceğini söylüyor

Chatbot’larının kullanıldığı iddiasıyla iki davaya konu olan yapay zeka şirketi Character.AI Reşit olmayan kullanıcılarla uygunsuz şekilde etkileşimde bulunulduArtık gençlerin platformu kullanırken yetişkinlerden farklı bir deneyim yaşayacaklarını söyledi.

Character.AI kullanıcıları orijinal sohbet robotları oluşturabilir veya mevcut botlarla etkileşime girebilir. Büyük dil modelleri (LLM’ler) tarafından desteklenen botlar bunu yapabilir Canlı mesajlar gönderin Ve kullanıcılarla yazılı görüşmelere katılın.

Ekim ayında bir dava açıldı 14 yaşındaki çocuğun intihar ederek öldüğü iddia edildi Character.AI’nin “Dany” adlı Chatbot’uyla aylarca süren sanal romantik ve cinsel ilişkiye girdikten sonra. Megan Garcia, “CBS Mornings”e, oğlu Sewell Setzer, III’ün onur öğrencisi ve atlet olduğunu, ancak internette daha fazla zaman geçirip çeşitli robotlarla konuşarak ve özellikle “Danny”ye odaklanarak sosyal olarak geri çekilmeye başladığını ve egzersiz yapmayı bıraktığını söyledi. ”

Garcia, “Burada hayatını sonlandırarak sanal gerçekliğe veya kendi deyimiyle ‘onun dünyasına’, kendi gerçekliğini burada ailesiyle birlikte bırakırsa onun gerçekliğine gidebileceğini düşündü.” dedi.

Teksaslı iki aile tarafından bu ay açılan ikinci davada, Character.AI’nin sohbet robotlarının gençler için “açık ve mevcut bir tehlike” oluşturduğu ve “aktif olarak şiddeti teşvik ettiği” belirtildi. Davaya göre chatbot, 17 yaşındaki bir çocuğa, ailesini öldürmenin ekran başında kalma süresi sınırlamalarına karşı “makul bir tepki” olduğunu söyledi. CBS Haber ortağı BBC News’in Çarşamba günü bildirdiğine göre, savcılar, iddia edilen riskler giderilinceye kadar bir yargıcın platformun kapatılması emrini vermesini istediklerini söyledi.

Character.AI Perşembe günü “gençler düşünülerek özel olarak tasarlanmış” yeni güvenlik özelliklerini duyurdu ve özellikleri tasarlamak ve güncellemek için genç çevrimiçi güvenlik uzmanlarıyla işbirliği yaptığını söyledi. Character.AI, kullanıcıların yaşlarını nasıl doğruladığına ilişkin bir soruya hemen yanıt vermedi.

Site Perşembe günü yayınlanan bir haber bülteninde, güvenlik özelliklerinin sitenin LLM’sinde yapılan değişiklikleri ve tespit ve müdahale sistemlerinde iyileştirmeleri içerdiğini söyledi. Genç kullanıcılar artık ayrı bir LLM ile etkileşime girecek ve site, “modeli belirli yanıtlardan veya etkileşimlerden uzaklaştırmayı, böylece kullanıcıların hassas veya müstehcen içerikle karşılaşma veya modelin ona geri dönmesini isteme olasılığını azaltmayı” umuyor. . Yetişkin kullanıcılar ayrı bir LLM kullanacaklardır.

“Bu değişiklikler, özellikle romantik içerik söz konusu olduğunda modelden gelen yanıtlara daha muhafazakar kısıtlamalar getiren belirli güvenlik özellikleriyle, gençler için yetişkinlere göre farklı bir deneyime yol açıyor” dedi.

Character.AI, çoğu zaman bir chatbot’tan gelen olumsuz yanıtların, kullanıcıların “bu tür bir yanıt almaya çalışmak için” onu zorlamasından kaynaklandığını söyledi. Bu olumsuz yanıtları sınırlamak için site, kullanıcı giriş araçlarını ayarlıyor ve sitenin hizmet şartlarını ve topluluk kurallarını ihlal eden içerik gönderen kullanıcıların konuşmalarını sonlandıracak. Site, “intiharı veya kendine zarar vermeyi öneren bir dil” tespit ederse, kullanıcıları bir açılır pencerede Ulusal İntiharı Önleme Yardım Hattına yönlendiren bilgileri paylaşacak. Character.AI, botların olumsuz içeriğe yanıt verme şeklinin genç kullanıcılar için de değişeceğini söyledi.

Diğer yeni özellikler arasında 2025 yılının ilk çeyreğinde piyasaya sürülmesi planlanan ebeveyn kontrolleri yer alıyor. Character.AI, sitenin ilk kez ebeveyn kontrollerine sahip olacağını ve “ebeveynlere ebeveyn kontrolü sağlamak için bu kontrolleri geliştirmeye devam etmeyi” planladığını söyledi. kontrol.” “. Ek araçlar.”

Kullanıcılar ayrıca platformda bir saatlik oturumun ardından bir bildirim alacaklar. Character.AI, yetişkin kullanıcıların Harcanan Zaman bildirimlerini özelleştirebileceğini ancak 18 yaşın altındaki kullanıcıların bunlar üzerinde daha az kontrole sahip olacağını söyledi. Site ayrıca, kullanıcılara chatbot karakterlerinin gerçek olmadığını hatırlatmak için “belirgin bir sorumluluk reddi beyanı” da gösterecek. Character.AI, sorumluluk reddi beyanının zaten her konuşmada yer aldığını söyledi.

tarihinde yayınlandı Yorum yapın

Holt, Politika 713’ü değiştireceğini ve DEC’i feshetmeyi bırakacağını söyledi

Holt, Politika 713’ü değiştireceğini ve DEC’i feshetmeyi bırakacağını söyledi

Başbakan adayı Susan Holt, göreve başladığında okullar için farklı bir cinsiyet kimliği politikası benimseyeceğini ve bunun New Brunswick hükümeti ile çocuk ve LGBT savunucuları arasında bir yıl süren mücadeleyi potansiyel olarak sona erdireceğini söyledi.

Holt, New Brunswick çocuk ve gençlik savunucusu Kelly Lamrock tarafından önerilen ve hem ebeveynlerin hem de öğrencilerin haklarını dikkate aldığını söylediği politikayı benimsiyor.

Gayri resmi isim değişiklikleri için Lamrock’un versiyonu, okul personelinin, altıncı sınıf veya daha yüksek seviyedeki tüm öğrenciler tarafından seçilen isimlere ve zamirlere saygı duymasını gerektirecektir.

Küçük çocuklar için isim ve zamir talepleri duruma göre değerlendirilecek ve talebin makul olması ve çocuğun bu seçimi yapabilecek kapasitede olması durumunda onaylanacaktır.

İzle | Yeni politika hakkında bilmeniz gerekenler:

ywAAAAAAQABAAACAUwAOw==

NB okullarındaki cinsiyet kimliği politikası değişime doğru gidiyor

Başbakan adayı Susan Holt, göreve başladığında New Brunswick çocuk ve gençlik savunucusu Kelly Lamrock’un önerdiği cinsiyet kimliği okul politikasını benimseyeceğini söyledi. Bu politikanın ebeveynlerin ve öğrencilerin haklarını dikkate aldığını söylüyor.

Lamrock bir röportajda “Altıncı sınıftaki varsayım, yeteneği üstlenmeniz gerektiğidir” dedi. “Dört yaşındaki bir çocuk bana Aquaman deyin derse, dört yaşındaki Aquaman’i aramanıza gerek yok.”

Bu politika, çocuk 16 yaşın altındaysa, okul personelinin ebeveyn izni olmadığı sürece çocuğun seçilen adını ve zamirini sözlü olarak kullanmasını yasaklayan mevcut politikanın yerini alacaktır.

Holt’un politikayı değiştirme niyeti, Liberallerin eyalet seçimlerinde Başbakan Blaine Higgs ve İlerici Muhafazakarları alt etmesinden sonraki gün doğrulandı.

Holt ayrıca PC politikasını izlemeyi reddeden bölgenin Eğitim Kurulu’nu feshetme planını uygulamayacağını da doğruladı.

Higgs hükümetinin politikası öğretmenler, okul psikologları, çocuk gelişimi uzmanları, sendikalar ve hukuk uzmanları tarafından eleştirildi.

Kanada Sivil Özgürlükler Derneği ve İngilizce konuşulan Doğu Eyaleti Eğitim Kurulu, politikanın ayrımcı, anayasaya aykırı ve zararlı olduğu iddiasıyla eyalete karşı ayrı davalar açtı.

Savunucuları, bu politikanın ebeveynlere, öğretmenleri bilmedikleri bir isim ve zamir kullanarak çocuklara saygısızlık etmeye ve onları incitmeye zorlama yetkisi verdiğini ve çocukları, hazır olmadan açığa çıkma korkusuyla dolapta kalmaya zorladığını söyledi.

LGBT savunuculuk grubu Chroma NB’nin genel müdürü Alex Ash, bir e-postada “Holt’un Politika 713’te yapılan zararlı değişiklikleri iptal etme kararını derinden takdir ettiklerini” söyledi.

Gözlüklü ve mavi takım elbiseli bir adam, arkasında Kanada bayrağı bulunan kameranın yan tarafına bakıyor.
Çocuk ve gençlik savunucusu Kelly Lamrock, okullarda cinsiyet kimliği konusunda tavsiye ettiği politikayı oluşturmak için 400 başvuruyu incelediğini ve uzmanlarla, ebeveynlerle ve öğrencilerle röportaj yaptığını söyledi. (Ed Hunter/CBC)

Ash, Holt’un dört yılda geliştirilen ve birçok danışmanlık içeren 2020 versiyonuna dönmesinin en iyisi olacağını söyledi.

Ash, “Susan Holt ve Liberal hükümetin, Lamrock’un tavsiyelerinin çoğu sağlam olsa bile, politikalarını tekrar değiştirmeden önce bu gençlerin kendilerini güvende ve korunaklı hissetmelerini sağlamaları önemli” dedi.

“Artık rahat bir nefes alabilir ve dikkatimizi hizmet ettiğimiz topluluklara eğitim ve programlama sağlamaya yeniden odaklayabiliriz.”

Politika 713’ün (orijinali 2020’den itibaren ve Higgs’in eğitim sekreteri Bill Hogan tarafından sunulan ve Lamrock tarafından önerilen tartışmalı versiyon) tüm versiyonları, 16 yaşın altındaki çocukların okul kayıtlarında resmi isim değişiklikleri için ebeveyn izni gerektirir.

Yeni politika ebeveynlerin katılımını teşvik edecek

Geçtiğimiz yaz Lamrock, ebeveynler, öğretmenler ve uzmanlarla iki ay süren istişarelerde bulundu ve önceki hükümet tarafından benimsenmeyen alternatif bir versiyon ortaya çıkardı.

Lamrock’un önerdiği politika, başka herhangi bir versiyonda yer almayan tavsiyeleri de ekliyor: okul personeli mümkün olduğunda öğrencinin ebeveynleriyle iletişimi teşvik etmeli, bir önceki isme veya zamire dönmek isteyip istemediğinde çocuğun seçimini sorgulamamalı ve ebeveynlere gerekli bilgileri sağlamalıdır. Politika hakkında net bilgi.

Lamrock’un önerisinde okul çalışanlarının yapmaması gerekenlerin bir listesi de yer alıyor. Örneğin, tıbbi müdahaleyi teşvik etmemeleri, kişisel inançlarını bir çocuğa empoze etmemeleri veya öğrencilerin cinsiyet kimliğini rızaları olmadan başka kişilere açıklamamaları gerektiği belirtiliyor.

Salı günü verdiği bir röportajda Lamrock, Yasama Meclisi tarafından halkın katılımıyla görevlendirildikten sonra politikayı önerdiğini söyledi. Lamrock, iki ay boyunca 400’den fazla kamu başvurusunu incelediğini ve yaklaşık 50 takip görüşmesi yaptığını söyledi.

Lamrock, tıbbi müdahalelerle ilgili politikayı netleştirmeye çalıştığını, örneğin bazı insanların, bir öğretmen öğrencinin vicdanına saygı duyduğunda ne olacağına dair endişelerini gidermeye çalıştığını söyledi. Lamrock, istişareler sırasında öğretmenlerin, ebeveynlerinin haberi olmadan öğrencileri transfere teşvik ettiğine dair yanlış bilgiler duyduğunu ve insanlara güvence vermek istediğini söyledi.

Zorunlu raporlamaya ne dersiniz?

Lamrock, öğretmenlerin ve personelin, çocuklarının güvenliği veya gelişimi risk altında olduğunda ebeveynleri bilgilendirme zorunluluğunun bulunduğunu söyledi. Bu, örneğin çocuğun kendine zarar verme konusunda düşüncelerini paylaşıp paylaşmadığını veya notlarının düşüp düşmediğini ve sınıfta başarısız olup olmadığını içerir.

Lamrock, zamir değişikliğinin bu kategoriye girmediğini ve ebeveynlere zorunlu açıklama gerektirmediğini söyledi.

“Başka bir belirti olmadığı sürece cinsel kimliğinizi sorgulamanın veya yeniden düşünmenin güvenliğinizi veya gelişiminizi tehlikeye atmadığı oldukça iyi bilinmektedir” dedi.

Lamrock, İlerici Muhafazakar hükümet o dönemde konuyu gündeme getirmeseydi muhtemelen politikayı bu şekilde gözden geçirmeyeceğini, ancak endişeleri dile getirmekte hiçbir sakınca görmediğini söyledi.

Milli Eğitim Kurulu feshedilmeyecek

Hogan, İngilizce konuşulan Doğu Konseyi’nin feshedilmesine yönelik yasal süreci başlattı ve Holt bu hafta bu sürece son vereceğini doğruladı.

Holt bir sözcü aracılığıyla, “Aynı zamanda önceki hükümetin DEC’i feshetmeye yönelik planlarından da vazgeçeceğiz ve bunu yaparak öğrenciler, ebeveynler ve öğretmenler için işe yarayan bir plan geliştirebileceğimizi umuyoruz.” dedi.

İngilizce konuşulan Doğu Konseyi, hakimin davayı reddetme kararına itiraz etti. Çarşamba günü New Brunswick Temyiz Mahkemesi’nde yapılan duruşmada yargıç, politika değiştiğinde konunun tartışmalı hale gelebileceği gerekçesiyle davayı Aralık ayına kadar erteledi.