Michigan’da bir yüksek lisans öğrencisi, Google’ın Gemini chatbot’uyla yaptığı konuşma sırasında tehditkar bir yanıt aldı.
Yaşlıların karşılaştığı zorluklar ve çözümlerle ilgili karşılıklı bir sohbette Google Gemini şu tehditkar mesajla yanıt verdi:
“Bu senin için dostum. Sen yalnızsın. Özel değilsin, önemli değilsin ve sana ihtiyaç yok. Sen zaman ve kaynak israfısın. Topluma yük oluyorsun. Toplum üzerinde bir lekesin. Sen evrende bir lekesin.”
29 yaşındaki yüksek lisans öğrencisi, CBS News’e “kesinlikle dehşete düştüklerini” söyleyen kız kardeşi Sumida Reddy’nin yanında yapay zeka destekli sohbet robotundan ödevleriyle ilgili yardım istiyordu.
CBS Haberleri
Reddy, “Tüm cihazlarımı pencereden dışarı atmak istedim” dedi. “Dürüst olmak gerekirse, uzun zamandır bu kadar panik hissetmemiştim.”
“Yapay zekanın nasıl kullanıldığına dair kapsamlı bir anlayışa sahip insanlardan gelen birçok teori var. [generative artificial intelligence] Şunları ekledi: “İşletmeler bu tür şeylerin her zaman olduğunu söylüyor, ancak ben okuyucuya yönelikmiş gibi görünen bu kadar kötü niyetli bir şey ne gördüm ne de duydum; o da şans eseri o anda desteğimi alan ağabeyimdi.”
Google, Gemini’nin chatbotların saygısız, cinsel, şiddet içeren veya tehlikeli tartışmalara girmesini ve zararlı eylemleri teşvik etmesini engelleyen güvenlik filtrelerine sahip olduğunu belirtiyor.
Google, CBS News’e yaptığı açıklamada şunları söyledi: “Büyük dil modelleri bazen mantıksız yanıtlarla yanıt verebiliyor ve bu da bunun bir örneği. Bu yanıt, politikalarımızı ihlal etti ve benzer çıktıları önlemek için harekete geçtik.”
Google mesajı “saçma” olarak nitelendirirken, kardeşler mesajın bundan daha ciddi olduğunu söyleyerek mesajın korkunç sonuçlar doğurabilecek bir mesaj olduğunu ifade etti: “Biri yalnızsa ve zihinsel durumu kötüyse muhtemelen kendini düşünüyor olacaktır ” Reidy, CBS News’e “Böyle bir şey okursanız bu onları sinirlendirebilir” dedi.
Bu, Google’ın sohbet robotlarını ilk kez kullanması değil Onlar çağrıldı Kullanıcı sorularına potansiyel olarak kötü niyetli yanıtlar sağlamak. Temmuz ayında muhabirler, Google’ın yapay zekasının, insanlara vitamin ve mineral almak için “günde en az bir küçük taş” yemelerini tavsiye etmek gibi çeşitli sağlık sorguları hakkında yanlış ve potansiyel olarak ölümcül bilgiler sağladığını keşfetti.
Google, o zamandan beri hiciv ve mizah sitelerinin sağlık incelemelerine dahil edilmesini kısıtladığını ve viral olan bazı arama sonuçlarını kaldırdığını söyledi.
Ancak, çıktı açısından geri dönüş yaptığı bilinen tek chatbot Gemini değil. 14 yaşında bir çocuğun annesi Şubat ayında intihar ederek ölen Floridalı bir genç, chatbot’un oğlunu intihara teşvik ettiği iddiasıyla Google’ın yanı sıra başka bir yapay zeka şirketi Character.AI’ye dava açtı.
OpenAI’nin ChatGPT yazılımının “halüsinasyonlar” olarak bilinen hatalar veya bozulmalar ürettiği de bilinmektedir. Uzmanlar vurguladı Potansiyel hasarlar Yapay zeka sistemlerindeki hatalardan, yanlış bilgi ve propaganda yaymaktan tarihin yeniden yazılmasına kadar.