Etiket: Gavin

Kaliforniya Valisi Gavin Newsom Pazar günü, ülkenin büyük yapay zeka modelleri için ilk güvenlik önlemlerini oluşturmayı amaçlayan dönüm noktası niteliğindeki bir yasa tasarısını veto etti.

Bu karar, çok az gözetimle hızla gelişen yerel sanayiyi dizginlemeye çalışan çabalara vurulan güçlü bir darbeyi temsil ediyor. Fatura İlk düzenlemelerden bazılarını oluşturacaktı Destekçiler, bu projenin ülkedeki büyük ölçekli yapay zeka modelleri üzerine geliştirildiğini ve ülke çapında yapay zeka güvenlik yasalarının önünü açtığını söyledi.

Bu ayın başlarında Demokrat vali, yazılım devi Salesforce’un ev sahipliği yaptığı yıllık bir konferans olan Dreamforce’ta dinleyicilere federal eylemsizlik karşısında Kaliforniya’nın yapay zekanın düzenlenmesinde öncülük etmesi gerektiğini ancak teklifin “sektör üzerinde caydırıcı bir etkisi olabileceğini” söyledi. .

Newsom, startup’ların, teknoloji devlerinin ve Temsilciler Meclisi’ndeki pek çok Demokrat’ın güçlü muhalefetiyle karşı karşıya kalan teklifin, sıkı gereklilikler getirerek yerli sanayiye zarar vereceğini söyledi.

Newsom yaptığı açıklamada, “SB 1047 iyi niyetli olsa da yapay zeka sisteminin yüksek riskli ortamlarda konuşlandırılıp konuşlandırılmadığını, kritik kararlar almayı veya hassas verileri kullanmayı içerip içermediğini hesaba katmıyor” dedi. “Bunun yerine yasa, büyük bir sistem kullandığı sürece temel işlevlere bile katı standartlar uyguluyor. Bunun, halkı teknolojinin oluşturduğu gerçek tehditlerden korumanın en iyi yaklaşımı olduğuna inanmıyorum.”

Bunun yerine Newsom Pazar günü yaptığı açıklamada, güçlü yapay zeka modelleri etrafında korkuluklar geliştirmek için eyaletin yapay zeka öncüsü Fei-Fei Li de dahil olmak üzere çeşitli endüstri uzmanlarıyla işbirliği yapacağını duyurdu. Lee, yapay zeka güvenlik önerisine karşı çıktı.

Yapay zekanın yarattığı potansiyel riskleri azaltmayı amaçlayan tedbir, şirketlerin modellerini test etmelerini ve modellere müdahale edilmesini (örneğin eyaletin elektrik şebekesinin kapatılması veya kimyasal madde yapımına yardımcı olunması) önlemek için güvenlik protokollerini kamuya açıklamalarını gerektirecekti. silahlar. Uzmanlar, sektörün hızla ilerlemeye devam etmesi nedeniyle bu senaryoların gelecekte mümkün olabileceğini söylüyor. Aynı zamanda işçiler için ihbarcı koruması da sağlayacaktı.

Mevzuat, yapay zekayı düzenlemek ve yapay zekayla mücadele etmek amacıyla bu yıl Meclis tarafından kabul edilen bir grup yasa tasarısı arasında yer alıyor Derin sahteler Ve işçi koruması. Eyalet milletvekilleri, şansları varken sosyal medya şirketlerini dizginleyememekten öğrendikleri zorlu dersleri öne sürerek Kaliforniya’nın bu yıl harekete geçmesi gerektiğini söyledi.

Elon Musk ve Anthropic’in de aralarında bulunduğu tedbirin destekçileri, geliştiriciler ve uzmanların hala yapay zeka modellerinin nasıl ve neden olduğu konusunda tam bir anlayışa sahip olmadıklarını söylerken, teklifin büyük ölçekli yapay zeka modellerine bir düzeyde şeffaflık ve hesap verebilirlik kazandıracağını söyledi. davranmak.

Tasarı, inşa edilmesi 100 milyon dolardan fazla gerektiren sistemleri hedef alıyor. Mevcut yapay zeka modellerinden hiçbiri bu eşiğe ulaşamadı ancak bazı uzmanlar bunun önümüzdeki yıl değişebileceğini söyledi.

Şirketin yapay zeka risklerini göz ardı etmesi olarak gördüğü durum nedeniyle Nisan ayında istifa eden eski OpenAI araştırmacısı Daniel Kokotaglo, “Bunun nedeni sektördeki yatırımların muazzam genişlemesinden kaynaklanıyor” dedi. “Bu, herhangi bir özel şirketi hesap verebilirlik olmadan kontrol etmek için muazzam miktarda bir güçtür ve aynı zamanda inanılmaz derecede risklidir.”

ABD, riskleri azaltmak için yapay zekayı düzenleme konusunda halihazırda Avrupa’nın gerisinde kalıyor. Destekleyenler, Kaliforniya’nın teklifinin Avrupa’daki düzenlemeler kadar kapsamlı olmadığını, ancak iş kayıpları, yanlış bilgilendirme, mahremiyetin ihlali ve otomasyona yönelik önyargılarla ilgili endişeleri artıran hızla büyüyen teknolojinin etrafına bariyer koymak için iyi bir ilk adım olabileceğini söyledi.

Geçtiğimiz yıl önde gelen yapay zeka şirketlerinin bir kısmı, modelleri hakkında test yapmak ve bilgi paylaşmak gibi Beyaz Saray tarafından belirlenen güvenlik önlemlerine uymayı gönüllü olarak kabul etti. Tedbirin destekçileri, Kaliforniya yasa tasarısının yapay zeka geliştiricilerinin bu yükümlülüklere benzer gereklilikleri takip etmesini gerektireceğini söyledi.

Ancak eski ABD Temsilciler Meclisi Sözcüsü Nancy Pelosi’nin de aralarında bulunduğu eleştirmenler, tasarının “Kaliforniya teknolojisini öldüreceğini” ve yenilikçiliği bastıracağını savundu. Bunun yapay zeka geliştiricilerini büyük modellere yatırım yapmaktan veya açık kaynaklı yazılımları paylaşmaktan caydıracağını söylediler.

Newsom’un tasarıyı veto etme kararı, Kaliforniya’daki büyük teknoloji şirketleri ve yapay zeka geliştiricileri için bir başka kazanımı temsil ediyor; bunların çoğu, geçtiğimiz yılı valiyi ve milletvekillerini yapay zeka düzenlemeleri geliştirme konusunda etkilemek için Kaliforniya Ticaret Odası ile birlikte lobi yaparak geçirdi.

Teknoloji endüstrisinin ve diğerlerinin giderek artan muhalefetiyle karşı karşıya kalan diğer iki kapsamlı yapay zeka teklifi, geçen ay yasama süresi dolmadan geçerliliğini yitirdi. Tasarılar, yapay zeka geliştiricilerinin yapay zeka tarafından oluşturulan içeriği etiketlemesini ve işe alım kararlarında kullanılan yapay zeka araçlarının ayrımcılığı yasaklamasını gerektiriyordu.