hazırlamak Kanser hastaları Zor kararlar vermek onkoloğun işidir. Ancak bunu yapmayı her zaman hatırlamazlar. Pensilvanya Üniversitesi Sağlık Sistemi’nde doktorlara, bir hastanın tedavisi hakkında konuşmak ve… Kullanım ömrü sonu tercihleri Ölüm olasılığını tahmin eden bir yapay zeka algoritması kullanılıyor.
Ancak bir kur ve unut aracı olmaktan çok uzaktır. Rutin bir teknik inceleme, 2022’de yapılan bir çalışmaya göre algoritmanın Kovid-19 salgını sırasında kötüleştiğini ve kimin öleceğini tahmin etmede yüzde 7 puan daha kötü hale geldiğini ortaya çıkardı.
Potansiyel gerçek hayattaki etkiler vardı. Emory Üniversitesi’nden onkolog ve çalışmanın baş yazarı Ravi Parikh, KFF Sağlık Haberleri’ne, aracın doktorları ihtiyacı olan hastalarla bu önemli tartışmayı (belki de gereksiz kemoterapiden kaçınmak için) başlatmaya teşvik etmekte yüzlerce kez başarısız olduğunu söyledi.
Kriz sırasında tıbbi bakımı geliştirmek için tasarlanan birçok algoritmanın zayıfladığına inanıyor pandemive sadece Penn Medicine’deki değil. Parikh, “Birçok kuruluş, ürünlerinin performansını rutin olarak izlemiyor” dedi.
Algoritmalardaki aksaklıklar, bilgisayar bilimcileri ve doktorların uzun zamandır fark ettiği, ancak hastane yöneticilerini ve araştırmacılarını şaşırtmaya başlayan bir ikilemin bir yönünü temsil ediyor: Yapay zeka sistemleri, onları yerine koymak ve iyi çalışmasını sağlamak için tutarlı izleme ve personel gerektirir.
Esasında, yeni aletlerin bozulmamasını sağlamak için insanlara ve daha fazla makineye ihtiyacınız var.
Stanford Health Care’de kıdemli veri bilimcisi Nigam Shah, “Herkes yapay zekanın hizmetlerimize erişmemize, yeteneklerimizi geliştirmemize, bakımı iyileştirmemize vb. yardımcı olacağına inanıyor” dedi. “Bunların hepsi iyi güzel de bakım maliyetini %20 artırırsa uygulanabilir mi?”
Hükümet yetkilileri, hastanelerin bu teknolojileri uygulamaya koyacak kaynaklara sahip olmadığından endişe ediyor. FDA Komiseri Robert Califf, yakın zamanda yapay zekayla ilgili bir kurum panelinde “Çok geniş bir araştırma yaptım” dedi. “Amerika Birleşik Devletleri’nde klinik bakım sistemine yerleştirilen bir yapay zeka algoritmasını doğrulayabilecek tek bir sağlık sistemi olduğunu düşünmüyorum.”
Yapay zeka zaten yaygın Sağlık hizmetlerinde. Algoritmalar, hastaların ölüm veya kötüleşme riskini tahmin etmek, teşhis veya triyaj önermek ve hastane ziyaretlerini kaydedip özetlemek için kullanılır. Doktorların çalışmalarını kaydedin Ve Sigorta taleplerinin onaylanması.
Eğer teknoloji evangelistleri haklıysa teknoloji her yerde bulunabilecek ve karlı hale gelecektir. Yatırım şirketi Bessemer Venture Partners, her yıl 10 milyon dolar gelir elde etme yolunda ilerleyen yaklaşık 20 sağlık odaklı yapay zeka girişimini belirledi. ABD Gıda ve İlaç İdaresi (FDA) yaklaşık bin yapay zeka ürününü onayladı.
Bu ürünlerin başarısını değerlendirmek zordur. Çalışmaya devam edip etmediklerini veya şişmiş bir conta veya sızdıran motora eşdeğer bir şey geliştirip geliştirmediklerini değerlendirmek çok daha zordur.
Örneğin, Yale Medicine tarafından hastaların hızla kötüleşme ihtimali olduğunda doktorları uyaran altı “erken uyarı sistemini” değerlendiren yakın tarihli bir çalışmayı ele alalım. Chicago Üniversitesi’nden doktor ve çalışma için bir algoritma sağlayan şirketin kurucu ortağı Dana Edelson, bir süper bilgisayarın verileri birkaç gün boyunca çalıştırdığını söyledi. Süreç verimli geçti ve altı ürün arasında performans açısından önemli farklılıklar görüldü.
Hastanelerin ve sağlayıcıların ihtiyaçlarına uygun en iyi algoritmaları seçmeleri kolay değil. Ortalama bir doktorun süper bilgisayarı yoktur ve Tüketici Raporları Yapay Zekası da yoktur.
Amerikan Tabipler Birliği eski başkanı Jesse Ehrenfeld, “Hiçbir standartımız yok” dedi. “Yapay zeka destekli olsun ya da olmasın, algoritmik bir modelin performansının konuşlandırıldığında nasıl değerlendirileceği, izleneceği ve kontrol edileceği konusunda bugün standart olarak gösterebileceğim hiçbir şey yok.”
Belki de doktor muayenehanelerindeki en yaygın yapay zeka ürünü, hasta ziyaretlerini dinleyen ve özetleyen teknoloji destekli bir asistan olan Ambient Documentation’dır. Rock Health’teki yatırımcılar bu yıl şu ana kadar bu noter şirketlerine akan 353 milyon doları takip etti. Ancak Ehrenfeld, “Şu anda bu araçların sonuçlarını karşılaştıracak bir standart yok” dedi.
Küçük hatalar yıkıcı olsa bile bu bir sorundur. Stanford Üniversitesi’nden bir ekip, hastaların tıbbi geçmişlerini özetlemek için ChatGPT gibi popüler yapay zeka araçlarının temelini oluşturan teknoloji olan büyük dil modellerini kullanmaya çalıştı. Sonuçları doktorun yazacağı sonuçlarla karşılaştırdılar.
Stanford’dan Shah, “En iyi durumda bile modellerin hata oranı %35’ti” dedi. Tıpta, “Bir özet yazdığınızda ve ‘ateş’ gibi bir kelimeyi unuttuğunuzda, yani bu bir sorundur, değil mi?”
Bazen algoritmaların başarısız olmasının nedenleri oldukça mantıklıdır. Örneğin, hastanelerin laboratuvar sağlayıcılarını değiştirmesi gibi, temel verilerdeki değişiklikler verinin etkinliğini azaltabilir.
Ancak bazen tuzaklar görünürde bir sebep olmadan açılır.
MassGeneral Brigham’ın Boston’daki Kişiselleştirilmiş Tıp Programının baş teknoloji sorumlusu Sandy Aronson, ekibinin genetik danışmanların DNA varyantlarıyla ilgili ilgili literatürü belirlemesine yardımcı olmayı amaçlayan bir uygulamayı test ettiğinde, ürünün “determinizmsizlik” sorunu yaşadığını söyledi. Aynı soru kısa sürede birkaç kez farklı sonuçlar verdi.
Aronson, aşırı yük altındaki genetik danışmanlar için bilgiyi özetlemek amacıyla geniş dil modellerinin kullanılması potansiyeli konusunda heyecan duyuyor ancak “teknolojinin gelişmesi gerekiyor.”
Ölçütler ve standartlar seyrekse ve garip nedenlerden dolayı hatalar ortaya çıkabiliyorsa kuruluşlar ne yapmalıdır? Çok fazla kaynağa yatırım yapın. Shah, Stanford’da sadece iki modeli adalet ve güvenilirlik açısından incelemenin sekiz ila 10 ay ve 115 adam-saat sürdüğünü söyledi.
KFF Health News’in görüştüğü uzmanlar, bazı (insan) verilerinin her ikisinin de izlenmesiyle birlikte yapay zekanın yapay zekayı izlemesi fikrini ortaya attı. Hepsi bunun kuruluşların daha fazla para harcamasını gerektireceğini kabul etti; hastane bütçelerinin gerçekleri ve yapay zeka teknolojisi uzmanlarının sınırlı arzı göz önüne alındığında bunun zor olduğu ortaya çıktı.
Shah, “Bir modelin buzdağlarını eritip buz dağlarını izleyebileceği bir vizyona sahip olmak harika” dedi. “Ama gerçekten istediğin bu mu? Kaç kişiye ihtiyacımız olacak?”
KFF Sağlık Haberleri Sağlık konularında derinlemesine gazetecilik üreten ulusal bir haber odasıdır ve haberciliğin temel itici güçlerinden biridir. KFF — Sağlık politikası araştırması, anket ve gazetecilik için bağımsız kaynak.
