Yapay zeka bir sorumluluktur

Yapay zeka bir sorumluluktur

Zaman Damgası: 21 Aralık 2023 7:06
Kaynak Düğüm: 3029233

Yorum Yap Metni tahmin eden, görüntüleri ve konuşmayı kategorize edebilen büyük temel modeller anlamına gelen yapay zeka, bir varlıktan çok bir yükümlülük gibi görünüyor.

Şu ana kadar doların hasarı küçük oldu. 2019 yılında, otomobil üreticisinin Autopilot yazılımının yardımıyla aracını kullanan bir Tesla sürücüsü kırmızı ışıkta geçti ve başka bir araca çarptı. İçeridekiler öldü ve Tesla sürücüsü geçen hafta düzenli tazminat olarak 23,000 dolar ödeyecek.

Tesla yaklaşık aynı sıralarda yayınlandı bir hatırlama ABD Ulusal Karayolu Trafik Güvenliği İdaresi'nin (NHTSA) Otopilot'un güvenlik kontrollerinin eksik olduğunu tespit eden soruşturmasına yanıt olarak iki milyon araçtan oluşan Otopilot yazılımını revize etme kararı aldı.

Yirmi üç bin dolar iki hayat için çok fazla bir miktar değil, ancak olaya karışan aileler sürücüye ve Tesla'ya karşı hukuki davalar açıyor, dolayısıyla maliyet artabilir. Ve en azından olduğu söyleniyor bir düzine dava ABD'de Otomatik pilot dahil.

Bu arada sağlık sektöründe UnitedHealthcare dava ediliyor çünkü 2020'de Navihealth'i satın alarak edindiği nH Predict AI Modelinin, sigortalı yaşlılara gerekli akut sonrası bakımı reddettiği iddia ediliyor.

Kısıtlamalar gerekli

Yapay zeka modelleri ve hizmetleri satan şirketler bir sorun olduğunu açıkça anlıyor. Kendi şeritlerinde kalmalarına yardımcı olmak için temel modellerin etrafına yerleştirilen “korkuluklara” atıfta bulunuyorlar; çalışma çok iyi. Bu modeller aşağıdakileri içermeseydi bu tür önlemlere gerek kalmazdı: çocuk cinsel istismarı materyali ve diğer zehirli içeriklerden oluşan bir yığın.

Sanki yapay zeka geliştiricileri yazar Alex Blechman'ın kitabını okuyormuş gibi viral gönderi teknoloji şirketlerinin “İşkence Nexus'unu Yaratmayın” uyarısını bir ürün yol haritası olarak yorumlayıp, “Bana güzel görünüyor” demesi hakkında.

Tabii ki, Mary Shelley'nin Frankenstein'ı veya Pandora'nın Kutusu gibi yapay zekaya uygun daha eski edebi referanslar da var; eğitim materyali konusunda şeffaflık eksikliği nedeniyle yapay zeka modellerine sıklıkla kara kutular olarak atıfta bulunulduğu göz önüne alındığında özellikle iyi bir uyum.

Şimdiye kadar, zararlı içeriklerle dolu ticari modellerin anlaşılmazlığı, işletmelere çok fazla zarar vermedi. Yakın zamanda var iddia Laskie'nin kurucusu ve CEO'su Chris Bakke (bu yıl kendisine X adını veren bir şirket tarafından satın alındı), Watsonville, Kaliforniya'daki bir otomobil bayisi tarafından kullanılan bir GM sohbet robotunun 2024 Chevy Tahoe'yu satma konusunda anlaşmaya varılması konusunda konuşulduğunu söyledi $ 1 için biraz hızlı mühendislikle. Ancak bayiliğin bu taahhüdü yerine getirmesi pek olası değil.

Yine de yapay zeka modellerine güvenmenin riski yeterli Google, Microsoft, ve Antropik Müşterileri (çok sayıda ve büyük ölçüde çözümlenmemiş) telif hakkı iddialarına karşı tazmin etmeyi teklif ettik. Sorumluluk alma ihtimaliniz olmadığı sürece bu yapacağınız bir şey değildir.

Değişiklik Yapıldı

Yetkililer hala yapay zeka sorumluluğunun nasıl değerlendirilmesi gerektiğini çözmeye çalışıyor. Avrupa Komisyonu'nun yapay zeka için uygulanabilir bir yasal çerçeve oluşturmaya çalışırken konuyu nasıl çerçevelediğini düşünün:

Komisyon, "Mevcut sorumluluk kuralları, özellikle de hataya dayalı ulusal kurallar, yapay zeka destekli ürün/hizmetlerin neden olduğu zararlara yönelik tazminat taleplerini ele alacak şekilde uyarlanmadı" dedi. şuraya [PDF] geçen yıl. “Bu tür kurallara göre mağdurların, zarara neden olan kişinin hatalı eylemini/eylemsizliğini kanıtlaması gerekiyor. Yapay zekanın özerklik ve opaklık ("kara kutu" etkisi olarak adlandırılan) dahil olmak üzere belirli özellikleri, sorumlu kişinin kimliğini belirlemeyi ve başarılı bir sorumluluk talebinin gerekliliklerini kanıtlamayı zorlaştırıyor veya aşırı derecede pahalı hale getiriyor."

Ve ABD milletvekilleri önerilen "Yapay zeka şirketlerinin, modelleri ve sistemleri mahremiyeti ihlal ettiğinde, sivil hakları ihlal ettiğinde veya başka şekilde algılanabilir zararlara neden olduğunda gözetim organı uygulaması ve özel dava hakları yoluyla sorumlu tutulabilmesini sağlamak için İki Partili bir Yapay Zeka Çerçevesi."

Yapay zeka firmalarının yöneticilerini parmaklıklar ardında görmek sizi fazla heyecanlandırmasın: Yapay zeka endüstrisi liderlerinin bu sürece dahil olması, ortaya çıkacak kuralların, lobiciler tarafından etkisiz hale getirilen diğer düzenleyici çerçeveler kadar etkili olacağını gösteriyor.

Ancak heyecan sorunun bir parçası: Yapay zeka modelleri olarak adlandırılan stokastik papağanlar hakkında çok fazla abartı var.

ChatGPT'yi kullanan güvenlik firması Socket'in de belirttiği gibi, yapay zeka modelleri bazı bağlamlarda gerçek değere sahiptir. yardım bayrağı yazılım güvenlik açıkları. Konuşma tanıma, çeviri ve görüntü tanıma konusunda, transkripsiyon yapanların ve CAPTCHA bulmacalarının zararına harikalar yarattılar. Sektörün emektarlarına oyun oynamanın ne kadar eğlenceli olduğunu hatırlattılar eliza, erken bir sohbet robotu. Döngüde bir insan olması koşuluyla, karar destek işlerinde gerçek bir faydaya sahip gibi görünüyorlar. Ve çeşitli bayrakları ve parametreleriyle karmaşık komut satırı büyülerini alıp bunları paragraflarca devam edebilecek aynı derecede karmaşık metin istemlerine dönüştürdüler.

Ancak yapay zekanın sağladığı otomasyonun bir bedeli var. yakın zamanda göre bilimkurgu ticaret dergisi Locus için yazar ve aktivist Cory Doctorow şunları savundu: "Yapay zeka şirketleri, müşterilerinin son derece önemli otomasyon, yangın işçileri için yapay zeka satın alacağı ve bunun sonucunda kendi müşterilerine fiziksel, zihinsel ve ekonomik zarar vereceği konusunda üstü kapalı olarak iddiaya giriyor , bir şekilde bu zararların sorumluluğundan kurtuluyor.

Doctorow, riskler nedeniyle yüksek değerli işletmelerde yapay zeka hizmetleri için anlamlı bir pazarın bulunduğuna şüpheyle yaklaşıyor ve bir kriz içinde olduğumuza inanıyor. yapay zeka balonu. Örnek olarak GM Cruise'a işaret ediyor ve sürücüsüz otomobil şirketinin iş modelinin şu olduğunu belirtiyor: belirsiz yaya yaralanması ve geri çağırma nedeniyle - kaza ve ilgili dava olasılığını ortadan kaldırmadan, her düşük ücretli sürücünün 1.5 daha maliyetli uzaktan gözetmenle değiştirilmesi anlamına gelir.

Aşırı yük

En azından AI ile ilişkili düşük değerli işler için bir miktar potansiyel var. Bunlar, yanlış sohbet için bir API'ye erişim için aylık ödeme yapmayı, sanatçıların stillerini izinsiz olarak seçen algoritmik görsel oluşturmayı veya yüzlerce üretmek sahte haber sitelerinin (veya kitaplar) bir şekilde “bölgeyi sular altında bıraktıYanlış bilgilerle.

Arena Group'un bu ihtimali pek mümkün görünmüyor iddia AI platformunun Sports Illustrated gibi yayınlar için makale oluşturmak için gereken süreyi yüzde 80-90 oranında azaltabilmesi okuyucu memnuniyetini, marka sadakatini veya içerik kalitesini artıracaktır. Ancak belki de firmanın yüzlerce başlığında insan eliyle mümkün olandan daha fazla makale üretmek, botlar tarafından daha fazla sayfa görüntülemesine ve anlaşılamayacak kadar saf reklam alıcılarından daha fazla programatik reklam gelirine yol açacaktır.

Sorunun bir kısmı, birincil AI destekçilerinin (Amazon, Google, Nvidia ve Microsoft) bulut platformları işletmesi veya GPU donanımı satmasıdır. Onlar, yalnızca bulut hizmetlerini veya hesaplama kitlerini satmak isteyen, yapay zeka altına hücumun kazma ve kürek satıcılarıdır. Bu yanılsama sona erene kadar hepsi blockchain ekspresi ve kripto para birimi üstünlüğü için oradaydı.

Şirketlerin yararlı olsun ya da olmasın yapay zeka iş yüklerini yürütmelerine yardımcı olma konusunda daha da istekliler. İşi işlemci kiralama operasyonlarına yönlendirmeyi umarak bulut tohumlama yapıyorlar. Benzer şekilde, altyapısı olmayan makine öğrenimi girişimleri, dönüşüm teknolojisine dair nefes kesici konuşmaların, erken yatırımcıları ödüllendirmek için şirket değerlemelerini şişireceğini umuyor.

Yapay zeka çılgınlığı, kısmen teknoloji endüstrisinin "Sırada ne olacak?" sorusunu yanıtlamak için gösterdiği sürekli çabaya da bağlanabilir. uzun süreli bir durgunluk döneminde. Apple, Google, Amazon, Meta, Microsoft, ve Nvidia anlamlı rekabeti önlemek için hepsi ellerinden geleni yapıyor ve 2000'li yılların ortalarında bulut ve mobil çağın başlangıcından bu yana bunu oldukça iyi başardılar. Rekabete aykırı davranışlar yeni bir şey değil; 2010 sektörünü hatırlayın yerleşme Yeteneklerin birbirlerinden kaçırılmasını önlemek için Adobe, Google, Intel, Intuit ve Pixar arasındaki anlaşmalar konusunda ABD Adalet Bakanlığı ile.

Microsoft, uzun süredir Google Arama'nın gölgesinde kalan Bing ile yapay zeka entegrasyonunun çoğunu gerçekleştirdi ve bunun "aramayı yeniden icat etmek.” Ancak o zamandan bu yana pek bir şey değişmedi – Bing söylendiğine göre Google Arama'nın (artık yapay zekayla dolu) kötüleştiğine dair yaygın bir algının olduğu bir dönemde, Google'dan herhangi bir pazar payı almayı başaramadı.

2024 gelsin

Bundan sonra ne olacağını öğrenmek için Adalet Bakanlığı'nın ve dünyanın başka yerlerindeki düzenleyicilerin değişiklikleri zorlamasını beklememiz gerekecek. antitröst icra ve davalar. Çünkü Google, Apple ve diğerleriyle yaptığı anlaşmalar aracılığıyla arama dağıtımına ve Meta ile yaptığı anlaşma aracılığıyla dijital reklamcılığa kilitlenmiş olsa da (ABD'de temizlendihala soruşturma altında Avrupa ve Birleşik Krallık'ta) ve diğer faaliyetlerde sinirli Adalet Bakanlığı'nın çıkarları – ne kadar yapay zeka sosu eklenirse eklensin, ne arama işi ne de reklam işi yeni rakiplere boyun eğecek gibi görünmüyor.

Yapay zeka sadece finansal anlamda değil aynı zamanda etik anlamda da bir sorumluluktur. Ücret tasarrufu vaat ediyor – buna rağmen son derece olmak bakımından pahalı eğitim, geliştirme ve çevresel Etki – insan emeğine, fikri mülkiyete, zararlı çıktılara ve bilgi doğruluğuna kayıtsızlığı teşvik ederken. Yapay zeka, şirketleri genellikle bilançoda açıkça görülemeyen bir değer katan insanları denklemden çıkarmaya davet ediyor.

Yapay zekanın gerçekten faydalı olması için yer var ancak insanlardan kurtulmak yerine onlara yardım etmek için kullanılması gerekiyor. ®

Zaman Damgası:

Den fazla Kayıt