Yapay zekada çeşitliliğin önemi fikir değil, matematiktir - IBM Blog

Hepimiz ideal insan değerlerimizin teknolojilerimize yansıdığını görmek isteriz. Yapay zeka (AI) gibi teknolojilerin bize yalan söylememesini, ayrımcılık yapmamasını, bizim ve çocuklarımızın kullanımının güvenli olmasını bekliyoruz. Ancak birçok yapay zeka yaratıcısı, modellerinde ortaya çıkan önyargılar, yanlışlıklar ve sorunlu veri uygulamaları nedeniyle şu anda tepkiyle karşı karşıya kalıyor. Bu sorunlar teknik, algoritmik veya yapay zeka tabanlı bir çözümden fazlasını gerektirir. Gerçekte bütünsel, sosyo-teknik bir yaklaşım gereklidir.

Matematik güçlü bir gerçeği gösteriyor

Yapay zeka da dahil olmak üzere tüm tahmine dayalı modeller, çeşitli insan zekası ve deneyimlerini birleştirdiklerinde daha doğrudur. Bu bir görüş değil; ampirik geçerliliği vardır. Yi hesaba kat çeşitlilik tahmin teoremi. Basitçe söylemek gerekirse, bir gruptaki çeşitlilik büyük olduğunda kalabalığın hatası küçüktür; bu da "kalabalığın bilgeliği" kavramını destekler. Etkili bir çalışmada, düşük yetenekli problem çözücülerden oluşan çeşitli grupların, yüksek yetenekli problem çözücülerden oluşan gruplardan daha iyi performans gösterebildiği gösterilmiştir (Hong ve Sayfa, 2004).

Matematik dilinde: Varyansınız ne kadar geniş olursa, ortalamanız da o kadar standart olur. Denklem şöyle görünür:

A ilerideki çalışma diğer üyelerin tahminlerinin göz ardı edilmesi ve tahminleri olanların dahil edilmesi de dahil olmak üzere, bilge bir kalabalığın istatistiksel tanımlarını hassaslaştıran daha fazla hesaplama sağladı. maksimum derecede farklı (negatif korelasyonlu) tahminler veya yargılar. Yani tahminleri geliştiren şey sadece hacim değil çeşitliliktir. Bu içgörü yapay zeka modellerinin değerlendirilmesini nasıl etkileyebilir?

Model/doğruluğu

Ortak bir aforizmayı alıntılamak gerekirse, tüm modeller yanlıştır. Bu istatistik, bilim ve yapay zeka alanlarında da geçerlidir. Alan uzmanlığı eksikliği ile oluşturulan modeller aşağıdaki sonuçlara yol açabilir: hatalı çıkışlar.

Bugün, İngilizceyi fazlasıyla temsil eden kaynaklardan alınan üretken yapay zeka modellerini eğitmek için hangi verilerin kullanılacağını küçük, homojen bir grup insan belirliyor. “Dünyadaki 6,000'den fazla dilin çoğu için mevcut metin verileri, büyük ölçekli bir temel modeli eğitmek için yeterli değil” (“Temel Modellerinin Fırsatları ve Riskleri Üzerine”Bommasani ve diğerleri, 2022).

Ek olarak, modellerin kendisi de sınırlı mimarilerden yaratılıyor: “En son teknolojiye sahip NLP modellerinin neredeyse tamamı artık BERT, RoBERTa, BART, T5 vb. gibi birkaç temel modelden birinden uyarlanıyor. son derece yüksek kaldıraç (temel modellerdeki herhangi bir iyileştirme, tüm NLP'de anında faydalara yol açabilir), bu aynı zamanda bir sorumluluktur; tüm yapay zeka sistemleri birkaç temel modeldeki aynı sorunlu önyargıları miras alabilir (Bommasani ve ark.) "

Üretken yapay zekanın hizmet verdiği çeşitli toplulukları daha iyi yansıtabilmesi için, çok daha çeşitli insan verilerinin modellerde temsil edilmesi gerekiyor.

Model doğruluğunun değerlendirilmesi, önyargının değerlendirilmesiyle el ele gider. Modelin amacının ne olduğunu ve kimin için optimize edildiğini sormalıyız. Örneğin, içerik öneri algoritmalarından ve arama motoru algoritmalarından en çok kimin yararlandığını düşünün. Paydaşların çok farklı çıkarları ve hedefleri olabilir. Algoritmalar ve modeller, Bayes hatası için hedefler veya proxy'ler gerektirir: bir modelin iyileştirilmesi gereken minimum hata. Bu vekil genellikle, alan uzmanlığına sahip bir konu uzmanı gibi bir kişidir.

Oldukça insani bir zorluk: Model satın alma veya geliştirme öncesinde riskin değerlendirilmesi

Ortaya çıkan yapay zeka düzenlemeleri ve eylem planları, algoritmik etki değerlendirme formlarının önemini giderek daha fazla vurguluyor. Bu formların amacı, yönetişim ekiplerinin riskleri dağıtmadan önce değerlendirip ele alabilmeleri için yapay zeka modelleri hakkında kritik bilgileri yakalamaktır. Tipik sorular şunları içerir:

• Modelinizin kullanım durumu nedir?
• Farklı etki riskleri nelerdir?
• Adaleti nasıl değerlendiriyorsunuz?
• Modelinizi nasıl açıklanabilir hale getiriyorsunuz?

Her ne kadar iyi niyetle tasarlanmış olsa da sorun çoğu yapay zeka modeli sahibinin kendi kullanım durumları için riskleri nasıl değerlendireceklerini anlamamasıdır. Yaygın bir nakarat şu olabilir: "Kişisel olarak tanımlanabilir bilgileri (PII) toplamıyorsa modelim nasıl adaletsiz olabilir?" Sonuç olarak formlar, yönetişim sistemlerinin risk faktörlerini doğru bir şekilde işaretlemesi için gerekli olan düşüncelilikle nadiren doldurulur.

Böylece çözümün sosyo-teknik doğasının altı çizilmektedir. Bir model sahibine (bir bireye) kullanım senaryosunun zarar verip vermeyeceğini değerlendirmesi için basitçe bir onay kutusu listesi verilemez. Bunun yerine, gerekli olan şey, çok çeşitli yaşanmış dünya deneyimlerine sahip insan gruplarının, farklı etkiler hakkında zor konuşmalar yapmak için psikolojik güvenlik sunan topluluklarda bir araya gelmesidir.

Güvenilir yapay zeka için daha geniş perspektifleri memnuniyetle karşılıyoruz

IBM®, danışmanlık ve ürün odaklı çözümler genelinde kendi müşterileri için yapacağı önerileri ve sistemleri uygulayarak "sıfır müşteri" yaklaşımını benimsemeye inanmaktadır. Bu yaklaşım etik uygulamaları da kapsamaktadır; bu nedenle IBM, Güvenilir Yapay Zeka Mükemmeliyet Merkezi'ni (COE) oluşturdu.

Yukarıda açıklandığı gibi, deneyim ve beceri çeşitliliği, yapay zekanın etkilerini doğru bir şekilde değerlendirmek için kritik öneme sahiptir. Ancak bir Mükemmeliyet Merkezi'ne katılma ihtimali, yapay zeka alanında yenilikçiler, uzmanlar ve seçkin mühendislerle dolup taşan bir şirket için korkutucu olabilir; bu nedenle, psikolojik güvenlik sağlayan bir topluluk oluşturmak gerekiyor. IBM bunu şu sözlerle açıkça ifade ediyor: “Yapay zekayla ilgileniyor musunuz? Yapay zeka etiğiyle ilgileniyor musunuz? Bu masada yeriniz var."

COE, her düzeydeki uygulayıcılara yapay zeka etiği konusunda eğitim sunmaktadır. Hem eşzamanlı öğrenme (sınıf ortamlarında öğretmen ve öğrenciler) hem de eşzamansız (kendi kendine rehberlik eden) programlar sunulmaktadır.

Ama bu COE'nin uygulamalı Farklı etkileri daha iyi anlamak için gerçek projeler üzerinde küresel, çeşitli, çok disiplinli ekiplerle çalışan uygulayıcılarımıza en derin içgörüleri sağlayan eğitim. Ayrıca IBM'in sunduğu tasarım odaklı düşünme çerçevelerinden de yararlanıyorlar. Yapay zeka için tasarım grup, yapay zeka modellerinin istenmeyen etkilerini değerlendirmek için şirket içinde ve müşterilerle birlikte kullanır ve genellikle dışlananları akılda tutar. (Bkz. Sylvia Duckworth'un Güç ve Ayrıcalık Çarkı kişisel özelliklerin insanları ayrıcalıklı kılmak veya ötekileştirmek için nasıl kesiştiğine dair örnekler için.) IBM ayrıca çerçevelerin çoğunu açık kaynak topluluğuna bağışladı Etik Tasarım.

Aşağıda IBM'in bu projelere ilişkin kamuya açıkladığı raporlardan birkaçı yer almaktadır:

Otomatik yapay zeka modeli yönetişim araçları, yapay zeka modelinizin nasıl performans gösterdiğine ilişkin önemli bilgiler toplamak için gereklidir. Ancak modeliniz geliştirilmeden ve üretime geçmeden önce riski yakalamanın en uygun yöntem olduğunu unutmayın. İnsanların farklı etkiler hakkında zorlu konuşmalar yapması için güvenli bir alan sunan, çeşitli ve çok disiplinli uygulayıcılardan oluşan topluluklar oluşturarak, ilkelerinizi uygulamaya koyma ve yapay zekayı sorumlu bir şekilde geliştirme yolculuğunuza başlayabilirsiniz.

Uygulamada, yapay zeka uygulayıcılarını işe alırken, model oluşturma çabasının %70'inden fazlasının doğru verileri seçmek olduğunu göz önünde bulundurun. Temsili olan ve aynı zamanda rıza alınarak toplanan verilerin nasıl toplanacağını bilen kişileri işe almak istiyorsunuz. Ayrıca, alan uzmanlarıyla yakın işbirliği içinde çalışmayı bilen kişilerin doğru yaklaşıma sahip olduklarından emin olmalarını da istiyorsunuz. Bu uygulayıcıların, yapay zekayı tevazu ve anlayışla sorumlu bir şekilde iyileştirme zorluğuna yaklaşacak duygusal zekaya sahip olmalarını sağlamak çok önemlidir. Yapay zeka sistemlerinin insan zekasını artırabildiği kadar eşitsizliği nasıl ve ne zaman artırabileceğini nasıl anlayacağımızı öğrenme konusunda bilinçli olmalıyız.

Yapay zeka ile işletmenizin çalışma şeklini yeniden keşfedin