Sorumlu yapay zeka inovasyonunu mümkün kılacak yeni araç ve yeteneklerin duyurulması | Amazon Web Hizmetleri

Üretken yapay zekanın hızlı büyümesi umut verici yeni inovasyonları beraberinde getiriyor ve aynı zamanda yeni zorlukları da beraberinde getiriyor. Bu zorluklar arasında ön yargı ve açıklanabilirlik gibi üretken yapay zekadan önce de yaygın olan bazı zorluklar yer alıyor. temel modellerine özgü yeni modeller (FM'ler), halüsinasyon ve toksisite dahil. AWS olarak şunları taahhüt ediyoruz: Üretken yapay zekayı sorumlu bir şekilde geliştirmek, Sorumlu yapay zekayı uçtan uca yapay zeka yaşam döngüsüne entegre etmek için eğitime, bilime ve müşterilerimize öncelik veren insan merkezli bir yaklaşım benimsiyoruz.

Geçtiğimiz yıl, üretken yapay zeka uygulamalarımızda ve modellerimizde yerleşik güvenlik taraması gibi yeni yetenekleri kullanıma sunduk. Amazon Kodu Fısıltı, zararlı içeriğin tespit edilmesi ve engellenmesine yönelik eğitim Amazon Titanıve veri gizliliği korumaları Amazon Ana Kayası. Güvenli, şeffaf ve sorumlu üretken yapay zekaya yaptığımız yatırım, hem küresel toplulukla hem de politika yapıcılarla işbirliğini içeriyor; Beyaz Saray Gönüllü Yapay Zeka taahhütleri ve Yapay Zeka Güvenliği Zirvesi İngiltere'de. Sorumlu yapay zekayı, amaca yönelik olarak oluşturulmuş araçlarla operasyonel hale getirmek için müşterilerle el ele çalışmaya devam ediyoruz: Amazon SageMaker Netleştirin, Amazon SageMaker ile Makine Öğrenimi YönetişimiVe daha fazlası.

Yeni sorumlu yapay zeka inovasyonuyla tanışın

Üretken yapay zeka yeni sektörlere, kuruluşlara ve kullanım örneklerine ölçeklendikçe, bu büyümeye sorumlu FM gelişimine yönelik sürdürülebilir bir yatırımın eşlik etmesi gerekiyor. Müşteriler, FM'lerinin güvenlik, adalet ve güvenlik göz önünde bulundurularak oluşturulmasını ve böylece yapay zekayı sorumlu bir şekilde dağıtabilmelerini istiyor. Bu yıl AWS re:Invent'te, yeni yerleşik araçlar, müşteri korumaları, şeffaflığı artıracak kaynaklar ve dezenformasyonla mücadeleye yönelik araçlar içeren geniş bir yetenek yelpazesinde sorumlu üretken yapay zeka inovasyonunu teşvik edecek yeni yetenekleri duyurmaktan heyecan duyuyoruz. Müşterilere, FM'leri toksisite ve sağlamlık gibi önemli sorumlu yapay zeka hususlarına göre değerlendirmek için ihtiyaç duydukları bilgileri sağlamayı ve müşteri kullanım örneklerine ve sorumlu yapay zeka politikalarına dayalı koruma önlemleri uygulamak için korkuluklar sunmayı amaçlıyoruz. Aynı zamanda müşterilerimiz, kendi organizasyonlarında kullandıkları yapay zeka hizmetleri ve FM'lerin güvenliği, adilliği, güvenliği ve diğer özellikleri hakkında daha iyi bilgi sahibi olmak istiyor. Müşterilerimizin AWS AI hizmetlerimizi daha iyi anlamalarına ve istedikleri şeffaflığı sunmalarına yardımcı olacak daha fazla kaynağı duyurmaktan heyecan duyuyoruz.

Koruma önlemlerinin uygulanması: Amazon Bedrock için Korkuluklar

Üretken yapay zekanın geniş ölçekte kullanıma sunulması söz konusu olduğunda güvenlik bir önceliktir. Kuruluşlar, müşterileri ile üretken yapay zeka uygulamaları arasında, zararlı veya saldırgan dilden kaçınan ve şirket politikalarıyla uyumlu güvenli etkileşimleri teşvik etmek istiyor. Bunu yapmanın en kolay yolu, herkesin güvenli bir şekilde yenilik yapabilmesi için tüm kuruluş genelinde tutarlı koruma önlemleri almaktır. Dün önizlemesini duyurduk Amazon Ana Kayası için Korkuluklar—Müşteri kullanım senaryolarına ve sorumlu yapay zeka politikalarına dayalı olarak uygulamaya özel koruma önlemlerinin uygulanmasını kolaylaştıran yeni bir yetenek.

Korkuluklar, Amazon Bedrock'taki FM'lerin uygulamalardaki istenmeyen ve zararlı içeriğe nasıl tepki vereceği konusunda tutarlılığı artırır. Müşteriler, korkulukları Amazon Bedrock'taki büyük dil modellerinin yanı sıra ince ayarlı modellere ve aşağıdakilerle birlikte uygulayabilir: Amazon Bedrock Temsilcileri. Guardrails, kaçınılması gereken konuları belirtmenize olanak tanır ve hizmet, kısıtlı kategorilere giren sorguları ve yanıtları otomatik olarak algılayıp engeller. Müşteriler ayrıca, zararlı içeriği istenen seviyeye kadar filtrelemek için nefret söylemi, hakaret, cinselleştirilmiş dil ve şiddet gibi kategorilerdeki içerik filtreleme eşiklerini de yapılandırabilirler. Örneğin, yatırım tavsiyesi vermekten kaçınmak ve uygunsuz içerikleri (nefret söylemi, hakaret, şiddet gibi) sınırlamak için bir çevrimiçi bankacılık uygulaması kurulabilir. Yakın gelecekte müşteriler aynı zamanda kullanıcı girdilerindeki ve FM'lerin yanıtlarındaki kişisel olarak tanımlanabilir bilgileri (PII) çıkarabilecek, küfür filtreleri ayarlayabilecek ve kullanıcılar ile FM'ler arasındaki etkileşimlerde engellenecek özel kelimelerin bir listesini sunarak uyumluluğu artırabilecek ve daha da ileri düzeyde hizmet sunabilecek. kullanıcıları korumak. Guardrails ile üretken yapay zeka ile daha hızlı yenilik yaparken, aynı zamanda şirket politikalarıyla tutarlı koruma ve güvenlik tedbirlerini sürdürebilirsiniz.

Belirli bir kullanım durumu için en iyi FM'yi belirleme: Amazon Bedrock'ta Model Değerlendirmesi

Günümüzde kuruluşlar, üretken yapay zeka uygulamalarını desteklemek için çok çeşitli FM seçeneklerine sahiptir. Kullanım senaryolarına göre doğru doğruluk ve performans dengesini yakalamak için kuruluşların modelleri verimli bir şekilde karşılaştırması ve kendileri için önemli olan sorumlu yapay zeka ve kalite ölçümlerine dayalı olarak en iyi seçeneği bulmaları gerekir. Modelleri değerlendirmek için kuruluşların öncelikle kriterleri belirlemek, değerlendirme araçlarını ayarlamak ve değerlendirmeleri yürütmek için günler harcaması gerekir; bunların tümü veri biliminde derin uzmanlık gerektirir. Ayrıca bu testler, sıkıcı, zaman alıcı, insan incelemesi iş akışları aracılığıyla karar vermeyi gerektiren öznel kriterlerin (örneğin, marka sesi, alaka düzeyi ve stil) değerlendirilmesi için yararlı değildir. Her yeni kullanım durumu için bu değerlendirmeler için gereken zaman, uzmanlık ve kaynaklar, kuruluşların modelleri sorumlu yapay zeka boyutlarına göre değerlendirmesini ve hangi modelin müşterilerine en doğru, güvenli deneyimi sağlayacağı konusunda bilinçli bir seçim yapmasını zorlaştırıyor.

Artık önizlemede mevcut, Amazon Ana Kayasında Model Değerlendirmesi Müşterilerin, otomatik veya insan değerlendirmelerini kullanarak doğruluk ve güvenlik gibi özel ölçümlere dayalı olarak kendi özel kullanım durumları için en iyi FM'leri değerlendirmesine, karşılaştırmasına ve seçmesine yardımcı olur. Amazon Bedrock konsolunda müşteriler, soru yanıtlama veya içerik özetleme gibi belirli bir görev için karşılaştırmak istedikleri FM'leri seçerler. Otomatik değerlendirmeler için müşteriler önceden tanımlanmış değerlendirme kriterlerini (örneğin doğruluk, sağlamlık ve toksisite) seçer ve kendi test veri kümelerini yükler veya yerleşik, kamuya açık veri kümeleri arasından seçim yapar. Sübjektif kriterler veya muhakeme gerektiren incelikli içerikler için müşteriler, yalnızca birkaç tıklamayla kolayca insan temelli değerlendirme iş akışları oluşturabilir. Bu iş akışları, model yanıtlarını değerlendirmek için müşterinin şirket içi çalışma ekibinden yararlanır veya AWS tarafından sağlanan yönetilen bir iş gücünden yararlanır. İnsan temelli değerlendirmeler sırasında müşteriler, kullanım durumuna özgü ölçümleri (örneğin, alaka düzeyi, stil ve marka sesi) tanımlar. Müşteriler kurulum sürecini tamamladıktan sonra Amazon Bedrock değerlendirmeleri yürütür ve bir rapor oluşturur; böylece müşteriler modelin temel güvenlik ve doğruluk kriterlerine göre nasıl performans gösterdiğini kolayca anlayabilir ve kullanım durumları için en iyi modeli seçebilirler.

Modelleri değerlendirme yeteneği Amazon Bedrock ile sınırlı değildir; müşteriler aynı zamanda Amazon SageMaker Clarify'daki model değerlendirmesini kullanarak doğruluk, sağlamlık ve toksisite gibi temel kalite ve sorumluluk ölçümleri genelinde en iyi FM seçeneğini kolayca değerlendirmek, karşılaştırmak ve seçmek için kullanabilirler. tüm FM'ler.

Dezenformasyonla mücadele: Amazon Titan'da filigranlama

Bugün duyurduk Amazon Titan Görüntü Oluşturucu önizlemede, müşterilerin yüksek kaliteli görüntüleri geniş ölçekte hızlı bir şekilde üretmesine ve geliştirmesine olanak tanır. Eğitim verileri seçimi, uygunsuz kullanıcı girişlerini ve model çıktılarını tespit etmek ve kaldırmak için filtreleme yetenekleri oluşturmak ve model çıktılarımızın demografik çeşitliliğini geliştirmek dahil olmak üzere model geliştirme sürecinin her aşamasında sorumlu yapay zekayı değerlendirdik. Amazon Titan tarafından oluşturulan tüm görüntüler, varsayılan olarak görünmez bir filigran içerir; bu, yapay zeka tarafından oluşturulan görüntüleri tanımlamak için gizli bir mekanizma sağlayarak dezenformasyonun yayılmasını azaltmaya yardımcı olmak üzere tasarlanmıştır. AWS, görüntü çıktılarına entegre edilen ve değişikliklere karşı dayanıklı olacak şekilde tasarlanan yerleşik görünmez filigranları geniş çapta yayınlayan ilk model sağlayıcılar arasındadır.

Güven oluşturmak: Tazminatla modellerimizin ve uygulamalarımızın arkasında durmak

Müşteri güvenini oluşturmak AWS'nin temelidir. Kuruluşumuzdan bu yana müşterilerimizle birlikte bir yolculuğa çıkıyoruz ve üretken yapay zekanın büyümesiyle birlikte yenilikçi teknolojiler oluşturma kararlılığımızı sürdürüyoruz. Müşterilerin üretken yapay zekamızın gücünden yararlanabilmesi için korunduklarını bilmeleri gerekiyor. AWS, aşağıdaki Amazon üretken yapay zeka hizmetlerinin çıktıları için telif hakkı tazminatı kapsamı sunar: Amazon Titan Text Express, Amazon Titan Text Lite, Amazon Titan Embeddings, Amazon Titan Multimodal Embeddings, Amazon CodeWhisperer Professional, AWS HealthScribe, Amazon Lex'i, ve Amazon Kişiselleştir. Bu, hizmetleri sorumlu bir şekilde kullanan müşterilerin, bu hizmetler tarafından üretilen çıktılar nedeniyle telif hakkı ihlali iddiasında bulunan üçüncü taraf iddialarına karşı korunduğu anlamına gelir (bkz. Bölüm 50.10). Servis Koşulları). Ayrıca, hizmetlerin kullanımına ilişkin standart Fikri Mülkiyet tazminatımız, müşterilerimizi, hizmetlerin ve onları eğitmek için kullanılan verilerin fikri mülkiyet haklarını ihlal ettiğini iddia eden üçüncü taraf iddialarına karşı korur. Başka bir deyişle, yukarıda listelenen bir Amazon üretken yapay zeka hizmetini kullanıyorsanız ve birisi size IP ihlali nedeniyle dava açarsa, AWS, aleyhinize verilecek her türlü hükmün veya uzlaşma masraflarının karşılanması da dahil olmak üzere bu davayı savunacaktır.

Üretken yapay zeka hizmetlerimizin arkasında duruyoruz ve bunları sürekli olarak geliştirmek için çalışıyoruz. AWS yeni hizmetler başlattıkça ve üretken yapay zeka gelişmeye devam ettikçe, AWS aralıksız olarak müşteri güvenini kazanmaya ve sürdürmeye odaklanmaya devam edecek.

Şeffaflığı artırma: Amazon Titan Text için AWS AI Hizmet Kartı

We AWS AI Hizmet Kartlarını tanıttı re:Invent 2022'yi müşterilerin AWS AI hizmetlerimizi daha iyi anlamalarına yardımcı olacak bir şeffaflık kaynağı olarak sunuyoruz. Yapay Zeka Hizmet Kartları, müşterilere yapay zeka hizmetlerimiz için amaçlanan kullanım örnekleri ve sınırlamalar, sorumlu yapay zeka tasarım seçimleri ve dağıtım ve performans optimizasyonu en iyi uygulamaları hakkında bilgileri bulmaları için tek bir yer sağlayan, sorumlu yapay zeka belgelerinin bir biçimidir. Bunlar, hizmetlerimizi adalet, açıklanabilirlik, doğruluk ve sağlamlık, yönetişim, şeffaflık, gizlilik ve güvenlik, güvenlik ve kontrol edilebilirliği ele alan sorumlu bir şekilde oluşturmak için üstlendiğimiz kapsamlı bir geliştirme sürecinin parçasıdır.

re:Invent'te bu yıl bir duyuru yapıyoruz: Amazon Titan Text için yeni AI Hizmet Kartı temel modellerinde şeffaflığı artırmak. Ayrıca aşağıdakileri içeren dört yeni Yapay Zeka Hizmet Kartını da piyasaya sürüyoruz: Amazon Comprehend Detect PII, Amazon Transcribe Toksisite Tespiti, Amazon Tanıma Yüz Canlılığı, ve AWS HealthScribe. Bu kartların her birini şurada keşfedebilirsiniz: AWS'nin web sitesi. Üretken yapay zeka büyümeye ve gelişmeye devam ettikçe teknolojinin nasıl geliştirildiğine, test edildiğine ve kullanıldığına ilişkin şeffaflık, hem kuruluşların hem de müşterilerinin güvenini kazanmak için hayati bir bileşen olacaktır. AWS olarak, AI Hizmet Kartları gibi şeffaflık kaynaklarını daha geniş bir topluluğa sunmaya ve ilerlemenin en iyi yollarını yineleyip geri bildirim toplamaya devam etmeye kararlıyız.

Üretken yapay zeka yaşam döngüsünün tamamı boyunca sorumlu yapay zekaya yatırım yapmak

Bu hafta re:Invent'te duyurulan ve müşterilerimize üretken yapay zekayı güvenli bir şekilde oluşturmaları ve kullanmaları için daha fazla araç, kaynak ve yerleşik koruma sağlayan yeni yenilikler bizi heyecanlandırıyor. Model değerlendirmeden korkuluklara ve filigranlamaya kadar müşteriler artık riskleri azaltırken üretken yapay zekayı kuruluşlarına daha hızlı getirebilirler. IP tazminat kapsamı gibi müşterilere yönelik yeni korumalar ve ek AI Hizmet Kartları gibi şeffaflığı artırmaya yönelik yeni kaynaklar da teknoloji şirketleri, politika yapıcılar, topluluk grupları, bilim adamları ve daha fazlası arasında güven oluşturma kararlılığımızın temel örnekleridir. Müşterilerimizin yapay zekayı güvenli, emniyetli ve sorumlu bir şekilde ölçeklendirmelerine yardımcı olmak için bir temel modelinin yaşam döngüsü boyunca sorumlu yapay zekaya anlamlı yatırımlar yapmaya devam ediyoruz.

---

Yazarlar Hakkında

Peter Hallinan Sorumlu yapay zeka uzmanlarından oluşan bir ekibin yanı sıra AWS AI'da Sorumlu Yapay Zeka bilimi ve uygulamasında girişimlere liderlik eder. Yapay zeka (PhD, Harvard) ve girişimcilik (Blindsight, Amazon'a satıldı) alanlarında derin bir uzmanlığa sahiptir. Gönüllü faaliyetleri arasında Stanford Üniversitesi Tıp Fakültesi'nde danışman profesör ve Madagaskar'daki Amerikan Ticaret Odası başkanı olarak görev yapmak yer alıyor. Mümkün olduğunda çocuklarıyla birlikte dağlara çıkıyor: kayak, tırmanma, yürüyüş ve rafting

Vasi Filomin şu anda AWS'de Üretken Yapay Zeka Başkan Yardımcısıdır. Amazon Bedrock, Amazon Titan ve Amazon CodeWhisperer gibi üretken yapay zeka çalışmalarına liderlik ediyor.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/