اعلام ابزارها و قابلیت های جدید برای فعال کردن نوآوری هوش مصنوعی مسئول | خدمات وب آمازون

رشد سریع هوش مصنوعی مولد نوآوری نویدبخش جدیدی را به ارمغان می آورد و در عین حال چالش های جدیدی را به وجود می آورد. این چالش ها شامل مواردی است که قبل از هوش مصنوعی مولد رایج بودند، مانند سوگیری و توضیح پذیری، و موارد جدید منحصر به فرد برای مدل های فونداسیون (FMs)، از جمله توهم و سمیت. در AWS، ما متعهد هستیم توسعه هوش مصنوعی مولد به طور مسئولانه، اتخاذ رویکردی مردم‌محور که آموزش، علم و مشتریان ما را در اولویت قرار می‌دهد تا هوش مصنوعی مسئولانه را در چرخه عمر هوش مصنوعی ادغام کند.

در طول سال گذشته، ما قابلیت‌های جدیدی را در برنامه‌ها و مدل‌های هوش مصنوعی مولد خود مانند اسکن امنیتی داخلی در آمازون کد Whisperer، آموزش شناسایی و مسدود کردن محتوای مضر در آمازون تایتانو حفاظت از حریم خصوصی داده ها در بستر آمازون. سرمایه‌گذاری ما در هوش مصنوعی مولد ایمن، شفاف و مسئولانه شامل همکاری با جامعه جهانی و سیاست‌گذاران است که هر دو را تشویق و حمایت می‌کنیم. تعهدات داوطلبانه هوش مصنوعی کاخ سفید و اجلاس ایمنی هوش مصنوعی در بریتانیا. و ما به کار دست در دست مشتریان برای عملیاتی کردن هوش مصنوعی مسئول با ابزارهای هدفمند مانند Amazon SageMaker Clarify, مدیریت ML با آمازون SageMaker، و بیشتر.

معرفی نوآوری جدید هوش مصنوعی مسئول

از آنجایی که هوش مصنوعی مولد برای صنایع، سازمان‌ها و موارد استفاده جدید مقیاس می‌شود، این رشد باید با سرمایه‌گذاری پایدار در توسعه FM مسئولانه همراه باشد. مشتریان می‌خواهند FM‌هایشان با در نظر گرفتن ایمنی، انصاف و امنیت ساخته شود تا بتوانند به نوبه خود هوش مصنوعی را مسئولانه مستقر کنند. در AWS re:Invent امسال، ما هیجان‌زده هستیم که قابلیت‌های جدیدی را برای تقویت نوآوری هوش مصنوعی مولد مسئولانه در مجموعه گسترده‌ای از قابلیت‌ها با ابزارهای داخلی جدید، حفاظت از مشتری، منابع برای افزایش شفافیت، و ابزارهایی برای مبارزه با اطلاعات نادرست اعلام کنیم. هدف ما ارائه اطلاعاتی به مشتریان برای ارزیابی FMها در برابر ملاحظات کلیدی هوش مصنوعی مسئول، مانند سمیت و استحکام، و معرفی نرده‌های محافظ برای اعمال حفاظت‌ها بر اساس موارد استفاده مشتری و سیاست‌های هوش مصنوعی مسئول است. در عین حال، مشتریان ما می‌خواهند از ایمنی، انصاف، امنیت و سایر ویژگی‌های سرویس‌های هوش مصنوعی و FMها مطلع شوند، زیرا آنها در سازمان خود از آنها استفاده می‌کنند. ما هیجان زده هستیم که منابع بیشتری را برای کمک به مشتریان برای درک بهتر خدمات هوش مصنوعی AWS ما و ارائه شفافیت مورد نظر خود اعلام کنیم.

اجرای پادمان ها: نرده های محافظ برای آمازون بستر

هنگام معرفی هوش مصنوعی مولد در مقیاس، ایمنی یک اولویت است. سازمان‌ها می‌خواهند تعاملات ایمن بین مشتریان خود و برنامه‌های کاربردی هوش مصنوعی ایجاد کنند که از زبان مضر یا توهین‌آمیز اجتناب کرده و با خط‌مشی‌های شرکت همسو باشد. ساده ترین راه برای انجام این کار این است که تدابیر حفاظتی منسجمی را در کل سازمان اعمال کنید تا همه بتوانند با خیال راحت نوآوری کنند. دیروز پیش نمایش را اعلام کردیم نرده های محافظ برای بستر آمازون— قابلیت جدیدی که اجرای پادمان های خاص برنامه را بر اساس موارد استفاده مشتری و سیاست های هوش مصنوعی مسئول آسان می کند.

گاردریل‌ها در نحوه پاسخگویی FMها در Amazon Bedrock به محتوای نامطلوب و مضر در برنامه‌ها، ثبات را ایجاد می‌کنند. مشتریان می‌توانند نرده‌های محافظ را برای مدل‌های زبان بزرگ در Amazon Bedrock و همچنین مدل‌های تنظیم‌شده و در ترکیب با نمایندگان آمازون بستر. Guardrails به شما امکان می‌دهد موضوعاتی را که باید از آنها اجتناب شود را مشخص کنید، و این سرویس به طور خودکار سؤالات و پاسخ‌هایی را که در دسته‌های محدود قرار می‌گیرند شناسایی کرده و از آنها جلوگیری می‌کند. مشتریان همچنین می‌توانند آستانه‌های فیلتر محتوا را در دسته‌هایی از جمله سخنان مشوق عداوت و تنفر، توهین، زبان جنسی و خشونت پیکربندی کنند تا محتوای مضر را تا سطح مورد نظر فیلتر کنند. به عنوان مثال، یک برنامه بانکداری آنلاین را می توان برای جلوگیری از ارائه مشاوره سرمایه گذاری و محدود کردن محتوای نامناسب (مانند سخنان نفرت انگیز، توهین، و خشونت) راه اندازی کرد. در آینده نزدیک، مشتریان همچنین می‌توانند اطلاعات شناسایی شخصی (PII) را در ورودی‌های کاربر و پاسخ‌های FM‌ها ویرایش کنند، فیلترهای ناسزا را تنظیم کنند، و فهرستی از کلمات سفارشی را برای مسدود کردن تعاملات بین کاربران و FMها ارائه کنند، و انطباق را بهبود بخشند و موارد دیگر را افزایش دهند. محافظت از کاربران با Guardrails، می‌توانید با هوش مصنوعی مولد سریع‌تر نوآوری کنید و در عین حال محافظت‌ها و پادمان‌ها را مطابق با سیاست‌های شرکت حفظ کنید.

شناسایی بهترین FM برای یک مورد خاص: ارزیابی مدل در Amazon Bedrock

امروزه، سازمان‌ها طیف وسیعی از گزینه‌های FM را برای تقویت برنامه‌های هوش مصنوعی تولیدی خود دارند. برای ایجاد تعادل مناسب از دقت و عملکرد برای مورد استفاده خود، سازمان ها باید به طور موثر مدل ها را مقایسه کنند و بهترین گزینه را بر اساس معیارهای هوش مصنوعی مسئول کلیدی و کیفیت که برای آنها مهم است بیابند. برای ارزیابی مدل‌ها، سازمان‌ها ابتدا باید روزها را صرف شناسایی معیارها، راه‌اندازی ابزارهای ارزیابی و اجرای ارزیابی‌ها کنند که همگی به تخصص عمیق در علم داده نیاز دارند. علاوه بر این، این آزمون‌ها برای ارزیابی معیارهای ذهنی (به عنوان مثال، صدای برند، ارتباط و سبک) که نیاز به قضاوت از طریق جریان‌های کاری خسته‌کننده، زمان‌بر، و بازبینی انسانی دارد، مفید نیستند. زمان، تخصص و منابع مورد نیاز برای این ارزیابی‌ها - برای هر مورد استفاده جدید - ارزیابی مدل‌ها را در برابر ابعاد هوش مصنوعی و انتخاب آگاهانه درباره اینکه چه مدلی دقیق‌ترین و مطمئن‌ترین تجربه را برای مشتریانشان ارائه می‌کند، برای سازمان‌ها دشوار می‌کند.

اکنون در پیش نمایش موجود است، ارزیابی مدل در آمازون بستر به مشتریان کمک می کند تا بهترین FM ها را برای موارد استفاده خاص خود بر اساس معیارهای سفارشی، مانند دقت و ایمنی، با استفاده از ارزیابی های خودکار یا انسانی ارزیابی، مقایسه و انتخاب کنند. در کنسول بستر آمازون، مشتریان FM هایی را که می خواهند برای یک کار معین مقایسه کنند، مانند پاسخ به پرسش یا خلاصه سازی محتوا، انتخاب می کنند. برای ارزیابی های خودکار، مشتریان معیارهای ارزیابی از پیش تعریف شده (مانند دقت، استحکام و سمیت) را انتخاب می کنند و مجموعه داده آزمایشی خود را آپلود می کنند یا از مجموعه داده های داخلی و در دسترس عموم انتخاب می کنند. برای معیارهای ذهنی یا محتوای ظریفی که نیاز به قضاوت دارند، مشتریان به راحتی می‌توانند گردش‌های کاری ارزیابی مبتنی بر انسان را تنها با چند کلیک تنظیم کنند. این گردش‌ها از تیم کاری داخلی مشتری استفاده می‌کنند، یا از نیروی کار مدیریت شده ارائه شده توسط AWS برای ارزیابی پاسخ‌های مدل استفاده می‌کنند. در طی ارزیابی‌های مبتنی بر انسان، مشتریان معیارهای استفاده را تعریف می‌کنند (به عنوان مثال، ارتباط، سبک و صدای برند). هنگامی که مشتریان فرآیند راه‌اندازی را به پایان می‌رسانند، Amazon Bedrock ارزیابی‌ها را اجرا می‌کند و گزارشی را ایجاد می‌کند، بنابراین مشتریان به راحتی می‌توانند عملکرد مدل را در معیارهای کلیدی ایمنی و دقت درک کنند و بهترین مدل را برای مورد استفاده خود انتخاب کنند.

این توانایی برای ارزیابی مدل‌ها به Amazon Bedrock محدود نمی‌شود، مشتریان همچنین می‌توانند از ارزیابی مدل در Amazon SageMaker Clarify استفاده کنند تا به راحتی بهترین گزینه FM را در بین معیارهای کیفیت و مسئولیت کلیدی مانند دقت، استحکام و سمیت ارزیابی، مقایسه و انتخاب کنند. همه اف ام ها

مبارزه با اطلاعات نادرست: واترمارکینگ در آمازون تایتان

امروز اعلام کردیم مولد تصویر آمازون تایتان در پیش‌نمایش، که مشتریان را قادر می‌سازد تا به سرعت تصاویر با کیفیت بالا را در مقیاس تولید کرده و بهبود بخشند. ما هوش مصنوعی مسئول را در طول هر مرحله از فرآیند توسعه مدل، از جمله انتخاب داده‌های آموزشی، ایجاد قابلیت‌های فیلتر برای شناسایی و حذف ورودی‌ها و خروجی‌های مدل نامناسب کاربر، و بهبود تنوع جمعیتی خروجی‌های مدل، در نظر گرفتیم. تمام تصاویر تولید شده توسط آمازون تایتان به طور پیش فرض حاوی یک واترمارک نامرئی هستند که برای کمک به کاهش انتشار اطلاعات نادرست با ارائه مکانیزمی محتاطانه برای شناسایی تصاویر تولید شده توسط هوش مصنوعی طراحی شده است. AWS یکی از اولین ارائه دهندگان مدل است که به طور گسترده واترمارک های نامرئی داخلی را منتشر می کند که در خروجی های تصویر ادغام شده اند و به گونه ای طراحی شده اند که در برابر تغییرات مقاوم باشند.

ایجاد اعتماد: پشت سر مدل ها و برنامه های ما با غرامت ایستاده ایم

ایجاد اعتماد مشتری هسته اصلی AWS است. ما از زمان آغاز به کار با مشتریان خود در سفر بوده‌ایم و با رشد هوش مصنوعی مولد، متعهد به ساخت فناوری نوآورانه با هم هستیم. برای اینکه مشتریان بتوانند از قدرت هوش مصنوعی مولد ما استفاده کنند، باید بدانند که از آنها محافظت می شود. AWS پوشش غرامت حق نسخه‌برداری را برای خروجی‌های خدمات هوش مصنوعی مولد آمازون ارائه می‌کند: Amazon Titan Text Express، Amazon Titan Text Lite، Amazon Titan Embeddings، Amazon Titan Multimodal Embeddings، Amazon CodeWhisperer Professional، AWS HealthScribe, آمازون لکسو آمازون شخصی سازی کنید. این بدان معناست که مشتریانی که مسئولانه از خدمات استفاده می‌کنند در برابر ادعاهای شخص ثالث مبنی بر نقض حق نسخه‌برداری توسط خروجی‌های تولید شده توسط آن خدمات محافظت می‌شوند (به بخش 50.10 مراجعه کنید. شرایط خدمات). علاوه بر این، غرامت استاندارد IP ما برای استفاده از خدمات، مشتریان را در برابر ادعاهای شخص ثالث مبنی بر نقض IP توسط سرویس ها و داده های مورد استفاده برای آموزش آنها محافظت می کند. به بیان دیگر، اگر از یک سرویس هوش مصنوعی مولد آمازون که در بالا ذکر شده استفاده می کنید و شخصی از شما به دلیل نقض IP شکایت می کند، AWS از این دعوی دفاع می کند، که شامل پوشش هرگونه قضاوت علیه شما یا هزینه های تسویه حساب می شود.

ما پشت سر خدمات هوش مصنوعی مولد خود ایستاده ایم و برای بهبود مستمر آنها تلاش می کنیم. همانطور که AWS خدمات جدید را راه‌اندازی می‌کند و هوش مصنوعی مولد به تکامل خود ادامه می‌دهد، AWS بی‌وقفه بر کسب و حفظ اعتماد مشتری تمرکز خواهد کرد.

افزایش شفافیت: کارت خدمات هوش مصنوعی AWS برای متن آمازون تایتان

We کارت خدمات هوش مصنوعی AWS را معرفی کرد در re:Invent 2022 به عنوان یک منبع شفافیت برای کمک به مشتریان برای درک بهتر خدمات هوش مصنوعی AWS ما. کارت‌های خدمات هوش مصنوعی شکلی از مستندات هوش مصنوعی مسئول هستند که مکانی واحد را برای مشتریان فراهم می‌کنند تا اطلاعاتی در مورد موارد استفاده و محدودیت‌های مورد نظر، انتخاب‌های طراحی هوش مصنوعی مسئولانه، و بهترین شیوه‌های بهینه‌سازی و استقرار برای خدمات هوش مصنوعی ما پیدا کنند. آنها بخشی از یک فرآیند توسعه جامع هستند که ما متعهد می شویم تا خدمات خود را به شیوه ای مسئولانه بسازیم که به انصاف، توضیح پذیری، صحت و استحکام، حاکمیت، شفافیت، حریم خصوصی و امنیت، ایمنی و قابلیت کنترل می پردازد.

در re:Invent امسال ما یک را اعلام می کنیم کارت خدمات هوش مصنوعی جدید برای Amazon Titan Text برای افزایش شفافیت در مدل های فونداسیون. ما همچنین چهار کارت خدمات هوش مصنوعی جدید از جمله: Amazon Comprehend Detect PII, تشخیص سمیت رونویسی آمازون, آمازون شناسایی چهره زندهو AWS HealthScribe. می‌توانید هر یک از این کارت‌ها را در وب سایت AWS. همانطور که هوش مصنوعی مولد همچنان به رشد و تکامل خود ادامه می دهد، شفافیت در مورد چگونگی توسعه، آزمایش و استفاده از فناوری یک جزء حیاتی برای جلب اعتماد سازمان ها و مشتریان آنها خواهد بود. در AWS، ما متعهد هستیم که منابع شفافیت مانند کارت‌های خدمات هوش مصنوعی را به جامعه گسترده‌تر بیاوریم - و به تکرار و جمع‌آوری بازخورد در مورد بهترین راه‌ها ادامه دهیم.

سرمایه گذاری روی هوش مصنوعی مسئول در کل چرخه عمر هوش مصنوعی مولد

ما از نوآوری‌های جدیدی که در re:Invent این هفته اعلام شده‌اند هیجان‌زده هستیم که به مشتریانمان ابزار، منابع و محافظت‌های داخلی بیشتری برای ساخت و استفاده ایمن از هوش مصنوعی مولد می‌دهد. از ارزیابی مدل گرفته تا نرده های محافظ گرفته تا واترمارکینگ، مشتریان اکنون می توانند هوش مصنوعی مولد را سریعتر به سازمان خود بیاورند و در عین حال ریسک را کاهش دهند. محافظت‌های جدید برای مشتریان مانند پوشش غرامت IP و منابع جدید برای افزایش شفافیت مانند کارت‌های خدمات هوش مصنوعی اضافی نیز نمونه‌های کلیدی تعهد ما برای ایجاد اعتماد در بین شرکت‌های فناوری، سیاست‌گذاران، گروه‌های اجتماعی، دانشمندان و غیره هستند. ما همچنان به سرمایه گذاری معنادار در هوش مصنوعی مسئول در طول چرخه عمر یک مدل بنیادی ادامه می دهیم - تا به مشتریان خود کمک کنیم هوش مصنوعی را به روشی ایمن، ایمن و مسئولانه مقیاس کنند.

---

درباره نویسنده

پیتر هالینان ابتکارات را در علم و عمل هوش مصنوعی مسئول در AWS AI، در کنار تیمی از کارشناسان مسئول هوش مصنوعی رهبری می کند. او تخصص عمیقی در هوش مصنوعی (دکتری، هاروارد) و کارآفرینی (Blindsight، فروخته شده به آمازون) دارد. فعالیت های داوطلبانه او شامل خدمت به عنوان استاد مشاور در دانشکده پزشکی دانشگاه استنفورد و رئیس اتاق بازرگانی آمریکا در ماداگاسکار بوده است. در صورت امکان، او با فرزندانش در کوهستان می رود: اسکی، کوهنوردی، پیاده روی و رفتینگ.

واسی فیلومین در حال حاضر معاون هوش مصنوعی Generative در AWS است. او تلاش‌های مولد هوش مصنوعی از جمله Amazon Bedrock، Amazon Titan و Amazon CodeWhisperer را رهبری می‌کند.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/