الإعلان عن أدوات وإمكانات جديدة لتمكين الابتكار المسؤول في مجال الذكاء الاصطناعي | خدمات ويب أمازون

إن النمو السريع للذكاء الاصطناعي التوليدي يجلب ابتكارات جديدة واعدة، وفي الوقت نفسه يثير تحديات جديدة. تشمل هذه التحديات بعض التحديات التي كانت شائعة قبل الذكاء الاصطناعي التوليدي، مثل التحيز وقابلية التفسير، و جديدة فريدة من نوعها لنماذج الأساس (FMs)، بما في ذلك الهلوسة والسمية. في AWS، نحن ملتزمون بذلك تطوير الذكاء الاصطناعي التوليدي بطريقة مسؤولة، اتباع نهج يركز على الأشخاص ويعطي الأولوية للتعليم والعلوم وعملائنا، لدمج الذكاء الاصطناعي المسؤول عبر دورة حياة الذكاء الاصطناعي الشاملة.

على مدار العام الماضي، قدمنا ​​إمكانات جديدة في تطبيقات ونماذج الذكاء الاصطناعي التوليدية لدينا، مثل الفحص الأمني ​​المدمج أمازون CodeWhispererوالتدريب على اكتشاف المحتوى الضار وحظره في أمازون تيتان، وحماية خصوصية البيانات في أمازون بيدروك. يتضمن استثمارنا في الذكاء الاصطناعي الآمن والشفاف والمسؤول التعاون مع المجتمع العالمي وصانعي السياسات حيث قمنا بتشجيع ودعم كل من التزامات البيت الأبيض الطوعية بشأن الذكاء الاصطناعي و قمة السلامة بالذكاء الاصطناعي في المملكة المتحدة. ونحن نواصل العمل جنبًا إلى جنب مع العملاء لتشغيل الذكاء الاصطناعي المسؤول باستخدام أدوات مصممة لهذا الغرض مثل توضيح Amazon SageMaker, حوكمة تعلم الآلة مع Amazon SageMaker، وأكثر من ذلك.

تقديم ابتكارات جديدة مسؤولة في مجال الذكاء الاصطناعي

ومع توسع الذكاء الاصطناعي التوليدي ليشمل الصناعات والمنظمات وحالات الاستخدام الجديدة، يجب أن يكون هذا النمو مصحوبًا باستثمار مستدام في تطوير إدارة المرافق بشكل مسؤول. يريد العملاء أن يتم تصميم إدارة المرافق الخاصة بهم مع وضع السلامة والعدالة والأمن في الاعتبار، حتى يتمكنوا بدورهم من نشر الذكاء الاصطناعي بشكل مسؤول. في AWS re:Invent هذا العام، يسعدنا أن نعلن عن إمكانات جديدة لتعزيز ابتكار الذكاء الاصطناعي المسؤول عبر مجموعة واسعة من القدرات باستخدام أدوات مدمجة جديدة، وحماية العملاء، وموارد لتعزيز الشفافية، وأدوات لمكافحة المعلومات المضللة. نحن نهدف إلى تزويد العملاء بالمعلومات التي يحتاجونها لتقييم إدارة المرافق مقابل اعتبارات الذكاء الاصطناعي المسؤولة الرئيسية، مثل السمية والقوة، وتقديم حواجز حماية لتطبيق الضمانات بناءً على حالات استخدام العملاء وسياسات الذكاء الاصطناعي المسؤولة. وفي الوقت نفسه، يريد عملاؤنا أن يكونوا على دراية أفضل بالسلامة والعدالة والأمن والخصائص الأخرى لخدمات الذكاء الاصطناعي ومديري المرافق، أثناء استخدامها داخل مؤسساتهم. يسعدنا أن نعلن عن المزيد من الموارد لمساعدة العملاء على فهم خدمات AWS AI بشكل أفضل وتوفير الشفافية التي يطلبونها.

تنفيذ الضمانات: حواجز الحماية لأمازون بيدروك

تعتبر السلامة أولوية عندما يتعلق الأمر بإدخال الذكاء الاصطناعي التوليدي على نطاق واسع. ترغب المؤسسات في تعزيز التفاعلات الآمنة بين عملائها وتطبيقات الذكاء الاصطناعي المنتجة والتي تتجنب اللغة الضارة أو المسيئة وتتوافق مع سياسات الشركة. أسهل طريقة للقيام بذلك هي وضع ضمانات متسقة في جميع أنحاء المنظمة بأكملها حتى يتمكن الجميع من الابتكار بأمان. أعلنا بالأمس عن معاينة الدرابزين لأمازون بيدروك- قدرة جديدة تسهل تنفيذ إجراءات الحماية الخاصة بالتطبيقات بناءً على حالات استخدام العميل وسياسات الذكاء الاصطناعي المسؤولة.

تعمل حواجز الحماية على تعزيز الاتساق في كيفية استجابة FMs على Amazon Bedrock للمحتوى غير المرغوب فيه والضار داخل التطبيقات. يمكن للعملاء تطبيق حواجز الحماية على نماذج اللغات الكبيرة على Amazon Bedrock بالإضافة إلى النماذج المضبوطة بدقة وبالاشتراك مع وكلاء شركة أمازون بيدروك. تتيح لك Guardrails تحديد الموضوعات التي يجب تجنبها، وتقوم الخدمة تلقائيًا باكتشاف الاستعلامات والاستجابات التي تقع ضمن الفئات المقيدة ومنعها. يمكن للعملاء أيضًا تكوين حدود تصفية المحتوى عبر الفئات بما في ذلك خطاب الكراهية والإهانات واللغة الجنسية والعنف لتصفية المحتوى الضار إلى المستوى المطلوب. على سبيل المثال، يمكن إعداد تطبيق للخدمات المصرفية عبر الإنترنت لتجنب تقديم المشورة الاستثمارية والحد من المحتوى غير المناسب (مثل خطاب الكراهية والإهانات والعنف). في المستقبل القريب، سيتمكن العملاء أيضًا من تنقيح معلومات التعريف الشخصية (PII) في مدخلات المستخدم واستجابات FMs، وتعيين مرشحات الألفاظ النابية، وتوفير قائمة من الكلمات المخصصة لمنع التفاعلات بين المستخدمين و FMs، وتحسين الامتثال والمزيد حماية المستخدمين. باستخدام Guardrails، يمكنك الابتكار بشكل أسرع باستخدام الذكاء الاصطناعي التوليدي مع الحفاظ على وسائل الحماية والضمانات المتوافقة مع سياسات الشركة.

تحديد أفضل FM لحالة استخدام محددة: تقييم النموذج في Amazon Bedrock

تمتلك المؤسسات اليوم مجموعة واسعة من خيارات إدارة المرافق (FM) لتشغيل تطبيقات الذكاء الاصطناعي التوليدية الخاصة بها. لتحقيق التوازن الصحيح بين الدقة والأداء لحالة الاستخدام الخاصة بها، يجب على المؤسسات مقارنة النماذج بكفاءة والعثور على الخيار الأفضل استنادًا إلى الذكاء الاصطناعي المسؤول الرئيسي ومقاييس الجودة التي تهمها. لتقييم النماذج، يجب على المؤسسات أولاً قضاء أيام في تحديد المعايير، وإعداد أدوات التقييم، وإجراء التقييمات، وكل ذلك يتطلب خبرة عميقة في علم البيانات. علاوة على ذلك، فإن هذه الاختبارات ليست مفيدة لتقييم المعايير الذاتية (مثل صوت العلامة التجارية وأهميتها وأسلوبها) التي تتطلب الحكم من خلال سير عمل شاق ومكثف للوقت ومراجعة بشرية. إن الوقت والخبرة والموارد المطلوبة لهذه التقييمات - لكل حالة استخدام جديدة - تجعل من الصعب على المؤسسات تقييم النماذج مقابل أبعاد الذكاء الاصطناعي المسؤولة واتخاذ خيار مستنير حول النموذج الذي سيوفر التجربة الأكثر دقة وأمانًا لعملائها.

متوفر الآن في المعاينة، تقييم النموذج على أمازون بيدروك يساعد العملاء على تقييم ومقارنة واختيار أفضل أجهزة FM لحالة الاستخدام الخاصة بهم بناءً على مقاييس مخصصة، مثل الدقة والسلامة، باستخدام التقييمات التلقائية أو البشرية. في وحدة تحكم Amazon Bedrock، يختار العملاء FMs الذين يريدون مقارنتها لمهمة معينة، مثل الإجابة على الأسئلة أو تلخيص المحتوى. بالنسبة للتقييمات التلقائية، يختار العملاء معايير تقييم محددة مسبقًا (على سبيل المثال، الدقة والقوة والسمية) ويقومون بتحميل مجموعة بيانات الاختبار الخاصة بهم أو الاختيار من مجموعات البيانات المضمنة والمتاحة للجمهور. بالنسبة للمعايير الشخصية أو المحتوى الدقيق الذي يتطلب الحكم، يمكن للعملاء بسهولة إعداد سير عمل التقييم القائم على الإنسان ببضع نقرات فقط. تستفيد مسارات العمل هذه من فريق العمل الداخلي للعميل، أو تستخدم قوة عاملة مُدارة توفرها AWS، لتقييم الاستجابات النموذجية. أثناء التقييمات البشرية، يحدد العملاء استخدام مقاييس خاصة بحالة معينة (على سبيل المثال، الملاءمة والأسلوب وصوت العلامة التجارية). بمجرد انتهاء العملاء من عملية الإعداد، تقوم Amazon Bedrock بإجراء التقييمات وإنشاء تقرير، حتى يتمكن العملاء من فهم كيفية أداء النموذج بسهولة عبر معايير السلامة والدقة الرئيسية واختيار أفضل نموذج لحالة الاستخدام الخاصة بهم.

لا تقتصر هذه القدرة على تقييم النماذج على Amazon Bedrock، بل يمكن للعملاء أيضًا استخدام تقييم النموذج في Amazon SageMaker Clarify لتقييم ومقارنة واختيار أفضل خيار لإدارة المرافق بسهولة عبر مقاييس الجودة والمسؤولية الرئيسية مثل الدقة والمتانة والسمية - عبر جميع وزير الخارجية.

مكافحة المعلومات المضللة: العلامة المائية في Amazon Titan

أعلنا اليوم أمازون تيتان مولد الصور في المعاينة، مما يمكّن العملاء من إنتاج صور عالية الجودة وتحسينها بسرعة على نطاق واسع. لقد أخذنا بعين الاعتبار الذكاء الاصطناعي المسؤول خلال كل مرحلة من مراحل عملية تطوير النموذج، بما في ذلك اختيار بيانات التدريب، وبناء قدرات التصفية لاكتشاف وإزالة مدخلات المستخدم غير المناسبة ومخرجات النموذج، وتحسين التنوع الديموغرافي لمخرجات نموذجنا. تحتوي جميع الصور التي تم إنشاؤها بواسطة Amazon Titan على علامة مائية غير مرئية بشكل افتراضي، والتي تم تصميمها للمساعدة في تقليل انتشار المعلومات المضللة من خلال توفير آلية سرية لتحديد الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي. تعد AWS من أوائل موفري النماذج الذين أطلقوا على نطاق واسع علامات مائية مدمجة غير مرئية مدمجة في مخرجات الصور ومصممة لتكون مقاومة للتعديلات.

بناء الثقة: الوقوف وراء نماذجنا وتطبيقاتنا مع التعويض

يعد بناء ثقة العملاء أمرًا أساسيًا بالنسبة لـ AWS. لقد كنا في رحلة مع عملائنا منذ بدايتنا، ومع نمو الذكاء الاصطناعي التوليدي، نظل ملتزمين ببناء تكنولوجيا مبتكرة معًا. لتمكين العملاء من تسخير قوة الذكاء الاصطناعي التوليدي لدينا، فإنهم بحاجة إلى معرفة أنهم محميون. توفر AWS تغطية تعويض حقوق الطبع والنشر لمخرجات خدمات الذكاء الاصطناعي التوليدية التالية من Amazon: Amazon Titan Text Express، وAmazon Titan Text Lite، وAmazon Titan Embeddings، وAmazon Titan Multimodal Embeddings، وAmazon CodeWhisperer Professional، أوس هيلثسكريبي, أمازون ليكسو تخصيص أمازون. وهذا يعني أن العملاء الذين يستخدمون الخدمات بشكل مسؤول محميون من مطالبات الطرف الثالث التي تزعم انتهاك حقوق الطبع والنشر من خلال المخرجات الناتجة عن تلك الخدمات (راجع القسم 50.10 من شروط الخدمة). بالإضافة إلى ذلك، فإن تعويض الملكية الفكرية القياسي الخاص بنا مقابل استخدام الخدمات يحمي العملاء من مطالبات الطرف الثالث التي تزعم انتهاك حقوق الملكية الفكرية من خلال الخدمات والبيانات المستخدمة لتدريبهم. وبعبارة أخرى، إذا كنت تستخدم إحدى خدمات الذكاء الاصطناعي التوليدية لشركة Amazon المذكورة أعلاه وقام شخص ما بمقاضاتك بسبب انتهاك حقوق الملكية الفكرية، فسوف تدافع AWS عن تلك الدعوى، والتي تتضمن تغطية أي حكم ضدك أو تكاليف التسوية.

نحن ندعم خدمات الذكاء الاصطناعي التوليدية لدينا ونعمل على تحسينها باستمرار. مع إطلاق AWS لخدمات جديدة واستمرار تطور الذكاء الاصطناعي التوليدي، ستواصل AWS التركيز بلا هوادة على كسب ثقة العملاء والحفاظ عليها.

تعزيز الشفافية: بطاقة خدمة AWS AI لـ Amazon Titan Text

We تقديم بطاقات خدمة AWS AI في re:Invent 2022 كمورد للشفافية لمساعدة العملاء على فهم خدمات AWS AI بشكل أفضل. تعد بطاقات خدمة الذكاء الاصطناعي أحد أشكال وثائق الذكاء الاصطناعي المسؤولة التي توفر للعملاء مكانًا واحدًا للعثور على معلومات حول حالات الاستخدام والقيود المقصودة، وخيارات تصميم الذكاء الاصطناعي المسؤولة، وأفضل ممارسات النشر وتحسين الأداء لخدمات الذكاء الاصطناعي لدينا. إنها جزء من عملية تطوير شاملة نقوم بها لبناء خدماتنا بطريقة مسؤولة تتناول العدالة وقابلية التفسير والصدق والمتانة والحوكمة والشفافية والخصوصية والأمن والسلامة وإمكانية التحكم.

في re:Invent هذا العام نعلن عن أ بطاقة خدمة AI جديدة لـ Amazon Titan Text لزيادة الشفافية في نماذج الأساس. نحن نطلق أيضًا أربع بطاقات خدمة جديدة تعمل بالذكاء الاصطناعي، بما في ذلك: أمازون فهم كشف معلومات تحديد الهوية الشخصية (PII)., Amazon Transcribe كشف السمية, ميزة التعرف على الوجه من أمازونو أوس هيلثسكريبي. يمكنك استكشاف كل من هذه البطاقات على موقع أوس. مع استمرار نمو وتطور الذكاء الاصطناعي، ستكون الشفافية بشأن كيفية تطوير التكنولوجيا واختبارها واستخدامها عنصرًا حيويًا لكسب ثقة المؤسسات وعملائها على حدٍ سواء. في AWS، نحن ملتزمون بمواصلة تقديم موارد الشفافية مثل بطاقات خدمة الذكاء الاصطناعي إلى المجتمع الأوسع، وتكرار وجمع التعليقات حول أفضل الطرق للمضي قدمًا.

الاستثمار في الذكاء الاصطناعي المسؤول عبر دورة حياة الذكاء الاصطناعي التوليدي بأكملها

نحن متحمسون للابتكارات الجديدة التي تم الإعلان عنها في re:Invent هذا الأسبوع والتي تمنح عملائنا المزيد من الأدوات والموارد ووسائل الحماية المضمنة لبناء واستخدام الذكاء الاصطناعي التوليدي بأمان. من تقييم النماذج إلى حواجز الحماية إلى العلامات المائية، يمكن للعملاء الآن جلب الذكاء الاصطناعي التوليدي إلى مؤسساتهم بشكل أسرع، مع تخفيف المخاطر. تعد وسائل الحماية الجديدة للعملاء مثل تغطية تعويضات الملكية الفكرية والموارد الجديدة لتعزيز الشفافية مثل بطاقات خدمة الذكاء الاصطناعي الإضافية أيضًا أمثلة رئيسية على التزامنا ببناء الثقة عبر شركات التكنولوجيا وصانعي السياسات ومجموعات المجتمع والعلماء والمزيد. نواصل القيام باستثمارات هادفة في الذكاء الاصطناعي المسؤول عبر دورة حياة النموذج الأساسي — لمساعدة عملائنا على توسيع نطاق الذكاء الاصطناعي بطريقة آمنة ومأمونة ومسؤولة.

---

حول المؤلف

بيتر هالينان يقود المبادرات في علم وممارسة الذكاء الاصطناعي المسؤول في AWS AI ، جنبًا إلى جنب مع فريق من خبراء الذكاء الاصطناعي المسؤولين. لديه خبرة عميقة في مجال الذكاء الاصطناعي (دكتوراه ، جامعة هارفارد) وريادة الأعمال (Blindsight ، تم بيعه إلى Amazon). تضمنت أنشطته التطوعية العمل كأستاذ استشاري في كلية الطب بجامعة ستانفورد ، ورئيس غرفة التجارة الأمريكية في مدغشقر. عندما يكون ذلك ممكنًا ، يكون في الجبال مع أطفاله: التزلج والتسلق والمشي لمسافات طويلة وركوب الرمث

فاسي فيلومين يشغل حاليًا منصب نائب الرئيس للذكاء الاصطناعي التوليدي في AWS. وهو يقود جهود الذكاء الاصطناعي الإنتاجية بما في ذلك Amazon Bedrock وAmazon Titan وAmazon CodeWhisperer.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/