تواجه Amazon Q تحديات: الهلوسة وتسريبات البيانات

مساعد الذكاء الاصطناعي التوليدي من أمازون، Amazon Q، يخضع للتدقيق. تشير التقارير إلى الهلوسة وتسريب البيانات، مما أثار جدلاً حول مدى جاهزيتها لاستخدام الشركات.

ومع تزايد المخاوف، يؤكد الخبراء على أهمية الاختبار الشامل، واللوائح المحتملة، ودور أمازون في التغلب على هذه التحديات.

تظهر الهلوسة وقضايا الخصوصية

تكشف الوثائق المسربة التي أبلغت عنها The Platformer ذلك أمازون س يتصارع مع عدم الدقة، بما في ذلك الهلوسة وتسريب البيانات. تسلط الدراسات الضوء على عدم دقة نماذج اللغات الكبيرة (LLMs) عند ربطها بقواعد بيانات الشركات. يشير المحللون الذين يتتبعون الصناعة إلى أن هذه المشكلات تجعل Amazon Q غير مناسب لاتخاذ القرار في بيئة الشركة.

يشير باريك جاين، الرئيس التنفيذي لشركة EIIRTrend & Pareekh Consulting، إلى القيود، قائلاً: "إذا كانت الهلوسة موجودة، فلا يمكنك استخدامها لاتخاذ القرار في بيئة الشركة". في حين أن أمازون تضع Q كرفيق عمل للملايين، فإن المحللين يشككون في مدى استعدادها للاستخدام على نطاق واسع في الشركات.

تحديات الاختبار وأهمية التجارب الداخلية

ولمعالجة هذه المشكلات، يؤكد الخبراء على الحاجة إلى إجراء اختبارات داخلية مكثفة قبل إجراء الاختبار الذكاء الاصطناعي التوليدي المساعد جاهز للإصدار التجاري. يؤكد جاين على أهمية تقييم البيانات والخوارزميات لتحديد السبب الجذري لعدم الدقة.

وأضاف جين: "أعتقد أنهم بحاجة إلى إجراء المزيد من الاختبارات مع الموظفين الداخليين أولاً". "عليهم أن يروا ما إذا كانت المشكلة تتعلق بالبيانات أو الخوارزمية." تستفيد Amazon Q من 17 عامًا من كفاءة AWS في مجال البيانات والتطوير، مما يؤكد على المخاطر التي تنطوي عليها Amazon في مشهد الذكاء الاصطناعي سريع التطور.

التدريب وخطوات التحسين

بينما تشكل الهلوسة تحديات، يسلط شاراث سرينيفاسامورثي، نائب الرئيس المساعد في IDC، الضوء على الخطوات اللازمة لتحسين استخدام الذكاء الاصطناعي التوليدي. يقترح سرينيفاسامورثي نماذج تدريب على البيانات عالية الجودة، والتعزيز الفوري، والضبط المستمر للبيانات الخاصة بالمؤسسة، ودمج عمليات الفحص البشري للاستجابات المشبوهة.

"إن تدريب النماذج على بيانات ذات جودة أفضل، والضبط الدقيق المستمر للنماذج المتعلقة بالمؤسسة أو البيانات والسياسات الخاصة بالصناعة، وزيادة طبقة الفحص البشري في حالة وجود استجابة مشبوهة، هي بعض الخطوات التي يجب اتخاذها يقول سرينيفاسامورثي: "يجب أن نحقق أقصى استفادة من هذه التكنولوجيا الناشئة".

المخاوف التنظيمية والدعوة إلى الذكاء الاصطناعي المسؤول

التقارير تثير الهلوسة نقاشات حول الحاجة إلى لوائح تنظيمية، لكن سانشيت فير جوجيا، كبير المحللين والرئيس التنفيذي لشركة Greyhound Research، يحذر من النتائج العكسية المحتملة. ويشير جوجيا إلى أن اللوائح الصارمة بشكل مفرط يمكن أن تعيق تبادل البيانات واستخدامها، مشيرًا إلى نجاح GPT الخاص بشركة OpenAI كمثال على فوائد الصناعة الأقل تنظيمًا.

يردد جاين هذا الشعور، مؤكدا على أهمية التنظيم الذاتي. يوضح جاين: "قد تكون القواعد التنظيمية موجودة، لكن التركيز ينصب في المقام الأول على التنظيم الذاتي". "يجب أن يكون التركيز على الذكاء الاصطناعي المسؤول، حيث يمكن شرح المنطق للعملاء بدلاً من إنشاء أنظمة "الصندوق الأسود"."

مع دخول أمازون إلى مجال الذكاء الاصطناعي التوليدي، تتجه كل الأنظار نحو عملاق التكنولوجيا لمواجهة هذه التحديات، خاصة بالنظر إلى دخولها المتأخر مقارنة بقادة الصناعة مثل مايكروسوفت وجوجل. ويشير جاين إلى أن AWS متأخرة، مما يزيد من التوقعات والتدقيق فيما يتعلق بالتقنيات مثل برامج الدردشة الآلية.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://metanews.com/amazon-q-faces-challenges-hallucinations-and-data-leaks-raise-questions-on-ai-readiness/