آمازون Q با چالش‌هایی روبروست: توهمات و نشت داده‌ها

دستیار هوش مصنوعی آمازون، آمازون Q، تحت نظارت است. گزارش ها حاکی از توهمات و نشت داده ها است که بحث هایی را در مورد آمادگی آن برای استفاده شرکتی برانگیخته است..

با افزایش نگرانی‌ها، کارشناسان بر اهمیت آزمایش‌های کامل، مقررات بالقوه و نقش آمازون در مقابله با این چالش‌ها تاکید می‌کنند.

توهمات و مسائل مربوط به حریم خصوصی ظاهر می شود

اسناد فاش شده توسط The Platformer این موضوع را نشان می دهد آمازون Q با نادرستی ها، از جمله توهمات و نشت داده ها دست و پنجه نرم می کند. مطالعات عدم دقت مدل‌های زبان بزرگ (LLM) را هنگام اتصال به پایگاه‌های داده شرکتی برجسته می‌کنند. تحلیلگرانی که صنعت را ردیابی می‌کنند نشان می‌دهند که این مسائل آمازون Q را برای تصمیم‌گیری در یک محیط شرکتی نامناسب می‌کند.

Pareekh Jain، مدیر عامل EIIRTrend & Pareekh Consulting، به محدودیت ها اشاره می کند و می گوید: "اگر توهم وجود داشته باشد، نمی توانید از آنها برای تصمیم گیری در یک محیط شرکتی استفاده کنید." در حالی که آمازون Q را به عنوان یک همراه کاری برای میلیون ها نفر قرار می دهد، تحلیلگران آمادگی آن را برای استفاده گسترده شرکتی زیر سوال می برند.

چالش‌های آزمایش و اهمیت آزمایش‌های داخلی

برای رسیدگی به این مسائل، کارشناسان بر نیاز به آزمایش داخلی گسترده قبل از این تاکید دارند هوش مصنوعی مولد دستیار برای انتشار تجاری آماده است. جین بر اهمیت ارزیابی داده ها و الگوریتم ها برای مشخص کردن علت اصلی عدم دقت تأکید می کند.

جین افزود: "من فکر می کنم آنها باید ابتدا آزمایش های بیشتری را با کارمندان داخلی انجام دهند." آنها باید ببینند که آیا این مشکل با داده ها است یا الگوریتم. آمازون Q 17 سال از داده‌ها و مهارت توسعه AWS بهره می‌برد و بر خطراتی که آمازون در چشم‌انداز سریع در حال تحول هوش مصنوعی دارد تأکید می‌کند.

آموزش و گام در جهت بهبود

در حالی که توهمات چالش‌هایی را ایجاد می‌کنند، Sharath Srinivasamurthy، معاون معاون IDC، گام‌هایی را برای بهبود استفاده از هوش مصنوعی مولد برجسته می‌کند. Srinivasamurthy مدل‌های آموزشی بر روی داده‌های با کیفیت بالاتر، تقویت سریع، تنظیم دقیق داده‌های خاص سازمان و ترکیب بررسی‌های انسانی برای پاسخ‌های مشکوک را پیشنهاد می‌کند.

آموزش مدل‌ها بر روی داده‌های با کیفیت بهتر، تنظیم دقیق مدل‌ها در سازمان یا داده‌ها و خط‌مشی‌های خاص صنعت، و افزایش یک لایه بررسی انسانی در صورت مشکوک بودن پاسخ، از جمله اقداماتی است که باید انجام شود. Srinivasamurthy می گوید: بهترین استفاده را از این فناوری در حال ظهور ببرید.

نگرانی های نظارتی و فراخوان برای هوش مصنوعی مسئول

گزارش ها توهم‌ها بحث‌هایی را در مورد نیاز به مقررات ایجاد می‌کند، اما Sanchit Vir Gogia، تحلیلگر ارشد و مدیر عامل در Greyhound Research، نسبت به ضد بهره‌وری احتمالی هشدار می‌دهد. گوجیا پیشنهاد می‌کند که مقررات بیش از حد سخت‌گیرانه می‌تواند مانع تبادل و استفاده از داده‌ها شود و به موفقیت GPT OpenAI به عنوان نمونه‌ای از مزایای یک صنعت کمتر تنظیم‌شده اشاره می‌کند.

جین این احساس را تکرار می کند و بر اهمیت خود تنظیمی تأکید می کند. جین توضیح می دهد: «ممکن است مقررات وجود داشته باشد، اما تمرکز در درجه اول بر خود تنظیمی است. تاکید باید بر هوش مصنوعی مسئول باشد، جایی که می‌توان به جای ایجاد سیستم‌های جعبه سیاه، منطق را برای مشتریان توضیح داد.

با ورود آمازون به فضای مولد هوش مصنوعی، همه نگاه ها به غول فناوری برای رسیدگی به این چالش ها معطوف شده است، به ویژه با توجه به ورود دیرهنگام آن در مقایسه با رهبران صنعت مانند مایکروسافت و گوگل. جین خاطرنشان می کند که AWS عقب مانده است و انتظارات و بررسی دقیق را در مورد فناوری هایی مانند چت بات ها افزایش می دهد.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://metanews.com/amazon-q-faces-challenges-hallucinations-and-data-leaks-raise-questions-on-ai-readiness/