بررسی خطرات و جایگزین های ChatGPT: هموار کردن مسیری به سوی هوش مصنوعی قابل اعتماد

شما در حال تهیه اسموتی برای دوستان خود هستید تا از آن لذت ببرند. دوست شما روچیر که قبلاً با انواع میوه و ماست مخلوط شده است، با یک سیب رسیده می آید و آن را به شما می دهد تا شاهکار باطراوت شما را تکمیل کند. در حال حاضر کامل است، تقریباً هنوز می توانید بوی سیب را در حین ریختن نوشیدنی استشمام کنید. قبل از اولین جرعه شما، روچیر می گوید: "نظرم تغییر کرده است، باید بروم و دوست دارم سیبم را برگردانم." شما پاسخ می دهید، "آه، من را ببخشید، اما این امکان پذیر نیست." ما یک دقیقه دیگر به این داستان باز خواهیم گشت و نحوه ارتباط آن را توضیح خواهیم داد GPT چت و هوش مصنوعی قابل اعتماد

همانطور که جهان از هوش مصنوعی (AI) تکامل می یابد، ابزارهای جدیدی مانند OpenAI ChatGPT به دلیل قابلیت های مکالمه خود مورد توجه قرار گرفته است. با این وجود، من همچنین اهمیت ارزیابی ریسک‌های ذاتی را قبل از شروع پذیرش مستقیم آن در سازمان‌هایمان درک می‌کنم. در این بحث، من خطرات و چالش‌های مرتبط با ChatGPT را در یک زمینه سازمانی بررسی می‌کنم که نیازمند یک رویکرد دقیق برای اجرای آن است. علاوه بر این، من بر اهمیت پذیرش IBM تاکید خواهم کرد واتسونکس برای تضمین هوش مصنوعی قابل اعتماد راه حل ها و در صورت شک، توصیه می‌کنم از همان عقل سلیمی استفاده کنید که همیشه هنگام استفاده از سرویس‌های جدید اینترنتی استفاده می‌کردید.

تکامل ابزارهای هوش مصنوعی

ChatGPT از قدرت بسیار زیاد استفاده می کند GPT-3 و GPT-4، متعلق به الف کلاس جدید از مدل‌های زبان بزرگ «غول‌گرا» و بسیار محبوب که در برنامه‌های مختلف هوش مصنوعی استفاده می‌شوند. با ChatGPT، کاربران می‌توانند سؤال بپرسند، متن تولید کنند، ایمیل‌ها را پیش‌نویس کنند، در مورد کد به زبان‌های برنامه‌نویسی مختلف بحث کنند، زبان طبیعی را به کد ترجمه کنند و موارد دیگر. این ربات به عنوان یک چت ربات مکالمه با کیفیت بالا متمایز می شود که هدف آن ارائه پاسخ های منسجم و آگاه از زمینه است.

ChatGPT ابزاری عالی برای کاوش در نوشتن خلاقانه، تولید ایده و تعامل با هوش مصنوعی است. استفاده از آن برای همه رایگان است و نسخه پیشرفته تری در دسترس است چت GPT Plus مشترکین توانایی چت بات در به خاطر سپردن مکالمات قبلی به تجربه تعاملی و جذاب آن می افزاید.  

در حالی که ChatGPT توجه و محبوبیت قابل توجهی را به خود جلب کرده است، با رقابت دیگر چت ربات های مجهز به هوش مصنوعی روبرو است. پردازش زبان طبیعی سیستم های (NLP) برای مثال گوگل توسعه داده است شاعرربات چت هوش مصنوعی آن که توسط موتور زبان خودش به نام قدرت می گیرد پالم 2. به طور مشابه، متا اخیراً اثر چشمگیر خود را منتشر کرد مدل LLaMA2. همانطور که حوزه چت ربات های هوش مصنوعی به تکامل خود ادامه می دهد، مطمئناً رقابت افزایش یافته و بازیکنان جدید ظهور خواهند کرد. برای کشف بهترین راه حل ها برای نیازهای سازمانی ضروری است که در مورد پیشرفت های این فضا به روز بمانید.

چرا از ChatGPT مستقیماً در شرکت استفاده نمی کنید؟

استفاده مستقیم از ChatGPT در یک شرکت خطرات و چالش هایی را به همراه دارد. این موارد شامل نشت امنیت و داده ها، نگرانی های مربوط به رازداری و مسئولیت، پیچیدگی های مالکیت معنوی، انطباق با مجوزهای منبع باز، محدودیت در توسعه هوش مصنوعی، و حریم خصوصی نامشخص و انطباق با قوانین بین المللی است. در اینجا، من این خطرات را بررسی می‌کنم و نمونه‌هایی را به اشتراک می‌گذارم که نشان می‌دهد چگونه این ریسک‌ها می‌توانند در فعالیت‌های روزانه سازمانی شما ظاهر شوند.

من با بررسی راه‌حل‌های جایگزین با هدف کاهش خطرات مرتبط با استفاده مستقیم از ChatGPT، از جمله آی بی ام واتسونکس، که من آن را برای استفاده سازمانی توصیه می کنم، زیرا نگرانی های مربوط به مالکیت داده و حفظ حریم خصوصی را از طریق نظارت و نظارت دقیق برطرف می کند. قول می‌دهم این گفتگو را با بازگرداندن شما به داستان اسموتی به پایان برسانم، اما وقتی در زیر به «داده‌های شما» اشاره می‌کنم، با خیال راحت عبارت «سیب شما» را جایگزین کنید.

قبل از بررسی راه‌حل‌های جایگزین، برای شرکت‌ها بسیار مهم است که به خطرات و چالش‌های بالقوه‌ای که مستقیماً با استفاده از ChatGPT می‌آیند، توجه داشته باشند. به عنوان یک یادآوری عقل سلیم، تاریخچه اینترنت ظهور و تکامل سرویس‌های جدید (مانند جستجوی گوگل، پلتفرم‌های رسانه‌های اجتماعی و غیره) را نشان داده است که بر اهمیت حفظ حریم خصوصی و مالکیت داده‌ها در شرکت تاکید می‌کند. با در نظر گرفتن این موضوع، در اینجا عوامل کلیدی وجود دارد که باید در نظر گرفته شوند:

امنیت و نشت داده ها

اگر اطلاعات حساس شخص ثالث یا شرکت داخلی در ChatGPT وارد شود، بخشی از مدل داده ربات چت می شود و ممکن است با دیگرانی که سؤالات مرتبط می پرسند به اشتراک گذاشته شود. این می تواند منجر به نشت داده ها و نقض سیاست های امنیتی یک سازمان شود.

مثال: برنامه‌های محصول جدیدی که تیم شما به راه‌اندازی مشتری کمک می‌کند، از جمله مشخصات محرمانه و استراتژی‌های بازاریابی، نباید با ChatGPT به اشتراک گذاشته شود تا از خطر نشت داده‌ها و نقض احتمالی امنیت جلوگیری شود.

رازداری و حریم خصوصی

مشابه نکته بالا، اشتراک‌گذاری اطلاعات محرمانه مشتری یا شریک ممکن است ناقض توافق‌های قراردادی و الزامات قانونی برای محافظت از این اطلاعات باشد. اگر امنیت ChatGPT به خطر بیفتد، ممکن است محتوای محرمانه به بیرون درز کند که به طور بالقوه بر شهرت سازمان تأثیر می گذارد و آن را در معرض مسئولیت قرار می دهد.

مثال: فرض کنید یک سازمان مراقبت های بهداشتی از ChatGPT برای کمک به پاسخگویی به سوالات بیمار استفاده می کند. اگر اطلاعات محرمانه بیمار، مانند سوابق پزشکی یا جزئیات سلامت شخصی، با ChatGPT به اشتراک گذاشته شود، به طور بالقوه می تواند تعهدات قانونی و حقوق حریم خصوصی بیمار محافظت شده توسط قوانینی مانند HIPAA (قانون حمل و پاسخگویی بیمه سلامت) در ایالات متحده.

نگرانی های مالکیت معنوی

مالکیت کد یا متن تولید شده توسط ChatGPT می تواند پیچیده باشد. شرایط خدمات بیان می‌کند که خروجی متعلق به ارائه‌دهنده ورودی است، اما زمانی که خروجی شامل داده‌های محافظت شده قانونی است که از ورودی‌های دیگر منبع می‌شوند، ممکن است مشکلاتی پیش بیاید. نگرانی های مربوط به حق چاپ همچنین ممکن است در صورتی که ChatGPT برای تولید مطالب نوشته شده بر اساس دارایی دارای حق چاپ استفاده شود، ایجاد شود.

مثال: تولید مطالب نوشتاری برای اهداف بازاریابی و خروجی شامل محتوای دارای حق نسخه‌برداری از منابع خارجی بدون ذکر منبع یا مجوز مناسب است، به طور بالقوه می‌تواند حقوق مالکیت معنوی سازندگان محتوای اصلی را نقض کند. این می تواند منجر به عواقب قانونی و آسیب به اعتبار شرکت شود.

مطابقت با مجوزهای منبع باز

اگر ChatGPT از کتابخانه های منبع باز استفاده کند و آن کد را در محصولات بگنجاند، به طور بالقوه می تواند مجوزهای نرم افزار منبع باز (OSS) را نقض کند (به عنوان مثال، GPL) منجر به عوارض قانونی برای سازمان می شود.

مثال: اگر شرکتی از ChatGPT برای تولید کد برای یک محصول نرم افزاری استفاده کند و منشا داده های آموزشی مورد استفاده برای آموزش GPT نامشخص باشد، خطر نقض بالقوه شرایط مجوزهای منبع باز مرتبط با آن کد وجود دارد. این می تواند منجر به عوارض قانونی، از جمله ادعای نقض مجوز و اقدام قانونی بالقوه از جامعه منبع باز شود.

محدودیت در توسعه هوش مصنوعی

شرایط خدمات ChatGPT مشخص می کند که نمی توان از آن در توسعه سایر سیستم های هوش مصنوعی استفاده کرد. اگر شرکت در آن فضا فعالیت کند، استفاده از ChatGPT در این راه ممکن است مانع برنامه‌های توسعه هوش مصنوعی آینده شود.

مثال: یک شرکت متخصص در فناوری تشخیص صدا قصد دارد سیستم موجود خود را با یکپارچه‌سازی قابلیت‌های پردازش زبان طبیعی ChatGPT بهبود بخشد. با این حال، شرایط خدمات ChatGPT به صراحت بیان می کند که نمی توان از آن در توسعه سایر سیستم های هوش مصنوعی استفاده کرد.

افزایش قابلیت اعتماد با IBM watsonx

در ارتباط با داستان اسموتی ما، ChatGPT عمومی از داده های سریع شما برای تقویت شبکه عصبی خود استفاده می کند، مانند اینکه چگونه سیب به اسموتی طعم می بخشد. هنگامی که داده های شما مانند سیب ترکیبی وارد ChatGPT می شود، هیچ کنترلی یا دانشی در مورد نحوه استفاده از آن ندارید. از این رو، باید مطمئن بود که آنها از حقوق کامل برای اضافه کردن اپل خود برخوردار هستند و به اصطلاح حاوی داده های حساس نیست.

برای رفع این نگرانی‌ها، IBM watsonx داده‌ها و مدل‌های مدیریت‌شده و شفافی را ارائه می‌دهد که کنترل و اطمینان بیشتری در ایجاد و استفاده از اسموتی شما فراهم می‌کند. به عبارت ساده، اگر روچیر از سیب خود درخواست می کرد، واتسونکس می توانست به درخواست او احترام بگذارد. شما برو…. قیاس و داستان کامل

IBM watsonx سه ویژگی کلیدی را معرفی می کند: watsonx.data, watsonx.aiو watsonx.governance - که همکاری می کنند هوش مصنوعی قابل اعتمادی را به گونه ای ایجاد کنید که هنوز در مدل های OpenAI وجود ندارد. این ویژگی‌ها داده‌ها و مدل‌های هوش مصنوعی را کنترل و برچسب‌گذاری می‌کنند و شفافیت در جزئیات مبدا و مالکیت را تضمین می‌کنند. آن‌ها همچنین بر مدل‌ها و داده‌ها حکومت می‌کنند و به نگرانی‌های در حال حرکت و سوگیری رسیدگی می‌کنند. این رویکرد سختگیرانه به طور موثر نگرانی های مربوط به مالکیت داده و حفظ حریم خصوصی مورد بحث در این مقاله را کاهش می دهد.

IBM با در آغوش کشیدن صورت، یک شرکت منبع باز، برای ایجاد اکوسیستمی از مدل ها. هر دو شرکت از ویژگی‌های watsonx استفاده می‌کنند تا مدل‌ها را بر اساس عملکرد و قابل اعتماد بودنشان تنظیم و تأیید کنند.

با هوش مصنوعی پیش می رویم

استفاده مستقیم از چت ربات های هوش مصنوعی مانند ChatGPT در یک شرکت خطرات مربوط به امنیت، نشت داده ها، محرمانه بودن، مسئولیت، مالکیت معنوی، انطباق، محدودیت های توسعه هوش مصنوعی و حریم خصوصی را به همراه دارد. این خطرات می تواند عواقب زیانباری برای سازمان ها داشته باشد، از جمله آسیب به شهرت و عوارض قانونی پرهزینه.

برای کاهش این خطرات و ایجاد هوش مصنوعی قابل اعتماد، IBM watsonx به عنوان یک راه حل توصیه شده ظاهر می شود. داده‌های انتخاب‌شده و برچسب‌گذاری‌شده و مدل‌های هوش مصنوعی را ارائه می‌دهد و شفافیت در مالکیت و مبدا را تضمین می‌کند. این به نگرانی های مربوط به سوگیری و رانش می پردازد و لایه ای اضافی از اعتماد را فراهم می کند. IBM watsonx بین نوآوری و استفاده مسئولانه از هوش مصنوعی تعادل برقرار می کند. علاوه بر این، همکاری بین IBM و Hugging Face اکوسیستم مدل ها را تقویت می کند.

در حالی که watsonx اعتماد و دقت بیشتری را ارائه می‌کند، تعداد کمی از مدل‌ها در حال حاضر می‌توانند با طیف وسیعی از استفاده عمومی که در ChatGPT و خانواده مدل‌های GPT دیده می‌شود، مطابقت داشته باشند. حوزه مدل‌های هوش مصنوعی به پیشرفت خود ادامه می‌دهد و می‌توان انتظار پیشرفت‌های مداوم را داشت. برای اطمینان از نتایج بهینه، درک نحوه رتبه بندی و آموزش مدل ها بسیار مهم است. این دانش تصمیم گیری آگاهانه را امکان پذیر می کند و به سازمان ها اجازه می دهد تا مدل هایی را انتخاب کنند که به بهترین وجه با نیازها و استانداردهای کیفیت آنها هماهنگ باشد.

با استفاده از watsonx، سازمان‌ها می‌توانند ضمن حفظ کنترل بر داده‌های خود و اطمینان از انطباق با استانداردهای اخلاقی و قانونی، از قدرت هوش مصنوعی استفاده کنند. آنها می توانند از داده های خود محافظت کنند، از مالکیت معنوی خود محافظت کنند، و اعتماد را با سهامداران تقویت کنند، در حالی که از مدل های نظارتی و شفافیت افزایش یافته بهره مند می شوند. همانطور که شرکت ها در قلمرو هوش مصنوعی حرکت می کنند، بسیار مهم است که با احتیاط پیش بروید، راه حل ها را بررسی کنید و هوش مصنوعی قابل اعتماد را در اولویت قرار دهید.

هنر A.I را دنبال کنید. برای پادکست تجاری

^{هر از گاهی، IBM از رهبران فکری صنعت دعوت می کند تا نظرات و بینش خود را در مورد روندهای فعلی فناوری به اشتراک بگذارند. نظرات موجود در این پست وبلاگ متعلق به خودشان است و لزوماً منعکس کننده دیدگاه ها یا استراتژی های IBM نیست.}