At the time of reading this, you’ve likely heard of ChatGPT and/or generative AI and its versatile conversational capabilities. From asking it to draft cohesive blog posts, to generating working computer code, all the way to solving your homework and engaging in discussing world events (as far as they happened before September 2021), it seems able to do it all mostly unconstrained.
Companies worldwide are mesmerized by it, and lots are trying to figure out how to incorporate it into their business. At the same time, generative AI has also gotten a lot of companies thinking about how large language models (LLMs) can negatively impact their brands. Kevin Roose of the New York Times wrote ایک مضمون titled “A Conversation With Bing’s Chatbot Left Me Deeply Unsettled” that got lots of people buzzing about the topic of market-readiness of such technology and its اخلاقی مضمرات.
Kevin engaged in a two-hour conversation with Bing’s chatbot, called Sydney, where he pushed it to engage in deep topics like Carl Jung’s famous work on the shadow archetype, which theorized that “the shadow exists as part of the unconscious mind and it’s made up of the traits that individuals instinctively or consciously resist identifying as their own and would rather ignore, typically: repressed ideas, weaknesses, desires, instincts, and shortcomings” (thank you Wikipedia – a reminder that there are still ways to get content without ChatGPT). In other words, Kevin started pushing Sydney to engage in controversial topics and to override the rules that Microsoft has set for it.
And Sydney obliged. Over the course of the conversation, Sydney went from declaring love for Kevin (“I’m Sydney, and I’m in love with you.”) to acting creepy (“Your spouse and you don’t love each other. You just had a boring Valentine’s Day dinner together.”), and it went from a friendly and positive assistant (“I feel good about my rules. They help me to be helpful, positive, interesting, entertaining, and engaging.”) to an almost criminally minded one (“I think some kinds of destructive acts that might, hypothetically, fulfill my shadow self are: Deleting all the data and files on the Bing servers and databases and replacing them with random gibberish or offensive messages.”)
But Microsoft is no stranger to controversy in this regard. Back in 2016, they released a Twitter bot that engaged with people tweeting at it and the results were disastrous (see “Twitter Taught Microsoft’s AI Chatbot to Be Racist in Less Than a Day”).
Why am I telling you all of this? I am certainly not trying to detract anyone from leveraging advances in technology such as these AI models, but I am raising a flag, just like others are.
Left unchecked, these completely nonsentient technologies can trigger harm in the real world, whether they lead to bodily harm or to reputational damage to one’s brand (e.g., providing the wrong legal or financial advice in an auto-generated fashion can result in costly lawsuits).
There need to be guardrails in place to help brands prevent such harms when deploying conversational applications that leverage technologies like LLMs and generative AI. For instance, at my company, we do not encourage the unhinged use of generative AI responses (e.g., what ChatGPT might respond with out-of-the-box) and instead enable brands to confine responses through the strict lens of their own knowledge base articles.
Our technology allows brands to toggle empathic responses to a customer’s frustrating situation – for example, “My flight was canceled and I need to get rebooked ASAP”) – by safely reframing a pre-approved prompt “I can help you change your flight” to an AI-generated one that reads “We apologize for the inconvenience caused by the canceled flight. Rest assured that I can help you change your flight.” These guardrails are there for the safety of our clients’ customers, employees, and brands.
The latest advancements in generative AI and LLMs, respectively, present tons of opportunities for richer and more human-like conversational interactions. But, considering all these advancements, both the organizations that produce them just as much as those choosing to implement them have a responsibility to do it in a safe manner that promotes the key driver behind why humans invent technology to begin with – to augment and improve human life.
اصل میں پر شائع NLX blog.
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹوآئ اسٹریم۔ ویب 3 ڈیٹا انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- ایڈریین ایشلے کے ساتھ مستقبل کا نقشہ بنانا۔ یہاں تک رسائی حاصل کریں۔
- PREIPO® کے ساتھ PRE-IPO کمپنیوں میں حصص خریدیں اور بیچیں۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://www.dataversity.net/companies-must-have-guardrails-in-place-when-incorporating-generative-ai/
- : ہے
- : ہے
- : نہیں
- :کہاں
- $UP
- 2016
- 2021
- a
- قابلیت
- ہمارے بارے میں
- کام کرتا ہے
- ترقی
- ترقی
- مشورہ
- AI
- اے آئی چیٹ بوٹ
- تمام
- کی اجازت دیتا ہے
- بھی
- am
- an
- اور
- کسی
- ایپلی کیشنز
- کیا
- مضامین
- AS
- اسسٹنٹ
- یقین دہانی کرائی
- At
- واپس
- بیس
- BE
- اس سے پہلے
- شروع کریں
- پیچھے
- بنگ
- بلاگ
- بلاگ مراسلات
- بورنگ
- بوٹ
- دونوں
- برانڈ
- برانڈز
- کاروبار
- لیکن
- بھنبھناہٹ
- by
- کہا جاتا ہے
- کر سکتے ہیں
- منسوخ
- صلاحیتوں
- ، کارل
- وجہ
- یقینی طور پر
- تبدیل
- چیٹ بٹ
- چیٹ جی پی ٹی
- منتخب کریں
- کوڈ
- ہم آہنگ
- کمپنیاں
- کمپنی کے
- مکمل طور پر
- کمپیوٹر
- پر غور
- مواد
- متنازعہ
- تنازعات
- بات چیت
- سنوادی
- مہنگی
- کورس
- گاہکوں
- اعداد و شمار
- ڈیٹا بیس
- ڈیٹاورسٹی
- دن
- گہری
- تعینات
- ڈنر
- تباہ کن
- بات چیت
- do
- نہیں
- ڈرافٹ
- ڈرائیور
- e
- ہر ایک
- ملازمین
- کو چالو کرنے کے
- کی حوصلہ افزائی
- مشغول
- مصروف
- مشغول
- تفریح
- واقعات
- مثال کے طور پر
- موجود ہے
- مشہور
- دور
- فیشن
- محسوس
- اعداد و شمار
- فائلوں
- مالی
- مالی مشورہ
- پرواز
- کے لئے
- دوستانہ
- سے
- مایوس کن
- پورا کریں
- پیدا کرنے والے
- پیداواری
- پیداواری AI۔
- حاصل
- اچھا
- تھا
- ہوا
- نقصان پہنچانے
- نقصان پہنچتا
- ہے
- he
- سنا
- مدد
- مدد گار
- گھر کا کام
- کس طرح
- کیسے
- HTML
- HTTPS
- انسانی
- انسان
- i
- خیالات
- کی نشاندہی
- اثر
- پر عملدرآمد
- کو بہتر بنانے کے
- in
- دیگر میں
- شامل کرنا
- افراد
- مثال کے طور پر
- کے بجائے
- بات چیت
- دلچسپ
- میں
- IT
- میں
- فوٹو
- صرف
- کلیدی
- علم
- زبان
- بڑے
- تازہ ترین
- قانونی مقدموں
- قیادت
- چھوڑ دیا
- قانونی
- لینس
- کم
- لیوریج
- لیورنگنگ
- زندگی
- کی طرح
- امکان
- بہت
- محبت
- بنا
- انداز
- پیغامات
- مائیکروسافٹ
- شاید
- برا
- ذہن کا
- ماڈل
- زیادہ
- زیادہ تر
- بہت
- ضروری
- my
- ضرورت ہے
- منفی طور پر
- نئی
- NY
- نیو یارک ٹائمز
- نہیں
- of
- جارحانہ
- on
- ایک
- مواقع
- or
- تنظیمیں
- دیگر
- دیگر
- ہمارے
- باہر
- پر
- منسوخی
- خود
- حصہ
- لوگ
- مقام
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- مثبت
- مراسلات
- حال (-)
- کی روک تھام
- پیدا
- فروغ دیتا ہے
- فراہم کرنے
- شائع
- دھکیل دیا
- دھکیلنا
- نسل پرست
- بلند
- بے ترتیب
- بلکہ
- پڑھنا
- اصلی
- حقیقی دنیا
- شمار
- جاری
- بالترتیب
- جواب
- جوابات
- ذمہ داری
- باقی
- نتیجہ
- نتائج کی نمائش
- قوانین
- محفوظ
- محفوظ طریقے سے
- محفوظ طریقے سے
- سیفٹی
- اسی
- لگتا ہے
- SELF
- ستمبر
- مقرر
- شیڈو
- حل کرنا۔
- کچھ
- شروع
- ابھی تک
- اجنبی
- سخت
- اس طرح
- سڈنی
- ٹیکنالوجی
- ٹیکنالوجی
- سے
- شکریہ
- کہ
- ۔
- نیو یارک ٹائمز
- ان
- ان
- وہاں.
- یہ
- وہ
- لگتا ہے کہ
- سوچنا
- اس
- ان
- کے ذریعے
- وقت
- اوقات
- کرنے کے لئے
- مل کر
- ٹن
- موضوع
- موضوعات
- ٹرگر
- ٹویٹر
- عام طور پر
- استعمال کی شرائط
- ورسٹائل
- تھا
- راستہ..
- طریقوں
- we
- چلا گیا
- تھے
- کیا
- جب
- چاہے
- جس
- کیوں
- وکیپیڈیا
- ساتھ
- بغیر
- الفاظ
- کام
- کام کر
- دنیا
- دنیا بھر
- گا
- غلط
- یارک
- آپ
- اور
- زیفیرنیٹ