ٹیک انٹرپرینیور وین چانگ کا دعویٰ ہے کہ اس نے ایک AI ٹول، LLM شیلڈ تیار کیا ہے، جو چیٹ بوٹس اور بڑے لینگویج ماڈلز (LLMs) کو روکتا ہے۔ چیٹ جی پی ٹی کمپنی کے راز لینے سے. AI ٹولز کا استعمال دیر سے بڑھتا جا رہا ہے، جس سے یہ خدشات بڑھ رہے ہیں کہ کمپنیاں ڈیٹا لیک اور قانونی چارہ جوئی کا شکار ہو سکتی ہیں۔
کی ایک رپورٹ کے مطابق سائبر ہیون، ایک اندازے کے مطابق 2.3% کارکنوں نے کمپنی کی خفیہ معلومات کو ChatGPT میں ڈال دیا ہے جبکہ چیٹ بوٹ میں چسپاں کیا گیا 11% ڈیٹا خفیہ ہے۔
نتیجے کے طور پر، جے پی مورگن چیس اینڈ کمپنی سمیت بہت سے کاروبار ہیں۔ مبینہ طور پر ٹول تک ملازم کی رسائی کو مسدود کر دیا۔
مزید پڑھئے: کیا Metaverse دفاتر واپسی کر رہے ہیں؟
LLM شیلڈ کو کاروباری اداروں اور حکومتوں کو حساس ڈیٹا جیسے ChatGPT اور AI سے چلنے والے ٹولز پر اپ لوڈ کرنے سے بچانے کے لیے ڈیزائن کیا گیا ہے۔ بارڈ.
چانگ نے فاکس بزنس کو بتایا کہ جب نومبر میں OpenAI کا ChatGPT مارکیٹ میں جاری کیا گیا تو اس نے دیکھا کہ یہ کتنا طاقتور ہوگا اور یہ "بڑے، بڑے خطرات کے ساتھ" آیا ہے۔
"چیزیں بہت تیزی سے بڑھنے والی ہیں - یہ ایک مثبت اور منفی دونوں ہے،" انہوں نے کہا۔
"یہاں میری توجہ یہ ہے کہ میں اس بات کو یقینی بنانا چاہتا ہوں کہ ہم AI کو مثبت طور پر ایک مثبت سمت میں لے جاسکیں اور ممکنہ حد تک منفی پہلو سے بچ سکیں۔"
ٹیکنالوجی کو کنٹرول کرنے کے لیے ٹیکنالوجی
صرف گزشتہ ہفتے جاری کیا گیا، LLM شیلڈ ہر بار جب حساس معلومات اپ لوڈ کرنے کی کوشش ہوتی ہے تنظیموں کو الرٹ کرتی ہے۔ فاکس بزنس کے مطابق، منتظمین اس بات کے لیے گارڈریل ترتیب دے سکتے ہیں کہ کمپنی کس قسم کے ڈیٹا کی حفاظت کرنا چاہتی ہے۔
اس طرح کی معلومات کو اپ لوڈ کرنے کی کوئی بھی کوشش ایل ایل ایم شیلڈ کو صارفین کو متنبہ کرنے کا اشارہ دے گی کہ وہ حساس ڈیٹا بھیجنے والے ہیں، اور تفصیلات کو مبہم کر دیں گے تاکہ مواد مفید ہو لیکن انسانوں کے لیے پڑھنے کے قابل نہ ہو۔
🚨 کمپنیاں اور ممالک LLMs پر بائیں اور دائیں پابندی لگا رہے ہیں۔ 🚨
اس کو حل کرنے کے لیے کوئی ٹولز نہیں ہیں ("پالیسیاں" کام نہیں کرتی ہیں)۔
اعلان @LLMShield - رساو کی روک تھام کی ٹیکنالوجی جو AI-پہلی دنیا کے لیے بنائی گئی ہے۔
کیا آپ جانتے ہیں کہ آپ کا ڈیٹا کون کاپی اور پیسٹ کر رہا ہے؟ https://t.co/EtO5bHJow1
- وین چانگ (@ وین) اپریل 20، 2023
LLM شیلڈ سے توقع کی جاتی ہے کہ وہ AI ٹولز کی طرح ہوشیار ہوتے رہیں گے جن کے اختیارات کو محدود کرنے کا کام اسے سونپا گیا ہے۔ یہ سپیم فلٹر کی طرح اپ ڈیٹ بھی ہوتا ہے، اس لیے جیسے جیسے مزید بوٹس مارکیٹ میں آئیں گے، یہ تحفظ کو مضبوط بنانے کے لیے خود بخود اپ ڈیٹ ہو جائے گا۔
چانگ کے مطابق، لوگوں کے لیے گھریلو استعمال کے لیے ڈاؤن لوڈ کرنے کے لیے ذاتی ورژن جاری کرنے کا منصوبہ ہے۔
ڈیٹا لیک ہونے سے کمپنیاں پریشان ہیں۔
اس سال کاروباری اداروں کی طرف سے AI ٹولز کے استعمال میں تیزی دیکھنے میں آئی ہے، اور امکان ہے کہ ہم 2023 کو اس سال کے طور پر دیکھیں گے جب AI انقلاب کا سنجیدگی سے آغاز ہوا تھا۔
تاہم، ان ٹولز کی آمد نے یہ خدشات بھی پیدا کر دیے ہیں کہ کارکنان اپنی مرضی سے یا حادثاتی طور پر حساس معلومات AI سے چلنے والے ٹولز جیسے ChatGPT کو لیک کر سکتے ہیں۔
خطرہ پہلے ہی موجود ہے۔ سیمسنگ حال ہی میں ڈیٹا لیک کی ایک سیریز کا تجربہ ہوا جب اس کے ملازمین نے مبینہ طور پر نئے بوٹس میں سورس کوڈ چسپاں کیا، جو ممکنہ طور پر ملکیتی معلومات کو بے نقاب کر سکتا ہے۔
تیزی سے، آجر ہیں گھبرانا اس بارے میں کہ ان کا عملہ کام پر AI ٹولز کا استعمال کیسے کر سکتا ہے۔ کچھ کاروباروں نے پہلے ہی کام پر ChatGPT کے استعمال پر پابندی لگا دی ہے، حالانکہ ملازمین اب بھی پابندیوں کے گرد اپنا راستہ تلاش کر رہے ہیں۔
ایک لیک میمو میں، Walmart نے ملازمین کو متنبہ کیا ہے کہ وہ ChatGPT کے ساتھ خفیہ معلومات کا اشتراک نہ کریں۔ گروپ نے کہا کہ اس نے پہلے چیٹ بوٹ کو "ایسی سرگرمی جس نے ہماری کمپنی کو خطرہ پیش کیا" کی وجہ سے بلاک کر دیا تھا۔
ایمیزون نے اپنے ملازمین کو بھی اسی چیلنج سے خبردار کیا ہے۔ اس کے کارپوریٹ وکیل نے ملازمین کو بتایا کہ کمپنی نے پہلے ہی چیٹ جی پی ٹی جوابات کی مثالیں دیکھی ہیں جو اندرونی ایمیزون اعداد و شمار.
ڈرپوک ملازمین
جیسا کہ ان ممالک میں جہاں ChatGPT ممنوع ہے لیکن پھر بھی استعمال کیا جاتا ہے۔ چین اور افریقہ کے کچھ حصے، مثال کے طور پر - ملازمین کو ان کی تنظیموں میں AI سے چلنے والے آلے کے استعمال سے نہیں روکا گیا ہے۔
A فش باؤل سروے فروری میں جاری ہونے والی رپورٹ میں انکشاف کیا گیا ہے کہ تقریباً 70% ملازمین اپنے مالکان کے علم کے بغیر کام پر ChatGPT استعمال کر رہے ہیں۔
سائبر ہیون کے سی ای او ہاورڈ ٹنگ نے Axios کو بتایا کہ ملازمین نے ہمیشہ چیٹ بوٹس تک رسائی کو روکنے کے کارپوریٹ نیٹ ورک پر پابندی سے بچنے کے طریقے تلاش کیے ہیں۔
انہوں نے کہا کہ کچھ کمپنیوں کا خیال ہے کہ ملازمین کو چیٹ بوٹ تک رسائی نہیں تھی اس سے پہلے کہ ان کی فرم انہیں دوسری صورت میں بتائے۔
انہوں نے انکشاف کیا کہ "صارفین نیٹ ورک پر مبنی سیکیورٹی ٹول کے بہت سے حصے کو حاصل کرنے کے لیے ایک پراکسی کا استعمال کر سکتے ہیں۔"
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹوآئ اسٹریم۔ ویب 3 ڈیٹا انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- ایڈریین ایشلے کے ساتھ مستقبل کا نقشہ بنانا۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://metanews.com/grimes-will-split-profits-50-on-ai-songs-using-her-voice/
- : ہے
- : ہے
- : نہیں
- :کہاں
- 20
- 2023
- a
- ہمارے بارے میں
- تک رسائی حاصل
- کے مطابق
- منتظمین
- افریقہ
- AI
- AI سے چلنے والا
- انتباہ
- تنبیہات سب
- مبینہ طور پر
- پہلے ہی
- بھی
- ہمیشہ
- an
- اور
- کیا
- ارد گرد
- AS
- At
- خود کار طریقے سے
- Axios
- واپس
- پر پابندی لگا دی
- پابندیاں
- کی بنیاد پر
- BE
- رہا
- اس سے پہلے
- شروع ہوا
- خیال کیا
- بگ
- بلاک کردی
- مسدود کرنے میں
- بوم
- مالکان
- دونوں
- خودکار صارف دکھا ئیں
- تعمیر
- کاروبار
- کاروبار
- لیکن
- by
- کر سکتے ہیں
- سی ای او
- چیلنج
- پیچھا
- چیٹ بٹ
- چیٹ بٹس
- چیٹ جی پی ٹی
- دعوے
- CO
- کوڈ
- واپسی۔
- کمپنیاں
- کمپنی کے
- اندراج
- مواد
- جاری
- کنٹرول
- کاپی
- کارپوریٹ
- سکتا ہے
- ممالک
- اعداد و شمار
- ڈیزائن
- تفصیلات
- ترقی یافتہ
- سمت
- نہیں
- ڈاؤن لوڈ، اتارنا
- نیچے کی طرف
- ہر ایک
- ملازم
- ملازمین
- آجروں
- ٹھیکیدار
- اندازے کے مطابق
- Ether (ETH)
- توقع
- تجربہ کار
- فروری
- فلٹر
- مل
- فرم
- توجہ مرکوز
- کے لئے
- ملا
- فاکس بزنس
- سے
- حاصل
- حاصل کرنے
- جا
- حکومتیں
- گروپ
- ہے
- he
- یہاں
- مارو
- ہوم پیج (-)
- کس طرح
- HTTPS
- انسان
- i
- in
- سمیت
- اضافہ
- افراد
- آمد
- معلومات
- مثال کے طور پر
- میں
- IT
- میں
- خود
- جی پی مورگن
- جے پی مورگن چیز
- صرف
- علم
- زبان
- بڑے
- آخری
- مرحوم
- قانونی مقدموں
- وکیل
- لیک
- لیک
- کی طرح
- امکان
- دیکھو
- بہت
- بنا
- بنانا
- بہت سے
- مارکیٹ
- مئی..
- میٹاورس
- شاید
- ماڈل
- زیادہ
- مورگن
- تقریبا
- منفی
- نیٹ ورک
- نئی
- نومبر
- of
- دفاتر
- on
- صرف
- or
- تنظیمیں
- دوسری صورت میں
- ہمارے
- ہماری کمپنی
- حصے
- ذاتی
- کی منصوبہ بندی
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- مثبت
- ممکن
- ممکنہ طور پر
- طاقتور
- اختیارات
- پیش
- خوبصورت
- روک تھام
- پہلے
- منافع
- ملکیت
- حفاظت
- تحفظ
- پراکسی
- ڈال
- جلدی سے
- اٹھایا
- بلند
- پڑھیں
- حال ہی میں
- جاری
- جاری
- رپورٹ
- پابندی
- نتیجہ
- انکشاف
- انقلاب
- رسک
- خطرات
- کہا
- اسی
- سیکورٹی
- دیکھا
- حساس
- سیریز
- مقرر
- سیکنڈ اور
- ڈھال
- اسی طرح
- ہوشیار
- So
- حل کرنا۔
- کچھ
- ماخذ
- ماخذ کوڈ
- سپیم سے
- تقسیم
- سٹاف
- ابھی تک
- مضبوط بنانے
- اس طرح
- لینے
- ٹیکنالوجی
- کہ
- ۔
- ان
- ان
- وہاں.
- یہ
- وہ
- اس
- ان
- وقت
- کرنے کے لئے
- کے آلے
- اوزار
- سچ
- اقسام
- اپ ڈیٹ کریں
- تازہ ترین معلومات
- اپ لوڈ کرنا
- استعمال کی شرائط
- استعمال کیا جاتا ہے
- صارفین
- کا استعمال کرتے ہوئے
- ورژن
- وائس
- قابل اطلاق
- تھا
- راستہ..
- طریقوں
- we
- ہفتے
- تھے
- کیا
- جب
- جس
- جبکہ
- گے
- خوشی سے
- ساتھ
- بغیر
- کام
- کارکنوں
- دنیا
- گا
- WSJ
- سال
- آپ
- اور
- زیفیرنیٹ