AI میں تنوع کی اہمیت رائے نہیں ہے، یہ ریاضی ہے – IBM بلاگ

ہم سب اپنی مثالی انسانی اقدار کو ہماری ٹیکنالوجیز میں جھلکتے دیکھنا چاہتے ہیں۔ ہم توقع کرتے ہیں کہ مصنوعی ذہانت (AI) جیسی ٹیکنالوجیز ہم سے جھوٹ نہ بولیں، امتیازی سلوک نہ کریں، اور ہمارے اور ہمارے بچوں کے استعمال کے لیے محفوظ رہیں۔ اس کے باوجود بہت سے AI تخلیق کاروں کو فی الحال ان کے ماڈلز میں سامنے آنے والے تعصبات، غلطیاں اور دشوار گزار ڈیٹا پریکٹسز کے لیے ردعمل کا سامنا ہے۔ ان مسائل کے لیے تکنیکی، الگورتھمک یا AI پر مبنی حل کی ضرورت ہے۔ حقیقت میں، ایک جامع، سماجی-تکنیکی نقطہ نظر کی ضرورت ہے۔

ریاضی ایک طاقتور سچائی کو ظاہر کرتا ہے۔

تمام پیش گوئی کرنے والے ماڈل، بشمول AI، زیادہ درست ہوتے ہیں جب وہ متنوع انسانی ذہانت اور تجربے کو شامل کرتے ہیں۔ یہ ایک رائے نہیں ہے؛ اس میں تجرباتی اعتبار ہے۔ پر غور کریں۔ تنوع کی پیشن گوئی کا نظریہ. سیدھے الفاظ میں، جب کسی گروپ میں تنوع زیادہ ہوتا ہے، تو ہجوم کی غلطی چھوٹی ہوتی ہے — "ہجوم کی حکمت" کے تصور کی حمایت کرتی ہے۔ ایک بااثر مطالعہ میں، یہ دکھایا گیا کہ کم صلاحیت کے مسائل حل کرنے والوں کے متنوع گروپ اعلیٰ صلاحیت کے مسائل حل کرنے والے گروپوں کو پیچھے چھوڑ سکتے ہیں (ہانگ اینڈ پیج، 2004).

ریاضی کی زبان میں: آپ کا تغیر جتنا وسیع ہوگا، آپ کا مطلب اتنا ہی معیاری ہوگا۔ مساوات اس طرح نظر آتی ہے:

A مزید پڑھائی مزید حسابات فراہم کیے جو ایک عقلمند ہجوم کی شماریاتی تعریفوں کو بہتر بناتے ہیں، بشمول دیگر اراکین کی پیشین گوئیوں سے لاعلمی اور ان کی شمولیت زیادہ سے زیادہ مختلف (منفی طور پر منسلک) پیش گوئیاں یا فیصلے۔ لہذا، یہ صرف حجم نہیں ہے، بلکہ تنوع ہے جو پیشین گوئیوں کو بہتر بناتا ہے۔ یہ بصیرت AI ماڈلز کی تشخیص کو کیسے متاثر کر سکتی ہے؟

ماڈل (میں) درستگی

ایک عام افورزم کا حوالہ دینے کے لیے، تمام ماڈلز غلط ہیں۔ یہ شماریات، سائنس اور AI کے شعبوں میں درست ہے۔ ڈومین کی مہارت کی کمی کے ساتھ بنائے گئے ماڈلز کا باعث بن سکتے ہیں۔ غلط نتائج

آج، لوگوں کا ایک چھوٹا سا یکساں گروپ یہ طے کرتا ہے کہ تخلیقی AI ماڈلز کو تربیت دینے کے لیے کون سا ڈیٹا استعمال کیا جائے، جو کہ انگریزی کی بہت زیادہ نمائندگی کرنے والے ذرائع سے حاصل کیا گیا ہے۔ "دنیا کی 6,000 سے زیادہ زبانوں کے لیے، دستیاب ٹیکسٹ ڈیٹا بڑے پیمانے پر فاؤنڈیشن ماڈل کو تربیت دینے کے لیے کافی نہیں ہے" (سے "فاؤنڈیشن ماڈلز کے مواقع اور خطرات پر"Bommasani et al.، 2022)۔

مزید برآں، ماڈلز خود محدود فن تعمیر سے بنائے گئے ہیں: "تقریباً تمام جدید ترین NLP ماڈلز اب چند فاؤنڈیشن ماڈلز، جیسے BERT، RoBERta، BART، T5، وغیرہ میں سے ایک سے اخذ کیے گئے ہیں۔ جبکہ یہ ہم آہنگی پیدا کرتی ہے۔ بہت زیادہ لیوریج (فاؤنڈیشن ماڈلز میں کوئی بھی بہتری تمام NLP میں فوری فوائد کا باعث بن سکتی ہے)، یہ بھی ایک ذمہ داری ہے۔ تمام AI سسٹمز کو کچھ فاؤنڈیشن ماڈلز کے ایک ہی پریشانی والے تعصبات کا وراثت مل سکتا ہے (بومسانی وغیرہ۔) "

تخلیقی AI کے لیے مختلف کمیونٹیز کو بہتر طریقے سے ظاہر کرنے کے لیے جو اس کی خدمت کرتا ہے، انسانوں کے ڈیٹا کی بہت وسیع اقسام کو ماڈلز میں پیش کیا جانا چاہیے۔

ماڈل کی درستگی کا اندازہ لگانا تعصب کا جائزہ لینے کے ساتھ ساتھ ہوتا ہے۔ ہمیں یہ پوچھنا چاہیے کہ ماڈل کا مقصد کیا ہے اور اسے کس کے لیے بہتر بنایا گیا ہے؟ غور کریں، مثال کے طور پر، مواد کی سفارش کے الگورتھم اور سرچ انجن الگورتھم سے سب سے زیادہ فائدہ کس کو ہوتا ہے۔ اسٹیک ہولڈرز کے وسیع پیمانے پر مختلف مفادات اور مقاصد ہو سکتے ہیں۔ الگورتھم اور ماڈلز کو Bayes کی خرابی کے لیے اہداف یا پراکسی کی ضرورت ہوتی ہے: کم از کم خرابی جس پر ماڈل کو بہتری لانی چاہیے۔ یہ پراکسی اکثر ایک شخص ہوتا ہے، جیسے کہ ڈومین کی مہارت کے ساتھ موضوع کا ماہر۔

ایک بہت ہی انسانی چیلنج: ماڈل کی خریداری یا ترقی سے پہلے خطرے کا اندازہ لگانا

ابھرتے ہوئے AI قواعد و ضوابط اور ایکشن پلان تیزی سے الگورتھمک اثرات کی تشخیص کے فارموں کی اہمیت کو واضح کر رہے ہیں۔ ان فارمز کا مقصد AI ماڈلز کے بارے میں اہم معلومات حاصل کرنا ہے تاکہ گورننس ٹیمیں ان کو تعینات کرنے سے پہلے ان کے خطرات کا جائزہ لے سکیں اور ان سے نمٹنے کے لیے تیار ہوں۔ عام سوالات میں شامل ہیں:

• آپ کے ماڈل کے استعمال کا کیس کیا ہے؟
• مختلف اثرات کے خطرات کیا ہیں؟
• آپ انصاف کا اندازہ کیسے لگا رہے ہیں؟
• آپ اپنے ماڈل کو قابل وضاحت کیسے بنا رہے ہیں؟

اگرچہ اچھے ارادے کے ساتھ ڈیزائن کیا گیا ہے، لیکن مسئلہ یہ ہے کہ زیادہ تر AI ماڈل کے مالکان یہ نہیں سمجھتے کہ ان کے استعمال کے معاملے میں خطرات کا اندازہ کیسے لگایا جائے۔ ایک عام پرہیز ہو سکتا ہے، "میرا ماڈل غیر منصفانہ کیسے ہو سکتا ہے اگر یہ ذاتی طور پر قابل شناخت معلومات (PII) جمع نہیں کر رہا ہے؟" نتیجتاً، فارم کو شاذ و نادر ہی اس سوچ کے ساتھ مکمل کیا جاتا ہے کہ گورننس سسٹم کے لیے خطرے کے عوامل کو درست طریقے سے نشان زد کیا جائے۔

اس طرح، حل کی سماجی اور تکنیکی نوعیت کو نمایاں کیا گیا ہے۔ ایک ماڈل کے مالک — ایک فرد — کو یہ جانچنے کے لیے چیک باکسز کی فہرست نہیں دی جا سکتی کہ آیا ان کے استعمال کا معاملہ نقصان کا باعث بنے گا۔ اس کے بجائے، ضرورت اس بات کی ہے کہ وسیع پیمانے پر مختلف زندگی گزارنے والے تجربات کے حامل لوگوں کے گروپس کمیونٹیز میں اکٹھے ہوں جو مختلف اثرات کے بارے میں مشکل گفتگو کرنے کے لیے نفسیاتی تحفظ کی پیشکش کرتے ہیں۔

قابل اعتماد AI کے لیے وسیع تر تناظر کا خیرمقدم کرنا

IBM® ایک "کلائنٹ زیرو" نقطہ نظر اختیار کرنے، ان سفارشات اور نظاموں کو نافذ کرنے پر یقین رکھتا ہے جو وہ اپنے کلائنٹس کے لیے مشاورت اور پروڈکٹ کی قیادت میں حل کرے گا۔ یہ نقطہ نظر اخلاقی طریقوں تک پھیلا ہوا ہے، یہی وجہ ہے کہ IBM نے ایک قابل اعتماد AI سینٹر آف ایکسیلنس (COE) بنایا۔

جیسا کہ اوپر بیان کیا گیا ہے، تجربات اور مہارتوں کا تنوع AI کے اثرات کا صحیح اندازہ لگانے کے لیے اہم ہے۔ لیکن سنٹر آف ایکسی لینس میں حصہ لینے کا امکان ایسی کمپنی میں خوفزدہ ہو سکتا ہے جو AI کے اختراع کاروں، ماہرین اور ممتاز انجینئروں سے بھری ہو، اس لیے نفسیاتی تحفظ کی کمیونٹی کو فروغ دینے کی ضرورت ہے۔ IBM یہ کہہ کر واضح طور پر بات کرتا ہے، "AI میں دلچسپی ہے؟ AI اخلاقیات میں دلچسپی ہے؟ آپ کو اس میز پر بیٹھنا ہے۔"

COE ہر سطح پر پریکٹیشنرز کو AI اخلاقیات کی تربیت فراہم کرتا ہے۔ سنکرونس لرننگ (کلاس سیٹنگز میں ٹیچر اور طلباء) اور غیر مطابقت پذیر (خود رہنمائی) دونوں پروگرام پیش کیے جاتے ہیں۔

لیکن یہ COE کا ہے۔ اطلاقی ایسی تربیت جو ہمارے پریکٹیشنرز کو گہری بصیرت فراہم کرتی ہے، کیونکہ وہ مختلف اثرات کو بہتر طور پر سمجھنے کے لیے حقیقی پروجیکٹس پر عالمی، متنوع، کثیر الشعبہ ٹیموں کے ساتھ کام کرتے ہیں۔ وہ آئی بی ایم کے ڈیزائن سوچ کے فریم ورک کا بھی فائدہ اٹھاتے ہیں۔ AI کے لیے ڈیزائن گروپ AI ماڈلز کے غیر ارادی اثرات کا جائزہ لینے کے لیے اندرونی طور پر اور کلائنٹس کے ساتھ استعمال کرتا ہے، ان لوگوں کو ذہن میں رکھتے ہوئے جو اکثر پسماندہ رہتے ہیں۔ (دیکھیں سلویا ڈک ورتھز طاقت اور استحقاق کا پہیہ اس کی مثالوں کے لیے کہ کس طرح ذاتی خصوصیات لوگوں کو مراعات یا پسماندہ کرنے کے لیے آپس میں ملتی ہیں۔) IBM نے اوپن سورس کمیونٹی کو بہت سے فریم ورک بھی عطیہ کیے اخلاقی طور پر ڈیزائن کریں۔.

ذیل میں کچھ رپورٹس ہیں جو IBM نے ان منصوبوں پر عوامی طور پر شائع کی ہیں:

آپ کے AI ماڈل کی کارکردگی کے بارے میں اہم بصیرتیں حاصل کرنے کے لیے خودکار AI ماڈل گورننس ٹولز کی ضرورت ہے۔ لیکن نوٹ کریں، آپ کے ماڈل کے تیار ہونے اور پروڈکشن میں ہونے سے پہلے خطرے کو اچھی طرح سے پکڑنا بہترین ہے۔ متنوع، کثیر الضابطہ پریکٹیشنرز کی کمیونٹیز بنا کر جو لوگوں کو مختلف اثرات کے بارے میں سخت بات چیت کرنے کے لیے محفوظ جگہ فراہم کرتے ہیں، آپ اپنے اصولوں کو عملی جامہ پہنانے کے لیے اپنا سفر شروع کر سکتے ہیں اور AI کو ذمہ داری سے تیار کر سکتے ہیں۔

عملی طور پر، جب آپ AI پریکٹیشنرز کی خدمات حاصل کر رہے ہوتے ہیں، تو اس بات پر غور کریں کہ ماڈلز بنانے میں 70% سے زیادہ کوششیں صحیح ڈیٹا کو درست کر رہی ہیں۔ آپ ایسے لوگوں کی خدمات حاصل کرنا چاہتے ہیں جو جانتے ہیں کہ ڈیٹا کیسے اکٹھا کرنا ہے جو کہ نمائندہ ہے اور وہ بھی رضامندی سے جمع کیا جاتا ہے۔ آپ ان لوگوں کو بھی چاہتے ہیں جو ڈومین کے ماہرین کے ساتھ مل کر کام کرنا جانتے ہیں تاکہ یہ یقینی بنایا جا سکے کہ ان کے پاس صحیح نقطہ نظر ہے۔ اس بات کو یقینی بنانا کہ ان پریکٹیشنرز کے پاس جذباتی ذہانت ہے کہ وہ عاجزی اور سمجھداری کے ساتھ ذمہ داری کے ساتھ AI کو ٹھیک کرنے کے چیلنج کا مقابلہ کر سکے۔ ہمیں یہ سیکھنے کے بارے میں جان بوجھ کر ہونا چاہیے کہ کیسے اور کب AI نظام عدم مساوات کو اتنا ہی بڑھا سکتے ہیں جتنا وہ انسانی ذہانت کو بڑھا سکتے ہیں۔

تجدید کریں کہ آپ کا کاروبار AI کے ساتھ کیسے کام کرتا ہے۔