Bio Eats World: Bio کو مزید آگے لے جانے کے لیے AI کا استعمال

Bio Eats World: Bio کو مزید آگے لے جانے کے لیے AI کا استعمال

ٹائم سٹیمپ: 11 جنوری 2023 2:35 PM
ماخذ نوڈ: 1896777

اس ایپی سوڈ میں، وجے پانڈے Inceptive کے شریک بانی اور CEO Jakob Uszkoreit کے ساتھ بات کر رہے ہیں۔ ایک ساتھ، وہ تمام چیزوں پر AI پر تبادلہ خیال کرتے ہیں۔

اگر آپ پڑھنا چاہتے ہیں تو ہم ذیل میں مکمل ٹرانسکرپٹ شائع کر رہے ہیں۔

***

اولیویا ویب: ہیلو، اور بائیو ایٹس ورلڈ میں خوش آمدید، بائیو، ہیلتھ کیئر، اور ٹیک کے چوراہے پر ایک پوڈ کاسٹ۔ میں Olivia Webb ہوں، a16z پر Bio + Health کی ادارتی قیادت۔ اس ایپی سوڈ میں، ہم نے Jakob Uszkoreit، جو پہلے Google Brain کے تھے، اور Inceptive کے شریک بانی سے بات کی۔ Jakob سیمینل AI ریسرچ پیپر کے مصنفین میں سے ایک ہے Attention is All You Need، جسے ہم شو نوٹس میں لنک کریں گے۔ Jakob a16z Bio + Health کے بانی پارٹنر وجے پانڈے کے ساتھ تمام چیزوں کے بارے میں بات کرنے کے لیے بیٹھ گیا: AI: Google Brain میں اپنے وقت سے لے کر، انسان اور کمپیوٹرز زبان کو کیسے پروسیس کرتے ہیں، RNA کے وعدے پر Inceptive کے یقین تک، اور Jakob ہم پر کیسے یقین کرتا ہے۔ AI کے ساتھ انفلیکشن پوائنٹ ٹیریٹری میں داخل ہو رہے ہیں۔

یہ ایک ایسا ایپی سوڈ ہے جسے آپ یاد نہیں کرنا چاہتے — لیکن یہ AI پر گریجویٹ سطح کی بحث بھی ہے، لہذا ہم ایپی سوڈ کے ساتھ ساتھ ایک ٹرانسکرپٹ بھی شائع کریں گے۔ آو شروع کریں.

قابل اطلاق الگورتھم

وجے پانڈے: تو جیکب، Bio Eats World پر ہونے کے لیے آپ کا بہت شکریہ۔ آپ کا ہونا بہت اچھا ہے۔

Jakob Uszkoreit: یہاں ہونا بہت اچھا ہے۔ مجھے رکھنے کے لیے آپ کا شکریہ۔

وجے پانڈے: خاص طور پر چونکہ آپ کے پاس ایک کمپیوٹر سائنس دان اور کاروباری شخصیت اور بانی کے طور پر اتنی دلچسپ کہانی ہے، میں آپ کے لیے پسند کروں گا کہ آپ ہمیں اپنے کیریئر کے سفر میں لے جائیں، جہاں سے آپ چاہیں شروع کریں، لیکن جس چیز نے آپ کو گوگل برین تک پہنچایا وہ شاید شروع کرنے کے لیے ایک اچھی جگہ ہے۔ .

Jakob Uszkoreit: مجھے کسی حد تک یاد ہے کہ مشین لرننگ کے اس مسئلے کا سامنا کرنا پڑا، شاید وسیع تر معنوں میں، [اور] زبان کی سمجھ میں، کچھ خاص طور پر، خاندان میں چلنے والے مسئلے کے طور پر۔ تو میرے والد ایک کمپیوٹر سائنس دان اور کمپیوٹیشنل ماہر لسانیات ہیں اور، آپ جانتے ہیں کہ، ٹورنگ مشینوں جیسی چیزوں کی پرورش ضروری نہیں تھی کہ بالکل ابتدائی طور پر مکمل طور پر غیر ملکی تصورات ہوں۔

وجے پانڈے: ہاں، ایسا لگتا ہے کہ حقیقت میں یہ رات کے کھانے کی میز پر گفتگو ہو سکتی ہے۔

Jakob Uszkoreit: وہ رات کے کھانے کی میز پر گفتگو کر رہے تھے۔ اور اس طرح خاص طور پر محدود آٹو میٹا، اور وہ اصل میں وینڈنگ مشینوں سے کیسے متعلق ہیں، آپ جانتے ہیں، عام موضوعات تھے۔ میں جتنا بڑا ہوا، اتنا ہی میں اس بات کو یقینی بنانا چاہتا تھا کہ میں نے حقیقت میں کچھ مختلف کرنا شروع کیا۔ اور اس طرح میں نے خالص ریاضی اور وہاں سے متعلقہ شعبوں میں تھوڑا سا دیکھا۔ [I] نے واقعی اصلاح پر، اصلاح کے الگورتھم پر، مجموعی طور پر الگورتھم پر، زیادہ وسیع پیمانے پر پیچیدگی تھیوری پر توجہ مرکوز کی، اس سے پہلے کہ یہ سمجھنے سے پہلے کہ یہ سب سے زیادہ عملی چیز اور سب سے زیادہ قابل اطلاق چیز نہیں تھی، جو آپ جانتے ہیں، ایک قسم کی بن گئی ہے۔ میرے پورے کیریئر میں تھوڑا سا سرخ دھاگہ۔ اور پھر لفظی طور پر 2005 میں گوگل کی انٹرنشپ پر ٹھوکر کھائی۔

مجھے کچھ مختلف اختیارات دیئے گئے تھے [کہ] کس قسم کے تحقیقی منصوبوں میں شامل ہونا ہے، [اور] ان میں مختلف کمپیوٹر ویژن کی کوششیں تھیں، بلکہ مشینی ترجمہ کا پروجیکٹ بھی جو بنیادی طور پر گوگل ٹرانسلیٹ بن گیا تھا۔ اس وقت کے آس پاس، یا اس سے تھوڑا سا پہلے، [ترجمہ] نے اپنا پہلا پروڈکٹ لانچ کیا جو واقعی گوگل کے اندرونی نظاموں سے چلتا تھا جو کہ تیار کیے گئے تھے اور ایک خاص معنوں میں، میری مایوسی کے لیے، یہ پتہ چلتا ہے کہ گوگل ٹرانسلیٹ اس وقت تک سب سے زیادہ دلچسپ بڑے پیمانے پر الگورتھم کے مسائل تھے۔

اس وقت، یہ دیکھنا واقعی دلچسپ تھا، کیوں کہ جس چیز نے مجھے اپنی پی ایچ ڈی کو ختم کرنے اور اس انٹرنشپ کے بعد اصل میں گوگل پر واپس آنے پر راضی کیا، یہ واقعی میرے وقت میں واضح ہو گیا تھا کہ اگر آپ کسی چیز پر کام کرنا چاہتے ہیں۔ مشین لرننگ جو نہ صرف دلچسپ تھی اور آئیے فکری اور سائنسی طور پر، دلچسپ، چیلنجنگ، اور محرک کہہ لیں، بلکہ اس سے صنعت اور مصنوعات میں سوئی کو فوراً منتقل کرنے کی بہت زیادہ امیدیں تھیں۔ واقعی، اس وقت کے آس پاس، دنیا میں بہت زیادہ جگہیں نہیں تھیں۔ اور وہ یقینی طور پر اس وقت اکیڈمک لیبز نہیں تھے بلکہ گوگل جیسی بہت سی جگہیں تھیں۔ اور گوگل وہاں اور پھر اصل میں اس میں سب سے آگے تھا۔ اور اس طرح، آپ جانتے ہیں، اس وقت میں نے سوچا تھا کہ ایک ہزار مشینوں پر اپنے پہلے بڑے پیمانے پر کلسٹرنگ الگورتھم چلانا حیرت انگیز تھا، اور کہیں اور ایسا کرنا بالکل، بالکل ناممکن تھا۔

وجے پانڈے: جب آپ ہمارے سینئر ساتھیوں سے بات کرتے ہیں، تو Bell Labs heyday میں بہت زیادہ رومانیت نظر آتی ہے، اور میں نے ہمیشہ سوچا ہے کہ کیا گوگل برین آج کل قریب ترین مختلف حالتوں میں سے ایک ہو سکتا ہے۔ ماحول کیسا تھا؟

Jakob Uszkoreit: تو میں واقعی اس وقت کے درمیان محسوس کرتا ہوں اور جب گوگل برین واقعی شروع ہوا، جو کہ تقریباً پانچ سال بعد ہے، وہاں ایک اہم تبدیلی آئی۔ Brain اور Translate شروع ہونے سے پہلے، یہ بہت زیادہ پروڈکٹس کے ذریعے کارفرما تھا جس نے مجھے یقین ہے کہ Bell Labs کے مقابلے میں واقعی فرق پڑا۔ اور ہمارے پاس بیل لیبز کے سابق طلباء کی اچھی خاصی تعداد تھی، یقیناً ہمارے درمیان، لیکن یہ براہ راست لاگو ہونے سے بہت زیادہ حوصلہ افزائی کرتا تھا۔

جس کا مشاہدہ کرنا میرے لیے واقعی حیرت انگیز تھا، کس طرح مشینی ترجمہ [کسی ایسی چیز سے] ہوا جو پارٹی میں ہنسنے کے لیے اچھا تھا، بالکل لفظی۔ اگر وہ آپ سے پوچھیں کہ آپ کہاں کام کرتے ہیں؟ اور آپ نے کہا، گوگل۔ اور پھر کہنے لگے تم وہاں کیا کرتے ہو؟ اور وہ پہلے ہی متاثر ہوئے۔ اور پھر آپ نے کہا، اوہ، میں گوگل ٹرانسلیٹ پر کام کرتا ہوں۔ اور پھر ہنس کر پوچھا، کیا یہ کبھی کام کرے گا؟ مجھے ایسا نہیں لگتا۔ لیکن پھر ایک ہی وقت میں، میں یہ کہوں گا کہ مشین لرننگ کی لہر، مشین لرننگ کی پری ڈیپ لرننگ نشاۃ ثانیہ کی لہر، سطح مرتفع ہونے لگی۔ آپ جانتے ہیں، گہری تعلیم ایک ایسی چیز تھی جو میں نے پہلے اسکول میں کی تھی، اور مجھے یہ پسند تھا، لیکن یہ ایسی چیز نہیں تھی جسے آپ واقعی ان دنوں میں لاگو کر سکتے تھے۔

وجے پانڈے: ہاں، خاص طور پر اس وجہ سے کہ آپ کے پاس اکیڈمیا میں وہ پیمانہ نہیں تھا جو آپ کو کرنے کی ضرورت ہے۔

Jakob Uszkoreit: یقیناً اکیڈمیا میں نہیں، بلکہ گوگل پر بھی۔ اگرچہ اس وقت، ترجمہ میں، اصل میں، سب سے دلچسپ امتیازی خصوصیت تھی، میں کہوں گا، ہم واقعی دن کے اختتام پر ڈیٹا کی مطلق طاقت پر یقین رکھتے تھے۔

لہٰذا ہم کوشش کر رہے تھے کہ زیادہ پیچیدہ، زیادہ نفیس الگورتھم نہ بنائیں، بلکہ اس کے بجائے ان کو زیادہ سے زیادہ آسان اور اسکیل کریں اور پھر انہیں زیادہ سے زیادہ ڈیٹا پر تربیت دینے کے قابل بنائیں۔ لیکن ہم نے وہاں صرف ایک چھت کو مارا۔ جو آسانیاں آپ کو ان کی پیمائش کرنے کے لیے کرنی پڑیں جو اس وقت گوگل کے پیمانے پر تھا، یہ واقعی ہمارا مقصد تھا۔ لیکن پھر، اور یہ ان پینڈولم کی حرکتوں میں سے ایک قسم تھی، اکیڈمیا سے ہٹ کر، GPUs کے ایک گروپ کے ساتھ لوگوں کا ایک گروپ — گہری تعلیم ایک خاص معنی میں انتقام کے ساتھ واپس آئی۔ اور اچانک ماحول نے ڈھال لیا، کیونکہ یہ واضح نہیں تھا کہ پیداوار میں براہ راست راستہ کیا ہوگا۔

اور اس طرح پورا ماحول زیادہ اطلاق اور مصنوعات پر مبنی ہونے سے ایک ایسی چیز میں تبدیل ہو گیا جو کم از کم چند سالوں سے محسوس ہوا، بہت زیادہ علمی۔ یہ اب بھی اکیڈمک لیبز سے تھوڑا مختلف ہے کیونکہ ہم مزید GPUs کے متحمل ہو سکتے ہیں، لیکن ایک خاص معنوں میں، اس خیال کے ساتھ، اشاعتوں کے ذریعے، قدموں کی بجائے چھلانگوں سے چلنے کے اس خیال کے ساتھ، بہت زیادہ۔ [یہ] ایک بہت، بہت نتیجہ خیز — اور واقعی حیرت انگیز — لیکن بہت زیادہ کھلے [ماحول] میں بدل گیا۔

توجہ صرف آپ کی ضرورت ہے

وجے پانڈے: ٹھیک ہے، آپ جانتے ہیں، پبلیکیشنز کی بات کرتے ہوئے، سوچنے کا ایک فطری مقام ہے جب آپ اور ٹیم نے شائع کیا تو توجہ صرف آپ کی ضرورت ہے۔ اور، آپ جانتے ہیں، جب سے ٹرانسفارمر الگورتھم کو پہلی بار ترتیب دیا گیا تھا، تب سے یہ بہت زیادہ تخلیقی AI کے لیے ایک سیمینل پیپر رہا ہے۔

Jakob Uszkoreit: اس مقالے کو شائع کرنے سے دو سال پہلے، ہم نے محسوس کیا کہ اس وقت مشینی ترجمہ جیسے مسائل کے لیے کیا جدید ترین تھا، یا [کیا] جدید ترین کے طور پر ابھر رہا تھا، یعنی LSTM یا RNN پر مبنی , Seq2Seq مجموعی طور پر ایک تربیتی نمونے کے طور پر اور ایک سیٹ اپ کے طور پر، بلکہ ایک نیٹ ورک فن تعمیر کے طور پر بھی - اس وقت کے جدید ترین GPUs پر بھی ناقابل یقین مسائل تھے، جب ڈیٹا کے لحاظ سے اسکیلنگ کی بات آتی تھی۔

مثال کے طور پر، گوگل نے جو پہلا نیورل مشین ٹرانسلیشن سسٹم شروع کیا، جی این ایم ٹی، دراصل، میرے علم کے مطابق، ہمارے پاس دستیاب تمام تربیتی ڈیٹا پر واقعی تربیت نہیں کی گئی تھی، جو ہم نے پہلے جملے پر مبنی شماریاتی نظام کے لیے کھدائی کی تھی۔ اور اس کی وجہ یہ تھی کہ الگورتھم صرف اعداد و شمار کی مقدار کے لحاظ سے ٹھیک نہیں تھے۔ لہٰذا، مختصراً، ہم اس وقت، مشینی ترجمہ پر نہیں، بلکہ ایسے مسائل کو دیکھ رہے تھے جہاں، اندرونی طور پر گوگل پر، ہمارے پاس تربیتی ڈیٹا کی ایک بڑی مقدار دستیاب تھی۔ تو یہ وہ مسائل تھے جو تلاش سے نکلے، جہاں آپ کے پاس بنیادی طور پر مزید تین یا چار آرڈرز ہیں۔ آپ جانتے ہیں کہ اب اربوں الفاظ نہیں، بلکہ کھربوں آسانی سے ہیں، اور اچانک ہمیں اس پیٹرن کا سامنا کرنا پڑا جہاں سادہ فیڈ فارورڈ نیٹ ورکس، اگرچہ انہوں نے مضحکہ خیز آسان بنانے والے مفروضے بنائے جیسے کہ یہ صرف الفاظ کا ایک تھیلا ہے، یا یہ صرف بڑے گراموں کا ایک تھیلا ہے۔ ، اور آپ ان کی اوسط درجے کی ہیں اور آپ انہیں ایک بڑے MNLP کے ذریعے بھیجتے ہیں، انہوں نے حقیقت میں RNNs اور LSTMs کو پیچھے چھوڑ دیا، کم از کم جب زیادہ ڈیٹا پر تربیت دی گئی۔

[اور وہ تھے] ن-گنا تیز، آسانی سے 10، 20 گنا تیز، تربیت کے لیے۔ اور اس طرح آپ انہیں مزید ڈیٹا کی تربیت دے سکتے ہیں۔ کچھ معاملات میں، [وہ] تربیت کے لیے سو گنا تیز تھے۔ اور اس طرح ہم نے مستقل طور پر ایسے ماڈلز کے ساتھ ختم کیا جو آسان تھے اور جو کچھ ایسے مظاہر کا اظہار یا گرفت نہیں کرسکتے تھے جن کے بارے میں ہم جانتے ہیں کہ زبان میں یقینی طور پر عام ہیں۔
اور پھر بھی، آپ جانتے ہیں، نیچے کی لکیر، وہ تربیت کے لیے سستے تھے اور [انہوں نے] بہتر کارکردگی کا مظاہرہ کیا۔

وجے پانڈے: آئیے صرف ان لوگوں کے لئے ایک مثال دیتے ہیں جو واقف نہیں ہیں۔ تو، الفاظ کے ایک تھیلے کے لیے، اگر میں نے کہا، مجھے اطالوی کے علاوہ آس پاس کے تمام ریستوراں دکھائیں، یہ آپ کو تمام اطالوی ریستوراں دکھائے گا، ٹھیک ہے؟

Jakob Uszkoreit: بالکل۔ درحقیقت، آپ نے جو کہا اسے شاید دوبارہ ترتیب دیا جا سکتا ہے، تاکہ مجھے آس پاس کے تمام اطالوی ریستوراں دکھائیں۔ یہ صرف الفاظ کا ایک سوپ ہے اور آپ اسے کسی ایسی چیز میں دوبارہ ترتیب دے سکتے ہیں جس کا مطلب یقینی طور پر کچھ مختلف ہو۔

وجے پانڈے: جی ہاں.

Jakob Uszkoreit: اور پھر آپ اندازہ لگاتے ہیں کہ ڈھانچے تک پہنچنا اور بگ گرامز ڈال کر زیادہ عالمی مظاہر تک پہنچنا۔ تو بنیادی طور پر دو لگاتار الفاظ اور اس طرح کی چیزوں کے گروپ۔ لیکن یہ واضح ہے کہ، یقینی طور پر جرمن جیسی زبانوں میں، جہاں آپ بنیادی طور پر فعل کو جملے کے بالکل آخر میں رکھ سکتے ہیں…

وجے پانڈے: اور یہ پورے معنی کو بدل دیتا ہے، ٹھیک ہے؟

Jakob Uszkoreit: تمام معنی بدل دیتا ہے، بالکل، ہاں۔ اس سے کوئی فرق نہیں پڑتا ہے کہ آپ کے n-grams کا سائز یا آپ کے چھوٹے الفاظ کے گروپس ہیں، آپ بالآخر کامیاب نہیں ہوں گے۔ اور یہ ہمارے لیے واضح ہو گیا کہ ایک مختلف طریقہ ہونا چاہیے جس کے لیے RNN کی لمبائی میں تکرار، یا الفاظ یا پکسلز کی ترتیب میں تکرار کی ضرورت نہ ہو، لیکن یہ درحقیقت ان پٹ اور آؤٹ پٹس کو زیادہ متوازی طریقے سے پروسیس کرتا ہے اور واقعی بالآخر جدید ایکسلریٹر ہارڈ ویئر کی طاقتوں کو پورا کرتا ہے۔

وجے پانڈے: اس کے بارے میں سوچیں، جیسے الفاظ کا تھیلا بے ترتیب ترتیب میں الفاظ ہیں۔ LSTM، یا طویل قلیل مدتی میموری، شاید آپ کو کسی طرح کی [صلاحیت] دے سکتی ہے [میں] تھوڑا سا ماضی میں، ٹھیک ہے؟ لیکن ٹرانسفارمرز بالکل مختلف کام کرتے ہیں۔ ٹرانسفارمرز اسے اگلے درجے تک کیسے لے جاتے ہیں؟

Jakob Uszkoreit: اس کو دیکھنے کے ہمیشہ دو طریقے ہوتے ہیں۔ ایک کارکردگی کی عینک کے ذریعے ہے، لیکن دوسرا طریقہ جو شاید تھوڑا زیادہ بدیہی ہے اسے اس لحاظ سے دیکھنا ہے کہ آپ جانتے ہیں کہ آپ کتنے سیاق و سباق کو برقرار رکھ سکتے ہیں۔ اور جیسا کہ آپ نے کہا، LSTMs، یا عام طور پر بار بار آنے والے عصبی نیٹ ورکس، وہ اپنے ان پٹس کے ذریعے قدم بہ قدم آگے بڑھتے ہیں، بڑے پیمانے پر بولتے ہیں، اور جب کہ نظریہ کے لحاظ سے، وہ ان پٹ میں من مانی طور پر طویل سیاق و سباق کی کھڑکیوں کو برقرار رکھنے کے قابل ہوتے ہیں—ماضی—کیا عملی طور پر ایسا ہوتا ہے کہ ان کے لیے واقعات کی شناخت کرنا، الفاظ یا پکسلز کا کہنا دراصل بہت مشکل ہوتا ہے، جو ماضی میں بہت دور ہوتے ہیں جو واقعی دن کے اختتام پر معنی کو متاثر کرتے ہیں۔ وہ ان چیزوں پر توجہ مرکوز کرتے ہیں جو آس پاس میں ہیں۔

دوسری طرف، ٹرانسفارمر بنیادی طور پر اسے اپنے سر پر موڑتا ہے اور کہتا ہے، نہیں، ہر قدم پر جو ہم کر رہے ہیں وہ ان پٹ کے ذریعے نہیں بڑھ رہا ہے۔ ہر قدم پر، ہم پورے ان پٹ یا آؤٹ پٹ کو دیکھ رہے ہیں، اور ہم بنیادی طور پر ہر لفظ یا ہر پکسل یا ہر پیچ یا ویڈیو کے ہر فریم کی نمائندگی پر نظر ثانی کر رہے ہیں، جیسا کہ ہم بنیادی طور پر حرکت کرتے ہیں، نہ کہ ان پٹ اسپیس میں ، لیکن نمائندگی کی جگہ میں۔

وجے پانڈے: جی ہاں.

Jakob Uszkoreit: اور اس آئیڈیا میں اس لحاظ سے کچھ خرابیاں تھیں کہ آپ اسے جدید ہارڈ ویئر پر کیسے فٹ کریں گے، لیکن بار بار آنے والے نیورل نیٹ ورکس کے مقابلے میں، اس کے بنیادی طور پر فوائد تھے کیونکہ اب آپ درحقیقت نمائندگیوں کی گنتی کرنے کے پابند نہیں تھے۔ آپ جس چیز کے پابند تھے، واقعی، انہیں کتنا اچھا ہونا چاہیے؟ تمام پوزیشنوں کی اس قسم کی متوازی پروسیسنگ کی کتنی پرتیں ہیں جہاں ہر چیز، جہاں الفاظ کے تمام جوڑے یا تصویری پیچ کے تمام جوڑے فوراً تعامل کر سکتے ہیں؟ ان نمائندگیوں کی کتنی نظرثانی میں اصل میں "برداشت" کر سکتا ہوں؟

وجے پانڈے: واقعی دلچسپ بات یہ بھی ہے کہ ظاہر ہے کہ الہام فطری زبان ہے، لیکن یہ کہ بہت سے ڈھانچے ہیں جنہیں آپ داخل کرنا چاہتے ہیں جہاں آپ اسے ترتیب وار مطالعہ نہیں کرنا چاہتے، جیسے ڈی این اے کی ترتیب — اور ہم حیاتیات میں جائیں گے۔ جلد ہی کافی ہے - کہ آپ پوری چیز کا ایک ماڈل حاصل کرنا چاہتے ہیں۔

یہ زبان کے ساتھ مضحکہ خیز ہے۔ جب میں بول رہا ہوں یا جب میں آپ کو سن رہا ہوں، میں ہر ایک لفظ پر کارروائی کر رہا ہوں، لیکن آخر کار مجھے صرف الفاظ کو انفرادی معنی میں تبدیل نہیں کرنا ہے، بلکہ مجھے اس نمائندگی کو تیار کرنا ہے۔ جی ہاں؟ کاش ہم اس طرح کر سکتے جیسے ٹرانسفارمرز کرتے ہیں۔ اور شاید یہی چال یہ ہے کہ LSTMs اس طریقے سے قریب ہیں جس طرح سے ہم انسان اسے کرتے ہیں، اور ٹرانسفارمرز شاید بالکل اسی طرح ہیں جیسے ہمیں اسے کرنا چاہیے، یا کاش ہم یہ کر سکتے۔

Jakob Uszkoreit: سطحی طور پر، میں سمجھتا ہوں کہ یہ سچ ہے، حالانکہ دن کے اختتام پر- اس طرح کے خود شناسی دلائل لطیف اور مشکل ہوتے ہیں۔

تو میرا اندازہ ہے کہ ہم میں سے بہت سے لوگ اس رجحان کو جانتے ہیں جہاں آپ کسی مصروف گلی میں کچھ بات چیت کرنے کی کوشش کر رہے کسی کے ساتھ چیخ رہے ہیں یا چیخ رہے ہیں۔ اور اس طرح آپ کچھ سنتے ہیں جو وہ کہتے ہیں، اور یہ الفاظ کی ایک مختصر ترتیب نہیں ہے، اور آپ بنیادی طور پر کچھ نہیں سمجھتے تھے۔ لیکن پھر آدھے سیکنڈ کے بعد، آپ کو اچانک پورا جملہ سمجھ آگیا۔ یہ درحقیقت اس بات کی طرف اشارہ کرتا ہے کہ جب ہم زبان کو ترتیب وار لکھنے اور بولنے پر مجبور ہوتے ہیں — صرف وقت کے تیر کی وجہ سے — یہ اتنا واضح نہیں ہے کہ ہماری گہری سمجھ واقعی اس ترتیب وار انداز میں چلتی ہے۔

ایک ٹیم کی تعمیر

وجے پانڈے: اگر کوئی اس بات کا بھی مطالعہ کرتا ہے کہ صرف توجہ صرف آپ کو کاغذ کی ضرورت ہے یا ٹرانسفارمر کیسے کام کرتا ہے، اس کے بہت سارے حصے ہیں۔ اور ایسا لگتا ہے کہ یہ شاید اب اس مقام سے گزر چکا ہے جہاں ایک شخص کسی بھی مختصر مدت میں مؤثر طریقے سے وہ کام خود کر سکتا ہے۔

Jakob Uszkoreit: بالکل.

وجے پانڈے: تو اب آپ کو اس قسم کے کام کرنے کے لیے لوگوں کی ایک ٹیم کی ضرورت ہے۔ اس کی سماجیات کیا ہے؟ ایسا کچھ کیسے آتا ہے؟

Jakob Uszkoreit: یہ خاص معاملہ، میں ذاتی طور پر محسوس کرتا ہوں، کسی ایسی چیز کی واقعی ایک شاندار مثال ہے جو زیادہ فٹ بیٹھتی ہے، آئیے کہتے ہیں، سائنسی تحقیق کے لیے صنعتی نقطہ نظر، غیر معمولی طور پر اچھی طرح سے۔ کیونکہ آپ بالکل درست ہیں۔ یہ تخیل اور تخلیقی صلاحیتوں کی ایک بڑی چنگاری نہیں تھی جو یہ سب کچھ ختم کر دیتی ہے۔

یہ واقعی شراکتوں کا ایک پورا گروپ تھا جو بالآخر ضروری تھا۔ ایک ماحول، ایک لائبریری — جو بعد میں Tensor2Tensor کے نام سے اوپن سورس بھی تھی — جس میں اصل میں عمل درآمد شامل تھا۔ اور نہ صرف کوئی نفاذ، بلکہ غیر معمولی طور پر اچھے نفاذ، ہر طرح کی گہری سیکھنے کی چالوں کا تیز نفاذ۔
لیکن پھر ان توجہ کے طریقہ کار تک بھی جو پچھلی اشاعتوں سے نکلے تھے — جیسے کہ سڑنے والا توجہ کا ماڈل [جو کہ پہلے شائع ہوا تھا — لیکن پھر حقیقت میں بہتری اور اختراعات، اصلاح کاروں کے ارد گرد ایجادات کے ساتھ مل گئے تھے۔ آپ کو ایسے لوگ نہیں ملیں گے، میرے خیال میں، جو ان سب میں بیک وقت دنیا کے سرکردہ ماہرین میں سے ہیں اور جو ان تمام پہلوؤں کے بارے میں واقعی اسی طرح پرجوش ہیں۔

وجے پانڈے: اور خاص طور پر ابتدائی خیال ہے، اس پر عمل درآمد ہے، اس کی پیمائش ہے۔ ایک بڑی کمپنی کے علاوہ کہیں بھی اس قسم کے پیمانے تک پہنچنا، ابھی، شاید صرف لاگت کی وجہ سے ممکن نہیں ہے۔

Jakob Uszkoreit: میں سوچوں گا کہ حقیقت میں شاید بڑی کمپنی کا پہلو اتنا اہم نہیں ہے۔

وجے پانڈے: ہاں۔

Jakob Uszkoreit: کمپنی کا پہلو ایک ہے جس کی میں زیادہ قدر کروں گا۔ اگر آپ کو ہزاروں اور ہزاروں TPUs یا GPUs کی ضرورت ہے یا آپ کے پاس کیا ہے تو بڑی کمپنی یقینی طور پر تکلیف نہیں دیتی ہے۔ اس قسم کی چیزوں کے لیے گہری جیب کبھی تکلیف نہیں دیتی۔ لیکن ایک ہی وقت میں، مجھے یقین ہے کہ صنعت میں اس قسم کی تحقیقی تحقیق کے ارد گرد ترغیب کا ڈھانچہ اس قسم کے منصوبوں کے لیے کافی بہتر ہے۔ اور مجھے لگتا ہے کہ حقیقت میں یہ وہ چیز ہے جسے ہم پورے بورڈ میں تخلیقی AI پروجیکٹس کو دیکھ رہے ہیں۔

وجے پانڈے: ہاں۔ اور آپ کی بات کے مطابق، یہ ایک آغاز ہوسکتا ہے۔

Jakob Uszkoreit: یہ یقینی طور پر ایک آغاز ہوسکتا ہے۔ اور مجھے لگتا ہے کہ ہم اب دیکھ رہے ہیں کہ ایکسلریٹر ہارڈ ویئر کا استعمال کم از کم زیادہ سستی ہوتا جا رہا ہے۔ اور ایسے سٹارٹ اپس ہیں جو بہت زیادہ مقابلہ کر رہے ہیں جب بات امیج جنریشن یا ٹیکسٹ جنریشن کو نشانہ بنانے والی جنریٹو AI کی ہو ۔

لائف سائنسز میں چھلانگ لگانا

وجے پانڈے: آپ جو کچھ کر رہے ہیں میں اس میں منتقل ہونا پسند کروں گا۔ آپ Inceptive کے سی ای او ہیں، ایک ایسی کمپنی جو RNA کے علاج کے لیے RNA حیاتیات پر AI کا اطلاق کرتی ہے۔ آپ لائف سائنسز میں کیسے داخل ہوئے؟ سطحی طور پر، رات کے کھانے [ٹیبل] کے ارد گرد اور پھر گوگل کیفے ٹیریا کے ارد گرد زبان کے ماڈلز کے بارے میں بات کرنا… ایسا لگتا ہے کہ یہ علاج کی اگلی نسل کے لیے ایک چھلانگ ہو سکتا ہے۔ یہ سب کیسے ہوا؟

Jakob Uszkoreit: میں مزید اتفاق نہیں کر سکا۔ یہ میرے سرے سے سیکھنے کا ایک حیرت انگیز تجربہ ہے۔ اب کافی عرصے سے، حیاتیات نے مجھے ایک ایسے مسئلے کے طور پر مارا جہاں یہ ناقابل فہم نہیں لگتا کہ اس بات کی حدیں ہیں کہ ہم منشیات کی نشوونما اور روایتی حیاتیات کے ساتھ براہ راست ڈیزائن کے لحاظ سے کس حد تک جا سکتے ہیں مستقبل کی دوائیوں کو ڈیزائن کرنے — یا ڈیزائن کرنے کے طریقے دریافت کریں۔

ایسا لگتا ہے کہ گہری تعلیم، خاص طور پر، بڑے پیمانے پر، بہت سی وجوہات کی بناء پر، ممکنہ طور پر یہاں واقعی ایک موزوں ٹول ہے۔ اور اصل میں ان وجوہات میں سے ایک ایسی چیز ہے جس کا اکثر فائدہ کے طور پر بل نہیں دیا جاتا ہے، جو حقیقت یہ ہے کہ یہ یہ بڑا بلیک باکس ہے جسے آپ کسی چیز پر پھینک سکتے ہیں۔ اور یہ سچ نہیں ہے کہ آپ اسے صرف پھینک سکتے ہیں۔ یہ ایسی چیز ہے جس کے بارے میں آپ کو جاننا ہوگا کہ اسے کیسے پھینکنا ہے۔

وجے پانڈے: اور یہ بالکل سیاہ بھی نہیں ہے۔ ہم اس کے بارے میں بعد میں بحث کر سکتے ہیں۔

Jakob Uszkoreit: جی ہاں بالکل وہی. بالکل۔ لیکن، دن کے اختتام پر، زبان سے مشابہت کی طرف واپس آتے ہوئے، ہم کبھی بھی اس لحاظ سے زبان کو اس حد تک سمجھنے اور تصور کرنے میں کامیاب نہیں ہو سکے کہ آپ دعویٰ کر سکتے ہیں، اوہ، اب میں جا کر آپ کو بتاؤں گا۔ زبان کے پیچھے یہ نظریہ، اور پھر اس کے بعد آپ ایک الگورتھم کو نافذ کرنے کے قابل ہو جائیں گے جو اسے "سمجھتا" ہے۔ ہم اس مقام تک کبھی نہیں پہنچے۔ اس کے بجائے، ہمیں اسقاط حمل کرنا پڑا اور ایک قدم پیچھے ہٹنا پڑا اور، میری رائے میں، کسی حد تک، خود کو تسلیم کرنا پڑا کہ شاید یہ سب سے زیادہ عملی نقطہ نظر نہیں تھا۔ اس کے بجائے، ہمیں ایسے طریقوں کو آزمانا چاہیے جن کے لیے تصوراتی فہم کی اس سطح کی ضرورت نہ ہو۔ اور میرے خیال میں حیاتیات کے کچھ حصوں کے لیے بھی ایسا ہی ہو سکتا ہے۔

بائیو کو آگے لے جانے کے لیے AI کا استعمال کرنا

وجے پانڈے: یہ دلچسپ ہے، ہم پہلے بھی اس طرح کی چیزوں کے بارے میں بات کر چکے ہیں۔ آپ پچھلی صدی کے بارے میں سوچتے ہیں، [جو کہ] فزکس اور کیلکولس کی صدی تھی۔ وہاں ایک خاص ذہنیت ہے جہاں آپ چیزوں کی بہت خوبصورت آسانیاں حاصل کر سکتے ہیں جس سے آپ کے پاس آئن سٹائن کی فیلڈ مساوات جیسی ایک مساوات ہو سکتی ہے جو بہت کچھ بیان کرتی ہے، اور یہ ایک بہت ہی پیچیدہ زبان میں ایک بہت ہی آسان مساوات ہے۔ آپ نے اس بارے میں بات کی ہے کہ فین مین کا نقطہ نظر، تقریباً فزکس کی عمرانیات کی طرح، یہاں حیاتیات میں لاگو نہیں ہو سکتا، ٹھیک ہے؟

Jakob Uszkoreit: یہ لاگو نہیں ہوسکتا ہے، کم از کم دو وجوہات کی بناء پر میں اس مقام پر دیکھ سکتا ہوں۔ نمبر ایک یہ ہے کہ بہت زیادہ کھلاڑی شامل ہیں۔ اور جب کہ یہ سچ ہے کہ شاید ہم صرف اس سب کو شروڈنگر کی مساوات تک کم کر سکتے ہیں اور صرف اسے حل کر سکتے ہیں، ایسا ہی ہوتا ہے، نہ صرف کمپیوٹیشنل طور پر پیچیدہ، بلکہ ہمیں ان تمام مختلف کھلاڑیوں کے بارے میں بھی جاننا پڑے گا، اور ہم فی الحال ایسا نہیں کرتے۔ . قریب بھی نہیں. تو یہ ایک پہلو ہے۔

اور پھر دوسرا بنیادی طور پر کمپیوٹیشنل طور پر عدم توازن ہے، جہاں ایک خاص معنوں میں کمی اس حد تک چلی گئی ہے کہ جب کہ یہ سب کچھ ایک ہی چیز پر واپس لے آتا ہے، یہ ہماری مدد نہیں کرتا کیونکہ بنیادی طور پر استعمال کرنے کے لیے ہمارے کمپیوٹیشنل نقطہ نظر پیشین گوئیاں کرنے کے لیے وہ بنیادی باتیں بہت سست ہیں کہ وہ سسٹمز کے لیے ان پیشین گوئیوں کو اتنا بڑا بنانے کے لیے کہ واقعی زندگی کے لیے اہمیت رکھتا ہے۔

وجے پانڈے: ہاں۔ تو یہ ایک ن-باڈی مساوات نہیں ہے، لیکن اس کے باوجود رسمیت کا احساس باقی ہے — ہو سکتا ہے کہ یہ زیادہ ڈیٹا پر مبنی رسمیت ہو یا زیادہ بایسیئن فارمل ازم۔ آپ جو کرنا چاہتے ہیں اس میں یہ کیسے کھلتا ہے؟ یہ AI اور دیگر اقسام کے نئے الگورتھم کو لاگو کرنے میں کیسے کام کرتا ہے؟

Jakob Uszkoreit: میرے خیال میں کچھ مختلف پہلو ہیں۔ دن کے اختتام پر، میری رائے میں جو کچھ ہم فی الحال جنریٹو AI میں دیکھ رہے ہیں ان میں سے ایک بڑی بات یہ ہے کہ ہمیں اب ایسے ڈیٹا پر تربیت دینے کی ضرورت نہیں ہے جو نہ صرف بالکل صاف ہو، بلکہ قطعی طور پر ڈومین سے بھی۔ اور ان قسم کے کاموں سے جو آپ بعد میں نمٹنا چاہیں گے۔ لیکن اس کے بجائے یہ درحقیقت زیادہ فائدہ مند ہو سکتا ہے یا یہاں تک کہ واحد طریقہ ہو سکتا ہے جسے ہم نے اب تک ہر اس چیز پر تربیت دینے کی کوشش کرنے کی کوشش کی ہے جو آپ کو ملتی ہے جو دور سے بھی متعلق ہے۔ اور پھر نام نہاد فاؤنڈیشن ماڈلز کو ختم کرنے کے لیے ان ڈیٹا سے حاصل کی گئی معلومات کو مؤثر طریقے سے استعمال کریں، جس کے بعد آپ صاف ستھرا ڈیٹا کی بہت چھوٹی، بہت زیادہ قابل عمل مقدار کا استعمال کرتے ہوئے ہر قسم کے مخصوص کاموں کو ٹھیک کر سکتے ہیں۔

مجھے لگتا ہے کہ ہم بڑے پیمانے پر مظاہر کے بارے میں کیا جاننا چاہتے ہیں اس کو قدرے کم سمجھتے ہیں۔ زبان کا ایک بہت اچھا ماڈل بنانے کے لیے، آپ کو یہ سمجھنا ہوگا کہ انٹرنیٹ نامی یہ چیز موجود ہے اور اس میں بہت زیادہ متن ہے۔ آپ کو کافی حد تک سمجھنا ہوگا، دراصل، اس متن کو کیسے تلاش کیا جائے، متن کیا نہیں ہے، وغیرہ، تاکہ اس کے بعد بنیادی طور پر اس سے تربیتی ڈیٹا نکالا جا سکے جسے آپ استعمال کرتے ہیں۔

مجھے یقین ہے کہ حیاتیات کے ارد گرد بہت براہ راست یکساں چیلنجز ہوں گے۔ بڑا سوال یہ ہے کہ: وہ کون سے تجربات ہیں جن کو ہم اس حد تک پیمانہ بنا سکتے ہیں کہ ہم زندگی کا کافی حد تک پوری وفاداری کے ساتھ مشاہدہ کر سکتے ہیں — لیکن ان مسائل کو ذہن میں رکھتے ہوئے جو آپ آخرکار حل کرنے کی کوشش کر رہے ہیں — اس طرح کہ ہم بنیادی طور پر اس سے وہ ڈیٹا لیں جس کی ہمیں ان فاؤنڈیشن ماڈلز کی تعمیر شروع کرنے کے لیے درکار ہے، جسے ہم استعمال کر سکتے ہیں، ٹھیک ٹیونڈ اور خاص طور پر انجینئرڈ، ان مسائل تک پہنچنے کے لیے جن سے ہم نمٹنا چاہتے ہیں۔

ڈیٹا جنریشن کا حصہ یقینی طور پر ان میں سے ایک ہے۔ آرکیٹیکچرز اور مؤثر طریقے سے ایسے ماڈلز اور نیٹ ورک آرکیٹیکچرز جو ہم جانتے ہیں، اس کے بارے میں، کہتے ہیں، نیچے کی طبیعیات کی نقل کرتے ہیں، اب بھی حقیقت میں حساب کو بچانے اور ڈیٹا کے لیے اب بھی بہت زیادہ بھوک کو کم کرنے کا ایک ناقابل یقین حد تک طاقتور طریقہ رہے گا جو ان ماڈلز کو ہونا پڑے گا۔ ، ایک قابل عمل سطح پر۔ اور اس لیے ایک چیز جس کے بارے میں مجھے یقین ہے کہ حقیقت میں یہ نوٹ کرنا دلچسپ ہے کہ ماڈلز کی بہت ساری موجودہ ایپلی کیشنز، یعنی ٹرانسفارمرز، جو کہ دیگر طریقوں، دیگر ڈومینز، زبان، وژن، امیج جنریشن، میں بہت اچھی طرح سے پیمانہ پایا گیا ہے۔ وغیرہ، اور حیاتیات پر ان کا اطلاق بنیادی طور پر اس حقیقت کو نظر انداز کر دیتا ہے کہ ہم جانتے ہیں کہ وقت جیسی کوئی چیز ہے، اور یہ کہ طبیعیات کے قوانین، کم از کم ہمارے بہترین علم کے مطابق، صرف تبدیل ہوتے نظر نہیں آتے۔ اضافی وقت.

پروٹین فولڈنگ کا عمل، اس حقیقت کو نظر انداز کرتے ہوئے کہ ٹن اور ٹن پلیئرز ہیں — چیپیرونز اور کیا نہیں — دراصل، ایک خاص معنوں میں، پروٹین کینیٹکس کے بقیہ حصے سے کافی حد تک من مانی طور پر الگ کیا گیا مسئلہ ہے۔ یہ صرف اتنی ہی حرکیات ہے جتنی حرکیات کی باقی ماندہ، یا اس پروٹین کی باقی زندگی، اس مالیکیول کی۔ اور اس لیے ہم کیوں خاص طور پر ایک کے لیے ماڈلز کو تربیت دینے کی کوشش کرتے ہیں اور ممکنہ طور پر کم از کم، دوسرے کے بارے میں ہمارے پاس موجود ڈیٹا کو نظر انداز کرتے ہیں؟ اس معاملے میں، شاید زیادہ خاص طور پر، کیا آج ہمارے پاس موجود پروٹین کے ڈھانچے کی پیشن گوئی کے کچھ نمونے ہیں، کیا وہ پہلے سے ہی متحرک طور پر کچھ سیکھتے ہیں اس حقیقت کی وجہ سے کہ وہ آہستہ آہستہ اپنانا شروع کر دیتے ہیں، آپ جانتے ہیں، وقت کا وجود؟

نئے فن تعمیرات کی ترقی

وجے پانڈے: ایک دلچسپ چیز جس کے بارے میں میں سوچتا ہوں کہ آپ اس وقت کہاں کھڑے ہیں وہ یہ ہے کہ، چند نایاب مستثنیات کے ساتھ، حیاتیات میں زیادہ تر گہرے اعصابی نیٹ ورکس یا دیگر اقسام کے AI ایسا محسوس کرتے ہیں جیسے یہ ایجاد کردہ چیز کو کہیں اور لے جا رہا ہے۔ جیسا کہ ہم تصاویر کے لیے convolutional neural nets استعمال کریں گے۔ ہو سکتا ہے چھوٹے مالیکیولز کے لیے... سٹینفورڈ میں میری لیب میں، ہم نے گراف نیورل نیٹ ورکس اور کئی convolutional عصبی نیٹ ورکس کا استعمال کیا۔ لیکن حیاتیاتی مسئلہ کے لیے واضح طور پر ایک الگورتھم تیار کرنا بہت کم ہے۔ اور میں نے ہمیشہ یہ فرض کیا ہے کہ یہ اس لیے تھا کیونکہ حیاتیات کے ڈومین اور کمپیوٹر سائنس کے ڈومین میں مضبوط ٹیم کی مہارت کا ہونا مشکل ہے۔ لیکن میں آپ کی رائے حاصل کرنے کے لیے بے چین ہوں۔ یا کیا پہلی جگہ نئے فن تعمیرات تیار کرنا نایاب ہے؟

Jakob Uszkoreit: ٹھیک ہے، میرے خیال میں، دن کے اختتام پر، ہم جو کچھ دیکھ رہے ہیں وہ یہ ہے کہ نئے فن تعمیرات، مخصوص مسائل سے حوصلہ افزائی کرتے ہوئے، اگر وہ واقعی فرق کرتے ہیں، تو پھر وہ کہیں اور بھی لاگو ہوتے ہیں۔ دوسری طرف، اس کا مطلب یہ نہیں ہے کہ راستے میں، حوصلہ افزائی کرنے والی ایپلیکیشنز اور ڈومینز کو احتیاط سے منتخب کرنے سے کوئی بڑا فرق نہیں پڑے گا۔ اور مجھے لگتا ہے کہ یہ یقینی طور پر کرتا ہے۔

میں محسوس کرتا ہوں کہ یہاں ایک اہم چیلنج واقعی یہ ہے کہ ہم ابھی تک حیاتیات میں ایسے نظام میں نہیں ہیں جہاں ہمارے پاس اعداد و شمار کی بہتات ہے، حالانکہ، اس کے مقابلے میں جو کچھ عرصہ پہلے ہمارے پاس تھا، یہ حیرت انگیز ہے۔ لیکن ہم ابھی تک اس نظام میں نہیں ہیں جہاں یہ صرف ویب کے برابر بیٹھا ہے، اور ہم اسے تھوڑا سا فلٹر کر سکتے ہیں، اسے ڈاؤن لوڈ کر سکتے ہیں اور اس کے ساتھ کام کر سکتے ہیں۔ لیکن اس کے بجائے، مجھے لگتا ہے کہ ہمیں اسے کافی حد تک بنانا ہوگا۔ اور یہ گہرے سیکھنے والے ماہرین نہیں کریں گے، کم از کم ان میں سے زیادہ تر نہیں۔

اور مجھے یقین ہے کہ اس کے ساتھ ہی لاک اسٹپ میں ہونا ضروری ہے اس کے بعد کہا گیا ڈیٹا کی خصوصیات کو بھی سمجھنا، ٹھیک ہے؟ جس قسم کے شور کا آپ کو وہاں سامنا ہوتا ہے۔ حقیقت یہ ہے کہ یہ درحقیقت بہت بڑے پیمانے کے تالابوں میں بنائے گئے ہیں، ہائی تھرو پٹ تجربات، لیکن پھر بھی، ایسے تجربات جو مختلف دنوں پر مختلف تجربہ کاروں کے ذریعے چلائے جاتے ہیں اور اسی طرح آگے۔ اور جہاں زیادہ گہرے سیکھنے کے پس منظر والے لوگ حیاتیات کے پس منظر والے لوگوں کے ساتھ کافی قریب سے کام کرتے ہیں، اس کے بارے میں کافی جانیں گے کہ ہم بنیادی مظاہر کے بارے میں کیا جانتے ہیں، [وہ] بنیادی طور پر دلچسپ نئے طریقوں کو آزمانے کے لیے حوصلہ افزائی کریں گے۔

وجے پانڈے: ٹھیک ہے، مجھے اچھا لگا جب آپ نے توجہ دینے کی صرف آپ کی ضرورت کے کاغذ کی مثال کے بارے میں بات کی، اس بارے میں کہ آپ لوگوں کے اس متنوع گروپ کو کس طرح حاصل کرنا چاہتے ہیں، جن کے جذبات، آپ جانتے ہیں، ایک دوسرے سے کافی حد تک آرتھوگونل تھے۔ اور ایک لحاظ سے، جب آپ یہ حیاتیات میں کر رہے ہیں اور خاص طور پر اس کے لیے جو آپ Inceptive میں کر رہے ہیں، آپ کو یہ سارا کام ڈیٹا بنانے میں بھی لگانا ہوگا۔ اور اعداد و شمار کو پیدا کرنے کا مطلب ہے، بہت واضح ہونا، بڑے پیمانے پر حیاتیاتی تجربات چلانا۔ ان پٹ حصہ خود بہت مہنگا اور بہت تکنیکی ہے، اور جیسا کہ آپ نے کہا، غلط ہونے کے بہت سے طریقے ہیں۔ لیکن ایسا لگتا ہے کہ آپ اس ثقافت پر تعمیر کر رہے ہیں جو آپ نے پہلے کیا ہے اور اب یہ صرف اور زیادہ ماہرین ہیں جو مختلف جذبوں کے ساتھ یکساں طریقے سے ہم آہنگ ہیں۔

Jakob Uszkoreit: مجھے واقعی ضرورت ہے، [اور] لوگوں کو اس کی ضرورت ہے۔ جہاں تک میں بتا سکتا ہوں، یہ سب سے امید افزا راستہ ہے۔ ایک خاص معنوں میں، ایک پائپ لائن ماڈل کا مقصد نہیں ہے، جہاں زندگی کے بنیادی پہلوؤں کے بارے میں ہماری بہترین معلومات کے مطابق، جس لیب میں وہ تخلیق کیے گئے تھے، میں کچھ ڈیٹا موجود ہو۔ اور پھر اس پر موجودہ گہری سیکھنے کے طریقوں کو چلانا شروع کریں اور پھر ان کو موافقت دیں۔ لیکن اس کے بجائے واقعی میں ایسے لوگ ہوں جو، ایک خاص معنوں میں، وہ پہلے لوگوں میں شامل ہو سکتے ہیں جو واقعی ایک ایسے نظم و ضبط میں کام کر رہے ہیں جس کا فی الحال واقعی کوئی بڑا نام نہیں ہے۔

شاید سب سے کم عام فرق تجسس ہے جو آپ کے علم سے باہر ہے، آپ نے پہلے کیا سیکھا ہے اور آپ نے اپنا زیادہ تر وقت کس چیز میں صرف کیا ہے۔ ہمیں معلوم ہوتا ہے کہ بہت سے دوسرے شعبوں کی طرح، ہم واقعی میں بہت متنوع پس منظر رکھنے والے لوگوں کا ایک مجموعہ ہے، لیکن جو تجسس کا اشتراک کرتے ہیں۔

AI کہاں جا رہا ہے؟

وجے پانڈے: آپ کے خیال میں ان مشکل مسائل، منشیات کے ڈیزائن، صحت کی دیکھ بھال وغیرہ کے لیے AI اس وقت کہاں ہے؟ کیا کرنا ہے؟ یہ وہاں کب پہنچے گا؟

Jakob Uszkoreit: میں توقع کروں گا - اور مستقبل کے بارے میں پیشین گوئیاں کرنا ہمیشہ بہت خطرناک ہوتا ہے - مجھے بہت حیرت ہوگی اگر اگلے تین سالوں کے اندر جب ہم حقیقی دنیا کے اثرات کی بات کرتے ہیں تو ہم واقعتاً کوئی [انفلیکشن] ہوتا ہوا دیکھنا شروع نہیں کرتے۔ مشین لرننگ، ڈرگ ڈیولپمنٹ میں بڑے پیمانے پر گہری تعلیم، ڈرگ ڈیزائن۔ جہاں وہ بالکل پہلے ہوں گے، یقیناً، مجھے یقین ہے کہ ان میں سے بہت کچھ آر این اے، آر این اے علاج اور ویکسین کے آس پاس ہوگا۔ یہ یقینی طور پر اس سے متاثر ہونے والا واحد علاقہ نہیں ہوگا، لیکن میں یقینی طور پر سوچتا ہوں کہ ہم انفلیکشن پوائنٹ کے علاقے میں جا رہے ہیں۔

وجے پانڈے: آپ نے ایک دلچسپ نکتہ اٹھایا۔ آر این اے کے بارے میں کیا فرق ہے؟ کیونکہ میرے خیال میں یہ خاص طور پر دلچسپ ہے، نہ صرف یہ کہ آپ گوگل کے دماغ سے حیاتیات میں گئے، بلکہ آپ خاص طور پر RNA میں گئے۔ کیا چیز آپ کو آر این اے کی طرف راغب کرتی ہے، خاص طور پر شاید AI یا ML نقطہ نظر سے؟

Jakob Uszkoreit: ایک چیز جو آر این اے کے بارے میں دلچسپ ہے وہ ہے، جیسا کہ ہم نے دیکھا ہے، بہت وسیع اطلاق کے درمیان مجموعہ ہے- اگرچہ یہ اب بھی ایک ہی اشارے کے لحاظ سے تنگ ہے- لیکن صرف منظوری کے عمل کی اس لہر کو دیکھتے ہوئے جو شروع ہو رہی ہے اور شروع ہو چکی ہے، یہ بہت خوبصورت ہے۔ واضح کریں کہ قابل اطلاق بہت، بہت وسیع ہے، اس کے ساتھ مل کر — یہ قدرے مبہم ہے — ایک ساختی طور پر آسان مسئلہ ہے۔ اور یہ ساختی طور پر آسان ہے اس جملے میں نہیں کہ آر این اے کی ساختی پیشین گوئی سادہ ہے، لیکن یہ ساختی طور پر اس لحاظ سے آسان ہے کہ یہ چار مختلف بنیادوں کے ساتھ ایک بایو پولیمر ہے۔ ہم 20 سے زیادہ امینو ایسڈ کے بارے میں بات نہیں کر رہے ہیں۔ یہ ایسی چیز ہے جو کافی مؤثر طریقے سے تیار کی جاسکتی ہے۔

وہاں کچھ چیلنجز ہیں، لیکن ترکیب ایک ایسی چیز ہے جو پیمانہ بنا سکتی ہے اور تیزی سے اسکیل کر رہی ہے، اور یہ چیزیں واقعی اس تیز رفتار فیڈ بیک لوپ کو فعال کرنے کے لیے اکٹھی ہو جاتی ہیں جس کا میرے خیال میں اکثر اشارہ کیا جاتا ہے، لیکن بہت کم، کم از کم اس سے جو میں جانتا ہوں، حقیقت میں لاگو ہوتا ہے۔ اور دن کے اختتام پر قابل عمل۔

وجے پانڈے: ہاں، شاید یہ زیادہ تیز فیڈ بیک لوپ ہے، خاص طور پر اس کے لیے جس طرح سے آپ اس کے پیچھے جاتے ہیں۔

Jakob Uszkoreit: جی ہاں. اور یہ دیکھتے ہوئے کہ مجھے یقین ہے کہ ہمیں ان ماڈلز کی تربیت کے لیے اعداد و شمار کا بڑا حصہ بنانے کی ضرورت ہے جن کی ہم تربیت کر رہے ہیں، ہم واقعی اس طرح کے ڈیٹا کو بڑے پیمانے پر بنانے میں Inceptive سرمایہ کاری کر رہے ہیں۔ اور میں نسبتاً کافی بڑے پیمانے پر کہوں گا، اس بات کو دیکھتے ہوئے کہ جب ساختی سادگی کی بات کی جائے تو RNA اب تک کا بہترین امتزاج معلوم ہوتا ہے، بلکہ ترکیب اور اس تجربے کی توسیع پذیری بھی۔ یہاں بہت بڑی صلاحیت ہے جسے اب تک استعمال نہیں کیا گیا ہے۔

وجے پانڈے: ہاں، اور میرے خیال میں خاص طور پر ممکنہ طور پر ان تیز رفتار چکروں کو حاصل کرنے کی صلاحیت، دونوں طرح کی preclinical اور اس لیے تیزی سے کلینک تک پہنچنا اور کلینک میں رہنا [تھوڑے وقت کے لیے]۔

Jakob Uszkoreit: بالکل۔ یہ واقعی وہی ہے جس کی ہم امید کر رہے ہیں۔ ہم شاید ابتدائی اشارے بھی دیکھ رہے ہیں جو اس بات کی نشاندہی کر رہے ہیں کہ ایسا ہی ہو سکتا ہے اور ہم یقیناً واقعی بہت پرجوش ہیں۔

وجے پانڈے: پچھلے 10 سالوں کے بارے میں سوچنا حیرت انگیز رہا ہے، آپ جانتے ہیں، 2012 سے اب تک۔ آپ کو اگلے 10 سال کیسا لگتا ہے؟ آپ کے خیال میں ہم AI کے ساتھ 10 سال بعد کہاں ہیں؟ یا تو بڑے پیمانے پر یا خاص طور پر بائیو کے لیے؟

Jakob Uszkoreit: میرے خیال میں اگر یہ واقعی سچ ہے کہ ہم اس انفلیکشن پوائنٹ کے علاقے میں داخل ہو رہے ہیں، جب ہم اب سے 10 سال پیچھے دیکھیں گے، تو یہ کم از کم اتنا بڑا اور اتنا ہی وسیع انقلاب نظر آئے گا جتنا کہ ہمارے خیال میں ہم نے اس انقلاب میں دیکھا ہے۔ گزشتہ 10 سال. کم از کم۔ اب مجھے لگتا ہے کہ ایک اہم فرق پڑے گا، اور وہ یہ ہے کہ یہ اتنا واضح نہیں ہے کہ پچھلے 10 سالوں میں ہم جس انقلاب کا مشاہدہ کر رہے ہیں، اس کا ہر ایک کی زندگیوں پر کتنا اثر پڑتا ہے۔ کچھ علاقے، سرچ انجن یا معاون تحریر وغیرہ ہیں، جہاں یہ واضح ہے، لیکن یہ واضح نہیں ہے کہ یہ انقلاب کس حد تک وسیع پیمانے پر لاگو ہوتا ہے۔ مجھے یقین ہے کہ یہ بہت زیادہ ہے، لیکن ہم اسے ابھی تک نہیں دیکھتے ہیں۔ مجھے لگتا ہے کہ اگلے 10 سالوں میں ہم خاص طور پر بائیو کے ارد گرد جو انقلاب دیکھنے جا رہے ہیں، یا یہ کہ ہم اب سے 10 سال پیچھے دیکھنا چاہتے ہیں، واقعی ہماری تمام زندگیوں پر اس کے گہرے اثرات کے لحاظ سے مختلف ہوں گے۔ .

یہاں تک کہ صرف دوائیوں کے ڈیزائن اور دریافت کی ایپلی کیشنز کو چھوڑ کر، سائنسی دریافت میں اور اس کے آس پاس ایسی حیرت انگیز ایپلی کیشنز موجود ہیں جہاں آپ اب تصور کر سکتے ہیں کہ، ایک ویب انٹرفیس کے ساتھ، آپ بنیادی طور پر ایسے مالیکیولز تیار کر سکتے ہیں جو بعض جانداروں میں بہت زیادہ امکان کے ساتھ ہوتے ہیں۔ کچھ سوالات کے جوابات دیں، اس سے زیادہ قابل اعتماد ریڈ آؤٹ تیار کرتے ہوئے، آپ جانتے ہیں کہ آپ پہلے کیا حاصل کر سکتے تھے۔ تو یہاں تک کہ صرف اس تمام قسم کی پیچیدگی کو چھوڑ کر کہ یہ کس طرح متاثر کرے گا، بالآخر، مریضوں اور ہر ایک کو، یہ بالکل واضح ہے، میرے خیال میں، کہ یہ اوزار حیاتیات جیسے شعبوں کو تیزی سے تیز کریں گے۔

وجے پانڈے: ایسا لگتا ہے کہ اسے ختم کرنے کے لئے ایک بہترین جگہ ہے۔ جیکب، بائیو ایٹس ورلڈ میں شامل ہونے کے لیے آپ کا بہت شکریہ۔

Jakob Uszkoreit: مجھے رکھنے کے لیے آپ کا بہت بہت شکریہ۔

اولیویا ویب: Bio Eats World میں شامل ہونے کا شکریہ۔ Bio Eats World کی میزبانی اور پروڈیوس میرے، Olivia Webb نے، a16z پر Bio + Health ٹیم کی مدد سے کی ہے اور اسے فل ہیگستھ نے ایڈٹ کیا ہے۔ Bio Eats World a16z پوڈ کاسٹ نیٹ ورک کا حصہ ہے۔

اگر آپ کے ایپی سوڈ کے بارے میں سوالات ہیں یا مستقبل کے ایپی سوڈ کے لیے عنوانات تجویز کرنا چاہتے ہیں تو براہ کرم ای میل کریں۔ آخری لیکن کم از کم، اگر آپ Bio Eats World سے لطف اندوز ہو رہے ہیں، تو براہ کرم ہمیں ایک درجہ بندی دیں اور جہاں بھی آپ پوڈ کاسٹ سنتے ہیں اس کا جائزہ لیں۔

براہ کرم نوٹ کریں کہ یہاں موجود مواد کو صرف معلوماتی مقاصد کے لیے، قانونی، کاروبار، ٹیکس، یا سرمایہ کاری کے مشورے کے طور پر نہیں لیا جانا چاہیے، یا کسی سرمایہ کاری یا سیکیورٹی کا جائزہ لینے کے لیے استعمال نہیں کیا جانا چاہیے، اور کسی بھی a16z فنڈ میں کسی سرمایہ کار یا ممکنہ سرمایہ کاروں کی طرف ہدایت نہیں کی گئی ہے۔ . مزید تفصیلات کے لیے، براہ کرم a16z.com/disclosures دیکھیں۔

***

یہاں بیان کردہ خیالات انفرادی AH Capital Management, LLC ("a16z") کے اہلکاروں کے ہیں جن کا حوالہ دیا گیا ہے اور یہ a16z یا اس سے وابستہ افراد کے خیالات نہیں ہیں۔ یہاں پر موجود کچھ معلومات فریق ثالث کے ذرائع سے حاصل کی گئی ہیں، بشمول a16z کے زیر انتظام فنڈز کی پورٹ فولیو کمپنیوں سے۔ جب کہ معتبر مانے جانے والے ذرائع سے لیا گیا ہے، a16z نے آزادانہ طور پر ایسی معلومات کی تصدیق نہیں کی ہے اور معلومات کی پائیدار درستگی یا دی گئی صورت حال کے لیے اس کی مناسبیت کے بارے میں کوئی نمائندگی نہیں کی ہے۔ اس کے علاوہ، اس مواد میں فریق ثالث کے اشتہارات شامل ہو سکتے ہیں۔ a16z نے ایسے اشتہارات کا جائزہ نہیں لیا ہے اور اس میں موجود کسی بھی اشتہاری مواد کی توثیق نہیں کرتا ہے۔

یہ مواد صرف معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور قانونی، کاروبار، سرمایہ کاری، یا ٹیکس کے مشورے کے طور پر اس پر انحصار نہیں کیا جانا چاہیے۔ آپ کو ان معاملات کے بارے میں اپنے مشیروں سے مشورہ کرنا چاہئے۔ کسی بھی سیکیورٹیز یا ڈیجیٹل اثاثوں کے حوالے صرف مثالی مقاصد کے لیے ہیں، اور سرمایہ کاری کی سفارش یا پیشکش کی تشکیل نہیں کرتے ہیں کہ سرمایہ کاری کی مشاورتی خدمات فراہم کریں۔ مزید برآں، یہ مواد کسی سرمایہ کار یا ممکنہ سرمایہ کاروں کی طرف سے استعمال کرنے کے لیے نہیں ہے اور نہ ہی اس کا مقصد ہے، اور کسی بھی صورت میں a16z کے زیر انتظام کسی بھی فنڈ میں سرمایہ کاری کرنے کا فیصلہ کرتے وقت اس پر انحصار نہیں کیا جا سکتا ہے۔ (a16z فنڈ میں سرمایہ کاری کرنے کی پیشکش صرف پرائیویٹ پلیسمنٹ میمورنڈم، سبسکرپشن ایگریمنٹ، اور اس طرح کے کسی بھی فنڈ کی دیگر متعلقہ دستاویزات کے ذریعے کی جائے گی اور ان کو مکمل طور پر پڑھا جانا چاہیے۔) کوئی بھی سرمایہ کاری یا پورٹ فولیو کمپنیوں کا ذکر کیا گیا، حوالہ دیا گیا، یا بیان کردہ A16z کے زیر انتظام گاڑیوں میں ہونے والی تمام سرمایہ کاری کے نمائندے نہیں ہیں، اور اس بات کی کوئی یقین دہانی نہیں ہو سکتی کہ سرمایہ کاری منافع بخش ہو گی یا مستقبل میں کی جانے والی دیگر سرمایہ کاری میں بھی ایسی ہی خصوصیات یا نتائج ہوں گے۔ Andreessen Horowitz کے زیر انتظام فنڈز کے ذریعے کی گئی سرمایہ کاری کی فہرست (ان سرمایہ کاری کو چھوڑ کر جن کے لیے جاری کنندہ نے a16z کو عوامی طور پر ظاہر کرنے کے ساتھ ساتھ عوامی طور پر تجارت کیے جانے والے ڈیجیٹل اثاثوں میں غیر اعلانیہ سرمایہ کاری کی اجازت فراہم نہیں کی ہے) https://a16z.com/investments پر دستیاب ہے۔ /.

اندر فراہم کردہ چارٹس اور گراف صرف معلوماتی مقاصد کے لیے ہیں اور سرمایہ کاری کا کوئی فیصلہ کرتے وقت ان پر انحصار نہیں کیا جانا چاہیے۔ ماضی کی کارکردگی مستقبل کے نتائج کا اشارہ نہیں ہے۔ مواد صرف اشارہ کردہ تاریخ کے مطابق بولتا ہے۔ کوئی بھی تخمینہ، تخمینہ، پیشن گوئی، اہداف، امکانات، اور/یا ان مواد میں بیان کیے گئے خیالات بغیر اطلاع کے تبدیل کیے جا سکتے ہیں اور دوسروں کی رائے سے مختلف یا اس کے برعکس ہو سکتے ہیں۔ اضافی اہم معلومات کے لیے براہ کرم https://a16z.com/disclosures دیکھیں۔

ٹائم اسٹیمپ:

سے زیادہ اندیسن Horowitz