প্রান্তে এআই-এর জন্য প্ল্যাটফর্ম নির্বাচনের উপর অ্যাক্রোনিক্স

কলিন আলেকজান্ডার ( Achronix-এ পণ্য বিপণনের পরিচালক) সম্প্রতি এই বিষয়ে একটি ওয়েবিনার প্রকাশ করেছেন। মাত্র 20 মিনিটে ওয়েবিনার একটি সহজ ঘড়ি এবং ডেটা ট্র্যাফিক এবং বাস্তবায়ন বিকল্পগুলির একটি দরকারী আপডেট৷ ডাউনলোডগুলি এখনও ভিডিও দ্বারা প্রাধান্য পায় (ফেসবুকের জন্য 50% এর বেশি) যা এখন প্রান্তে বা কাছাকাছি ক্যাশে করার উপর নির্ভর করে। এইগুলির মধ্যে কোনটি প্রযোজ্য তা আপনার "এজ" এর সংজ্ঞার উপর নির্ভর করে। আইওটি বিশ্ব নিজেদেরকে প্রান্ত হিসাবে দেখে, ক্লাউড এবং অবকাঠামো বিশ্ব দৃশ্যত অবকাঠামোর শেষ গণনা নোডটিকে, সেই পাতার ডিভাইসগুলির আগে, প্রান্ত হিসাবে দেখে। আলু, আলুতো। যেকোনো ঘটনাতে প্রান্তের অবকাঠামোগত দৃশ্য হল যেখানে আপনি ভিডিও ক্যাশিং পাবেন, সর্বাধিক জনপ্রিয় ডাউনলোডগুলিকে যত দ্রুত সম্ভব এবং যত তাড়াতাড়ি সম্ভব পরিবেশন করতে।

প্রান্তে (এবং মেঘে) বিকল্পগুলি গণনা করুন

কলিন প্রাথমিকভাবে অবকাঠামোর প্রান্ত সম্পর্কে কথা বলেন যেখানে গণনা এবং এআই-তে কিছু অশ্বশক্তি প্রয়োজন। তিনি স্ট্যান্ডার্ড বিকল্পগুলি উপস্থাপন করেন: CPU, GPU, ASIC বা FPGA। একটি CPU-ভিত্তিক সমাধানের সর্বাধিক নমনীয়তা রয়েছে কারণ আপনার সমাধানটি সম্পূর্ণরূপে সফ্টওয়্যার ভিত্তিক হবে। একই কারণে, এটি সাধারণত ধীরগতির, সর্বাধিক শক্তির ক্ষুধার্ত এবং দীর্ঘতম লেটেন্সি বিকল্পও হবে (লিফ নোডগুলিতে রাউন্ড ট্রিপের জন্য আমি অনুমান করি)। জিপিইউগুলি সিপিইউগুলির তুলনায় কিছুটা কম নমনীয়তার সাথে পারফরম্যান্স এবং শক্তিতে কিছুটা ভাল। একটি ASIC (কাস্টম হার্ডওয়্যার) হবে দ্রুততম, সর্বনিম্ন শক্তি এবং সর্বনিম্ন লেটেন্সি, যদিও ধারণায় নমনীয় (সমস্ত স্মার্টগুলি হার্ডওয়্যারে থাকে যা পরিবর্তন করা যায় না)৷

তিনি এফপিজিএ (বা এমবেডেড এফপিজিএ/ইএফপিজিএ) এই চরমগুলির মধ্যে একটি ভাল আপস হিসাবে উপস্থাপন করেন। সিপিইউ বা জিপিইউ থেকে কর্মক্ষমতা, শক্তি এবং লেটেন্সি এবং নমনীয়তার ক্ষেত্রে একটি সিপিইউ এবং জিপিইউ-এর মধ্যে কোথাও ভাল। যদিও নমনীয়তার ক্ষেত্রে একটি ASIC এর চেয়ে অনেক ভাল কারণ একটি FPGA পুনরায় প্রোগ্রাম করা যেতে পারে। যা আমার কাছে যতদূর যায় ততটা বোধগম্য হয়, যদিও আমি মনে করি প্ল্যাটফর্ম লাইন আপে DSP যোগ করে গল্পটি সম্পূর্ণ করা উচিত ছিল। এগুলির AI-নির্দিষ্ট হার্ডওয়্যার সুবিধা থাকতে পারে (ভেক্টরাইজেশন, MAC অ্যারে, ইত্যাদি) যা কর্মক্ষমতা, শক্তি এবং লেটেন্সি সুবিধা দেয়। সফ্টওয়্যার নমনীয়তা বজায় রাখার সময়। অন্য গুরুত্বপূর্ণ বিবেচনা খরচ হয়. এটি অবশ্যই একটি সংবেদনশীল বিষয় কিন্তু এআই সক্ষম সিপিইউ, জিপিইউ এবং এফপিজিএ ডিভাইসগুলি দামী হতে পারে, একটি প্রান্ত নোডের সামগ্রীর বিলের জন্য একটি উদ্বেগ।

একটি বৃহত্তর SoC এ এমবেড করা eFPGA-এর প্রান্তে কলিনের যুক্তি আমার কাছে সবচেয়ে বেশি বোধগম্য। একটি ক্লাউড অ্যাপ্লিকেশনে, সীমাবদ্ধতাগুলি আলাদা। একটি স্মার্ট নেটওয়ার্ক ইন্টারফেস কার্ড সম্ভবত মূল্য সংবেদনশীল নয় এবং একটি FPGA-ভিত্তিক সমাধান বনাম একটি সফ্টওয়্যার-ভিত্তিক সমাধানে পারফরম্যান্স সুবিধা থাকতে পারে।

একটি eFPGA এর মাধ্যমে কম্পিউট প্রান্তে AI অ্যাপ্লিকেশনগুলিকে সমর্থন করা আরও তদন্ত করার মতো একটি বিকল্পের মতো দেখাচ্ছে। লিফ নোডের দিকে আরও আউট আমার জন্য অস্পষ্ট. একটি লজিস্টিক ট্র্যাকার বা একটি মাটির আর্দ্রতা সেন্সর নিশ্চিতভাবে উল্লেখযোগ্য গণনা হোস্ট করবে না, তবে ভয়েস অ্যাক্টিভেটেড টিভি রিমোটের কী হবে? নাকি একটি স্মার্ট মাইক্রোওয়েভ? উভয়েরই এআই দরকার তবে খুব বেশি হর্স পাওয়ার দরকার নেই। মাইক্রোওয়েভের তারযুক্ত শক্তি রয়েছে, তবে একটি টিভি রিমোট বা রিমোট স্মার্ট স্পিকার ব্যাটারিতে চলে। এখানে eFPGA ট্রেডঅফগুলি জানা আকর্ষণীয় হবে।

AI এর জন্য eFPGA ক্ষমতা

ডেটাশিট অনুসারে, স্পিডস্টার 7t সম্পূর্ণরূপে ফ্র্যাকচারেবল ইন্টিজার MAC, নমনীয় ফ্লোটিং পয়েন্ট, বিফ্লোট এবং দক্ষ ম্যাট্রিক্স গুণনের জন্য নেটিভ সমর্থন প্রদান করে। আমি TOPS বা TOPS/Watt-এ কোনো ডেটা খুঁজে পাইনি। আমি নিশ্চিত যে এটি বাস্তবায়নের উপর নির্ভর করে তবে উদাহরণগুলি কার্যকর হবে। এমনকি প্রান্তে, কিছু অ্যাপ্লিকেশন খুব পারফরম্যান্স সংবেদনশীল - উদাহরণস্বরূপ গাড়িগুলিতে স্মার্ট নজরদারি এবং সামনের দিকের বস্তু সনাক্তকরণ। এই ধরনের অ্যাপ্লিকেশনগুলিতে eFPGA কোথায় ফিট হতে পারে তা জানা আকর্ষণীয় হবে।

চিন্তা-উদ্দীপক ওয়েবিনার। আপনি এটা দেখতে পারেন এখানে.

এর মাধ্যমে এই পোস্টটি ভাগ করুন:

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• প্লেটোব্লকচেন। Web3 মেটাভার্স ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• উত্স: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/