การค้นหาสถาปัตยกรรมประสาทที่ปรับให้เหมาะสม HW ระดับไฮเปอร์สเกล (Google)

เอกสารทางเทคนิคฉบับใหม่ชื่อ "Hyperscale Hardware Optimized Neural Architecture Search" ได้รับการเผยแพร่โดยนักวิจัยจาก Google, Apple และ Waymo

“บทความนี้จะแนะนำการค้นหาสถาปัตยกรรมประสาทที่ปรับให้เหมาะสมกับฮาร์ดแวร์ระดับไฮเปอร์สเกลครั้งแรก (H₂O-NAS) เพื่อออกแบบโมเดลการเรียนรู้ของเครื่องที่แม่นยำและมีประสิทธิภาพโดยอัตโนมัติ ซึ่งปรับให้เหมาะกับสถาปัตยกรรมฮาร์ดแวร์พื้นฐาน ชม₂O-NAS ประกอบด้วยองค์ประกอบหลักสามส่วน: อัลกอริธึมการค้นหาแบบ "นัดเดียว" แบบขนานขนาดใหญ่พร้อมการแบ่งปันน้ำหนักอัจฉริยะ ซึ่งสามารถปรับขนาดเพื่อค้นหาพื้นที่ของ O(10²⁸⁰) และจัดการปริมาณการผลิตจำนวนมาก พื้นที่ค้นหาที่ปรับให้เหมาะสมกับฮาร์ดแวร์สำหรับโมเดล ML ที่หลากหลายบนฮาร์ดแวร์ที่ต่างกัน และโมเดลประสิทธิภาพไฮบริดแบบสองเฟสแบบใหม่ และฟังก์ชันการให้รางวัลแบบหลายวัตถุประสงค์ที่ปรับให้เหมาะกับการใช้งานในวงกว้าง” เอกสารระบุ

หา เอกสารทางเทคนิคที่นี่. เผยแพร่เมื่อ มีนาคม 2023

เซิง ลี, การ์เร็ตต์ แอนเดอร์สัน, เทา เฉิน, ลี่คุน เฉิง, จูเลียน เกรดี้, ต้า ฮวง, ก๊วก วี เลอ, แอนดรูว์ ลี่, ซิน หลี่, หยาง หลี่, เฉิน เหลียง, อี้เฟิง ลู่, ยุน หนี, รัวหมิง ปัง, หมิงซิง ตัน, มาร์ติน วิกเก้, Gang Wu, Shengqi Zhu, Parthasarathy Ranganathan และ Norman P. Jouppi 2023. การค้นหาสถาปัตยกรรมประสาทที่ปรับให้เหมาะสมกับฮาร์ดแวร์ระดับไฮเปอร์สเกล ในการดำเนินการประชุมนานาชาติ ACM ครั้งที่ 28 เรื่องการสนับสนุนทางสถาปัตยกรรมสำหรับภาษาโปรแกรมและระบบปฏิบัติการ เล่มที่ 3 (ASPLOS 2023) สมาคมเครื่องจักรคอมพิวเตอร์, New York, NY, USA, 343–358 https://doi.org/10.1145/3582016.3582049

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• การสร้างอนาคตโดย Adryenn Ashley เข้าถึงได้ที่นี่.
• ที่มา: https://semiengineering.com/hyperscale-hw-optimized-neural-architecture-search-google/