Bitbarns ระดับไฮเปอร์สเกลจะเติบโตเนื่องจากความต้องการ AI

Bitbarns ระดับไฮเปอร์สเกลจะเติบโตเนื่องจากความต้องการ AI

ประทับเวลา: 18 ตุลาคม 2023 12:45 น.
โหนดต้นทาง: 2944472

ความจุรวมของศูนย์ข้อมูลไฮเปอร์สเกลถูกกำหนดให้เติบโตเกือบสามเท่าในอีกหกปีข้างหน้า ตามความต้องการของ AI ซึ่งจะเพิ่มปริมาณพลังงานที่จำเป็นสำหรับสิ่งอำนวยความสะดวกเหล่านั้นอย่างมาก

ด้วยวงจร AI เชิงสร้างสรรค์ที่เกิดขึ้นอย่างต่อเนื่อง ผู้ดำเนินการศูนย์ข้อมูลกำลังวางแผนล่วงหน้าเพื่อคาดการณ์ความต้องการโครงสร้างพื้นฐานที่มีความหนาแน่นสูงขึ้นและมีประสิทธิภาพสูงขึ้น เพื่อตอบสนองความต้องการในการประมวลผล

A รายงานใหม่ จากนักวิเคราะห์ของ IDC เป็นต้นว่า คาดการณ์ว่าองค์กรต่างๆ ทั่วโลกจะใช้เงินลงทุนเกือบ 16 พันล้านดอลลาร์ในการพัฒนา AI ในปี 2023 การใช้จ่ายนี้ซึ่งรวมถึงซอฟต์แวร์ตลอดจนฮาร์ดแวร์โครงสร้างพื้นฐานที่เกี่ยวข้องและบริการไอที/ธุรกิจ คาดว่าจะสูงถึง 143 พันล้านดอลลาร์ในปี 2027 .

ผลพวงของสิ่งนี้ตาม กลุ่มวิจัย Synergyคือความจุโดยเฉลี่ยของศูนย์ข้อมูลไฮเปอร์สเกลใดๆ ที่เปิดในอีกหลายปีข้างหน้าจะมากกว่าสองเท่าของความจุในปัจจุบัน

นอกจากนี้ จะมีการปรับปรุงศูนย์ข้อมูลที่มีอยู่เพื่อเพิ่มขีดความสามารถ และปริมาณงานด้านไอทีโดยเฉลี่ยของโรงเก็บบิตแต่ละแห่งยังคงเพิ่มขึ้นอย่างต่อเนื่อง โดยผลที่ตามมาคือซินเนอร์จี้คาดการณ์ว่าความจุรวมของศูนย์ข้อมูลระดับไฮเปอร์สเกลทั้งหมดจะเพิ่มขึ้นเกือบสามเท่าในอีกหกปีข้างหน้า

Synergy ใช้การวิเคราะห์นี้จากการดำเนินงานของบริษัทผู้ให้บริการคลาวด์และอินเทอร์เน็ตที่ใหญ่ที่สุดในโลก 19 แห่ง ซึ่งรวมถึงผู้ให้บริการ SaaS, IaaS, PaaS, การค้นหา, เครือข่ายสังคมออนไลน์, อีคอมเมิร์ซ และเกม

ในปี 2023 ไฮเปอร์สเกลเลอร์เหล่านั้นมีโรงนาขนาดใหญ่จำนวน 926 แห่งที่ดำเนินงานอยู่ทั่วโลก และ Synergy กล่าวว่าตนทราบแล้วว่ามีโรงงานอีก 427 แห่งที่อยู่ในแผนงาน

Synergy กล่าวว่าจำนวนศูนย์ข้อมูลทั่วโลกเพิ่มขึ้นเป็นสองเท่าในช่วงห้าปีที่ผ่านมา คาดการณ์ว่าสิ่งเหล่านี้จะเติบโตต่อไปอีกกว่าร้อยต่อปี

อย่างไรก็ตาม ความก้าวหน้าล่าสุดใน generative AI ไม่จำเป็นต้องเร่งการก่อสร้างหอพักข้อมูล แต่จะ "เพิ่มขึ้นอย่างมาก" ปริมาณพลังงานที่จำเป็นในการใช้งานสิ่งอำนวยความสะดวกเหล่านั้น ต้องขอบคุณตัวเร่ง GPU กำลังวัตต์สูงที่เพิ่มขึ้นจำนวนมากที่อัดแน่นอยู่ในนั้น โหนดเซิร์ฟเวอร์

สิ่งนี้ถูกสังเกตโดยชุดวิจัยอื่น ออมเดียซึ่งพบว่าความต้องการเซิร์ฟเวอร์ที่ติดตั้ง GPU แปดตัวสำหรับงานประมวลผล AI ก็มีผลกระทบจากการผลักดันราคาเฉลี่ยสำหรับระบบศูนย์ข้อมูลด้วย

การทำงานร่วมกันเป็นเรื่องขี้อายเกี่ยวกับปริมาณพลังงานที่ต้องการจะ "เพิ่มขึ้นอย่างมาก"

อย่างไรก็ตาม รายงานการวิจัยล่าสุด คำนวณว่าการรวม generative AI เข้ากับการค้นหาของ Google ทุกครั้งอาจใช้พลังงานในปริมาณเท่ากันกับประเทศที่มีขนาดเท่าไอร์แลนด์

Andrew Buss ผู้อำนวยการฝ่ายวิจัยอาวุโสของ IDC ประจำยุโรปเห็นพ้องกันว่า AI กำลังผลักดันความต้องการโครงสร้างพื้นฐานศูนย์ข้อมูลที่มีประสิทธิภาพสูงขึ้น

“เราเห็นว่ามีการติดตั้งความสามารถในการประมวลผลแบบเร่งความเร็วจำนวนมหาศาล” เขาบอกเรา “เราเห็นไฮเปอร์สเกลเลอร์ซื้อตัวเร่ง AI โดยรวมจำนวนมากที่จะออกสู่ตลาดเพื่อรองรับโมเดลเจนเนอเรชั่นขนาดใหญ่และโมเดลหม้อแปลงสำหรับลูกค้า B2C และ B2B รวมถึงองค์กรหลายแห่งที่พยายามจัดหาอุปทานด้วยเช่นกัน”

นี่เป็นการเพิ่มความหนาแน่นของพลังงานของเซิร์ฟเวอร์ และสร้างปัญหาด้านพลังงานและการระบายความร้อนจำนวนมาก Buss กล่าว “ศูนย์ข้อมูลหลายแห่งถูกสร้างขึ้นโดยมีงบประมาณด้านพลังงานอยู่ระหว่าง 7.5 ถึง 15kW ต่อแร็ค แต่ตอนนี้ Nvidia DGX ตัวเดียวสามารถใช้พลังงานได้ถึง 10kW ซึ่งหมายความว่างบประมาณด้านพลังงานทั้งหมดถูกใช้โดยกล่อง 10U เดียว” เขาอธิบาย

John Dinsdale หัวหน้านักวิเคราะห์ของ Synergy บอกเราว่าข้อกังวลด้านพลังงานทำให้ผู้ปฏิบัติงานระดับไฮเปอร์สเกลต้องคิดใหม่เกี่ยวกับสถาปัตยกรรมศูนย์ข้อมูลและแผนการปรับใช้เพื่อแก้ไขเค้าโครงและทำให้ความหนาแน่นของพลังงานต่อแร็คสูงขึ้นมาก และอาจถึงขั้นตรวจสอบตำแหน่งของหอพักข้อมูลของตนด้วยซ้ำ

“มันไม่ได้เกี่ยวกับความพร้อมด้านพลังงานและต้นทุนเท่านั้น” Dinsdale กล่าว “ปริมาณงาน AI จำนวนมากไม่ไวต่อความหน่วงเหมือนปริมาณงานอื่นๆ ดังนั้นจึงช่วยให้ผู้ปฏิบัติงานวางศูนย์ข้อมูลในสถานที่ห่างไกลและราคาถูกลงได้ ตัวอย่างเช่น เราได้เห็นการเติบโตของศูนย์ข้อมูลแบบไฮเปอร์สเกลในเขตมิดเวสต์ของสหรัฐอเมริกา ซึ่งแซงหน้าการเติบโตในภูมิภาคอื่นๆ เช่น เวอร์จิเนียตอนเหนือ และซิลิคอนวัลเลย์ เราคาดหวังอย่างเต็มที่ว่าแนวโน้มดังกล่าวจะดำเนินต่อไป” เขากล่าวเสริม

เพียงสัปดาห์นี้ Nvidia และ Foxconn ผู้ผลิตอุปกรณ์อิเล็กทรอนิกส์ของไต้หวัน ประกาศแผนการ เพื่อร่วมทีมและสร้างสิ่งที่พวกเขาเรียกว่า "โรงงาน AI" ซึ่งหมายถึงศูนย์ข้อมูลที่ทุ่มเทให้กับการประมวลผล AI

“การผลิตรูปแบบใหม่ได้ถือกำเนิดขึ้น – การผลิตปัญญา และศูนย์ข้อมูลที่ผลิตพวกมันก็คือโรงงาน AI” Jensen Huang ซีอีโอของ Nvidia กล่าวในแถลงการณ์ โดยเสริมว่า Foxconn มีความเชี่ยวชาญและขนาดในการสร้างโรงงาน AI เหล่านั้นทั่วโลก

Foxconn จะใช้เทคโนโลยีของ Nvidia เพื่อพัฒนาศูนย์ข้อมูลใหม่สำหรับบริการ AI เจนเนอเรชั่น ที่ครอบคลุมแอปพลิเคชันต่างๆ รวมถึงหุ่นยนต์อุตสาหกรรมและรถยนต์ไร้คนขับ Foxconn คาดว่าจะสร้างระบบจำนวนมากที่ใช้ CPU, GPU และเครือข่ายของ Nvidia สำหรับฐานลูกค้าทั่วโลก ซึ่งหลายแห่งกำลังมองหาการสร้างและดำเนินการโรงงาน AI ของตนเอง Nvidia กล่าว ®

ประทับเวลา:

เพิ่มเติมจาก ลงทะเบียน