超大规模 Bitbarns 将因人工智能需求而增长

由柏拉图重新发布

关注： 0

在人工智能需求的推动下，超大规模数据中心的总容量将在未来六年内增长近三倍，从而大幅增加这些设施所需的电量。

随着生成式人工智能炒作周期的不断发展，数据中心运营商正在提前规划，以预测对更高密度、更高性能基础设施的需求，以满足处理要求。

A 新报告例如，分析师 IDC 预测，到 16 年，全球企业将在生成式 AI 上投入近 2023 亿美元。这笔支出（包括软件以及相关基础设施硬件和 IT/商业服务）预计到 143 年将达到 2027 亿美元。

这样做的结果是，根据协同研究小组未来几年开放的任何超大规模数据中心的平均容量将是现有设施的两倍以上。

还将对现有数据中心进行一些改造以提高其容量，并且各个比特仓的平均 IT 负载持续增长，因此 Synergy 预测所有超大规模数据中心的总容量将在未来六年内几乎增加两倍。

Synergy 基于全球 19 家最大的云和互联网服务公司的运营情况进行了分析。这包括 SaaS、IaaS、PaaS、搜索、社交网络、电子商务和游戏的提供商。

截至 2023 年，这些超大规模企业在全球共有 926 个正在运营的大型比特仓，Synergy 表示，据了解还有 427 个设施正在建设中。

Synergy 表示，全球数据中心总数在过去五年中已经翻了一番。它预测这些数量将继续以每年一百以上的速度增长。

然而，生成式人工智能的最新进展并不一定会加速数据宿舍的建设，而是会“大幅增加”运行这些设施所需的电量，这要归功于大量高瓦数 GPU 加速器的涌入。服务器节点。

另一家研究机构注意到了这一点，奥姆迪亚，该研究发现，对配备八个 GPU 进行人工智能处理工作的服务器的需求也推高了数据中心系统的平均价格。

Synergy对于所需电量将“大幅增加”的程度含糊其辞。

然而，一个最近的研究报告据计算，将生成式人工智能集成到每次谷歌搜索中可能会消耗与爱尔兰大小的国家相同的电力。

IDC 欧洲高级研究总监 Andrew Buss 同意人工智能正在推动对更高性能数据中心基础设施的需求。

“我们确实看到大量的加速计算能力正在安装，”他告诉我们。 “我们看到超大规模企业购买了大量即将上市的整体人工智能加速器，以支持 B2C 和 B2B 客户以及许多组织也试图获得一些供应的大型生成和转换模型。”

巴斯说，这增加了服务器的功率密度，并产生了很多电源和冷却问题。 “许多数据中心的每个机架的功率预算在 7.5 至 15kW 之间，但现在单个 Nvidia DGX 可以使用 10kW，这意味着整个功率预算都由单个 10U 机箱使用，”他解释道。

Synergy 首席分析师 John Dinsdale 告诉我们，电力问题正在导致超大规模运营商重新考虑他们的一些数据中心架构和部署计划，以修改布局并实现每个机架更高的功率密度，甚至可能审查他们的数据宿舍的位置。

“这不仅仅是电力可用性和成本的问题，”丁斯代尔说。 “许多人工智能工作负载不像其他工作负载那样对延迟敏感，因此可以允许运营商将数据中心放置在更远、更便宜的位置。例如，我们已经看到美国中西部超大规模数据中心的增长速度超过了弗吉尼亚北部和硅谷等其他地区的增长速度。我们完全预计这种趋势将持续下去，”他补充道。

就在本周，英伟达和台湾电子制造商富士康宣布了计划合作并建立他们所谓的“人工智能工厂”，这意味着专用于人工智能处理的数据中心。

“一种新型制造业已经出现——智能生产。生产它们的数据中心就是人工智能工厂。”英伟达首席执行官黄仁勋在一份声明中表示，并补充说富士康拥有在全球范围内建设这些人工智能工厂的专业知识和规模。

富士康将利用英伟达的技术开发新的数据中心，用于生成人工智能服务，涵盖工业机器人和自动驾驶汽车等一系列应用。英伟达声称，富士康预计将为其全球客户群构建大量基于英伟达 CPU、GPU 和网络的系统，其中许多客户正在寻求创建和运营自己的人工智能工厂。 ®