Marvell 认为，如果以 2023 年为分水岭，AI 算力集群的互联网带宽在之前年份大约每隔 4 年会翻倍；而之后年份会提升到每隔 2 年翻倍。

带宽速度是一方面，互联的连接数量也会急剧增加。ChatGPT 在 GPT-3 模型训练时，大约使用了 1,000 个加速器的集群，这需要大约 2,000 个光纤互联连接；而 GPT-4 模型的训练则需要使用 2.5 个加速器的 GPU 集群，这需要大约 7.5 万个光纤互联连接。

光纤互联的连接增长速度将比 XPU/GPU 要块，比例达到 5:1，甚至 10:1。

Ember 绘制了一张图，展示了 2023 年全球主要地区电力需求的增减变化。

中国贡献了电力需求净增的主要部分，其次是印度。欧盟、美国则持续在减少。

电力是基础，尤其是工业制造业、也是家庭生活质量的体现。

类似 “金本位”，有个新的说法叫 “电本位”。

Mckinsey 预测美国本土的数据中心电力能耗需求到 2030 年将保持 10% 的 CAGR 增速。

从企业需求侧看，主机托管公司会占绝最大的比重。普通垂直行业企业侧的占比会大幅缩小，而超级互联网公司 Hyperscalers 的占比提升也并不多。