知识块 #5L4HJ6
英伟达 DGX Cloud 通过云服务方式卖 AI 基础设施能力
Robin  |  2024-06-02

英伟达 Nvidia 不仅是直接销售 GPU 给云服务商或企业,自己也与云服务商合作,通过 DGX Cloud 的形式,销售封装好的软件和模型 AI 能力(服务)。

附图来自 The Information 的整理,Nvidia 承诺在云服务上的金额投入承诺。

数据来源 Nvidia
分享链接 http://robin5G.com/5L4HJ6
延伸阅读
GPU Yole

Yole 数据显示,2024 年全球数据中心用的 GPU 市场空间为 880 亿美元,AI AISC 为 250 亿美元。

预计 2029 年 GPU 市场空间会提升到 1720 亿美元,CAGR 29%。AI ASIC 会提升到 560 亿美元,CAGR 30%。

无论是 GPU,还是 AI ASIC 均保持了很高的增长态势。

数据中心 Synergy Research

Hyperscale / Hyperscalers 指大型互联网和公有云服务商,逐渐成为一个专有名词,尤其是在云计算和数据中心投资、云网融合等领域。

根据 Synergy Research 的跟踪,全球大型云公司所有拥有的数据中心在四年时间翻了一倍,达到了 700 个左右。

从算力的国家分布维度,美国占据了 49%,中国为 15%,亚太其他地区为 13%,中东和欧洲为 19%。

数据中心 Synergy Research

2023 年及以前,企业私有化 IT 部署增幅是持续走低的。甚至在 2023 年是 -1% 的负增长状态。

但 Gen AI 这波浪潮大幅推动了算力需求,不仅是公有云厂家需求大增 48%。企业私有化部署的需求也大增 21%。

企业自建算力进行大模型训练和推理变成一种重要需求,而不是仅限公有云之上。