延伸阅读
Nvidia
Nvidia
2022Q4 Nvidia 的游戏业务(GPU 显卡)收入是超过数据中心的。随后,游戏业务 GPU 的收入就持续不前,直到 2026Q1 重新又获得提升。
而数据中心侧的收入就不得了了。整个变化过程也就三年时间。
作为代表性的算力关键部件提供商,游戏显卡代表典型的 “终端侧”,而数据中心 GPU 代表典型的“云端侧”。两者体量差别也体现了端侧算力和云端侧算力的差别。
算力中心
科智咨询
截止到 2023 年底,中国在运营的 IDC 数据中心机柜规模 270.4 万架,同比增速 12%。IDC 需求规模达到 152.5 万架,同比增长 10%。
机房平均上架率 56.4%,整体存在供需失衡问题。各重点区域角度,京津冀以 76% 的上架率排名最高。
算力
The Economist
The Economist 基于 OpenAI 披露的数据,绘制了一张图,展示了不同的大模型及应用在算力需求上的变化。
纵轴是 OpenAI 用于描述 AI 计算量的算力单位 petaflop/s-days (每天执行 one petaflop per second)。OpenAI 定义一次乘法或一次加法为一个操作。如果每秒钟可以进行 10 的 15 次方运算,也就是1 peta flops,那么一天就可以进行约 10 的 20 次方运算,这个算力消耗被称为 1 个 petaflop/s-day。
从整体看上,摩尔定律时代大约两年算力翻一番;而当前用于 AI 大模型训练的算力需求大约每 3.4 个月算力翻一番。
