AI #FC2L51
完整的云端 AI 涉及到的四类互联网络
Robin  |  2024-07-31

AI 算力更多集中在云端是目前的主流情况。而一套完整的云端 AI 涉及到哪些用于互联的网络呢?

Marvell 在下图做了一个归纳,其认为一共包括四类网络:

(1) Compute fabric(计算架构):连接服务器内的 AI 加速器、GPU、CPU 和其他组件。该架构设计用于在短距离内高速运行,通常依赖于使用 PCIe 或 NVLink 等专有接口的铜线

(2) Backend network(后端网络):使用多层互连的网络交换机和光模块将上述服务器连接成 AI 集群。网络协议包括 InfiniBand 或以太网。

(3) Frontend network(前端网络):将 AI 集群连接到云数据中心,用于存储、交换等。AI 服务器内部的 CPU 负责传输数据,每个 CPU 都有自己的网卡,连接光模块。前端网络使用以太网协议。

(4) Data Center Interconnect (DCI,数据中心互联) :使用 100 公里或更长的链路将一个数据中心与其他区域内的数据中心连接起来。

数据来源 Marvell
分享链接 http://robin5G.com/FC2L51
延伸阅读
广告 2022-10-20 GroupM
二十年来广告行业与 GDP 的增速对比
附图是 GroupM 和世界银行的数据,全球广告行业收入和 GDP 二十年来的增速对比。可以看到 2000 年后的大部分时间,广告行业和 GDP 呈现很大的相关性;而且在 2000 年互联网泡沫破灭和 2008 金融危机,广告行业的下行远超 GDP。...
安全 ESET 2022-10-20 GSMA
电信运营商消费者用户的安全增值需求
GSMA 之前有过调研,围绕消费者用户是否有意向在移动套餐中包含安全类增值服务。有 50% 的反馈已经或有意愿采用安全服务。附图是 ESET 的一个方案简介,在用户访问互联网时,会对不安全站点进行一系列的过滤。...
零售 星巴克 2022-10-20 SVPG
The Supermarket of Software: Changing How You Decide Which Problems To Solve
Consider your neighborhood supermarket. When you walk in, you see somewhere between 40,000 – 50,000 products. How do you decide. By Jon Moore and Marty Cagan This is the second of a three-part sequence on defining transformation. Changing how you...