Morgan Stanley 极为看好边缘 AI 的市场空间潜力,对比云计算的 17% 的 CAGR 年复合增长率,边缘 AI 在 2023 ~ 2030 的 CAGR 可达 37%。
预计到 2030 年,边缘 AI 的总目标空间为 1.8 万亿美元,会超过云计算的 1.6 万亿美元。
当前,30 亿参数的 “小模型“ 的性能已经达到最开始 ChatGPT 所使用的 1750 亿参数模型的效果。这得益于更好的压缩技术(distillation 蒸馏、quantization 量化等),以及更高质量的训练数据。
这个小型化过程会带来显著的好处:边缘侧和端侧通常算力是有限的,没办法部署大模型,但小型的模型如果性能够,就可以用的起来。(而边缘和端侧等低延迟特性就可以发挥起来了)。
与此同时,我们也想到了另一个问题,甲方企业 CIO 的难题。通常一个 IT 项目从立项招标到部署应用,起码要耗费几个月,甚至更久的时间。而模型改进(如下图所示)是以月为单位进步的,
Tech Insights 认为 2025 年会有更多 AI 芯片和 SoC 的小型化。
从价值 200 万美元的数据中心加速器,到笔记本电脑的 SoC (价值 200 美元),甚至边缘计算设备(价值 20 美元)。
大型互联网公司(Hyperscaler),尤其是公有云服务商,在算力资源的投资和技术力量已经处于强势的地位。针对大型互联网公司和电信运营商的业务合作,哪些领域相对成熟呢?
根据 STL Partners 2022 年针对电信行业及电信运营商(Telco)的调研,网络边缘计算和 LTE/5G 专网是排名靠前的选项。
针对边缘计算侧 AI 和 ML 应用的重要性,GSMA 针对网络设备商、移动运营商、云服务商、IoT 服务和集成商和汽车制造商进行了调研。
从整体看,大致五分之一的反馈认为 AL 和 ML 在边缘计算的应用很重要,其中汽车制造业的反馈最高(28%)。
附图来自 GSMA 在 2023 年的边缘计算调研,针对全球运营商、网络设备商、云服务商、IoT 系统集成商和汽车制造企业。
围绕那个垂直行业领域是调研对象的 “边缘计算应用当前的第一选择”,32% 的反馈是消费者电子,其次是媒体(17%)和零售(10%)。
针对五年后的想法,消费电子(22%)、媒体(20%)仍然位居前两位,交通和汽车提升到第三位(14%)。
451 Research 把计算节点的位置划分为 Core(核心节点)、Near Edge(近边缘)和 Edge(边缘)。
此处的 Near Edge 主要指运营商大网边缘侧的 MEC、小型数据中心、公有云服务商的 Local Zone。Edge 主要指企业私网内或者具体客户侧网关位置。
围绕每个位置的能耗(侧面也反映了所承载的计算负载),Near Edge 是比例增长最大的部分,2022 年 Near Edge 占了 40% 比例,2027 年会提升到 50%。
MEC(移动边缘计算)是从移动网络角度出发的边缘基础设施,位于移动网络的边缘位置。
OMDIA 咨询公司认为,从 2022-2032 年全球 MEC 基础设施的开支将保持 26% 的年复合增长率。预计到 2032 年会突破 70 亿美元,其中硬件会占到三分之一,虚拟化软件部分占比 40% 左右。
基于这些 MEC,更 “上层” 的 IaaS 和 PaaS 的市场空间可达 200 亿美元。
OMDIA 咨询公司认为,企业侧的订阅用户中,5G 占比会从 2023 年的 13% 提升到 2027 年的 57%。
企业侧边缘计算收入空间会从 2023 年的 1,160 亿美元提升到 2027 年的 2,450 亿美元。
附图来自 Mckinsey,其在 2022 年对北美和欧洲电信运营商管理层的调研,围绕边缘计算 Edge Computing 的应用场景。
四分之一的运营商已经部署,或正在积极计划扩大边缘计算。超过一半的受访高管(55%)表示,其主要目标是提高网络效率和性能。
排名 Top 3 的用例 Use Case 是:(1) 视频监控;(2) 检测和故障处理;(3) 增强现实 AR。