知识块 #250802C3PRJH
企业对大模型的部署选择:开源 vs. 闭源
Robin  |  2025-08-02

企业客户在部署使用大模型时,面临的经典问题是,选择开源模型,还是闭源模型。

从 Menlo Ventures 在 2025H1 更新的企业调研看,开源模式在性能方面仍然落后于前沿的闭源模式 9~12 个月。

数据来源 Menlo Ventures
分享链接 http://robin5G.com/250802C3PRJH
延伸阅读
AT&T Robin5G

AT&T Business(政企客户)定义的传统业务包括:企业话音业务和专线出租;这块收入的持续下滑是大趋势。

AT&T 近年持续发力行业信息化产品和管理服务,尤其是面向美国的大型企业;最新的战略举措可留意 AT&T 与 Microsoft Azure, Google Cloud 的系列战略合作,瞄准 “5G + 边缘计算” 赛道。

LLM Abdin

当前,30 亿参数的 “小模型“ 的性能已经达到最开始 ChatGPT 所使用的 1750 亿参数模型的效果。这得益于更好的压缩技术(distillation 蒸馏、quantization 量化等),以及更高质量的训练数据。

这个小型化过程会带来显著的好处:边缘侧和端侧通常算力是有限的,没办法部署大模型,但小型的模型如果性能够,就可以用的起来。(而边缘和端侧等低延迟特性就可以发挥起来了)。

与此同时,我们也想到了另一个问题,甲方企业 CIO 的难题。通常一个 IT 项目从立项招标到部署应用,起码要耗费几个月,甚至更久的时间。而模型改进(如下图所示)是以月为单位进步的,很可能甲方企业根据标书购买的大模型还没有部署上线,就已经落后,而且落后很多。

大模型时代的 IT 投资保护是一个值得思考的话题。

罗宾读书 机械工业出版社 | 大教堂与集市

社区和生态合作等概念在现在已经成为主流。几乎每家公司都会说自己要打造一个开发者或用户社区之类,让这些社会力量可以加入产品的创新进来。

但很大比例的社区的最大特点就是:冷清,而且是极为冷清。根本没有多少开发者会参与进来。

如果要研究这背后的机制,最好的标杆案例可能就是开源世界,尤其是 Linux 社区的运作模式。

而这背后的故事则是,产品开发的两种经典模式:大教堂模式和集市模式。