一场没有硝烟的AI革命:开源模型加本地部署
2026-07-14 15:20:25

过去两年,人工智能领域的竞争格局非常简单,谁家的模型参数规模更大,谁在几项公认的基准测试上得分更高,谁就能对外宣称领先。外界也基本接受这种评判方式,至少在竞争对手发布下一个更强的模型之前,领先者的优势都被视为牢固。然而,这种单一的评价标准已经开始显得不够用了。



行业人士普遍观察到,企业用户正在从单纯测试AI模型的能力上限,转向将AI真正嵌入到实际产品和业务流程中去。在这个新阶段,核心诉求发生了根本性的变化。不再是不计代价地追求性能最强的模型,而是在合理的成本、受控的数据安全要求以及特定的部署环境下,精准匹配到最适合完成手头任务的模型。过去那种“掏出最大最贵的模型解决一切”的思路,正在让位于一种更精细、更务实的选择逻辑。


这种变化,打开了一扇新型竞争的大门。竞争的重点,不再局限于模型本身有多庞大、多聪明,而是转向了路由分发、成本控制、部署可控度和算力效率。换句话说,不再是“你有多少个参数”,而是“你怎样在正确的时间、用正确的代价、让正确的模型做正确的事”。


Perplexity的首席执行官Aravind Srinivas对这一变化给出了非常直白的判断。他说:“模型本身已经不再是核心产品。”在他看来,关键在于“框架”——一个将模型置于功能强大的系统之中,并使其与众多工具相互匹配的协调系统。这句话点出了AI产品演化的方向:模型正从产品本身,降级为一个组件,而真正的产品,是管理这些组件的智能系统。


这种框架系统,本质上是一个智能调度层。它能够自主判定在什么情况下该调用哪个模型,以及需要同时调动哪些外部工具或公司内部的数据源。举个例子,处理常规的客户服务问答,一个轻量级的开源模型就足够胜任,完全不需要动用最昂贵的前沿大模型。而面对复杂的代码生成或多步逻辑推理难题,系统才需要自动升级到能力更强的模型。企业日常的内部工作流,可以安稳地跑在成本低廉的开源模型上;一旦某个步骤超出预设的复杂度阈值,框架就会无缝切换到更强大的模型上处理。Srinivas的理念很朴素:“答案始终是:选用最适合该任务的模型。”


替代模型的涌现,恰好发生在美国企业整体收紧AI支出的时期。这对OpenAI、Anthropic等以销售最前沿专有模型技术而蓬勃发展的公司,构成了实实在在的压力。如果客户发现大量任务并不需要最贵的模型,这些前沿模型公司的收入增长逻辑就会受到质疑。


就在上周,Perplexity预告了其新产品Perplexity Computer所搭载的系统。这套系统基于中国智谱公司推出的开源模型GLM 5.2构建。设计思路非常明确:让成本更低的模型处理绝大多数日常工作,仅在有明确必要时才召唤更强大的模型出马。这种做法并非Perplexity一家独创,它折射出整个市场上更广泛的潮流。


开源模型的持续进步,正在重塑企业采购和使用AI的方式。企业可以自行下载、自行微调并在自己控制的环境中运行这些模型。它们的性能越来越强,但与大型AI实验室推出的高端专有模型相比,运行成本却低得多。企业不用为每一次API调用支付高昂的费用,也不用担心数据外流的合规风险,这本身就是一种巨大的吸引力。


知名投资机构Benchmark的合伙人Peter Fenton指出了这场变化可能带来的颠覆性后果。他表示:“我们认为,未来18到24个月内,甚至可能在今年年底前,90%以上的Token将由开源模型生成——这一观点虽然可能有些反主流,但正逐渐成为共识。”这里的Token,可以近似理解成大模型处理和生成文本的基本计量单位,用量越大,成本差异越明显。Fenton解释说,当企业可以直接运行那些“足够好”的开源模型,从而绕过前沿模型公司索要的高额调用费用时,这些巨头赖以生存的推理利润率必将面临巨大压力。



Fenton还进一步指出,转向开源模型不只是为了节省成本。在某些特定场景下,针对某个专门任务进行精调的小型模型,其运行速度和处理效果可能优于大型的通用模型。用一把专门打磨的工具去拧特定尺寸的螺丝,比搬来一个笨重但功能庞杂的工具箱更高效。这个道理在AI的落地中同样适用。


这种阵地转移的逻辑,正是Benchmark投资Ollama的原因之一。Ollama是一个致力于让开发者和企业能够更便捷地下载、运行和管理开源模型的平台。Ollama首席执行官Jeff Morgan在谈及企业需求时强调:“模型诞生于何处、由谁训练固然是一个方面,但对我们接触的众多企业而言,更生死攸关的问题是——这个模型最终在哪里运行,以及如何高效运行。”运行位置决定了数据是否离得够近、延迟是否足够低、安全边界是否清晰,而运行效率则直接影响运营成本和服务可靠性。


Morgan透露了一个颇具说服力的数字:超过85%的《财富》500强企业已采用Ollama的服务,覆盖航空、保险和医疗保健等监管严格、对数据隐私要求极高的行业。他描述了这些公司常见的起步路径:先引入一个小型模型,在紧邻自身数据的私有云或本地服务器上运行,待技术团队逐渐熟悉、建立信心后,再扩展到更大的开源模型。这种方式既控制了初期风险,也确保了敏感数据不出门,满足了合规要求。


开源模型的兴盛,还带来了一层战略层面的考量。当前,许多性能极具竞争力的开源权重模型来自中国的实验室,包括智谱和DeepSeek等。这使得开源AI不仅仅是一个商业选择问题,更是一个政策问题,甚至上升为国家竞争力的话题。


对于这一点,Srinivas的态度非常鲜明。他认为美国应该积极支持开源模型,因为开源能让AI变得更便宜、更容易获取。他说:“如果你希望人工智能的益处能广泛惠及美国及美国盟国的小型企业,那么人工智能就必须变得更加经济实惠,而开源是实现这一目标的唯一途径。”如果只有昂贵的前沿专有模型可供选择,大量中小企业将被挡在AI应用的门外,这与广泛普及技术红利的初衷背道而驰。


这一转变还可能波及美国科技行业当下如火如荼的数据中心建设浪潮。现阶段的大规模AI基础设施投资,都建立在一个核心假设之上:AI推理需求将持续地、大规模地涌向那些配备了昂贵高端芯片的大型云数据中心。但Srinivas提醒,一部分AI工作最终可能会转而在本地运行,也就是在消费者或企业自有的设备上完成。


这并不意味着数据中心会被淘汰,而是可能催生一种混合式的AI系统:常规的、对延迟敏感或涉及隐私的任务,在本地设备上就地解决;而最复杂、需要最强计算力的工作,才被发送到云端的强大模型上处理。这种形态一旦普及,将直接改变算力需求的分布,并对现有的云基础设施投资逻辑产生深远影响。


对投资者来说,此刻最核心的问题已经变得相当清晰:随着开源模型不断改进,随着企业对所采用的技术变得越来越挑剔和精明,那些美国头部AI企业,还能不能维持它们现有的定价能力?


过去,领先的模型公司凭借技术上的独占性,拥有很强的议价权。但如果开源方案在绝大多数场景下已经足够好,而且企业可以通过本地部署来避免持续发生的API调用成本,那么维持高定价就会变得极其困难。尤其是当企业建立起能够灵活切换模型的框架系统后,对单一模型提供商的依赖会迅速下降。模型变成了一个可替换的组件,竞争将更多地发生在系统效率、工具链完整度、数据飞轮和安全可控这些层面。AI产业的利润池,很可能也会跟着从模型层,逐渐流向系统层、应用层,以及那些能够掌握分发和调度能力的平台。


AI下半场的赛道确实变了。这不意味着模型不再重要,而是意味着模型不再是决定胜负的唯一武器。把模型用好、用对、用得起,并通过系统框架将模型与数据、工具和业务流程无缝衔接在一起,这才是接下来真正的决胜关键。

核心产品
    联系方式
      Public QR Code
      官方公众号
      Affairs QR Code
      商务合作