斯坦福大学研究：本地人工智能是否突然在经济上更具优势？云计算教条和千兆数据中心是否即将终结？
Xpert 预发布
语言选择 📢
发布日期：2025年11月19日 / 更新日期：2025年11月19日 – 作者：Konrad Wolfenstein
斯坦福大学的研究表明：为什么本地人工智能突然在经济上更具优势——云计算教条和千兆数据中心的终结？——图片来源：Xpert.Digital
“混合人工智能”方法如何改变游戏规则——现在不采取行动的人将付出代价：纯云战略被低估的成本陷阱
数据主权即资本：为什么企业需要彻底分散其人工智能基础设施
长期以来，科技行业奉行一条不成文的规则：真正的人工智能需要庞大的数据中心、无限的云资源以及数十亿美元的中央基础设施投资。然而，尽管市场仍然聚焦于超大规模数据中心，一场悄然发生却意义深远的单位经济效益变革正在悄然发生。
云计算人工智能被视为唯一可行标准解决方案的时代即将结束。新的实证数据和硬件效率的飞跃式提升清晰地表明：工业智能的未来并非集中式，而是分散式和混合式。这不再仅仅关乎数据隐私或延迟，而是关乎严峻的经济现实。当本地系统能够在实现三倍精度提升的同时，将能耗降低一半时，云计算成本突然变成了一项战略风险。
别再关注云基准测试了：为什么“每瓦智能”才是最重要的全新业务指标。
本文将详细探讨这一范式转变。我们将分析“每瓦智能”为何正成为决策者至关重要的全新衡量标准，以及企业如何通过智能混合路由将运营成本降低高达 73%。从供应商锁定带来的战略陷阱到能源分配的地缘政治意义：了解为何向本地人工智能转型不再是技术领域的细分，而是任何希望在未来五年保持竞争力的企业都必须面对的商业挑战。
本地人工智能作为工业经济的转型因素：从集中式智能范式到分散式智能
工业计算正处于一个转折点，这一转变并未成为新闻头条，而是在静谧的实验室和企业数据中心悄然发生。当科技界将数十亿美元投入集中式数据中心时，一种根本性的经济逻辑正在悄然转变：本地人工智能不仅可行，而且在许多实际应用场景中，其经济效益甚至优于云计算模式。这一结论基于知名机构的大量实证研究，正迫使企业和战略家重新评估其基础设施投资。
关键问题不再是本地人工智能模型是否有效，而是企业如何才能尽快降低对专有云平台的依赖。斯坦福大学关于“每瓦智能”的研究表明，一种现象从根本上改变了人工智能基础设施规划的成本效益分析。2023年至2025年间，本地模型的准确率提高了3.1倍，硬件效率也提高了一倍，本地人工智能系统已达到相当成熟的水平，无需中央云基础设施即可处理88.7%的查询。这一指标并非纸上谈兵，它对资本配置、运营成本以及企业的战略独立性都具有直接影响。
更多相关信息请点击这里：
这种转变带来的经济影响深远，遍及业务运营的各个层面。混合式人工智能路由方法，即智能地将请求路由到本地或集中式系统，可使能耗降低 80.4%，计算成本降低 73.8%。即使是仅能正确分类 50% 请求的简易路由系统，也能降低 45% 的总体成本。这些数据表明了一个经济上的必然趋势：那些不积极投资本地人工智能能力的企业，实际上是在不知不觉中通过支付更高的云基础设施费用来补贴竞争对手。
斯坦福大学最新的原始资料并未明确指出“本地人工智能”为何突然在经济上更具优势。然而，近期的报告和斯坦福大学的研究表明，随着人工智能推理成本和能耗的显著降低，以及开源模型性能的提升，更先进、规模更小的（“本地”）模型在经济上变得更加可行。斯坦福大学发布的《2025年人工智能指数报告》对此进行了详细阐述。
斯坦福大学关键消息来源
斯坦福人工智能指数报告2025指出，在2022年11月至2024年10月期间，GPT-3.5性能水平的人工智能模型的推理成本下降了280倍。与此同时，能源效率每年提升40%。小型开源人工智能模型也在显著追赶，在某些基准测试中，它们的性能几乎可以与封闭模型相媲美（最近的性能差距仅为1.7%）。
尤其值得注意的是：开放权重模型（即本地可操作的开放模型）从经济角度来看正变得越来越有吸引力，因为它们现在可以以更低的成本运行类似的任务。这降低了企业的准入门槛，并使去中心化的人工智能应用或在企业自有服务器上运行的应用成为可能。
结论与细微差别
本地人工智能的“卓越经济效率”或许可以从成本和效率趋势的数据中得出，但报告本身是以分析的方式提出的，而不是以耸人听闻或排他性的方式提出的。
研究讨论中出现了“本地人工智能”与集中式云人工智能的话题，但“突然在经济上更胜一筹”这一术语并非源自斯坦福大学的主要研究成果。
斯坦福大学的最新研究确实指出，开源模型带来的经济压力和推理成本的降低将改变游戏规则。然而，任何声称斯坦福大学已经明确证明“本地人工智能在经济上更胜一筹”的说法都过于简单化——但现有证据至少表明，在2024/2025年，开放的本地模型将与此前更胜一筹的云解决方案显著融合。
衡量智能：为什么每瓦计算能力是新的资源
传统的AI评估侧重于模型准确率或基准性能等抽象指标。这对于学术研究来说足够了，但对商业决策者而言却具有误导性。关键的范式转变在于引入“每瓦智能”作为关键绩效指标。该指标定义为平均准确率除以平均功耗，它将两个此前被视为独立的业务要素——输出质量和直接运营成本——联系起来。
从商业角度来看，这是一场成本控制的革命。企业不能再仅仅强调模型的准确性，而必须证明每消耗一美元电能能获得多少计算能力。这种关联性使得投资于本地基础设施的企业在市场中占据了不对称的地位。两年内每瓦特智能水平提升了5.3倍，这意味着本地人工智能系统的扩展曲线比传统云解决方案的扩展曲线更加陡峭。
尤其值得注意的是不同硬件平台之间的性能差异。例如，本地加速系统（如 Apple M4 Max）的每瓦智能效率比 NVIDIA B200 等企业级加速器低 1.5 倍。这并非表明本地系统性能低下，而是表明其优化潜力巨大。本地 AI 推理的硬件格局尚未趋于统一，这意味着现在投资于专用本地基础设施的公司将在未来几年内获得指数级的效率提升。
能源核算正成为一项战略竞争优势。全球数据中心人工智能相关的能源消耗量估计约为20太瓦时，但国际能源署预测，到2026年，数据中心的能源消耗量将增加80%。对于那些未能解决能源强度结构性问题的公司而言，这将日益成为其可持续发展目标和运营成本核算的沉重负担。一次ChatGPT-3查询的能耗约为一次典型谷歌搜索的十倍。本地模型可以将这种能耗降低几个数量级。
成本削减架构：从理论到实际操作
通过具体的案例研究，本地人工智能的理论成本节约优势已在实际商业场景中得到验证。假设一家拥有100家门店的零售公司正在从基于云端的视觉质量控制迁移到本地边缘人工智能，成本差异便显而易见。每家门店部署基于云端的视频分析解决方案，每个摄像头每月成本约为300美元，对于一家典型的大型零售店而言，每年累计成本将超过192万美元。相比之下，边缘人工智能解决方案每个门店只需约5000美元的专用硬件资本投入，加上每月约250美元的维护和运营费用，每年的运营成本约为60万美元。三年下来，成本节约总额约为370万美元。
考虑到云计算模式的隐性成本，这种计算结果就更具说服力了。数据传输费用占许多云服务总成本的 25% 到 30%，而本地处理则可以完全消除这些费用。对于处理海量数据的组织而言，这意味着每 TB 数据无需传输到云端，就能节省 50 到 150 美元。此外，本地系统的推理延迟通常低于 100 毫秒，而云端系统的推理延迟通常超过 500 到 1000 毫秒。对于自动驾驶汽车控制或工业质量控制等对时间要求极高的应用而言，这不仅仅是便利性的问题，而是至关重要的安全要求。
本地部署人工智能基础设施的盈利能力并非随着成本的降低而线性增长。对于每天处理查询量低于 1000 次的组织而言，云服务仍然更具经济效益。然而，对于每天处理 10000 次或更多查询的组织而言，本地部署硬件的投资回收期将显著缩短。文献表明，对于高容量用例，3 到 12 个月的投资回收期是比较合理的。这意味着，五年内，一个稳健的本地部署基础设施的总拥有成本通常只有同等云解决方案的三分之一。
尤其值得注意的是，云基础设施成本占总支出的比例几乎不变。虽然本地基础设施可以折旧，且通常有三到五年的使用寿命，但云支出具有机会性，会随着使用量的增加而增加。这对战略财务规划有着深远的影响。需要降低运营成本的首席财务官可以通过精简本地基础设施来实现这一目标，从而延长投资的使用寿命。而云支出则不具备这种灵活性。
适合：
混合人工智能路由作为战略性国际象棋平台
真正的经济转型并非简单地用云计算替代本地部署系统，而是源于将两种模式相结合的智能混合方法。混合人工智能路由系统能够根据查询的复杂性、安全性和延迟要求，将查询发送到本地资源或云端资源，从而帮助企业实现最佳成本效益。对于可以容忍较高延迟的非关键性查询，系统会将其路由到云端，因为云端的扩展效率仍然很高。而安全关键型数据、实时操作和高容量的标准查询则在本地运行。
研究揭示了一个反直觉的现象：即使路由准确率只有 60%，与纯云方案相比，也能降低 45% 的总体成本。这表明，处理节点与数据源在空间上的接近所带来的效率提升非常显著，即使路由决策并非最优，也能带来巨大的成本节约。当路由准确率达到 80% 时，成本会降低 60%。这并非线性关系；提高路由准确率的投资回报率异常高。
从组织角度来看，成功的混合人工智能路由系统需要技术和治理两方面的强大能力。根据查询的理想处理方式对其进行分类，需要特定领域的专业知识，而这些知识通常只有组织内部的专家才具备，而非云服务提供商。这为拥有强大本地领域专业知识的去中心化组织创造了潜在优势。例如，金融机构可能知道实时欺诈检测必须在本地执行，而批量欺诈模式检测则可以在延迟时间更长的云资源上执行。
混合模式的优势不仅在于节省基础设施成本，数据安全性和业务连续性也得到了显著提升。企业不再需要完全依赖云基础设施，从而避免单点故障的风险。即使云服务提供商出现故障，也不会导致业务完全瘫痪；关键功能可以在本地继续运行。这对于银行、医疗系统和关键基础设施至关重要。
通过“托管人工智能”（人工智能）开启数字化转型的新维度 - 平台和 B2B 解决方案 | Xpert Consulting
“托管人工智能”（AI）开启数字化转型新维度——平台与 B2B 解决方案 | Xpert Consulting - 图片：Xpert.Digital
在这里您将了解您的公司如何快速、安全且无高门槛地实施定制化的AI解决方案。
托管 AI 平台是您全方位、无忧的人工智能解决方案。您无需处理复杂的技术、昂贵的基础设施和冗长的开发流程，只需几天时间，即可从专业合作伙伴处获得根据您的需求量身定制的交钥匙解决方案。
主要优势一览：
⚡ 快速实施：从构思到实际应用，只需几天，无需数月。我们提供切实可行的解决方案，创造即时价值。
🔒 最高数据安全性：您的敏感数据将由您自行保管。我们保证数据处理安全合规，不会与第三方共享。
💸 无财务风险：您只需为结果付费。完全无需在硬件、软件或人员方面进行高额的前期投资。
🎯 专注于您的核心业务：专注于您最擅长的领域。我们负责您 AI 解决方案的整个技术实施、运营和维护。
📈 面向未来且可扩展：您的 AI 将与您共同成长。我们确保持续优化和可扩展性，并灵活地调整模型以适应新的需求。
更多相关信息请点击这里：
本地化人工智能而非依赖云端：通往战略主权的道路
数据主权与战略独立：隐形资本
成本和性能固然重要，但数据主权的战略层面对于长期经济决策而言可能更为关键。将人工智能基础设施完全外包给云服务提供商的企业，实际上不仅转移了技术控制权，也转移了对关键业务洞察的控制权。发送给云端人工智能服务提供商的每一个查询都可能泄露专有信息：产品策略、客户洞察、运营模式和竞争情报。
欧盟和其他监管机构都已意识到这一点。德国一直在积极开发主权云，作为美国超大规模云服务的替代方案。AWS 创建了一个独立的欧洲主权云实体，完全由欧盟管理，这体现了监管机构对数据主权的关注。这并非无关紧要的小事，而是全球云市场的一次战略性重组。
从经济角度来看，这意味着受监管企业云基础设施的实际成本通常高于估算值。一家公司如果使用了云端人工智能服务，之后却发现这不符合监管规定，不仅会损失已投入的资金，还必须进行二次基础设施投资。这种重组的风险相当大。
尤其值得注意的是其类似中央情报局的后果：如果一家云端人工智能提供商明天决定提价或更改服务条款，那么完全依赖该提供商的公司将拥有极强的议价能力。这种情况在其他技术领域也曾出现过。例如，如果一家印刷公司使用专有的桌面出版软件，而该提供商之后要求大幅提高许可费用或停止支持，那么这家印刷公司可能别无选择。对于人工智能基础设施而言，这种依赖性带来的后果可能具有战略颠覆性。
对这种风险溢价进行财务建模十分复杂，但哈佛商学院和麦肯锡公司都指出，投资于自主研发的内部人工智能基础设施的企业，其投资回报率始终高于那些采用纯粹混合模式（即智能层由外部控制）的企业。例如，Netflix 已投资约 1.5 亿美元用于内部推荐人工智能基础设施，目前每年可创造约 10 亿美元的直接商业价值。
适合：
本地人工智能的垂直部署方案
本地人工智能的可行性并非在所有业务领域都相同。斯坦福大学的研究表明，不同任务类型的准确率存在差异。创意类任务使用本地模型的成功率可超过90%，而技术领域的成功率则约为68%。这意味着不同的业务部门需要采取不同的部署策略。
在制造业领域，部署本地人工智能模型用于质量控制、预测性维护和生产优化，其成本远低于云端方案。例如，一家拥有上百个质检站的工厂，如果在每个质检站部署本地图像处理人工智能，而不是将视频上传到中央云服务，将会受益匪浅。这不仅可以降低网络带宽占用，还能实现实时反馈和干预，这对质量控制和安全至关重要。波士顿咨询公司 (BCG) 的报告显示，利用人工智能进行成本优化的制造商通常可以提高 44% 的效率，同时将敏捷性提高 50%。
在金融领域，这种二分法更为复杂。常规的欺诈检测可以在本地进行。而针对结构化产品的复杂模式识别可能更适合计算能力更强的云环境。成功实施混合方法的关键在于精确定义本地处理和集中处理之间特定领域的界限。
在医疗保健系统中，本地人工智能为以患者为中心的实时诊断和监测提供了显著优势。利用本地人工智能模型进行持续患者监测的可穿戴设备可以在危急事件发生前通知医生，从而无需持续向中央系统传输原始数据。这既能保护患者隐私，又能带来重要的诊断益处。
在物流和供应链优化领域，本地人工智能系统对于实时路线优化、负载管理和预测性车队维护至关重要。延迟要求和数据量通常使得云处理难以实际应用。
适合：
云依赖的制度陷阱
另一个常被忽视的经济因素是机构成本结构，即当组织在特定云平台上投入过多资金时所产生的成本结构。这种情况有时被称为“供应商锁定”，但这个概念远不足以概括实际情况。如果一个组织在几年内建立了一套系统，其中数据科学家使用专有的云API语法编写查询，开发人员将云专用SDK集成到核心工作流程中，而决策者期望AI洞察以云提供商特定的格式呈现，那么就会发生一种难以逆转的认知和机构转型。
这并非理论上的担忧。麦肯锡观察到，一些采用“包装式”策略的组织就存在这种现象，它们将智能层构建在租用的云端生命周期管理（LLM）平台上。当这些组织后来试图迁移到自有智能基础设施时，他们发现转型过程异常艰难，并非技术上的难题，而是组织层面的挑战。他们团队的隐性知识已经深深嵌入到云平台中。
Meta 已经吸取了教训，并计划在 2025 年前投资 660 亿至 720 亿美元用于内部人工智能基础设施建设，因为其管理层已经意识到，无论技术上多么优化，对其他平台的依赖都会导致被时代淘汰。谷歌和苹果曾经掌控着移动生态系统，而 Meta 在其中却无能为力。人工智能基础设施将成为未来十年移动生态系统的核心。
宏观经济影响及能源资源竞争
从宏观经济层面来看，人工智能推理的去中心化对国家能源基础设施和全球竞争力有着深远的影响。人工智能计算资源集中在少数大型云数据中心，会对电网造成局部压力测试。微软计划重启三里岛核电站为其人工智能数据中心供电的消息曾引发轩然大波。对于一个小镇而言，这意味着几乎所有可用电力都被单一工业设施垄断。
去中心化的AI基础设施可以显著降低这种压力测试。当智能处理在空间上分布于众多小型设施、工厂车间和办公数据中心时，当地的能源基础设施就能更轻松地应对。这为电网规模较小的国家或投资可再生能源的国家带来了结构性优势。
对德国而言，这意味着投资本地人工智能基础设施的能力不仅是一个技术问题，也是一个能源和基础设施问题。一家德国工业企业如果将其人工智能请求发送到美国的AWS数据中心，就间接助长了美国电力市场能源资源的垄断。而一家工业企业如果在本地进行同样的人工智能处理，则可以受益于德国的可再生能源，并有助于实现能源分散化。
迈向后云计算人工智能经济之路
证据确凿：本地人工智能不再是实验性技术或小众技术，而是智能处理经济的根本性变革。未来两年内不积极投资本地人工智能能力的组织，将面临难以在未来五年内克服的竞争劣势。
战略要点显而易见。首先，任何每天处理超过一万次人工智能查询的组织都应进行详细的成本效益分析，以评估混合基础设施模型。其次，受监管行业或处理敏感数据的组织应积极考虑将本地部署的人工智能基础设施作为其数据安全战略的核心要素。第三，首席技术官应认识到，专有人工智能基础设施不再是技术领域的利基产品，而是与其他技术基础设施组成部分同等重要的战略竞争优势。
问题不再是：“我们是否应该使用云人工智能？”现在的问题是：“我们如何在开发智能混合方法的同时，快速构建本地人工智能能力，以实现最佳的总体成本优势并确保我们组织的战略独立性？”
建议 - 计划 - 实施
我们在欧盟和德国的业务开发、销售和营销方面的专业知识
我们在欧盟和德国的业务发展、销售和营销方面的专业知识 - 图片：Xpert.Digital
行业重点：B2B、数字化（从AI到XR）、机械工程、物流、可再生能源和工业
更多相关信息请点击这里：
具有见解和专业知识的主题中心：
- 全球和区域经济、创新和行业特定趋势的知识平台
- 收集我们重点领域的分析、推动力和背景信息
- 提供有关当前商业和技术发展的专业知识和信息的地方
- 为想要了解市场、数字化和行业创新的公司提供主题中心
