市场调研 · 资料截至 2026 年 11 月 19 日

AI 基础设施与推理市场

以 2025 年为主要比较年份。按 Gartner 的全球支出口径,基础设施、服务和软件合计占约 96%。按 Menlo Ventures 的企业生成式 AI 口径,应用占约一半,基础模型 API 占约三分之一。细分市场报告中的 LLM 估算在数十亿美元量级,生图和 3D 生成工具在本次选用的摘要里均为数亿美元量级。

业务背景。 我们做的是光计算推理系统,主要面向 AI 推理基础设施市场。调研 LLM、生图和 3D,是为了比较这三类客户负载,决定首版系统先加速哪一种。市场规模用来判断需求量级,首发负载由整机实测和客户需求决定。

1. 全球 AI 市场与支出结构

1.1 全球 AI 支出

2025 年全球 AI 支出结构

图表均采用 WTO 会议材料第 6 页 转引的 Gartner 2026 年 1 月版数据。金额是 2025 年全球 AI 支出估算,从百万美元换算为亿美元。各占比除以原表总额后四舍五入。

支出类别 金额(亿美元) 占全球 AI 支出
AI 基础设施,如服务器、加速芯片和云基础设施 9,649.6 54.92%
AI 服务,如咨询、实施和集成 4,394.4 25.01%
AI 软件 2,831.4 16.11%
AI 网络安全 259.2 1.48%
数据科学和机器学习平台 218.7 1.24%
AI 模型 144.2 0.82%
AI 应用开发平台 65.9 0.37%
AI 数据 8.3 0.05%
总额 17,571.5 100%

0.82% 是 Gartner 单列的 AI 模型支出。企业购买由模型驱动的客服软件、为它购买服务器、或请服务商做系统集成,相关支出还会体现在软件、基础设施和服务等类别。该表按这份本地材料引用的版本列数,Gartner 后续发布更新时调整过估算和分类。

1.2 全球训练与推理支出

全球训练与推理支出对比
来源为 Dell’Oro Group/OCP(前两行)及 Gartner(云租用)。 查看原图
统计口径 推理 训练 来源
2026 年 AI 基础设施市场整体 约 45%–50% 约 50%–55% Dell’Oro Group 行业估算。OCP 会议材料《AI Infrastructure Market Mix》
2026 年前沿模型相关基础设施 约 30%–40% 约 60%–70% Dell’Oro Group 同一报告的前沿模型口径。OCP 会议材料
2026 年全球 AI 优化 IaaS(云基础设施租用) 约 55%,233 亿美元 约 45%,190 亿美元 Gartner 2026 年 8 月发布的全年预测。Gartner AI 优化 IaaS 预测

Gartner 预计推理在 2027 年将占 AI 优化 IaaS 支出的 59%。Dell’Oro 预计推理在 2030 年将占其整体 AI 基础设施口径的 60% 以上。两者均为支出预测。前一节的 Gartner 总额与 Dell’Oro 的比例使用不同的统计体系,不能据此相乘推算推理硬件市场金额。Gartner 云基础设施预测 · Dell’Oro 整体市场预测

1.3 企业生成式 AI 支出

企业生成式 AI 支出结构
来源为 Menlo Ventures 2025 企业生成式 AI 报告。 查看原图

Menlo Ventures 基于约 500 名美国企业决策者的调查和自下而上的市场估算,给出 2025 年企业生成式 AI 支出 约 370 亿美元。表中金额来自报告第 2、7、12 页,占比以 370 亿美元为分母。应用包含通用助手、部门工具和行业软件。基础设施则包含训练以及存储、检索与编排。受四舍五入影响,占比合计略高于 100%。Menlo Ventures 2025 企业生成式 AI 报告

去向 金额(亿美元) 占该报告总额
AI 应用 190 51.4%
基础模型 API 125 33.8%
模型训练基础设施 40 10.8%
存储、检索与编排等基础设施 15 4.1%
总额 370 约 100%
  • 2026 年更新。 Menlo 截至 2026 年 9 月估算,AI 部署支出约 1,768 亿美元,含运行基础设施 995 亿美元和应用 773 亿美元。模型开发支出另列为 1,025 亿美元。新版改变了分类,部署总额与上面的 370 亿美元使用不同统计口径。Menlo Ventures 2026 企业 AI 报告,第 7–8 页
  • 资本投向。 斯坦福依据 Quid 数据估算,2025 年全球 AI 私人投资约 3,447 亿美元,生成式 AI 公司约获 1,709 亿美元。这组数字衡量私人投资,前两张表衡量市场支出。斯坦福 AI Index 2026,第 179 页

2. 中国 AI 基础设施与数据中心

资料核对至 2026 年 11 月 19 日。中国市场可从设施、设备采购、算力服务三个角度观察。同一批服务器可能同时体现在设备采购额和后续云服务收入里,因此表中各行不能相加。

2.1 数据中心、AI 硬件与智算云规模

中国数据中心市场规模
来源为中商产业研究院,2026 年为预测。 查看原图
统计口径 中国市场规模 数据性质与来源
数据中心市场 2024 年 2,773 亿元人民币,2025 年约 3,180 亿元人民币,2026 年预测 3,621 亿元人民币 中商产业研究院数据中心建设市场研究的公开估算。按两年金额计算,2026 年预计增长约 13.9%。公开摘要未列完整收入构成,包含通用数据中心需求,适合作为行业量级参考。中商产业研究院原文
AI 基础设施硬件支出 2026 年第二季度 130 亿美元,同比增长 27.9% IDC《Worldwide Quarterly AI Infrastructure Tracker》中国区季度跟踪数据。该跟踪以服务器和存储为主,含加速和非加速系统。季度数据保留原期,不乘四推算全年。IDC 2026 年第二季度跟踪
AI 服务器市场 2025 年预测 259 亿美元,2028 年预测 552 亿美元 较早一版 IDC 预测,由上交所公开披露文件转引。两端推算年复合增速约 28.7%。这是服务器专题预测,两年金额均保留预测属性。上交所披露文件
AI IaaS(智算云基础设施服务) 2025 年全年 486.7 亿元人民币;下半年 288.0 亿元人民币,同比增长 132.1% IDC《中国智算云服务市场(2025 下半年)跟踪》。132.1% 是下半年同比。公开数据没有拆出训练和推理各自的金额。IDC 中国智算云跟踪
广义智能算力服务 2025 年估算 超过 1,300 亿元人民币 中国信通院使用更宽的服务口径,讨论企业级 AI 云和消费级算力服务。该数与 IDC 的 AI IaaS 存在覆盖交叉。中国信通院《智能算力服务研究报告(2026 年)》

2.2 算力供给、电力与能效趋势

  • 容量扩张。 工信部公布,截至 2026 年 6 月底,中国智能算力规模达 2,185 EFLOPS(FP16)。《信息通信行业发展“十五五”规划》提出 2030 年达到 9,800 EFLOPS,并将新建大型及超大型算力设施运行 PUE 目标定为 低于 1.2。前者是已披露容量,后两项是规划目标。EFLOPS 衡量算力容量,无法直接换算成年采购金额或实际利用率。工信部 2026 年上半年发布会 · 工信部“十五五”规划
  • 推理需求从资源租用延伸到部署和运营。 IDC 将应用扩张与推理成本优化列为中国智算云竞争的驱动力。中国信通院也观察到算力服务从资源供给延伸到模型服务和异构调度。对光计算系统,实际采购价值要体现在有稳定请求量的部署场景,并通过端到端延迟、服务可用性和单位请求成本验证。IDC 中国智算云跟踪 · 中国信通院算力服务报告
  • 电力条件和能效影响扩容。 仲量联行转引信通院情景测算,2030 年中国算力中心年用电在低增长情景约 3,000 亿千瓦时,高增长情景可能超过 7,000 亿千瓦时。这组情景说明能效的重要性。PUE 衡量机房用电效率,光计算设备的贡献应以整机功耗和每个合格请求的耗电量验证。仲量联行《2026 年全球数据中心展望》中国部分

3. 中国推理市场与主要买家

3.1 国内训练与推理占比

中国 AI 服务器工作负载结构
来源为 IDC/浪潮 2025 年评估报告图 8。 查看原图

按服务器工作负载,国内推理约占七成。按智算云支出,IDC 只披露 2025 年推理与训练已接近。 两组数据的分母不同。服务器用途、使用量、云账单和设备采购额各自需要单独统计。现有公开资料仍不足以给出涵盖公有云、自建和私有化部署的全国推理硬件支出份额。IDC/浪潮 2025 年评估报告,图 8 · IDC 中国智算云跟踪

年份 推理工作负载 训练工作负载 数据性质
2024 65% 35% 2025 版报告的基期估算
2025 67% 33% 2025 版报告预测
2026 约 70% 约 30% 2025 版报告预测,以下注为准
2027 72% 28% 2025 版报告预测
2028 73% 27% 2025 版报告预测

表中分母为中国 AI 服务器工作负载。图 8 的 2026 年公开数据中,训练与推理标签合计为 101%,所以这里采用“约七成/约三成”,避免制造精度。两项较常见的其他数字也需辨别。IDC/浪潮较早的报告将 72.6% 标在 2027 年,信通院 2026 年报告脚注将其写为 2025 年。这里沿用 2025 版 IDC/浪潮的完整序列,比对时保留原始年份差异。IDC/浪潮 2025 年报告,图 8 · IDC/浪潮较早版本,图 11 · 信通院报告,正文第 1 页脚注

3.2 主要买家与使用方

公开资料支持把头部云厂商和运营商列为优先验证的硬件采购渠道。模型公司、互联网应用团队和行业客户也可能直接自建,或经由云平台购买算力。现有证据可以确认买家类型和具体项目,无法按推理采购金额给全国买家排序。

买家或使用方 核实到的证据 对我们的意义
头部云和互联网平台,如阿里云、火山引擎、百度智能云 IDC 将这些企业列为智算云主要供给方,指出火山引擎已有内部大规模推理场景。阿里巴巴截至 2026 年 9 月的季度集团资本开支为 504.77 亿元人民币,同比约 60%,公司称增长受到 AI 基础设施投资推动。披露口径是集团资本开支,无法拆出推理金额。IDC 智算云跟踪 · 阿里巴巴季度业绩与资本开支说明 设备销售可对接云平台资源池采购和内部推理团队。算力服务要验证接口、利用率和成本优势。
电信运营商,如中国电信、中国移动 中国电信 2025 年报披露在北京、江苏等地建设省级推理池,自有智算能力 46 EFLOPS,该数字为智算总能力。中国移动披露 2025 年智算总规模 92.5 EFLOPS(FP16),包含多类智算负载。中国电信 2025 年报 · 中国移动 2025 年全年业绩 推理池是验证整机和异构调度的场景。总算力规模用于判断部署能力。
直接采购的行业客户,如中国邮政 中国邮政 2026 年集采将推理型服务器单设标包,框架数量 56–153 台,最高限价 6,120 万元人民币。公告说明最终数量以实际订单为准。中国邮政官方招标公告,标包 5 这是明确的推理设备招标需求,可用于理解私有化交付要求。公告金额为限价,实际订单额仍待核实。
模型公司、AI 应用团队和行业企业 阿里披露 AI 实验室的训练与推理需求,以及来自新能源汽车、具身智能、生物技术等客户的云需求。IDC 还指出,企业采购会评估推理效率、端到端能力和合规审计。阿里云需求披露 · IDC 中国 AI 云市场研究 这些团队掌握真实请求和质量要求。即便硬件通过云厂商采购,也适合作为首发工作负载的验证方。

4. 中国云端推理支出增长情景

4.1 2026–2031 年情景曲线与逐年测算

国内云端推理基础设施支出情景曲线
2031 年中国云端推理支出对比
来源为本文情景测算,基数取 IDC 2025 年中国 AI IaaS。 查看原图

只测算中国 AI IaaS 里的推理支出。 2025 年中国 AI IaaS 486.7 亿元人民币是 IDC 公布的基数。IDC 描述当年推理支出接近训练,未披露精确比例。情景统一用 50% 作为建模起点,对应 243.35 亿元人民币的推理基期估计。2025 年推理值和 2026–2031 年曲线均是本文测算。IDC 中国智算云跟踪

计算方法。 当年推理支出 = 486.7 ×(1 + AI IaaS 年增速)^(年份 − 2025)× 当年推理支出占比。AI IaaS 年增速和推理份额变化均为规划假设,未沿用 2025 年下半年的同比增速,也未把服务器工作负载比例套入云支出。金额采用名义人民币。

情景 AI IaaS 年增速 推理支出占比假设 主要条件
保守 18% 每年增 2 个百分点,2031 年达 62% 单位算力价格下降,抵消较多请求量增长,私有部署分流部分云需求
基准 28% 每年增 3 个百分点,2031 年达 68% 企业应用持续上线,付费推理量增长超过单位价格降幅
高增长 38% 每年增 4 个百分点,2031 年达 74% 智能体和多模态推理持续扩大,云侧算力供给和部署能力跟上
年份 保守 基准 高增长
2025 年(校准假设) 243 243 243
2026 年(测算) 299 330 363
2027 年(测算) 366 447 538
2028 年(测算) 448 602 793
2029 年(测算) 547 810 1,165
2030 年(测算) 668 1,087 1,705
2031 年(测算) 815 1,456 2,488

表中单位为 亿元人民币,数值四舍五入至整数。情景采用固定年化增速以便复算,范围反映假设差异。国家数据局披露,2025 年底国内日均词元调用量约 100 万亿,2026 年 3 月突破 140 万亿。这提供了用量增长信号。词元受计价、缓存、模型效率和免费用量影响,也无法代表图像和 3D 请求,因此这里没有按词元增长率推算收入。国家数据局《全国数据资源调查报告》解读

对光计算产品的用法。 这条曲线用于规划云端推理业务的需求情景。卖整机或加速卡时,用目标客户可替换的推理节点、采购周期和单价另算。卖算力时,用可迁移的付费请求量和成交单价另算。首发负载建议优先寻找有稳定生产流量的 LLM 和生图客户做对照,同时向 3D 客户核实是否有足够的重复资产生成量、可用资产验收标准和交付预算。任何一个负载达到同等质量下的整机成本或延迟优势,并有客户愿意试点,才进入商业优先级判断。

5. LLM、生图和 3D 生成市场对比

2025 年 LLM、生图和 3D 生成市场规模

图表统一采用 2025 年全球市场估算和亿美元。三根柱使用同一线性比例,各项沿用来源报告的统计定义。

赛道 全球估算(亿美元) 统计口径和来源
大语言模型(LLM) 74.0 Grand View Research 的 LLM 市场估算,按应用、部署和行业划分,涉及客服、聊天助手、内容生成等。公开摘要未单列纯 API 收入。LLM 市场摘要
AI 生图 4.74 Grand View Research 的 AI 图像生成器市场,含软件和服务。公开摘要未单列多模态订阅中的生图收入。AI 生图市场摘要
AI 3D 生成 3.80 PW Consulting 的 AI 3D 生成器市场,包含文字、图像和视频转 3D。同一报告中,文字转 3D 约 1.78 亿美元(46.8%),图像转 3D 约 1.41 亿美元(37.2%)。AI 3D 生成市场摘要

LLM 的 API 口径。 Menlo Ventures 的 2025 年中报告基于对 150 名企业和创业公司技术决策者的调查,将当时的模型 API 市场估为 84 亿美元,排除了 ChatGPT 等消费产品及 Claude for Work、Claude Code 等应用收入。该数字与图中的 74 亿美元分别来自不同估算,二者的差额无法用于推算应用收入。Menlo Ventures LLM 市场报告,第 1 页

这组数据能说明什么。 按所选报告,LLM 的商业规模明显大于生图和 3D 生成工具。生图与 3D 都在数亿美元量级,统计边界和估算方法不同,单凭 4.74 亿与 3.80 亿的差距无法确定实际排名。这些资料也没有给出按文本、图像、3D 拆分的多模态订阅和 API 收入。

此前的 1.9% 怎么理解。 这个比值来自 74 亿美元 LLM 专题估算 ÷ 3,909 亿美元整体 AI 市场估算。Grand View Research 的整体报告按硬件、软件和服务分类,公开摘要未单列 LLM,也未给出可与 LLM 专题直接对接的明细。因此本文用 Gartner 的统一支出表描述全球市场结构,用专题报告比较各赛道的量级。Grand View Research 全球 AI 市场摘要 · LLM 市场摘要

6. 光计算推理系统的市场定位与首发负载

6.1 从基础设施支出到可服务市场

市场层级 已知规模或定义 与我们的关系
全球 AI 基础设施 Gartner 2026 年 1 月版估算,2025 年全球支出为 9,649.6 亿美元,占其全球 AI 支出 54.92%。WTO 会议材料第 6 页 提供上游市场背景。总额包含训练、推理及相关基础设施支出。
推理基础设施需求 Dell’Oro 估算,2026 年推理占其 AI 基础设施市场约 45%–50%。另据 Gartner 预测,同年的全球云端推理基础设施租用支出为 233 亿美元。Dell’Oro / OCP · Gartner AI 优化 IaaS 预测 这是我们面向的需求。前者说明推理在较宽基础设施市场里的份量,后者给出云租用这一细分口径的金额。
首版系统可服务的推理市场 由目标客户、首发负载、部署环境和交付方式共同决定。现有公开数据无法给出这个细分市场的可靠金额。 若交付加速卡或整机,用可替代的推理硬件采购额估算。若交付算力服务,用可承接的请求量乘以单位推理收入估算。

这三层分别回答基础设施市场有多大、其中多少需求来自推理,以及我们实际能服务哪些客户。LLM、生图和 3D 的工具市场规模用于筛选负载。 首发优先看哪类客户有持续的推理量,以及哪类负载能在同等输出质量和服务要求下获得可复现的整机成本或延迟优势。

6.2 国内客户与交付方式

国内推理采购金额仍缺少可直接使用的公开拆分。 上文全球训练与推理比例来自其他市场口径。用全球比例乘以中国数据中心收入或 AI IaaS 规模,无法得到可靠的中国推理硬件市场金额。

  • 卖卡或整机。 把云厂商、运营商智算平台和有自建推理集群的企业列为潜在采购方。按首发负载筛选目标客户,用年度新增及替换节点数、可适配规模和单节点采购金额做估算。
  • 卖推理算力。 国内 AI IaaS 的 486.7 亿元人民币是服务市场的需求参照。业务估算应由目标客户可迁移的请求量、可达到的服务水平和单位收入推导。
  • 先选哪种模型。 用国内客户的真实请求比较 LLM、生图和 3D。除了模型市场规模,还要验证付费请求是否持续、国产软硬件和部署栈能否适配,以及计入光电转换和数据搬运后能省多少成本。3D 调研在这里用于判断是否有足够稳定、可加速的资产生成负载。

6.3 首发负载选择与验证标准

为什么分析 3D。 3D 生成是首个推理负载的候选。它的工具市场规模帮助我们判断是否存在付费需求,技术评估则要衡量可由光核加速的计算占整个资产交付时间的比例。如果生成主干占用显著,且加速能转化成每个合格资产的成本或交付时间优势,3D 就有理由成为首发负载。选择 LLM、生图或 3D,首先是选择系统要支持的模型和工作负载。

验证顺序。 假设首版光核主要加速矩阵乘法,先用一个现成的开放权重 LLM 测 prefill,再用一个生图模型的去噪主干做对照。3D 同期做端到端性能剖析,结果与前两项一起决定首发负载。这是原型验证顺序。商业首发取决于实测结果和客户能提供的真实请求。

候选负载 先测什么 支持首发的证据
LLM 分开测 prefill 和 decode。测首 token 延迟、逐 token 延迟及每请求能耗,记录并发、上下文长度和 KV cache 开销。 目标请求下,在同等输出质量和服务要求下,首 token 延迟或单位推理成本有可复现的整机收益。
生图 在固定分辨率、去噪步数和质量目标下,测去噪主干的占时、整机每张图延迟和能耗。 去噪加速能降低每张合格图的成本或等待时间。
3D 生成 用目标客户的文字或图片输入,对生成主干、解码、网格和纹理后处理、导出分别计时。 生成主干的加速能降低每个可用资产的成本或交付时间,并满足客户的网格、纹理和格式要求。

首发决策标准。 以相同模型、可比输出质量和真实请求对照优化过的 GPU 基线。光计算一侧要计入激光器、光电转换、数据搬运、电子侧算子和校准等开销。用各场景的实际交付单位比较整机收益,即每次合格 LLM 请求、每张合格图片或每个可用 3D 资产。集成光计算加速器实测 · 光电转换与存储开销研究

市场分母随交付方式而定。 如果卖加速卡或整机,相关需求是可承接负载对应的推理服务器和加速器采购。如果卖云端推理算力,Gartner 的 233 亿美元可用作全球云端推理基础设施租用需求的参照,再按模型、服务区域和目标客户收窄。第二节的 LLM、生图和 3D 工具市场估算提供需求背景,工具收入和算力采购支出分别衡量不同交易。Gartner AI 优化 IaaS 预测