研究框架 · 待补充实测与材料
候选负载与验证标准
每条候选线记录模型版本、结构、权重许可、精度与量化、输入规格、部署栈和质量验收条件。用这些条件固定测试用例,供下一阶段进行算子剖析。
为什么分析 3D。 3D 生成是首个推理负载的候选。它的工具市场规模帮助我们判断是否存在付费需求,技术评估则要衡量可由光核加速的计算占整个资产交付时间的比例。如果生成主干占用显著,且加速能转化成每个合格资产的成本或交付时间优势,3D 就有理由成为首发负载。选择 LLM、生图或 3D,首先是选择系统要支持的模型和工作负载。
验证顺序。 假设首版光核主要加速矩阵乘法,先用一个现成的开放权重 LLM 测 prefill,再用一个生图模型的去噪主干做对照。3D 同期做端到端性能剖析,结果与前两项一起决定首发负载。这是原型验证顺序。商业首发取决于实测结果和客户能提供的真实请求。
| 候选负载 | 先测什么 | 支持首发的证据 |
|---|---|---|
| LLM | 分开测 prefill 和 decode。测首 token 延迟、逐 token 延迟及每请求能耗,记录并发、上下文长度和 KV cache 开销。 | 目标请求下,在同等输出质量和服务要求下,首 token 延迟或单位推理成本有可复现的整机收益。 |
| 生图 | 在固定分辨率、去噪步数和质量目标下,测去噪主干的占时、整机每张图延迟和能耗。 | 去噪加速能降低每张合格图的成本或等待时间。 |
| 3D 生成 | 用目标客户的文字或图片输入,对生成主干、解码、网格和纹理后处理、导出分别计时。 | 生成主干的加速能降低每个可用资产的成本或交付时间,并满足客户的网格、纹理和格式要求。 |
首发决策标准。 以相同模型、可比输出质量和真实请求对照优化过的 GPU 基线。光计算一侧要计入激光器、光电转换、数据搬运、电子侧算子和校准等开销。用各场景的实际交付单位比较整机收益,即每次合格 LLM 请求、每张合格图片或每个可用 3D 资产。集成光计算加速器实测 · 光电转换与存储开销研究