大模型数据中心光计算方案全栈调研

先用市场需求确定推理场景,再选代表模型和真实负载。拆解模型底层算子,验证适合光核的计算,最后把光电协同接入 AI Infra 软件体系。

  1. 市场调研确定客户、需求与交付方式,筛出值得验证的推理场景。
  2. 模型调研选择代表模型,固定真实请求、质量标准与 GPU 基线。
  3. 模型底层算子拆解剖析执行图、算子耗时和数据路径,验证光电分工。
  4. AI Infra 软件体系构建把验证过的光核能力接入运行时、推理服务和运维。