模型底层算子拆解

剖析执行图、算子耗时和数据路径,验证光电分工。

研究框架 · 待补充实测与材料

从执行图到光电分工

  1. 分阶段采集基线。 LLM 拆分 prefill 和 decode,生图拆分条件编码、去噪主干与解码,3D 拆分生成、解码和后处理。记录端到端耗时、峰值显存和输出质量。
  2. 列出算子和数据路径。 对线性层与矩阵乘法、注意力、归一化、激活及缓存读写记录张量形状、数据类型、调用次数、耗时和传输量。根据模型的实际执行图填表。
  3. 验证光核卸载。 优先评估高占时、形状稳定的矩阵计算,测量精度误差、数据排布、光电转换、搬运及校准开销。把电子侧保留算子和不适配形状的回退路径一起测量。

阶段产出。 算子清单、GPU 基线、候选光核算子及其支持形状、精度和回退条件,作为软件运行时的接入依据。