Skip to content

存储层次与 Tile 映射(深度)

1. 层次与指令

text
GM  ←TLOAD/TSTORE→  MAT(L1)  ←TEXTRACT/TMOV→  L0(Left/Right/Acc)

                          VEC/UB(向量主场)

2. TileType 映射表

Tile 模型 完整表。记忆口诀:

  • 算元素 → Vec
  • 进矩阵引擎 → Left/Right/Acc
  • 在 L1 暂存 → Mat

3. 算术强度直觉

[ I \approx \frac{\text{FLOPs}}{\text{Bytes moved from GM}} ]

提高 I:

  • 更大复用(stepK、输出复用)
  • 更少中间写回
  • 更少布局变换

4. 双缓冲与容量

双缓冲 ≈ 逻辑容量需求上升。
先算 单 buffer 上限,再决定能不能开双缓冲。

5. 检验标准

  • [ ] 画出 GEMM 数据流并标指令
  • [ ] 手算一组 tile 字节
  • [ ] 解释 valid 与物理容量区别

参考 AIInfraGuide 结构,面向 PTO / Ascend CANN 生态重写