SGEMM优化,从naive到warptiling一次 FP32 SGEMM 的性能优化长征:从 naive kernel 的 306.7 GFLOPS 走到 warptiling 的 20405.1 GFLOPS,约为 cuBLAS 的 93.2%。2026-10-20技术笔记 / 异构计算
CANN算子自动化生成测试的一种项目框架 多智能体系统职责说明书(针对 CANN 算子生成场景)Dispatcher(分发器 / 调度总控) 定位:系统的入口大脑。 核心职责: 接收与解析:接收用户输入的原始需求(芯片型号、算子签名、运行环境、功能/性能要求)。 路由分发:将需求转化为标准化的任务指令,分发至 C...2026-06-08技术笔记 / 异构计算
TileLang-Puzzle-第三课 一行“T.copy”的旅行——从python到GPU指令,中间到底发生了什么? GPU 存储金字塔 类比:桌面/书架/同一个房间/仓库/下楼走一趟 什么叫做“T.copy” 一个比喻:就像一个搬货单 tileLang的整体结构12345678910111213t...2026-06-08技术笔记 / 异构计算
TileLang Puzzle 第二课编程模型Grid-Block-Thread 同一个warp当中的thread是共享部分资源的 体系结构相关的优化案例 Occupancy-资源占用 case 1: active block 追求相对较小的task分割大小,以获得更高的block利用率(当然最好是...2026-06-08技术笔记 / 异构计算
TileLang Puzzle 第一课GPU发展的三个时代 图形加速时代(1963-2006):核心目标为3D图形渲染加速,硬件采用固定管线设计,缺乏灵活性。 通用计算时代(2006-2017):NVIDIA发布GeForce 8800及CUDA,引入统一着色器架构,GPU转变为可编程并行处理器。 AI工厂时代...2026-06-08技术笔记 / 异构计算