归档

文章归档

共 9 篇文章

2026

08-162026

将 Hugging Face 内部隐藏的 Qwen TransformerBlock 拆成可阅读、可测试、未来可替换成 Triton/CUDA Kernel 的实现

08-142026

将 Hugging Face generate() 隐藏起来的核心生成流程拆解出来，便于理解每阶段的具体行为。

08-132026

以一个具体的例子讲解 LLM 推理的流程。

08-122026

Triton 实现 Softmax Attention 算子的基本思路。重点思考怎样不用存完整 attention matrix，仍然精确算出 softmax attention.

08-102026

Git Fork 后如何同步上游仓库，同时保留自己的提交

08-092026

浮点矩阵乘法的数值结果不仅取决于代数公式，还显著取决于求和树、分块方式和计算精度路径。

08-032026

以向量加法为例，讲解 Triton Kernel、启动网格、块内索引、边界掩码、PyTorch 包装、正确性验证和性能测试的一般写法。

07-242026

了解硬件架构特性，建立通用并行编程的基础，学习在大规模并行处理器上编写高性能的程序

07-232026

梳理 NVIDIA GPU 从固定图形流水线、CUDA 通用计算，到 Tensor Core、光线追踪及机架级 AI 系统的演进历程，深入分析各代架构的关键突破、设计取舍与性能瓶颈，揭示其从“渲染像素”走向“生产智能”的技术脉络。

07-052026

记录在 Codex 客户端中复用 ChatGPT 登录会话的配置流程，包括会话信息导出、格式转换和本地认证文件处理。