专栏

AI Infra

共 2 篇文章，请按顺序阅读

  1. 第 1 篇
    人工智能

    拆解 Causal Language Model 的推理过程

    将 Hugging Face generate() 隐藏起来的核心生成流程拆解出来，便于理解每阶段的具体行为。

    阅读 →
  2. 第 2 篇
    人工智能

    Transformer Block 解析

    将 Hugging Face 内部隐藏的 Qwen TransformerBlock 拆成可阅读、可测试、未来可替换成 Triton/CUDA Kernel 的实现

    阅读 →