论文精选
从「语言模型缩放定律与计算最优训练」开始，按专栏顺序阅读。
科海拾零
致虚极 守静笃
分类
文章主题
专栏
专栏
AI Infra
从「拆解 Causal Language Model 的推理过程」开始，按专栏顺序阅读。
最近
最新文章
垃圾回收机制
梳理垃圾回收的基本问题和算法，比较引用计数、可达性分析、标记清除、复制和标记整理等机制。
支持向量机
从线性 SVM 的几何间隔出发建立优化问题，整理约束、拉格朗日形式和支持向量机的求解流程。
反向传播算法
从神经网络结构和基本方程出发推导反向传播算法，记录梯度计算流程、代码实现和相关参考资料。
信息论基础
梳理熵、互信息、KL 散度、数据处理不等式与 Fano 不等式，并由大数定律和渐进均分性质引出典型集及信源编码。
TCP 的流量控制与拥塞控制
梳理 TCP 流量控制与拥塞控制机制，记录滑动窗口、发送端/接收端行为以及拥塞窗口调整的核心逻辑。
介质访问协议
梳理网络介质访问控制协议，从 Aloha 到 CSMA、CSMA/CD 和 CSMA/CA，比较不同随机接入机制的冲突处理方式。
CPU流水线技术
从组合逻辑延迟引出 CPU 流水线设计，整理流水线阶段、结构/数据/控制冒险以及分支预测等性能优化思路。
高速缓存
系统梳理 CPU Cache 的局部性原理、直接/全相联/组相联映射、替换与写入策略，以及多核缓存一致性和 MESI 协议。
正交频分复用
介绍 OFDM 的正交性、调制解调和循环前缀设计，解释频率选择性衰落与多径效应下的抗干扰机制。
麦克斯韦方程组
从梯度、散度、旋度等矢量分析基础出发，推导麦克斯韦方程组并解释电磁场与电磁波传播的物理意义。