归档

文章归档

共 9 篇文章

2026

工具

FRP 服务部署流程

实现利用公网 Linux 服务器访问位于内网的 Linux 机器,并以公钥认证登陆内网 SSH(本文省略 SSH 服务的部署流程)

大模型训练

大模型分布式训练并行策略

大模型训练的本质不只是把计算摊到更多 GPU 上,而是把 Transformer 的不同维度映射到不同 GPU,并控制由此产生的通信、显存占用、流水线空泡与负载不均衡。

文章发布统计图