日常记录小站
RSS Feed日常记录与分享，关于技术、工程与思考。
Social Links:
Featured
Mini-SGLang 完整剖析
Updated:Mini-SGLang 仓库的完整源码导读与架构剖析，从零基础到系统架构，逐子系统拆解实现细节。
Recent Posts
Flash-Attention Dropout 梯度发散排查记录
torch.compile + checkpoint + 融合 attention kernel 内部 dropout 在 torch 2.9.0 下的 RNG 不一致导致梯度发散问题的完整排查过程与最终修复方案（给 flash 注入显式 dropout seed）。