Published onSeptember 17, 2026Linux 调度、进程、线程与协程Linux操作系统并发用简单例子说明 Linux 如何调度线程,进程、线程和协程分别包含什么,以及上下文切换、缓存和 TLB 的开销。Read more →
Published onSeptember 16, 2026Roofline 性能模型AI-InfraGPULLM性能优化从数组加法和矩阵乘法出发,理解计算强度、屋顶线的形状、算力与带宽上限,以及 LLM Prefill 和 Decode 的性能差异。Read more →
Published onSeptember 14, 2026MoE 混合专家模型AI-InfraLLMMoE从一个 token 的前向传播出发,理解 Top-k 路由、专家加权、总参数与激活参数,以及负载均衡和显存成本。Read more →
Published onSeptember 12, 2026BM25 文档检索AI-InfraRAGBM25FPGA用可复算的例子解释 BM25、在线 top-k 与 HeteroLLM 中 FPGA 检索的数据流和加速边界。Read more →
Published onSeptember 10, 2026DSA(DeepSeek Sparse Attention)AI-InfraLLMAttention从 Lightning Indexer、Top-K 与 Sparse MLA 的数据流出发,理解 DSA 的复杂度、缓存、训练方式与实现边界。Read more →