Block Sparse Attention window wheel

张开发
• 2026/5/4 8:31:27 • 15 分钟阅读

最新文章

推荐文章

相关文章

分享文章

Block Sparse Attention window wheel
Block Sparse Attention是一种针对大型语言模型LLM优化的稀疏注意力机制通过利用注意力矩阵的稀疏性显著降低计算与显存开销从而在处理长文本时保持高效推理性能。它基于FlashAttention 2.4.2改进支持多种稀疏模式并允许不同注意力头使用不同模式适配多样化的推理需求。Block_sparse_attn 资源索引序号block_sparse_attnPyTorchCUDAPython文件名网盘链接10.0.2.2.913.03.13block_sparse_attn-0.0.2.post1cu130torch2.9.1cxx11abiTRUE-cp313-cp313-win_amd64.whlhttps://pan.quark.cn/s/2decbba4254a20.0.2.2.1013.03.13block_sparse_attn-0.0.2.post1cu130torch2.10cxx11abiTRUE-cp313-cp313-win_amd64.whlhttps://pan.quark.cn/s/1bd19c42fbbd30.0.2.2.1113.03.13block_sparse_attn-0.0.2.post1cu130torch2.11cxx11abiTRUE-cp313-cp313-win_amd64.whlhttps://pan.quark.cn/s/45fbe3804dd3

更多文章