365文库
登录
注册

刚刚,DeepSeek发布第一个新开源项目,强得可怕!

2025-02-24 11:30    头条推荐    来源:365文库
下载Word
下载成Word

还记得上周五DeepSeek在X上发文说要在这周连续发布开源5个项目吧?现在,它来了:
很荣幸和大家分享 FlashMLA - 我们专为 Hopper GPU 优化的高效 MLA 解码内核,可针对可变长度序列进行了优化,现已投入生产、使用。
其核心特性:16BF16 支持点精度支持
分页 KV 缓存(块大小 64)
H800上可以实现:- 3000 GB/s 的内存带宽峰值
- 580 TFLOPS 的计算机峰值性能」


啊,看不懂啊!没关系,我们让DeepSeek用最简单易懂的方式给解释

所以简单总结来说 FlashMLA 是一个能让 LLM模型(大语言模型) 在H800上跑得更快、效率更高的优化方案。而这,是开源的!
评论区各路网民纷纷点赞:非常感谢、这才是真.开源、向团队致敬~


而今天才是第一弹,接下来的四天每天还会发布一个新开源项目。让我们拭目以待,看看接下来还会发些什么!

tj