DeepSeek开源周第三弹:推出高性能FP8计算库DeepGEMM
在开源周第三天,DeepSeek正式推出DeepGEMM——一款专为FP8精度优化的通用矩阵乘法库。该库同时支持密集矩阵与混合专家(MoE)架构的GEMM运算,为DeepSeek最新V3/R1系列模型的训练与推理提供核心计算支持。
技术亮点方面,DeepGEMM在英伟达Hopper架构GPU上可实现超过1350 FP8 TFLOPS的峰值算力。库设计追求极简,无需复杂依赖,代码清晰度堪比教学示例。采用全即时编译技术,核心逻辑仅约300行代码,却在多数矩阵尺寸下超越专家手动优化的计算内核。
DeepGEMM目前支持密集矩阵布局及两种MoE专用数据布局,其GitHub仓库已公开,开发者可立即体验这款高性能计算工具。该库的发布体现了DeepSeek在底层计算优化方面的持续投入,为大规模AI模型的高效运行提供了新的基础设施选择。