/ ai资讯

DeepSeek宣布开源DeepGEMM

发布时间:2025-02-26 17:46:14

DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法(GEMM)设计的库,具有细粒度缩放功能,在Deepseek开源周的第三天Deepseek正式宣布开源DeepGEMM。

据悉GEMMs同时支持普通的和专家混合(MoE)分组的GEMM运算。而且代码库非常简洁,只有一个核心内核函数,代码量约为300行。DeepGEMM采用CUDA编写,这使得DeepGEMM在安装过程中无需编译,通过在运行时使用轻量级即时编译模块来编译所有内核。

免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

如有疑问请发送邮件至:bangqikeconnect@gmail.com