当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

1年前 (2025-02-26)Deepseek最新资讯596

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


标签: DeepSeek

“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

与DeepSeek、月之暗面等同台竞技,蘑菇车联的AI之路向何方?

与DeepSeek、月之暗面等同台竞技,蘑菇车联的AI之路向何方?

日前,蘑菇车联公布斩获荣誉“MOGO.AI AWARDS”,公司2024年以来接连荣获多项人工智能、独角兽、自动驾驶、智慧交通类顶级榜单和奖项荣誉。这些荣誉不仅来自北京市科学技术委员会、中国信通院等国...

“快抄”接入DeepSeek,酷卡科技探索汽车营销智能化新路径

“快抄”接入DeepSeek,酷卡科技探索汽车营销智能化新路径

汽车营销的智能化并非简单地将通用AI工具照搬照用,而是需要构建技术与业务深度融合的全新生态。视觉中国供图中国青年报客户端讯(中青报•中青网记者 张真齐)近日,酷卡科技在汽车营销智能化领域迈出了关键一步...

deepseek目前帮到你的行业了吗?

deepseek目前帮到你的行业了吗?

帮到了,帮孩子分析数学题,教孩子怎么写作文,让孩子感觉写作文就是在做选择题写评论豪言片语北京 10小时前我之前是做开发的。公司强制要求所有开发人员必须装AI辅助编程的插件,确实可以提高一部分效率,我觉...

中信证券:看好DeepSeek新一代模型带动云端推理需求爆发

中信证券:看好DeepSeek新一代模型带动云端推理需求爆发

中信证券发布研报指出,DeepSeek通过工程化能力创新,实现了大模型训练和推理算力成本的极致优化,也为端侧部署高性能模型提供新的方向。中信证券看好DeepSeek新一代模型带动云端推理需求爆发,加速...

深圳一公司抢注54个DEEPSEEK系列商标 国家知识产权局:坚决驳回!

深圳一公司抢注54个DEEPSEEK系列商标 国家知识产权局:坚决驳回!

2月24日,国家知识产权局发布通告,依法驳回抢注“DEEPSEEK”等相关商标注册申请。国家知识产权局通告中表示,近期,杭州深度求索人工智能基础技术研究有限公司研发的DeepSeek人工智能大模型在全...

DeepSeek梁文锋亲自挂名,公开新注意力架构NSA

DeepSeek梁文锋亲自挂名,公开新注意力架构NSA

机器之心报道机器之心编辑部DeepSeek 新论文来了!相关消息刚刚发布到 𝕏 就吸引了大量用户点赞、转发、评论三连。据介绍,DeepSeek 的这篇新论文提出了一种新的注意力机制 ——NSA。这是一...