当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

7个月前 (02-26)Deepseek最新资讯405

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


标签: DeepSeek

“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

国内多所高校推出DeepSeek相关课程 杭州电子科技大学:几分钟名额就被抢光

国内多所高校推出DeepSeek相关课程 杭州电子科技大学:几分钟名额就被抢光

近日,DeepSeek在全社会引发关注。北京青年报记者注意到,新学期以来,国内多所高校开设了和DeepSeek相关的课程,鼓励学生学习、掌握DeepSeek相关的技术和知识。杭州电子科技大学教务处负责...

加速赋能千行百业,浪潮集团旗下十余款大模型产品全面接入DeepSeek

加速赋能千行百业,浪潮集团旗下十余款大模型产品全面接入DeepSeek

随着DeepSeek-V3等大模型产品凭借更低成本、更强性能引发海内外市场关注,越来越多国产生成式人工智能大模型加入了提质增效的队伍。作为新一代信息技术产业龙头企业,浪潮集团旗下10余款大模型产品目前...

DeepSeek智能体正在改变工作方式?学会这3招,提升你的职业竞争力

DeepSeek智能体正在改变工作方式?学会这3招,提升你的职业竞争力

你还在手动整理数据?还在为写不出高质量文案而苦恼?小心被AI淘汰!2024年,职场内卷已经到了白热化阶段。但比内卷更可怕的是什么?是降维打击!当别人用DeepSeek智能体几分钟搞定你一天的工作,你的...

deepseek怎么样?与豆包相比呢?

deepseek怎么样?与豆包相比呢?

我认为deepseek和豆包两个AI软件没有可比性,主要是定位不同,有各自的特点1️⃣比如deepseek偏推理性,能够把自主思考和推理的过程展示出来,你会发现其实自己有时候陷在自有思维里面 dee...

中天科技宣布接入DeepSeek大模型

中天科技宣布接入DeepSeek大模型

中天科技官微2月25日消息,日前,中天科技正式宣布接入DeepSeek大模型,并全面部署DeepSeek大模型体系。在工业互联网、智能制造、可信数据、人工智能等关键领域,DeepSeek将助力中天科技...

人均DeepSeek!当教育硬件遇上深度推理,AI教育爆发了

人均DeepSeek!当教育硬件遇上深度推理,AI教育爆发了

最近这互联网,确实有点意思。前天上午,我打开微博,映入眼帘的第一条消息就是“微信DeepSeek王炸组合”;昨天中午,趁着上班中途准备打开贴吧摸鱼,结果却看到破防的MYGO粉丝在讨论“用DeepSee...