当前位置:首页 > DeepSeek技术交流 > 正文内容

DeepSeek 又上新!DeepGEMM 发布,有哪些突破点值得一看?

1年前 (2025-02-26)DeepSeek技术交流747

一开始,我还以为 DeepSeek 会走传统路线,比如大厂常见的蒸馏技术,搞个小参数的 Flash 模型。毕竟这种方法能有效降低计算需求,但缺点也很明显,就是小模型再怎么优化,和大模型比起来,性能还是会有损失 结果 DeepSeek 完全没按套路出牌,它不是去压缩模型,而是换了个角度,直接假设未来算力足够,然后想办法更高效地用好现有显卡架构。换句话说,不是缩小参数规模,而是在同等规模下优化计算方式,让计算更具性价比 这种思路比纯工程优化要“硬核”得多。一般来说,搞小模型是比较务实的工程方案,但 DeepGEMM 这种技术驱动的做法更有延展性。它不仅和小模型方法兼容,而且即使以后显卡更强、模型规模更大,这套技术依然能继续用,不会过时

“DeepSeek 又上新!DeepGEMM 发布,有哪些突破点值得一看?” 的相关文章

天津渤化集团全面完成DeepSeek本地部署

天津渤化集团全面完成DeepSeek本地部署

津滨网讯(记者 战旗)近日,天津渤海化工集团有限责任公司(以下简称“集团”)在数字化转型征程中稳健迈进,成功完成了DeepSeek大模型的本地部署,并引入了智能办公助手。这一举措旨在全方位提升生产效率...

DeepSeek在政务服务智能审批有哪些优势?

DeepSeek在政务服务智能审批有哪些优势?

DeepSeek在政务服务智能审批中展现出诸多优势,这些优势显著提升了政务服务的效率和质量。以下是DeepSeek在政务服务智能审批中的主要优势:1. 高效响应与处理速度快速响应:DeepS...

DeepSeek发布开源周首个成果 可优化英伟达GPU效率

DeepSeek发布开源周首个成果 可优化英伟达GPU效率

新京报贝壳财经讯(记者罗亦丹)北京时间2月24日上午,DeepSeek发布了其“开源周”的第一项成果:FlashMLA(直译为快速多头潜在注意力机制)的代码。据了解,MLA(多头潜在注意力机制)正是D...

OPPO发布首台“直播手机”,深度整合DeepSeek

OPPO发布首台“直播手机”,深度整合DeepSeek

5月15日,OPPO在广东珠海正式推出备受瞩目的Reno14系列手机,搭载更AI的ColorOS 15,深度整合DeepSeek大模型,支持全新小布记忆和升级的AI灵感成片。此次OPPO Reno14...

神州数码郭为:DeepSeek最大贡献在于通过开源推动AI惠普

神州数码郭为:DeepSeek最大贡献在于通过开源推动AI惠普

人民财讯4月3日电,在近日举行的神州数码2024年度业绩说明会上,神州数码董事长郭为表示,DeepSeek最大的贡献和价值在于通过开源,推动了AI的普惠,AI的开源和普惠,给各行各业带来了非常大的机会...

DeepSeek-Prover-V2:AI 数学推理新王者,88.9% 通过率设新标杆

DeepSeek-Prover-V2:AI 数学推理新王者,88.9% 通过率设新标杆

IT之家 5 月 1 日消息,深度求索(DeepSeek)昨日(4 月 30 日)在 AI 开源社区 Hugging Face 上,发布名为 DeepSeek-Prover-V2-671B 的新模型,...