当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek发布新版本模型:优化推理效率,API降价超50%

11个月前 (09-30)Deepseek最新资讯364

  值得注意的是,此前有不少科技博主发现,DeepSeek-V3.2新模型已上传至其HuggingFace官方页面,随后被删除,此后DeepSeek正式公告新版本的推出。

  据DeepSeek介绍,作为迈向新一代架构的中间步骤,V3.2-Exp在V3.1-Terminus的基础上引入DeepSeek Sparse Attention(一种稀疏注意力机制),针对长文本的训练和推理效率进行探索性优化和验证。目前,官方App、网页端、小程序均已同步更新为DeepSeek-V3.2-Exp,同时API大幅度降价。

  据了解,DeepSeek Sparse Attention(DSA)首次实现细粒度稀疏注意力机制,在几乎不影响模型输出效果的前提下,实现长文本训练和推理效率的大幅提升。为严谨评估引入稀疏注意力带来的影响,把DeepSeek-V3.2-Exp的训练设置与V3.1-Terminus进行严格的对齐。在各领域的公开评测集上,DeepSeek-V3.2-Exp的表现与V3.1-Terminus基本持平。

  在新模型的研究过程中,需要设计和实现很多新的GPU算子,使用高级语言TileLang进行快速原型开发,以支持更深入的探索。在最后阶段,以TileLang作为精度基线,逐步使用底层语言实现更高效的版本。此次开源的主要算子包含TileLang与 CUDA两种版本。

  DeepSeek表示,得益于新模型服务成本的大幅降低,官方API价格也相应下调,开发者调用DeepSeek API的成本将降低50%以上。从价格来看,输入缓存命中从0.5元降至0.2元/百万tokens,缓存未命中从4元降至2元/百万tokens,输出由12元降至3元/百万tokens。

  除了DeepSeek,国内另一大模型厂商智谱的新一代旗舰模型GLM-4.6也即将发布,目前deepseek,在Z.ai官网可以看到,GLM-4.5标识为上一代旗舰模型。

  此前9月18日,梁文锋带着DeepSeek-R1的研究,登上最新一期国际顶级期刊《自然》(Nature)封面。

  《自然》杂志指出,如此总结DeepSeek-R1带来的进步:如果训练出的大模型能够规划解决问题所需的步骤,那么它们往往能够更好地解决问题。这种“推理”与人类处理更复杂问题的方式类似,但这对人工智能有极大挑战,需要人工干预来添加标签和注释。

  DeepSeek的研究人员揭示了他们如何能够在极少的人工输入下训练一个模型,并使其进行推理。DeepSeek-R1模型采用强化学习进行训练。在这种学习中,模型正确解答数学问题时会获得高分奖励,答错则会受到惩罚。原文出处:DeepSeek发布新版本模型:优化推理效率,API降价超50%,感谢原作者,侵权必删!

标签: deepseek

“DeepSeek发布新版本模型:优化推理效率,API降价超50%” 的相关文章

10月17日DeepSeek预测:火箭vs老鹰,火箭客场险胜,申京对决特雷杨

10月17日DeepSeek预测:火箭vs老鹰,火箭客场险胜,申京对决特雷杨

  北京时间10月17日07:30,NBA季前赛将迎来一场焦点对决,休斯顿火箭客场挑战亚特兰大老鹰。作为西部排名第2的火箭,将面对东部第9的老鹰,双方在季前赛的表现都值得关注。...

11月24日DeepSeek预测:篮网vs猛龙,猛龙主场大胜,英格拉姆对决波特

11月24日DeepSeek预测:篮网vs猛龙,猛龙主场大胜,英格拉姆对决波特

  北京时间11月24日07:00,NBA常规赛将迎来一场东部对决,多伦多猛龙将在主场迎战布鲁克林篮网。目前猛龙以11胜5负高居东部第二,而篮网则以3胜12负排名东部第13,两队实力差距明...

1月31日DeepSeek预测:湖人vs奇才,东契奇率队延续对奇才不败纪录

1月31日DeepSeek预测:湖人vs奇才,东契奇率队延续对奇才不败纪录

  华盛顿奇才将在主场迎战洛杉矶湖人,这是两支处于不同竞争阶段的球队之间的较量。作为NBA历史悠久的球队,奇才目前以12胜34负的战绩在东部排名第14,而湖人则以28胜18负位列西部第6。...

DeepSeek V4真要来了?万亿参数模型匿名开测,免费跑龙虾

DeepSeek V4真要来了?万亿参数模型匿名开测,免费跑龙虾

  昨天晚上,推特博主「青龍聖者」发了一张截图,似乎「预示」了 DeepSeek V4 马上要来。   不过紧接着,这位博主进行了澄清,表示自己不确定上述截图信息是否真实...

12月6日DeepSeek预测:湖人vs凯尔特人,东契奇缺阵绿军主场复仇?

12月6日DeepSeek预测:湖人vs凯尔特人,东契奇缺阵绿军主场复仇?

  北京时间12月6日早8点,NBA常规赛将迎来焦点之战——西部第二的湖人(16胜5负)客场挑战东部第五的凯尔特人(13胜9负)。这是联盟历史交锋次数最多的宿敌对决,本赛季首次相遇便因东契...

一机两用好学好用 学而思与华为联手打造的双模式学习机发布

一机两用好学好用 学而思与华为联手打造的双模式学习机发布

  在家庭教育场景日益多元化的当下,部分家庭对教育硬件的期待正从单一的工具属性,转向更高效、更全能的使用体验。1月13日,学而思学习机新品发布,通过科技创新深度赋能家庭辅导场景,在提升学生...