当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek发布新版本模型:优化推理效率,API降价超50%

9个月前 (09-30)Deepseek最新资讯355

  值得注意的是,此前有不少科技博主发现,DeepSeek-V3.2新模型已上传至其HuggingFace官方页面,随后被删除,此后DeepSeek正式公告新版本的推出。

  据DeepSeek介绍,作为迈向新一代架构的中间步骤,V3.2-Exp在V3.1-Terminus的基础上引入DeepSeek Sparse Attention(一种稀疏注意力机制),针对长文本的训练和推理效率进行探索性优化和验证。目前,官方App、网页端、小程序均已同步更新为DeepSeek-V3.2-Exp,同时API大幅度降价。

  据了解,DeepSeek Sparse Attention(DSA)首次实现细粒度稀疏注意力机制,在几乎不影响模型输出效果的前提下,实现长文本训练和推理效率的大幅提升。为严谨评估引入稀疏注意力带来的影响,把DeepSeek-V3.2-Exp的训练设置与V3.1-Terminus进行严格的对齐。在各领域的公开评测集上,DeepSeek-V3.2-Exp的表现与V3.1-Terminus基本持平。

  在新模型的研究过程中,需要设计和实现很多新的GPU算子,使用高级语言TileLang进行快速原型开发,以支持更深入的探索。在最后阶段,以TileLang作为精度基线,逐步使用底层语言实现更高效的版本。此次开源的主要算子包含TileLang与 CUDA两种版本。

  DeepSeek表示,得益于新模型服务成本的大幅降低,官方API价格也相应下调,开发者调用DeepSeek API的成本将降低50%以上。从价格来看,输入缓存命中从0.5元降至0.2元/百万tokens,缓存未命中从4元降至2元/百万tokens,输出由12元降至3元/百万tokens。

  除了DeepSeek,国内另一大模型厂商智谱的新一代旗舰模型GLM-4.6也即将发布,目前deepseek,在Z.ai官网可以看到,GLM-4.5标识为上一代旗舰模型。

  此前9月18日,梁文锋带着DeepSeek-R1的研究,登上最新一期国际顶级期刊《自然》(Nature)封面。

  《自然》杂志指出,如此总结DeepSeek-R1带来的进步:如果训练出的大模型能够规划解决问题所需的步骤,那么它们往往能够更好地解决问题。这种“推理”与人类处理更复杂问题的方式类似,但这对人工智能有极大挑战,需要人工干预来添加标签和注释。

  DeepSeek的研究人员揭示了他们如何能够在极少的人工输入下训练一个模型,并使其进行推理。DeepSeek-R1模型采用强化学习进行训练。在这种学习中,模型正确解答数学问题时会获得高分奖励,答错则会受到惩罚。原文出处:DeepSeek发布新版本模型:优化推理效率,API降价超50%,感谢原作者,侵权必删!

标签: deepseek

“DeepSeek发布新版本模型:优化推理效率,API降价超50%” 的相关文章

deepseek关联公司公布大语言模型部署方法专利

deepseek关联公司公布大语言模型部署方法专利

  天眼查App显示,deepseek关联公司杭州深度求索人工智能基础技术研究有限公司申请的“一种大语言模型的部署方法及系统”专利近日公布。摘要显示,该发明涉及人工智能领域,有益效果在于将...

2月12日DeepSeek预测:雷霆vs太阳,西部榜首大战,杜兰特能否带队逆袭?

2月12日DeepSeek预测:雷霆vs太阳,西部榜首大战,杜兰特能否带队逆袭?

  西部榜首的雷霆将在2月12日客场挑战排名第七的太阳,这场比赛不仅是西部强队之间的较量,更是两支风格迥异球队的碰撞。雷霆以41胜13负的战绩高居西部第一,而太阳则以32胜22负的战绩位列...

“打破行业惯例,DeepSeek没让英伟达和AMD先测试优化”

“打破行业惯例,DeepSeek没让英伟达和AMD先测试优化”

  自去年横空出世、轰动世界以来,中国人工智能初创公司深度求索(DeepSeek)的任何风吹草动都备受关注。   当地时间25日,路透社援引两名知情人士消息称,DeepS...

百度计划8月底前发布AI推理新模型,未来几个月推出文心5.0,使其与DeepSe

百度计划8月底前发布AI推理新模型,未来几个月推出文心5.0,使其与DeepSe

  ,该模型能够处理更复杂的任务,以在与 DeepSeek 和 OpenAI 等公司的竞争中占据一席之地。   报道还称,百度还计划在未来几个月推出其核心基础模型的更新版...

1月28日DeepSeek预测:开拓者vs奇才,开拓者客场取胜,格兰特对决普尔

1月28日DeepSeek预测:开拓者vs奇才,开拓者客场取胜,格兰特对决普尔

  1月28日,NBA常规赛将迎来一场东西部对决,西部第9的波特兰开拓者(23胜24负)客场挑战东部垫底的华盛顿奇才(10胜34负)。开拓者目前距离季后赛席位仅一步之遥,而奇才则深陷重建泥...

DeepSeek预测:里尔VS巴黎圣日耳曼!姆巴佩领衔大巴黎能否延续连胜?

DeepSeek预测:里尔VS巴黎圣日耳曼!姆巴佩领衔大巴黎能否延续连胜?

  法甲第7轮将迎来一场焦点战,里尔将在主场迎战领头羊巴黎圣日耳曼。目前巴黎圣日耳曼以5胜0平1负积15分排名榜首,而里尔则以3胜1平2负积10分排名第6。这场比赛对于双方来说都至关重要,...