当前位置:首页 > Deepseek最新资讯 > 正文内容

【中原计算机】人工智能专题:后R1时代,DeepSeek发展的三大阶段

9个月前 (10-15)Deepseek最新资讯322

  DeepSeek在年初发布了R1以后,受到了各界普遍关注。后续来看,DeepSeek并没有如期发布更先进的模型R2,而是在进行更多小版本的更新换代。结合每个阶段的发展重点,我们将其划分为3个主要的发展阶段。

  阶段一:性能提升。DeepSeek在3月推出的V3-0324和5月推出的R1-0528,通过后训练实现了模型能力的提升,弥补了和头部模型之间的差距。

  阶段二:实现混合推理架构、Agent能力提升、与国产芯片协同优化。从8月以后,DeepSeek也顺应了海外混合推理架构和Agent能力提升的大趋势,推出了V3.1和V3.1-Terminus,Agent能力有了较大提升,思考效率也有提升。V3.1采用UE8M0 FP8缩放格式训练,针对即将发布的下一代国产芯片设计,实现国产大模型和国产芯片协同设计的优化,对国产化芯片的应用起到积极的推动作用。

  阶段三:提效降价,国产适配加速。9月发布的V3.2-Exp,基于V3.1-Terminus构建,引入了新的注意力机制DSA,在保持模型性能的稳定的同时,在训练推理效率方面有了较大的提升,带来了模型较大幅度的降价。考虑到当前大模型之间能力差距在缩小,成本的下降意味着模型具有更好的性价比和可推广性,也将促进应用端实现更多功能的落地。DeepSeek新兴AI编程语言选用TileLang这个新兴AI编程语言,可以实现对不同硬件平台的支撑,极大地改善了国产卡目前所面对的CUDA带来的生态壁垒问题,为国产大模型软硬件生态建立起到了极大的推动作用。发布的当天,国产芯片华为昇腾和寒武纪同步宣布完成对V3.2-Exp的零日适配,成为国产AI产业从“单点突破”迈向“系统协同”的又一个标志性事件。

  DeepSeek在年初发布了R1以后,受到了各界普遍关注。后续来看,DeepSeek并没有如期发布更先进的模型R2,而是在进行更多小版本的更新换代。结合每个阶段的发展重点,我们将其划分为3个主要的发展阶段。

  DeepSeek在3月推出的V3-0324和5月推出的R1-0528,还是以基础模型DeepSeek-V3-Base为基座,通过后训练实现了模型能力的提升,弥补了和头部模型之间的差距。

  8月21日,Deep在发布V3.1的同时,也宣布了在国产芯片适配方面的新进展。V3.1采用UE8M0 FP8缩放格式训练,为对即将发布的下一代国产芯片设计。

  此前,国内芯片企业仅有较少支持了FP8数据格式,多数芯片仅能支持FP16格式。FP8虽然可以提升计算速度和降低存储需求,但是由于计算精度不高,容易损失数据信息,所以V3以前的大模型训练中多会选用BF16或FP32/TF32精度进行数据计算和存储。DeepSeek是首个在开源超大规模大模型中成功落地FP8混合精度训练的公司,推动了FP8技术的规模化应用,也极大地提升了市场对H20等支持FP8格式芯片的需求。

  UE8M0 FP8是对FP8格式的深度优化。该格式仅表示非负数(U代表Unisigned,无符号),尾数位为0(M0,尾数位为0)deepseek,8个比特全部用来表示指数(E8,指数位占8位),Scale通过对数据进行分块缩放,保持其能够在FP8表示的范围内。UE8M0 FP8作为FP8格式的变体,通过减少数据存储和传输的损耗,能最大限度利用硬件计算能力,弥补国产芯片在HBM等高速内存带宽方面的不足,从而实现国产大模型和国产芯片协同设计的优化,对于国产化芯片的应用起到积极的推动作用。

  9月发布的V3.2-Exp,基于V3.1-Terminus构建,引入了新的注意力机制DSA,在保持模型性能的稳定的同时,在训练推理效率方面有了较大的提升,带来了模型较大幅度的降价。

  对比R1来看,V3.2-Exp的输入缓存命中时价格为R1的20%(0.2元/百万Tokens),输入缓存未命中时价格为R1的50%(2元/百万Tokens),输出价格为R1的19%(3元/百万Tokens),降幅最为明显。

  考虑到当前大模型之间能力差距在缩小,成本的下降意味着模型具有更好的性价比和可推广性,也将促进应用端实现更多功能的落地。

  在国产适配方面进度明显加快。在V3.2-Exp发布的当天,国产芯片华为昇腾和寒武纪同步宣布完成对V3.2-Exp的零日适配。这是继V3.1采用UE8M0 FP8实现国产大模型和芯片协同设计的优化以后,国产AI产业从“单点突破”迈向“系统协同”的又一个标志性事件。

  同时值得注意的是DeepSeek还同时开源TileLang和CUDA两个版本的算子。TileLang是一种采用类Python语法的领域专用语言(DSL),于2025年1月由北大计算机学院杨智团队开源,旨在实现硬件调度与开发者算法逻辑的解耦,从而降低GPU编程的技术门槛,同时通过分层设计来实现不同技术背景开发者,从简单上手到深度优化的不同需求。由于TileLang可以实现对不同硬件平台的支撑,极大地改善了国产卡目前所面对的CUDA带来的生态壁垒问题。

  DeepSeek选用TileLang这个新兴AI编程语言,再次体现了其强大的创新精神,同时为国产大模型软硬件生态建立起到了极大的推动作用。

  本报告署名分析师具有中国证券业协会授予的证券分析师执业资格,本人任职符合监管机构相关合规要求。本人基于认真审慎的职业态度、专业严谨的研究方法与分析逻辑,独立、客观的制作本报告。本报告准确的反映了本人的研究观点,本人对报告内容和观点负责,保证报告信息来源合法合规。原文出处:【中原计算机】人工智能专题:后R1时代,DeepSeek发展的三大阶段,感谢原作者,侵权必删!

标签: deepseek

“【中原计算机】人工智能专题:后R1时代,DeepSeek发展的三大阶段” 的相关文章

12月24日DeepSeek预测:公牛vs老鹰,布泽利斯对决约翰逊,公牛客场险胜

12月24日DeepSeek预测:公牛vs老鹰,布泽利斯对决约翰逊,公牛客场险胜

  圣诞前夕的亚特兰大即将迎来一场东部卡位战,目前排名东部第10的公牛(13胜15负)将挑战第9的老鹰(15胜15负)。两队仅差1.5个胜场,这场直接对话或将重塑季后赛附加赛格局。...

2月23日DeepSeek预测:开拓者vs太阳,杜兰特率队捍卫主场,太阳险胜开拓

2月23日DeepSeek预测:开拓者vs太阳,杜兰特率队捍卫主场,太阳险胜开拓

  北京时间2月23日,NBA常规赛将迎来一场西部对决,菲尼克斯太阳将在主场迎战波特兰开拓者。太阳目前以33胜24负的战绩排名西部第7,而开拓者则以27胜30负排名西部第10。本场比赛对于...

1月25日DeepSeek预测:尼克斯vs76人,恩比德缺阵或成转折,布伦森率队

1月25日DeepSeek预测:尼克斯vs76人,恩比德缺阵或成转折,布伦森率队

  东部季后赛卡位战一触即发!1月25日费城主场将迎来尼克斯的挑战,两支胜率超55%的球队目前分列东部第4和第6,此役胜负或将直接影响季后赛对阵格局。76人虽坐拥主场之利,但恩比德与乔治两...

11月4日DeepSeek预测:活塞vs灰熊,东部黑马能否延续火热状态?

11月4日DeepSeek预测:活塞vs灰熊,东部黑马能否延续火热状态?

  NBA常规赛迎来东部新贵活塞(4胜2负,东部第4)客场挑战西部挣扎的灰熊(3胜4负,西部第10)。活塞近期4胜1负的强势表现令人侧目,而灰熊则陷入2胜3负的波动期。此役胜负将直接影响活...

2月4日DeepSeek预测:爵士vs步行者,西亚卡姆率队终结连败

2月4日DeepSeek预测:爵士vs步行者,西亚卡姆率队终结连败

  在2月4日的NBA常规赛中,爵士将客场挑战步行者。两支球队本赛季表现都不尽如人意,爵士以15胜35负排名西部第13,步行者则以13胜37负排名东部第15。这场比赛对于双方来说都是一场关...

华为昇腾、寒武纪宣布适配DeepSeek最新模型

华为昇腾、寒武纪宣布适配DeepSeek最新模型

  V3.2-Exp在V3.1-Terminus的基础上首次引入了团队自研的DeepSeek Sparse Attention (一种稀疏注意力机制,DSA),针对长文本的训练和推理效率进...