当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“极你太美”bug,官方回应了

2个月前 (08-27)Deepseek最新资讯299

  这个问题最初是在火山引擎、chutes等平台上被发现,但随着事件的发酵,更多平台也被卷入了进来,包括腾讯的CodeBuddy,甚至是

  事件之火,在国外Reddit上也是讨论声一片,重灾区是“extreme”、“极” 和“極”:

  若是开发者们没有细看,直接用了生成的代码,那定然是会导致编译不通过等情况,可以说是对需要高精度、结构化输出的场景是致命一击。

  截至目前,大家已经统一将问题的矛头指向了DeepSeek V3.1模型本身,以及CodeBuddy帮忙问了:

  就目前来看,虽然完全解决问题要等到DeepSeek官方下场,但已经有网友开始支招解决这个问题了。

  并且这个方法主要是针对调用API的第三方平台,若是在DeepSeek V3.1官方,则不需要。

  最后,至于为什么DeepSeek V3.1会出现这样的bug,知乎网友、阶跃星辰黄哲威给出了他的看法,并获得了高赞。

  他首先指出,这种现象并非孤例。在他使用小模型和开源数据蒸馏,以及在测试早期的R1模型时,就曾遇到过类似的bug。

  黄哲威认为,这与大模型编程编题时可能出现的一种“恶性模式”(malicious pattern)有关。他举例说,在枚举素数的任务中,一个正常的模型本应无限地列举下去,如“素数表 2, 3, 5, 7 …”。

  然而,他观察到之前一个代号为 R1-0528 的模型会出现一种奇特行为:在列举一段后会自行停止,变成一个有限的列表,例如“素数表 2, 3, 5, 7 … 997, 极长”。

  这个“极长”的用法,与现在讨论的“极”字问题非常相似,常常出现在大量恶性重复之后,作为正常推理过程的回正deepseek。有时,模型甚至会输出“90000000…0000极大的数字”这样的内容。

  他进一步描述了这种bug的触发场景。当模型陷入“thinking”的末尾循环无法跳出时,有千分之一的概率会突然蹦出一个“极”字,然后终止思考(),这似乎是一种特殊的终止符或标记。

  通过观察R1模型大量的输出,黄哲威发现了不少问题,包括超长响应(response)、大面积的空白字符、不断的短句重复等,甚至连thinking末尾的英文字符都变得破碎。

  基于以上观察,他提出了一个核心推测:这个问题的根源可能在于数据清洗不彻底。他认为,在进行SFT(监督微调)数据合成,乃至构建预训练数据时,可能没有将一组名为“‘极长’的数组”的“脏数据”清洗干净。

  他推断,R1模型在处理一些难题的解答时,似乎大量使用了RAG(检索增强生成)技术,而后续的RL(强化学习)阶段,模型直接将这个“极”字当作了某种终止符或者语言切换标记来学习和使用了。

  最后,黄哲威总结道,如果R1迭代时的数据没有清洗干净,模型自行蒸馏并“污染”到正常的输出过程中,是完全可能发生的。这为理解DeepSeek V3.1模型出现的“极”字问题提供了一个可能的解释路径。

  至于这个被网友戏称为“极你太美”、“‘极’速版”的问题到底何时会彻底解决,就要等DeepSeek官方的新版本了。原文出处:DeepSeek“极你太美”bug,官方回应了,感谢原作者,侵权必删!

标签: deepseek

“DeepSeek“极你太美”bug,官方回应了” 的相关文章

【银河科创板吴砚靖】科创板周报丨DeepSeek v3.2首次使用国产开源GPU

【银河科创板吴砚靖】科创板周报丨DeepSeek v3.2首次使用国产开源GPU

  日均成交额约2,783.02亿元,较前一周的2,740.04亿元上升;科创板平均换手率为18.18%,低于创业板和北证A股。涨跌幅方面,科创板表现强于创业板,沪深主板A股和北证A股,上...

DeepSeek新模型实现十倍文本压缩精度97%,A100日处理20万页数据

DeepSeek新模型实现十倍文本压缩精度97%,A100日处理20万页数据

  据机器之心,在DeepSeek-OCR的处理过程中,1000个字的文章能被压缩成100个视觉token,十倍的压缩下精度也可以达到97%,一块英伟达A100每天就可以处理20万页的数据...

DeepSeek预测:罗马VS都灵!红狼主场碾压公牛,苏莱领衔火力全开!

DeepSeek预测:罗马VS都灵!红狼主场碾压公牛,苏莱领衔火力全开!

  2025赛季意甲第3轮即将迎来一场焦点战,罗马坐镇奥林匹克球场迎战都灵。目前罗马以两连胜积6分排名第4,而都灵仅积1分深陷降级区。这场看似实力悬殊的对决,却因意甲特有的保级压力增添悬念...

寒武纪Day 0适配DeepSeek-V3.2-Exp,同步开源推理引擎vLLM

寒武纪Day 0适配DeepSeek-V3.2-Exp,同步开源推理引擎vLLM

  寒武纪在公众号发文表示,2025年9月29日,寒武纪已同步实现对深度求索公司最新模型DeepSeek-V3.2-Exp的适配,并开源大模型推理引擎vLLM-MLU源代码。针对本次的De...

亚洲杯即将来袭!快来评选你心中中国男篮现役最佳阵容

亚洲杯即将来袭!快来评选你心中中国男篮现役最佳阵容

  中国男篮即将奔赴沙特,征战8月5日开打的男篮亚洲杯。此次出征的队员共有14名,包括胡金秋、胡明轩、赵睿、程帅澎、朱俊龙、赵嘉义、廖三宁、余嘉豪、雷蒙、王俊杰、徐杰、高诗岩、李祥波、张宁...

DeepSeek预测:罗马VS国际米兰,劳塔罗VS苏莱,谁将主宰这场意甲巅峰对决

DeepSeek预测:罗马VS国际米兰,劳塔罗VS苏莱,谁将主宰这场意甲巅峰对决

  意甲第7轮即将迎来一场焦点大战,排名第二的罗马将在主场迎战排名第四的国际米兰。两支球队目前都处于欧战区,积分差距仅有3分,这场比赛的结果将对联赛格局产生重要影响。  ...