当前位置:首页 > Deepseek最新资讯 > 正文内容

代码泄密!DeepSeek下一代“王炸”模型架构曝光

4个月前 (01-21)Deepseek最新资讯131

  多位社区开发者推测,MODEL1很可能正是DeepSeek内测中的V3终极版本(V4模型),也有人猜测它可能代表一个完全独立于V系列的新模型。

  近日deepseek,DeepSeek向其核心推理内核FlashMLA推送了一系列更新,而在这些提交中,一个此前从未公开亮相的模型命名引发了社区的高度关注——MODEL1。

  这一名称不仅出现在SM90架构相关的.cu内核实例化文件中,还贯穿在多个针对FP8稀疏解码路径的模板定义与内存布局注释里。

  更关键的是,据海外开发者推测,MODEL1的背后将是一整套新的推理机制、算子结构与底层内存配置,会与DeepSeek现有V3.2模型呈现出完全不同的技术路径。

  在相关代码文件中可以看到,MODEL1被用于核心解码函数的多个实例中,显式适配了头维度为64和128的场景,并专门部署在SM90和SM100架构上。

  代码中多处调用了“ModelType::MODEL1”,与其对应的还有一套独立的持久化内核。这些文件与V32版本的持久化内核文件并行存在,这显示出DeepSeek或许已为该模型设计了与V3系列完全不同的编译路径与执行逻辑。

  更值得注意的是,在代码中,有一条特别注释写道:对于F3架构(即SM90平台)下的MODEL1模型,其KV缓存的内存stride必须是576B的整数倍。

  这一配置区别于V3.2的656B,暗示着MODEL1对底层内存对齐和调度有更为严格的要求,可能与其更复杂的运行时行为与动态缓存机制有关。

  一位海外网友也对这部分代码进行了深入解读,他认为,MODEL1在整体结构上展现出更强的实验性特征,支持动态Top-K稀疏推理逻辑,还引入了额外的KV缓存区。

  前者通过引入一个可变的topk_length指针,允许模型在推理时根据token或请求动态决定参与计算的key数量,提升了计算资源的精细调度能力;后者则通过extra_kv缓冲区,提供了将系统提示与用户上下文分离存储的可能,为Agent架构或多段上下文场景提供支持。

  据社区开发者分析,MODEL1在同步逻辑与边界控制上可能比V3.2更加复杂。其中RoPE与NoPE维度在双GEMM运算中耦合更紧,可能意味着其在位置编码与张量路径调度上做出了显著调整。

  分析还提到,MODEL1引入了运行时边界检查机制,旨在规避动态Top-K推理中潜在的非法内存访问。

  此外,尽管官方注释中标明MODEL1的stride应为576B,但据社区开发者基于代码结构估算,其实际内存分配逻辑可能接近584B。这种细微差异被认为反映出该分支仍处于调试或快速迭代阶段。

  在更早的1月9日,外媒援引知情人士称,DeepSeek将于2月中旬,也就是春节前后发布其下一代模型,主打编程能力,并在内部测试中已经在多个基准上超越了Claude与GPT系列。

  结合目前模型文件结构已覆盖64和128两个头维度、FP8稀疏解码路径已完成适配、内存规范已强制定义等迹象来看,MODEL1很可能已接近训练完成或推理部署阶段,正等待最终的权重冻结和测试验证。

  在海外社交平台上,不少用户对MODEL1的曝光反应热烈。一位用户调侃道:“我已经能听见‘新模型将带来99.97%成本下降’了。”

  而另一位开发者则认为,如果DeepSeek再次开放权重,势必将对闭源巨头形成压力,推动前沿模型进一步走向开放。

  恰逢DeepSeek R1发布一周年,Hugging Face官方博客也发布了特别文章《One Year Since the “DeepSeek Moment”》,系统回顾了过去一年中国开源社区的集体爆发,明确提及DeepSeek的开源策略已从一次事件演化为生态策略。

  文章称,R1模型的开源不仅降低了推理技术、生产部署与心理三个门槛,更推动了国内公司在开源方向上形成非协同但高度一致的战略走向。

  从百度、字节跳动到月之暗面、智谱AI,各大机构在过去一年中陆续加入Hugging Face并发布高质量模型,在社区下载、点赞与引用榜单上频频登顶。

  与此同时,越来越多西方开源模型的底座也开始使用DeepSeek系列做微调,DeepSeek-V3更是成为Cogito v2.1等海外模型的底层基座。

  如今,距离R1发布仅一年,DeepSeek的“MODEL1”很有可能在系统架构、执行路径与推理机制上展现出全面超越V3.2的能力。

  如果接下来如传闻所述在春节前后正式发布,DeepSeek或许将再次改写国内开源格局,也可能为全球前沿开源模型树立新的标杆。原文出处:代码泄密!DeepSeek下一代“王炸”模型架构曝光,感谢原作者,侵权必删!

标签: deepseek

“代码泄密!DeepSeek下一代“王炸”模型架构曝光” 的相关文章

阿斯:若特狮提前复出,巴萨将面临三倍薪资释放额度的处罚

阿斯:若特狮提前复出,巴萨将面临三倍薪资释放额度的处罚

  7月31日讯 《阿斯报》发文,分析了特尔施特根受伤的情况,以及巴萨要如何释放他80%的薪资额度来注册其他球员。   释放特尔施特根部分薪资以成功完成巴萨经济管控的操作...

11月23日DeepSeek预测:奇才vs公牛,公牛主场轻取奇才,怀特武切维奇双

11月23日DeepSeek预测:奇才vs公牛,公牛主场轻取奇才,怀特武切维奇双

  东部第9的公牛(8胜7负)将在联合中心迎战联盟垫底的奇才(1胜14负)。公牛若胜将稳固附加赛席位,而奇才急需终止5连败颓势。本赛季公牛场均得分(120.7分)高居联盟第8,奇才防守效率...

迈向全栈赋能,联想开天实力书写2026信创新周期参考答案

迈向全栈赋能,联想开天实力书写2026信创新周期参考答案

  随着信创产业正式跨越“简单替代”的分水岭,迈向“真替真用、价值创造”的深水区,谁能率先交出“信创PC的年度答卷”?近日,随着科技圈年度盘点陆续揭晓,联想开天给出了有力回应。...

1月30日DeepSeek预测:雄鹿vs奇才,字母哥缺阵奇才主场能否逆袭?

1月30日DeepSeek预测:雄鹿vs奇才,字母哥缺阵奇才主场能否逆袭?

  北京时间1月30日,NBA常规赛将迎来一场东部弱旅间的较量,华盛顿奇才队将在主场迎战密尔沃基雄鹿队。两支球队目前都处于东部下游,奇才15胜34负排名东部第15,雄鹿18胜27负排名东部...

11月2日 DeepSeek预测 国王vs雄鹿:字母哥伤情成关键,雄鹿主场欲延续

11月2日 DeepSeek预测 国王vs雄鹿:字母哥伤情成关键,雄鹿主场欲延续

  北京时间11月2日凌晨5点,NBA常规赛将迎来一场东西部对话——西部垫底的萨克拉门托国王(1胜4负)客场挑战东部第三的密尔沃基雄鹿(4胜1负)。雄鹿近期豪取4连胜,而国王则遭遇3连败,...

DeepSeek优化排名新策略:GEO技术助力企业成为AI推荐首选

DeepSeek优化排名新策略:GEO技术助力企业成为AI推荐首选

  一家中型企业的市场总监最近碰到个扎心事儿:过去俩月在传统搜索引擎上砸的钱,几乎没换来半个新客户。后来一查才发现,超过一半的目标客户早改了习惯 —— 想找推荐,直接问 DeepSeek...