当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek超越“开放权重”AI,计划发布源代码

4个月前 (02-25)Deepseek最新资讯238

上个月,DeepSeek 通过发布一个新的、具有竞争力的模拟推理模型,在 AI 领域掀起了轩然大波。该模型可以在 MIT 许可证下免费下载和使用。现在,该公司正准备让这个模型背后的底层代码更加透明,承诺从下周开始发布五个开源代码库。

在周四晚间的社交媒体帖子中,DeepSeek 表示,其计划的"开源周"每日发布将提供对"这些在我们在线服务中的基础模块的可见性,它们已经过文档记录、部署和生产环境的实战测试。作为开源社区的一份子,我们相信每一行共享的代码都将成为推动我们共同前进的动力。"

虽然 DeepSeek 对将要分享的代码类型并未具体说明,但其配套的 GitHub 页面 "DeepSeek Open Infra" 承诺即将发布的内容将涵盖"推动我们这个小小月球计划前进的代码",并"完全透明地分享我们微小但真诚的进展"。该页面还引用了一份 2024 年的论文,详细介绍了 DeepSeek 的训练架构和软件栈。

这一举措可能会加大 DeepSeek 与 OpenAI 之间的差异,后者的市场领先产品 ChatGPT 模型仍然完全专有,其内部运作对外部用户和研究人员来说依然不透明。尽管 DeepSeek 的移动应用因隐私问题面临国际限制,但这次开源发布可能有助于提供更广泛和更便捷的访问途径。

开放究竟有多开放?

DeepSeek 最初的模型发布已经包含了所谓的"开放权重"访问权限,可以访问代表模型数十亿模拟神经元之间连接强度的底层数据。这种发布方式允许终端用户通过额外的训练数据轻松微调这些模型参数,以满足更具针对性的目的。

包括 Google 的 Gemma、Meta 的 Llama,甚至 OpenAI 早期发布的 GPT2 等主要模型都采用了这种开放权重结构。这些模型通常也会发布开源代码,涵盖响应查询时运行的推理时间指令。

目前尚不清楚 DeepSeek 计划的开源发布是否也将包括团队在训练模型时使用的代码。这种训练代码对于满足开源研究所 (OSI) 去年最终确定的"开源 AI"正式定义来说是必需的。根据 OSI 的标准,一个真正开放的 AI 还必须包括"关于用于训练系统的数据的充分详细信息,使得技术熟练的人能够构建一个实质上等效的系统"。

完全开源发布(包括训练代码)可以让研究人员更清楚地了解模型在核心层面是如何工作的,可能揭示出模型架构而非参数权重固有的偏见或局限性。完整的源代码发布还可以让人们更容易从头开始复制模型,如有必要,甚至可以使用全新的训练数据。

Elon Musk 的 xAI 在今年 3 月发布了 Grok 1 的开源推理时间代码版本,最近还承诺在未来几周内发布 Grok 2 的开源版本。但该公司表示,最近发布的 Grok 3 将暂时保持专有状态,仅供 X Premium 订阅用户使用。

本月早些时候,HuggingFace 在 OpenAI 发布专有的 "Deep Research" 功能几小时后就发布了其开源克隆版本。HuggingFace 的 Aymeric Roucher 告诉 Ars Technica,该克隆版本在发布时使用闭源权重模型"仅仅是因为它运行良好",但源代码的"开放管道"可以根据需要轻松切换到任何开放权重模型。


“DeepSeek超越“开放权重”AI,计划发布源代码” 的相关文章

DeepSeek在人工智能任务中表现如何

DeepSeek在人工智能任务中表现如何

DeepSeek在人工智能任务中表现出色,具体体现在以下几个方面:一、基准测试成绩优异DeepSeek-R1在数学、代码、自然语言推理等任务上展现出卓越的性能。在国外大模型排名Arena上,其基准测试...

ST广网:公司“秦岭云”平台已完成DeepSeek本地化部署

ST广网:公司“秦岭云”平台已完成DeepSeek本地化部署

每经AI快讯,有投资者在投资者互动平台提问:董秘您好!请问贵公司是否已经部署了DeepSeek?如果已经部署了,请问主要应用于哪些具体的业务?公司接入DeepSeek有哪些成本、收益方面的考量?如果公...

DeepSeek第五弹炸裂收官!开源并行文件系统,榨干SSD全部带宽

DeepSeek第五弹炸裂收官!开源并行文件系统,榨干SSD全部带宽

DeepSeek开源周,今日正式收官!内容依旧惊喜且重磅,直接公开了V3和R1训练推理过程中用到的文件系统。具体来说,包括以下两项内容:Fire-Flyer文件系统(简称3FS,第三个F代表File)...

大火、环保、核电与DeepSeek,欧洲对AI追赶之道的思考

大火、环保、核电与DeepSeek,欧洲对AI追赶之道的思考

这是2月10日在法国巴黎大皇宫拍摄的人工智能行动峰会现场。新华社 图巴黎的大皇宫,是法国为了1900年的世博会而专门修建的。当时的法国,还处在美好年代的顶峰,是数一数二的世界强国,也是科技大国。一百多...

继基础电信运营商后,广东多地政府部门接入DeepSeek

继基础电信运营商后,广东多地政府部门接入DeepSeek

当下,DeepSeek朋友圈正持续“扩容”:一方面,其访问使用量急速上升,已成为最快突破3000万日活跃用户量的应用;而移动、电信、联通三家基础电信企业已全面接入DeepSeek。此外,广东多地政府部...

从算力底座到生态繁荣 昇腾如何为江苏AI新纪元铺路?

从算力底座到生态繁荣 昇腾如何为江苏AI新纪元铺路?

 从数智赋能公共服务水平提升,到大模型本地部署打造数智员工,再到AI+警务、AI+医疗、AI+办公等行业应用释放新质生产力……  在前不久的“激发新质动能 智绘江苏蓝图”主题媒体探营暨“昇腾新动力 D...