当前位置:首页 > DeepSeek技术交流 > 正文内容

DeepSeek 又上新!DeepGEMM 发布,有哪些突破点值得一看?

2年前 (2025-02-26)DeepSeek技术交流764

一开始,我还以为 DeepSeek 会走传统路线,比如大厂常见的蒸馏技术,搞个小参数的 Flash 模型。毕竟这种方法能有效降低计算需求,但缺点也很明显,就是小模型再怎么优化,和大模型比起来,性能还是会有损失 结果 DeepSeek 完全没按套路出牌,它不是去压缩模型,而是换了个角度,直接假设未来算力足够,然后想办法更高效地用好现有显卡架构。换句话说,不是缩小参数规模,而是在同等规模下优化计算方式,让计算更具性价比 这种思路比纯工程优化要“硬核”得多。一般来说,搞小模型是比较务实的工程方案,但 DeepGEMM 这种技术驱动的做法更有延展性。它不仅和小模型方法兼容,而且即使以后显卡更强、模型规模更大,这套技术依然能继续用,不会过时

“DeepSeek 又上新!DeepGEMM 发布,有哪些突破点值得一看?” 的相关文章

DeepSeek杀入金融科技圈

DeepSeek杀入金融科技圈

低成本、低门槛、高效能的优势,加之开源策略支持本地私有化部署,让DeepSeek在近期席卷金融科技圈,从国有大行、互联网大厂金融科技公司到消费金融公司、第三方支付机构、上市金融科技企业纷纷宣布接入De...

特斯联极特DeepSeek一体机发布,加速智能体商业场景落地

特斯联极特DeepSeek一体机发布,加速智能体商业场景落地

计算成本的加速下降,令大模型持续向端侧及边缘侧落地,越来越多的企业开始尝试用大模型技术实现不同模态数据间的相互理解和转换,催生了智能体的出现。有业内人士表示,智能体或将成为人类充分利用AI的关键所在。...

微信回应“接入DeepSeek”:不会使用用户朋友圈、聊天记录

微信回应“接入DeepSeek”:不会使用用户朋友圈、聊天记录

日前,微信宣布接入DeepSeek-R1模型,目前为灰度测试阶段,部分用户在微信搜索框选择AI搜索,可使用DeepSeek-R1的深度思考功能。消息一出,引发网友热议,随后微信发文回应几个疑问:微信A...

【Windows】全网最简单DeepSeek R1本地部署教程 小白也可操作完成 AI人工智能【免费分享】只需3分钟就可完成部署

【Windows】全网最简单DeepSeek R1本地部署教程 小白也可操作完成 AI人工智能【免费分享】只需3分钟就可完成部署

本文主要介绍是7b模型部署教程,7b模型适合电脑独显的显存4G及以上电脑【模型选择】 电脑没有独立显卡:选择1.5b模型 有独显,显存4G或8G:选择7b或8b模型 更高...

DeepSeek,重磅突发!DeepSeek官宣,今日开源代码库为DeepEP

DeepSeek,重磅突发!DeepSeek官宣,今日开源代码库为DeepEP

2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推...

四川九洲:控股子公司完成DeepSeek模型本地部署

四川九洲:控股子公司完成DeepSeek模型本地部署

金融界3月13日消息,有投资者在互动平台向四川九洲提问:请问公司是否已经部署了DeepSeek?如果已经部署了,请问主要应用于哪些具体的业务?公司接入DeepSeek有哪些成本、收益方面的考量?如果公...