当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

6个月前 (02-26)Deepseek最新资讯342

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


标签: DeepSeek

“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

多地政务服务便民热线相继宣布接入Deepseek 带来哪些变化?

多地政务服务便民热线相继宣布接入Deepseek 带来哪些变化?

央广网北京2月24日消息(总台记者任梦岩 晁向荣 黄东旭)据中央广播电视总台中国之声《新闻纵横》报道,大模型DeepSeek的火热扩展到了人们生活的方方面面,近日辽宁省级12345热线、广东省江门市1...

普通人如何逃离DeepSeek幻觉陷阱

普通人如何逃离DeepSeek幻觉陷阱

DeepSeek横空出世,我们和人工智能的关系也随之进入新时代。但对于许多人来说,与AI的蜜月期还没有结束,幻觉问题就不合时宜地来预警。近期一条“80后死亡率突破5.2%”的假新闻广为流传,据上海网络...

PPIO 上线 DeepSeek-Prover-V2-671B

PPIO 上线 DeepSeek-Prover-V2-671B

4月30日,DeepSeek 在 Hugging Face 开源了 DeepSeek-Prover-V2-671B 新模型。作为一站式 AIGC 云服务平台,PPIO派欧云在第一时间上线了 DeepS...

Ai赋能,义乌老板已用DeepSeek卖货……

Ai赋能,义乌老板已用DeepSeek卖货……

如今,人工智能以极快的速度走进我们的生活,浙江义乌小商品市场的商户们也紧跟浪潮,玩出了新花样——利用DeepSeek大模型,他们不仅成功将商品推向国际市场,还“秒学”36种外语,成为了“国际交流小能手...

博士有成"智学舱"重磅上市:DeepSeek驱动学习空间革命,重新定义智能学习场

博士有成"智学舱"重磅上市:DeepSeek驱动学习空间革命,重新定义智能学习场

在科技日新月异的今天,智能化已经渗透到我们生活的方方面面。博士有成,作为学习桌椅行业的佼佼者,再次以科技为驱动,在行业内率先实现搭载DeepSeek设备直驱的“智学舱”学习桌。这款产品的问世,标志着学...

DeepSeek海关执法应用场景初探

DeepSeek海关执法应用场景初探

人工智能(AI)应用场景越来越广泛,探索将其与海关执法深度融合,或将有效促进海关工作现代化。深度求索(DeepSeek)作为我国自主研发的AI大模型,其在海关领域的应用,可为海关执法智能化转型开辟新路...