当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

4个月前 (02-25)Deepseek最新资讯239

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

Honda宣布深度携手Momenta、DeepSeek、宁德时代,开启智电时代新篇章

Honda宣布深度携手Momenta、DeepSeek、宁德时代,开启智电时代新篇章

4月23日,第二十一届上海国际汽车工业展览会正式开幕。本田技研工业(中国)投资有限公司,联合广汽本田汽车有限公司,和东风本田汽车有限公司携最新电动化和智能化成果,共同亮相上海国家会展中心6.2号馆。本...

爆火的DeepSeek,普通人怎么用?一看就会→

爆火的DeepSeek,普通人怎么用?一看就会→

近日国产AI DeepSeek在中国、美国的科技圈受到广泛关注还被称为“神秘的东方力量”DeepSeek超越了ChatGPT,登顶苹果手机应用商店美国区免费应用榜单。它的访问使用量急速上升,已经成为目...

不开玩笑,DeepSeek让成人玩具率先受益

不开玩笑,DeepSeek让成人玩具率先受益

 出品 | 妙投APP 作者 | 董必政 头图 | AI制图 Deepseek已经席卷全球。在此之前,代表硬件端侧的AI消费电子,仍是不温不火。 De...

OpenAI打小报告,要求禁用DeepSeek

OpenAI打小报告,要求禁用DeepSeek

OpenAI又双叒叕对DeepSeek下黑手了!就在上周,3月13日,OpenAI向美国政府提交了一份长达15页的“举报信”,称DeepSeek R1会带来“重大风险”,并要求美国政府采取行动。不仅偷...

群邑Choreograph接入DeepSeek,让品牌更快找到对的消费者

群邑Choreograph接入DeepSeek,让品牌更快找到对的消费者

Choreograph已将DeepSeek R1 全面整合到其自主研发的媒体平台标签翻译产品Audience Translator中,以帮助品牌在中国市场更好地找到对的消费者。Audience Tra...

电信运营商接入DeepSeek影响几何?

电信运营商接入DeepSeek影响几何?

中新网北京2月28日电 (记者 刘育英)中国三家电信运营商已全面接入DeepSeek,给运营商充分利用自身算力,加快赋能千行百业数智化转型,改善自身业绩带来机遇。至2月初,中国电信旗下天翼云“息壤”已...