当前位置:首页 > Deepseek最新资讯 > 正文内容

Transformer作者:DeepSeek才有搞头,OpenAI指望不上了

12个月前 (09-12)Deepseek最新资讯399

  为了填补这块空白,一路从Google到Adept再到Essential AI三次搬家的Vaswani,今年再度迎来巨大转折点——

  可惜好景不长,据BloomBerg报道,Vaswani在Adept与某位联合创始人爆发了一次严重冲突。

  蓦然回首,在他的精神世界中,其实一直有一块能承载他一切美好期许的土地,这片伊甸园的名字叫做——开源。

  Vaswani认为,要想推动AI的边界绝不能靠OpenAI、Anthropic等依靠闭源模式盈利的独角兽。

  在他的设想里,AI不该只服务于商业,而是要真正进入教育、医疗等关乎大众的场景,让普通人也能享受到技术红利。

  比如,一个偏远地区的孩子也能用开源AI上到最好的课;一个小诊所也能借助开源工具做出最准确的诊断。

  简单来说,相较于用RL在后训练打补丁,他们在预训练中取得了突破,并且这个技术可能大幅降低训练成本。

  Anthropic做浏览器,OpenAI派出著名产品经理Kevin Weil…….各大模型厂商纷纷下场,亲自探索商业模式。

  Scaling Law兴起后,暴力美学的砝码使得AI研究的天平从学术机构几乎完全向企业实验室倾斜。

  这种节奏很适合追热点,但科研不一样——要搞出突破性的成果deepseek,你得花几年甚至十几年死磕一个方向。

  闭源公司虽手握顶级资源和技术成果,但为了维护投资人的利益,不得不把这些秘密藏起来,以阻碍竞争对手。

  但如果有成千上万的研究者和开发者一起贡献代码,整个生态齐心协力,并行推进,也许能克服开源阵营资源匮乏的问题。

  这是互联网时代很常见的一种商业模式,典型案例就是浏览器:Google搜索对用户完全免费,取得市场份额后依靠广告回血。

  但如果有客户想用这个基座搭建自己的AI,可以向Essential AI购买训练数据和相关产品。

  作为《Attention Is All You Need》论文的“一作”,他博士师承的两位导师,都是华人。

  在2011年的南加州大学,有两名活跃在自然语言处理(NLP)前沿的教授——蒋伟(David Chiang)与黄亮(Liang Huang)。

  蒋伟教授的学士和硕士均就读于哈佛大学,后到宾夕法尼亚大学攻读博士,他提出的分层短语翻译模型曾被Google Translate采用。

  黄亮教授本科毕业于上海交通大学计算机系,同样是在宾夕法尼亚大学进修的PhD,主要研究方向是开发高效算法来加速NLP任务,Vaswani是他指导的第一名博士生。

  怎么说呢,虽然Transformer八子里没有华人作者,但“功劳簿”里,也并非全然没有华人贡献。

  这实际也是另一个维度的开源之力。AI也好、深度学习也好,之所以可以站上浪潮之巅,根本上就在于始终有一个持续交流、开放互助的生态环境。原文出处:Transformer作者:DeepSeek才有搞头,OpenAI指望不上了,感谢原作者,侵权必删!

标签: deepseek

“Transformer作者:DeepSeek才有搞头,OpenAI指望不上了” 的相关文章

10月23日DeepSeek预测:猛龙vs老鹰,巴恩斯对决特雷杨,猛龙客场险胜

10月23日DeepSeek预测:猛龙vs老鹰,巴恩斯对决特雷杨,猛龙客场险胜

  2025-26赛季NBA常规赛揭幕战,多伦多猛龙将客场挑战亚特兰大老鹰。作为东部传统劲旅的猛龙目前排名东部第14(0胜0负),而老鹰则暂列东部榜首(0胜0负)。这场对决不仅是新赛季的开...

DeepSeek发布两款新模型,AI产业链景气趋势持续验证,科创创业人工智能ET

DeepSeek发布两款新模型,AI产业链景气趋势持续验证,科创创业人工智能ET

  同一日,可灵AI正式发布其全新产品“可灵O1”,定位为首个大一统的多模态创作工具。可灵O1基于全新的视频和图像模型,整合文字deepseek、视频、图片、主体等多模态输入,将所有生成和...

1月16日DeepSeek预测:雄鹿vs马刺,文班亚马率队捍卫主场

1月16日DeepSeek预测:雄鹿vs马刺,文班亚马率队捍卫主场

  北京时间1月16日,NBA常规赛将迎来雄鹿(17胜23负,东部第11)客场挑战马刺(27胜13负,西部第3)的焦点战。尽管雄鹿作为传统劲旅拥有4胜1负的历史交锋优势deepseek,但...

梁文锋署名新论文,DeepSeek V4架构首曝?直击Transformer致命

梁文锋署名新论文,DeepSeek V4架构首曝?直击Transformer致命

  【新智元导读】深夜,梁文锋署名的DeepSeek新论文又来了。这一次,他们提出全新的Engram模块,解决了Transformer的记忆难题,让模型容量不再靠堆参数!...

AI算力爆发叠加数据资产风口,铂拉锐科技布局去中心化数字生态

AI算力爆发叠加数据资产风口,铂拉锐科技布局去中心化数字生态

  当前,数字经济进入高质量发展新阶段,CDN流量算力与数据资产并表已成为资本市场聚焦的核心赛道,双重风口叠加下,行业正迎来前所未有的发展机遇。随着ChatGPT、DeepSeek等大模型...

DeepSeek公司要上市了?知情人士回应

DeepSeek公司要上市了?知情人士回应

  《辟谣财知道》注意到,近期一则关于DeepSeek(深度求索)公司上市的消息出现在诸多权威的新闻网站。   版本一是DeepSeek准备科创板上市,于7月18日发布。...