| 查看: 701 | 回复: 0 | |||
yexuqing木虫之王 (文学泰斗)
太阳系系主任
|
[交流]
梁文锋带着DeepSeek-R1的研究登上《自然》（Nature）封面
|
|
9月18日，梁文锋带着deepseek-r1的研究，登上最新一期国际顶级期刊《自然》（nature）封面。 今年1月份，国产大模型公司深度求索（deepseek）在预印本平台arxiv公布论文《deepseek-r1: incentivizing reasoning capability in llms via reinforcement learning》，创始人梁文锋位于署名之列。 《自然》杂志指出，如此总结deepseek-r1带来的进步：如果训练出的大模型能够规划解决问题所需的步骤，那么它们往往能够更好地解决问题。这种“推理”与人类处理更复杂问题的方式类似，但这对人工智能有极大挑战，需要人工干预来添加标签和注释。 deepseek的研究人员揭示了他们如何能够在极少的人工输入下训练一个模型，并使其进行推理。deepseek-r1模型采用强化学习进行训练。在这种学习中，模型正确解答数学问题时会获得高分奖励，答错则会受到惩罚。 最终它学会了推理——逐步解决问题并揭示这些步骤——更有可能得出正确答案。这使得deepseek-r1能够自我验证和自我反思，在给出新问题的答案之前检查其性能，从而提高其在编程和研究生水平科学问题上的表现。 在《自然》的editorial（社论）指出，大型语言模型需要同行评审。《自然》认为，大型语言模型（llms）正在迅速颠覆人类获取知识的方式，但最广泛使用的这些模型尚未在研究期刊中接受独立同行评审。同行评审有助于澄清llms的工作原理，并帮助评估它们是否真正实现了其宣称的功能。“这一情况随着自然杂志发表deepseek-r1模型细节而改变。” 《自然》指出，自1月在hugging face上发布r1以来，deepseek-r1已夺得该平台复杂问题解决类模型下载量冠军。现在，该模型已由八位专家评审，以评估其工作的原创性、方法论和稳健性。该论文将与审稿人报告和作者回应一同发表。“这一切都是ai行业迈向透明度和可重复性的可喜一步”。 “依赖独立研究者的同行评审是ai行业回击炒作的一种方式。鉴于这项技术已变得如此普遍，无法验证的声明对社会构成了真正的风险。我们希望，出于这个原因，更多ai公司将提交其模型接受评审。”《自然》写道。 论文摘要中表示，推理能力作为人类智能的基石，能够支持从数学问题求解、逻辑演绎到程序编写等复杂认知任务。人工智能领域的最新进展表明，当大型语言模型（llms）的规模达到足够程度时，能够展现出包括推理能力在内的涌现性特征，然而，要在预训练阶段实现这类能力，通常需要耗费大量计算资源。 这项研究旨在探索大型语言模型在强化学习（rl）框架下通过自进化发展推理能力的潜力，同时最大限度减少对人工标注的依赖。 具体而言，以deepseek-v3base模型为基础，采用群体相对策略优化（grpo）作为强化学习框架。奖励信号仅依据最终预测结果与真实答案的一致性来确定，不对推理过程本身施加任何约束。在解决推理问题时，该模型倾向于生成更长的响应内容，在每个响应中融入验证、反思以及对多种替代方法的探索。尽管并未明确教授模型如何进行推理，但它通过强化学习成功掌握更优的推理策略。 今年1月20日，中国ai初创公司深度求索（deepseek）推出大模型deepseek-r1引爆ai行业，作为一款开源模型，r1在数学、代码、自然语言推理等任务上的性能能够比肩openaio1模型正式版，并采用mit许可协议，支持免费商用、任意修改和衍生开发等。春节假期后，国内多个行业龙头公司均宣布接入deepseek。 伴随ai大模型行业的日新月异，deepseek已经更新出r1以外的新版本，但万众期待的r2尚未面世。此前8月21日deepseek正式发布deepseek-v3.1，称其为“迈向agent（智能体）时代的第一步”。 据介绍，v3.1包含三大主要变化。首先，v3.1采用混合推理架构，一个模型同时支持思考模式与非思考模式；其次，v3.1具有更高的思考效率，相比deepseek-r1-0528，deepseek-v3.1-think能在更短时间内给出答案；另外，v3.1具有更强的agent能力，通过post-training优化，新模型在工具使用与智能体任务中的表现有较大提升。 当时，deepseek表示，deepseek-v3.1使用ue8m0fp8scale的参数精度。ue8m0fp8是针对即将发布的下一代国产芯片设计。这也表明未来基于deepseek模型的训练与推理有望更多应用国产ai芯片，助力国产算力生态加速建设。相关表态，一度带动国产芯片算力股价迎来飙升。 9月5日，据外媒报道，deepseek被曝光正在开发具备更先进的ai智能体相关功能的人工智能模型，目的是与openai等头部科技公司在技术新前沿展开竞争。目前deepseek创始人梁文峰计划在今年四季度发布相关智能体产品。 新闻记者向deepseek内部人士询问此事真实性，对方未给予明确回复，但并未否认此事。 据外媒援引相关消息称，deepseek正在开发的智能体强调自主任务处理能力，与传统聊天机器人不同，智能体能够代表用户在最少指令下完成多步骤复杂任务，并根据历史操作持续学习和改进，减少人工干预需求。 2025年被业界称为“ai智能体元年”。8月26日，国务院印发《关于深入实施“人工智能+”行动的意见》（以下简称《意见》）提出，到2027年，率先实现人工智能与6大重点领域广泛深度融合，新一代智能终端、智能体等应用普及率超70%；到2030年，中国人工智能全面赋能高质量发展，新一代智能终端、智能体等应用普及率超90%  |
回复此楼» 猜你喜欢
职称评审没过，求安慰
已经有41人回复
-
回收溶剂求助
已经有7人回复
-
硝基苯如何除去
已经有3人回复
-
A期刊撤稿
已经有4人回复
-
垃圾破二本职称评审标准
已经有17人回复
-
投稿Elsevier的Neoplasia杂志，到最后选publishing options时页面空白，不能完成投稿
已经有22人回复
-
EST投稿状态问题
已经有7人回复
-
毕业后当辅导员了，天天各种学生超烦
已经有4人回复
-
求助文献
已经有3人回复
-
三无产品还有机会吗
已经有6人回复
