9月18日，DeepSeek再次引发震荡。由DeepSeek团队共同完成、梁文锋担任通信作家的DeepSeek-R1磋论说文欧洲杯体育，登上了海外巨擘期刊《Nature》的封面。

本年1月，DeepSeek曾在arxiv公布了第一版预印本论文，相较而言，这次发布在《Nature》的版块补充了更多模子细节，减少了描画中的拟东说念主化说明。在补充材料中，DeepSeek提到了R1模子的磨练本钱仅29.4万好意思元，以及修起了模子发布之初对于蒸馏OpenAI的质疑。

本年1月，有报说念提到，OpenAI酌量东说念主员以为，DeepSeek可能使用了OpenAI模子的输出来磨练R1，这种措施不错在使用较少资源的情况下加快模子才调提高。

在论文的补充资料部分，DeepSeek修起了对于DeepSeek-V3-Base磨练数据起原的问题。“DeepSeek-V3-Base的磨练数据仅来自普通网页和电子书，不包含任何合成数据。在预磨练冷却阶段，咱们莫得挑升加入OpenAI生成的合成数据，此阶段使用的所特地据皆是通过网页握取的。”DeepSeek默示。

不外，DeepSeek也说明，已不雅察到一些网页包含多数OpenAI模子生成的谜底，这可能导致基础模子迤逦受益于其他巨大模子的常识。此外，预磨练数据集包含多数数学和编程干系本体，标明DeepSeek-V3-Base还是宣战到多数有推理陈迹的数据。这种宽泛的宣战使模子或者生成较为合理的处治有谋划，强化学习不错从中识别并优化输出质料。DeepSeek默示，已在预磨练中针对数据浑浊进行了处理。

哥伦布市俄亥俄州立大学的AI酌量员Huan Sun默示，这一反驳"与咱们在职何出书物中看到的本体一样具有劝服力"。Hugging Face的机器学习工程师、同期亦然论文审稿东说念主之一的Lewis Tunstall补充说，尽管他弗成100%详情R1未基于OpenAI示例进行磨练，但其他实践室的复制尝试标明，DeepSeek的推理有谋划可能裕如优秀而无须这么作念。"我以为现存笔据已畸形明确地标明，仅使用纯强化学习即可赢得极高性能。"他默示。

DeepSeek也在补充资料部分提到DeepSeek-R1的磨练本钱。在DeepSeek-R1的酌量过程中，团队使用 A100 GPU 完成了较小鸿沟模子（30B参数）的实践，随后团队将磨练彭胀至 660B参数的R1-Zero和R1模子。

具体而言，DeepSeek-R1-Zero磨练使用了64×8张H800GPU，耗时约198小时。DeepSeek-R1磨练一样使用了64×8张H800 GPU，耗时约4天（约80小时）。此外，构建SFT数据集浮滥了约5000小时的GPU运算。

DeepSeek默示，假定H800的租借价钱为每小时2好意思元，DeepSeek-R1-Zero磨练本钱20.2万好意思元，SFT数据集创建破耗1万好意思元，DeepSeek-R1磨练本钱8.2万好意思元，这三项的总本钱为29.4万好意思元。折合成东说念主民币，这些本钱约200万元。

R1基于DeepSeek-V3模子磨练，不外，即便加上磨练V3模子所破耗的约600 万好意思元磨练本钱，总金额仍远低于竞争敌手的模子所破耗的数千万好意思元。

DeepSeek-R1还是成为了环球最受接待的开源推理模子，Hugging Face下载量超1090万次。到当今为止，DeepSeek-R1亦然环球首个经过同业评审的主流大谈话模子。

Lewis Tunstall默示，“这是一个相当受接待的前例，如若莫得公开共享这一过程大部天职容的标准，就很难评估这些系统是否存在风险。”刻下 AI 行业不乏刷榜的传说，基准测试可被操控，而经过孤独的同业评审彰着也能捣毁疑虑。

具体到这次发布论文本体，其题目是《DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning》，主要公开了仅靠强化学习，就能激励大模子推理才调的迫切酌量遵循。

、

以往的酌量主要依赖多数监督数据来提高模子性能。DeepSeek的迷惑团队则开辟了一种全新的念念路，即使无谓监督微调（SFT）手脚冷驱动，通过大鸿沟强化学习也能显赫提高模子的推理才调。如若再加上一丝的冷驱动数据，效果会更好。

在强化学习中，模子正确解答数学问题时会赢得高分奖励，答错则会受到刑事拖累。因此模子学会了推理，冉冉处治问题并揭示这些设施，从而更有可能得出正确谜底。这使得 DeepSeek-R1 或者自我考证和自我反念念，在给出新问题的谜底之前检查其性能，从而提高其在编程和酌量生水平科学问题上的发达。

DeepSeek在模子磨练中，给与了群组相对计策优化（GRPO）来裁汰磨练本钱，遐想奖励机制决定着强化学习优化的标的，同期团队遐想了肤浅模板来指导基础模子，条目模子先给出推理过程，再提供最终谜底。

为了使更高效的小模子具备 DeepSeek-R1 那样的推理才调，迷惑团队还径直使用 DeepSeek-R1 整理的 80 万个样本对 Qwen 和 Llama 等开源模子进行了微调。酌量完结标明，这种肤浅的蒸馏措施显赫增强了小模子的推理才调。

举报 第一财经告白和解，请点击这里此本体为第一财经原创，著述权归第一财经通盘。未经第一财经籍面授权，不得以任何形貌加以使用，包括转载、摘编、复制或缔造镜像。第一财经保留追究侵权者法律拖累的权柄。如需赢得授权请接洽第一财经版权部：banquan@yicai.com 文章作家

刘晓洁

郑栩彤

干系阅读 DeepSeek-R1创举历史，梁文锋论文登上《当然》封面

本次论文正面修起了模子发布之初的蒸馏质疑。

247 5小时前 武汉大学酌量生院修起杨某媛论文知网下架：正在核实

该论文下载量曾达31万次以上，在文件起原为“武汉大学”的论文中高居第一。 

279 09-10 10:17 AI周报 | DeepSeek斩获ACL 2025最好论文；库克称苹果狡计“大幅”加多AI投资

Anthropic突出OpenAI成首选；阶跃星辰开源基础大模子Step 3。

211 08-03 08:55 本钱上风将赞成AI居品中的“王者”

AI居品本钱的完毕不错从最优性价比参数采纳、硬件组合、数据预处理和小样本学习、自动化器具的使用四个方面发力。跟着AI居品的冉冉买卖化，本钱的迫切性将缓缓显炫耀来。

262 06-11 22:37 DeepSeekR1幻觉率最高裁汰50%，用户喊话想要R2模子

论述炫耀此前 R1模子幻觉率在21%傍边欧洲杯体育。

302 05-29 21:34 一财最热 点击关闭