DeepSeek R1复现：15G显存也能跑RL？

最近复现DeepSeek R1的开源实验刷屏了，我扒了一遍论文和社区反馈，有几个反直觉的发现值得聊聊。

1. 15G显存=入门门槛？

Unsloth团队把优化做到了极致，用15GB显存就能训练150亿参数模型。这意味着啥？Google Colab免费额度就能跑GRPO（Group Relative Policy Optimization）强化学习微调。以前觉得只有大厂才能玩的RL，现在个人开发者也能试水了。

2. “顿悟时刻”可能是伪命题

Sea AI Lab的研究直接泼了盆冷水：R1式的“自我反思”和“顿悟”并非RL训练出来的，而是预训练阶段就有的“肤浅自我反思”。RL只是优化了奖励函数，让模型回答变长了，而不是真正产生了思考。别被宣传忽悠，小模型刷不出大智慧。

3. 数据质量 > 数量

LIMO数据集只用817条精选样本，就在AIME和MATH基准上打败了大量堆数据的模型；s1K数据集（1000条数学题）微调后的Qwen2.5-32B，竞赛成绩比肩OpenAI o1-preview。这说明什么？精心筛选的“钻石”数据，远比一堆“沙砾”有用。

4. 工业落地新玩法

除了调参，微软的PIKE-RAG框架也值得关注。它通过构建多层异构图来提取私有领域知识，专门解决LLM不懂行业黑话的问题。配合DeepRAG的“按需检索”机制（减少47%无效检索，准确率提升22%），本地知识库搭建终于有了可复制的路径。

总结一句： 未来拼的不是算力堆料，而是“数据筛选+低成本微调”的精细化运营。手里有块好显卡，真的可以开始干了。

来源 · 莫尔索随笔：阅读原文 →