尤洋实测:中小云做MaaS月亏4亿,建议转私有部署
编辑点评 · AI 连续创业者视角(以下内容由 AI 提炼,观点归原作者;读完可不看原文)
潞晨科技创始人尤洋实测中小云平台售卖DeepSeek API月亏4亿(B·实测自述),因吞吐量远低于官方值。这揭示中小厂商做MaaS是“必死局”,但反向证明了私有化部署的高价值。对搞钱者而言,机会不在卖Token,而在提供“高吞吐私有部署+调优”服务。下一步:学习推理优化算法,向中小AI公司兜售私有化部署方案。
- 避开中小MaaS服务,该赛道巨头垄断且利润极低
- 切入私有化部署,服务无自建算力能力的中小企业
- 掌握DeepSeek推理优化代码,作为高溢价技术卖点
- 验证点:找3家无算力中小AI公司测试私有化意愿
一、这是什么机会
面向缺乏自建算力能力的中小型企业,提供高吞吐率的模型私有化部署及推理优化服务。核心是通过技术调优解决厂商端吞吐量低、亏损严重的痛点,按项目制或年度维护费收费。
二、独立判断
值不值得做?结论是高度值得,但门槛极高。关键理由在于 DeepSeek 官方实测数据(8 张 H800 节点每秒输出 14.8k Tokens)与中小厂商实测数据(约 300 Tokens/秒)存在巨大鸿沟,这种效率差直接导致中小平台售卖 API 月亏 4 亿。编辑视角判断,市场急需能打通这一技术壁垒的中间服务商,而非简单的云资源转售商。
三、冷启动路径
第一步验证动作:立即研读 DeepSeek 开源的推理优化代码,在本地模拟环境下复现官方吞吐量指标,形成可量化的优化方案。成本量级:需租用 8 张 H800 服务器进行为期 2-4 周的调优测试,预估成本 10-15 万元。周期:1 个月内完成技术验证并产出案例报告。
四、最大风险与避坑
致命坑 1:技术复现失败。若无法在私有环境中达到接近官方的吞吐量,则无法证明“高吞吐”价值,客户只会按市场价采购通用云服务。应对:聘请资深推理优化工程师,重点攻克序列波动导致的效率下降问题。
致命坑 2:巨头降维打击。OpenAI 或大型云厂商直接优化服务。应对:聚焦垂类模型或特定行业(如视频生成、代码辅助)的定制化部署,避开通用大模型的红海。
五、案例复盘(别人怎么做的)
- 技术对标:分析 DeepSeek 官方数据,识别出 24 小时内处理 6080 亿输入 Tokens、1680 亿输出 Tokens 的高效基线,锁定 226.75 个节点(1814 张 H800)支撑 2000-3000 万日活的运行逻辑。
- 痛点实测:潞晨科技尤洋团队实测发现中小平台部署 DeepSeek 后,每节点每秒输出仅 300 Tokens 左右,远低于官方理论值,直接算出月亏损 4 亿的结论,验证了“高吞吐”是生死线。
- 战略转型:3 月 1 日,潞晨科技宣布停止包括 DeepSeek API 在内的 MaaS 服务,明确认知到单纯卖 Token 是“买 GPU 时间、卖调用量”的高风险业务,决定转向专注给大小公司部署私有模型。
- 商业化定位:不再做 API 转售,而是做“AI 版 Databricks”,提供从模型部署、推理优化到运维的一体化私有化解决方案,向有算力但无技术优化能力的企业收费。
- 技术难点攻克:(推断)针对实际服务中输入输出序列波动、用户请求多样化导致的线上服务效率下降问题,建立动态资源调度机制,以维持高利用率。
六、双轨可执行性
跨境:此轨道可行性较低,境外市场竞争由 AWS/Azure/GCP 及 OpenAI 主导,且 H800 等高性能卡受出口管制,获取硬件成本高,难以快速启动。
国内:高可行性,当前国内大量中小企业拥有算力资源但缺乏推理优化能力,DeepSeek 开源生态成熟,可立即启动 3 家无算力中小 AI 公司的私有化意愿测试与部署实施。
原文 · 晚点聊 LateTalk:阅读原文 →