原文转载自 Telegraph：中国LLM讨论纪要

我们在 10 月初举办的中国 LLM 讨论。希望对大家理解竞争态势和调研方向有帮助。本文不作为投资建议，投资有风险。

1. 反蒸馏与国产模型追赶

• 蒸馏难度明显变高，短期蒸馏成本上升 5-10 倍，多则 20 倍
• 替代方案效果都不如直接蒸馏：把一个问题拆成 10 个分别喂前沿模型再拼起来；拿摘要用其他模型做反向 rationalization；合成数据、数据生态采购
• 曾有人认为可以通过第三方 CSP（如 Amazon）拿访问权限，但近期 Amazon 也出现较大封号潮
• coding / agent benchmark 已刷到 90%+，再卷意义不大；明年下一个市场大概率是 AI for Science 或机器人，数据壁垒更高。AI for Science 真正做药的模型完全封闭（Claude 内独立模型层），只有药企合作能用，「连用都用不到，怎么蒸」；机器人基线数据更提取不出来
• 反蒸馏的影响是多方面的：
  • 措施：OpenAI / Anthropic 直接拒答或降级，订阅和非定向 API 都有大量反蒸馏措施，完整推理只有深度合作企业的 API 能拿到
  • 算力（认为是最大问题）：海外模型普遍 5-10T，学生太小听不懂老师，700B 蒸 3-5T 效果很差，最后回到预训练问题。训 3-5T 模型至少需要几万张 B 卡
  • 方向：coding 有代码可验证、agent 有 trajectory，好蒸；但前沿进步方向转向空间理解、computer use、视频生成，很难反向拿到完整数据
  • 结论：无论算力、数据还是训练方向，国产模型追赶越来越难，有买方认为没有长期价值

2. RSI 与中美差距

• 算力差距在拉大：国内厂商等效 B 卡一万到几万张，海外明年单个 AI lab 训练算力或达 4-6GW
• 反蒸馏后中美差距预期从 3-4 个月拉长到约 12 个月；若海外明年实现 RSI，可能进一步拉到 18-24 个月，认为极有可能
• 研究员瓶颈：训练从 10B 逐步 scale 到 5-10T，数据配比、算力分配、开几条线都是「炼丹」，50 个研究员只能开 50 条线；RSI 后线数由算力决定
• 数据瓶颈：公开数据约 35-50T token，未定义数据需 Mercor 这类公司帮助跨过阈值，之后可靠模型自己合成扩量，最终也收敛到算力
• 国内 3T 左右模型算力够用，下一代 10T 左右影响较大。B300 国内价格近期反而上涨（Rubin ramp 后理论上应走平或下行）
• 蒸馏成本：有数据称国内厂商蒸馏年开销数亿美金（未验证），成本上升 5-10 倍即十几亿到几十亿美金，对比前三家（DeepSeek、Kimi、智谱）总融资约 100-150 亿美金，影响不小。Chat 补充：有厂商一天蒸馏约 30 万美金 token，年化约 1 亿美金
• RSI 关键是 verification：硅谷都在讨论如何在模型 / agent 无法自我验证的领域拿到 outcome feedback。coding 里主攻 build system 和 CI/CD 的 feedback loop 速度
  • 空间方向：从 DCC 软件（CAD、雕刻软件）到仿真、具身大脑，再到真实世界 simulation；老游戏里完整的物理碰撞系统可提供空间理解数据，看哪家 frontier lab 先拿到
  • 当前 RL 是挖 fifty-fifty 成功率的任务，再往前一步可能不是 RL，核心是模型生成的东西能否突破人类 verify 的极限且仍能被 verify。marketing 同理：素材好看不等于线上 performance 好，需要真实 outcome 数据

3. 国模格局与竞争要素

• 算力和融资是下阶段最重要的要素：
  • 蒸馏变贵后，造环境、RL rollout、pretrain scale 都要更多算力。Kimi 是最激进的之一，年底算力也只够做 4-5T 模型
  • 智谱称目前算力只够 capture GLM 生态收入的 10%。算力 → 收入 / P&L → balance sheet → 更多算力 → 更好模型，形成飞轮，落脚点是融资
  • 独立模型公司拼融资拼不过大厂：阿里一家拿了国内一半 B 卡，独立公司大多租卡
  • 中美格局相反：美国价值捕获在模型层（两超多强），算力层 neocloud 格局差；国内模型多、差距小，卡稀缺，算力层价值捕获远大于海外。宏景科技的海外 B 卡大头给了阿里，智谱上季度只拿到一两千、小几千张
• 对智谱看法：
  • 优势不在技术，而是很早做对两件事：坚定蒸馏 Opus 4.5 / 4.6、押注 coding 卖 API，大厂都 miss 了；其他厂商左蒸右蒸，被落后的前沿模型「套住」
  • 但本质是蒸馏，大家都蒸就会商品化、打价格战。国内毛利率 20% 多 vs 海外约 45%，国内 B 卡成本约为海外 5 倍，没有架构革新就是挣小钱投大钱
  • 港股增发 200 多亿，撑不起 1GW 数据中心（几百亿美金）
  • Q4 小米、字节、千问等都在围剿智谱 coding，先发优势在 Q3-Q4 减弱，不建立技术优势股票很难做。有买方 4 月起就认为应退出模型
• 字节：慢就是快，坚持自研不蒸馏，资本和算力强，问题是组织复杂、实验室互抢资源
• 阿里 / 千问：人员流失多；算力角度可看，但无预期差。平头哥拆分会愿意参与
• DS：能力随国产先进半导体（先进制程、HBM 产能、卡性能）水涨船高，能优先拿到好算力
• 国内格局三类：有主业的云厂（阿里、字节）、国家扶持的 DeepSeek、纯商业化独立模型公司（智谱、Kimi、MiniMax）。国内市场容量有限，第三类最后可能只活一家
• 终局可能像中国电动车：美国 coding 饱和，Codex 已打价格战；$20/月用户会订多家，$200/月用户只留最好的一家。最后高端一家、低端一家活得好，美国一家，国内可能是 DeepSeek
  • DeepSeek 专注少数方向、走华为卡路线，有差异化但摸索时间更长，不确定性大
  • 美国 CSP 有利润、举债能力和金融深度；若中国举国支持一家主权 AI，DeepSeek 凭 A 股融资和国家层面支持容忍度更高，其他独立公司更危险
• 华为：内部能用黑卡就用黑卡，自研卡对外卖；代工找「手套」或走三星仍有路子，但比以前更难

4. 闭源降价与开源价值

• Frontier labs 开始做 cheap intelligence：上半年 Anthropic 基本没推 Sonnet / Haiku，近期很积极；Sam 年初起一直在强调。闭源做高价值、开源做低价值的两层结构被打破
• 开源三个 value proposition：便宜、可微调、隐私 / 自部署。闭源先攻「便宜」，部分低价值 workflow 预算会流向闭源
• 闭源降价空间大：每代 GPU（软件+ 硬件）token output 约为上一代 3-4 倍，大幅降价不影响利润
• 国产增长逻辑被打破：上半年逻辑是参数量提升 + 提价（GLM-5.2 约 $4 / 百万 token vs 海外对标约 $20）；现在闭源价格下探（有提到 GPT-6 约 $10），国产效果不占优、提不了价，下一代大参数模型成本却只会上升；国产效率优化接近瓶颈，海外才刚开始
• 价格预期从「向上收敛」调整为「向中间收敛」
• 剩余空间：合规严格的国内客户、本地部署 / 微调。但海外开源（Reflection AI 等）和微软 MAI 也在起来，「直接打在国产模型的命门上」
• 国内付费依赖重度用户（a16z 报告：前 1% 用户付费大于后 50%），重度用户可直接付费 Claude / Codex，存在 value leakage
• 可微调短期不会被快速攻破：post-train 市场未收敛（Fireworks 偏服务 vs Thinking Machines 偏产品化，但这部分市场规模还是有的），闭源投入相对小，OpenAI 的 RFT 没推起来。下一个冲击看闭源何时推出产品化调参产品或大规模投 FDE
• 闭源降价意图有分歧：对 Anthropic 成立（frontier 对 ARR 拉动减弱，需开新场景），对 OpenAI 不成立（frontier 对 ARR 拉动仍大）
• 用户反馈：之前在火山引擎用国产 flash 模型，后来算下来 Codex 更划算、跨 agent 更方便，取消国产订阅统一用 Codex（买账号池叠 Plus 额度）。Codex / Claude 价格已能下探到 flash 层级

5. 下一个大场景：AIDD 与其他

• 28 年需求总量看不清是当前估值 overhang，能否支撑约 2T capex
• AIDD 是当前主要押注：药企研发费用约中几千亿美金，20-30% 投入 AI 就是千亿美金场景。concern 在节奏：药物周期长，能否忍受两年无新管线进展仍每年 2-3 倍投入。金融、客服、法律更多是 context 和数据问题，非模型 step function 能解决，需慢慢释放
• 医药同行对 AIDD 很悲观：研发遵循反摩尔定律，靶点有限，IRR 一路走低；即使 AIDD 成立，改变的是靶点发现速率，瓶颈转到实验、入组、实验猴等物理环节，价值更可能在药明等 CXO / CDMO。进一步拆解：
  • 大药企 capex 很大部分是收购管线，波动大，市场高估真实 capacity
  • LLM 替代科学家（查文献、提猜想、调工具、设计分子）本质是 coding；真正有价值的是 AI 制药模型（结构、结合预测），但几千张卡就够，壁垒在数据
  • 药企私有失败数据不会给 Anthropic，Anthropic 长期大概率自建实验室甚至收购药企，但算力消耗不大，撑不起 28 年 capex
  • AI 制药不遵循第一性原理，只是猜得更多，实验费用大增而产出不保证；小分子公开数据多做得好，有价值的新靶点反而没数据
  • 不看好金斯瑞、Twist 等蛋白合成（无壁垒，会被自建实验室替代）；看好动物实验和临床：海外受动保限制、无法内化，需求回流中国，AI 加速后明年初就要上猴子，认为买实验猴、药明康德最正确

6. 中国模型公司与 CSP 分成

• 智谱、Kimi 已上架 Bedrock，take rate 约 10-15%
• 收入 upside 不大：Bedrock 约 90% 调用量来自前沿模型，剩余 5-10% 由多家开源分，Amazon 还有自研 Nova。利润：乐观算到 27 年十几亿量级，而智谱上半年研发投入就有 20 多亿人民币，算力投入增长可能远高于分成增量，拖累盈利周期