都说开放权重模型微调很便宜。这话没错——LoRA 固定原始权重不动,只训练两个小的适配器矩阵,参数量大概只有完整微调的1%。 但没人告诉你后面的事:训练结束后,想让模型真正跑起来,GPU 得一直开着。以 Together AI 为例,一块 H100 24 小时运行,一个月要花 $4,672.80。 一位 xAI 联合创始人精准盯上了这个缺口,创业两个月就融到了 11 亿美元。
开源模型,训练确实便宜
先说对的部分。用 LoRA 微调开源权重模型确实很划算。原始权重不动,只额外训练两个小矩阵,GPU 显存能省下大约70%,训练速度快3到5倍。 性能还能保持在完整微调的95%到99%左右。
价格也能佐证这点。按 Together AI 的定价,16B 以下模型的 LoRA SFT 训练每百万 token 只要 $0.48,就算是 70B到100B 的模型也才 $2.90。 小规模的 QLoRA 实验用租来的 GPU,花费往往在几百美元以内。 训练本身真的很便宜。
所以大家都这么想
"用自己的数据微调开源模型,便宜又能拥有自己的模型。"这话没错。问题出在后面。
但真正的账单在训练结束后才来
微调好的模型不是训练完就完事了——得有东西持续接收请求、给出响应。在 Together AI 这类平台上,这意味着要用专用端点(Dedicated Endpoint),而成本结构从这里开始变了。
| 训练(LoRA SFT) | 托管(专用端点) | |
|---|---|---|
| 计费依据 | 训练用掉的 token 数 | GPU 运行时长 |
| 16B 以下模型 | 每百万 token $0.48 | H100 每小时 $6.49 |
| 24/7 运行 | 一次性费用 | 每月 $4,672.80 |
| 没有流量时 | 不适用 | 照样计费 |
也就是说,训练成本通常很低,真正花钱的是让模型一直在线的托管成本,这一点经常被忽略。 更新的 B200 每小时甚至要 $11.95。 如果你的请求全天都很稳定,这还好说;但如果是内部工具或早期 MVP 这种流量断断续续的场景,GPU 闲着账单也照样来。"不需要基础设施团队、自己拥有开源模型"的计划,常常就卡在这一步。
正是这个缺口,吸引来了 11 亿美元
River AI 瞄准的正是这个问题。创始人 Igor Babuschkin 曾在 DeepMind 工作四年多,主导过 AlphaStar(星际争霸II AI)等强化学习项目,之后又在 OpenAI 待过,再联合创办了 xAI。 他在2025年8月离开 xAI,2026年4月在内华达州注册了新公司,6月以 River AI 的身份公开亮相。
2026年8月,创业仅两个月后,River 宣布完成种子轮加 A 轮合计 11 亿美元的融资。 由 General Catalyst 和 AMP PBC 领投,Nvidia、AMD Ventures、Y Combinator、Temasek 参投。 Dealroom 称这轮融资规模是同行业同地区早期融资中的前1%。
River 的 API 已经上线,按百万 token 计费。核心思路是:训练和推理都只按实际用掉的 token 计费,完全没有闲置 GPU 容量的成本。 他们的说法是,企业不需要基础设施团队,15到20分钟就能跑完一次复杂的强化学习任务,成本比闭源方案低2到4倍。
"AI 应该是开放、自由、可负担的,应该让人感觉它真的在为你工作。"
— Igor Babuschkin,River AI CEO
General Catalyst CEO Hemant Taneja 把这笔投资放到了国家战略的高度来解读——"美国的韧性"需要在开放权重模型上也保持领先,而不只是闭源模型。 随着 Meta、Mistral,以及中国的 DeepSeek、Qwen 不断扩大开放生态,River 想做的是补上"个人和企业真正拥有自己模型"这一层基础设施。
目前还没被验证的部分
"2到4倍成本节省"是 River AI 自己给出的数字,并没有第三方基准测试验证。 估值、具体的 GPU 配置等细节也都没有公开。创业两个月就拿到11亿美元,也有人认为这反映了 AI 融资市场的过热。
想微调开源模型又不想踩成本的坑,可以这样做
- 先明确目标
如果只是想统一语气或格式,LoRA 就够用了。如果需要注入新的领域知识,可以同时考虑完整微调或 RAG。 - 训练成本和托管成本一定要分开报价
别只看训练报价就觉得"便宜"。先估算每月大概会调用模型多少次,再针对这个用量单独算托管成本。 - 按流量模式选计费方式
如果请求全天都很稳定,专用端点(按小时计费)可能更划算;如果流量断断续续或者难以预测,按 token 计费更安全。 - 先比较现在就能用的选项
Together AI 和 Fireworks AI 都已经正式上线,并支持 LoRA 微调。 Fireworks 提供的微调 LoRA 适配器和基础模型按同样的 token 单价计费,很适合当作比较基准。 - River AI 可以观望,不用急
API 虽然已经上线,但这毕竟是一家成立两个月的公司。 除非你现在就急需上生产环境,不然先用成熟的方案起步,同时观察 River 宣称的成本优势能不能真正兑现。
想深入了解
River AI 官方融资公告 创始人原话、投资方名单、完整产品愿景 river.ai
TechCrunch 原始报道 最先报道这轮融资的文章,含背景与市场反应 techcrunch.com
LoRA/QLoRA 完全指南 从概念到实际成本感受的入门讲解 blog.mondrian.ai
Together AI 定价全解析 训练成本和托管成本到底是怎么累加起来的 eesel.ai
开放权重趋势分析 从国家 AI 战略角度解读 River AI thenextweb.com
Dealroom 融资分析 这轮融资到底有多不寻常的数据视角 dealroom.co




