专栏 · Agent 工程手艺 › 第 180 期 · AI 产品 · 收录于 2026 年 8 月 21 日
后训练是你守住品味的方式——Fireworks CEO 乔琳
LQ
Lin Qiao · Sequoia Capital
5.5万观看
223赞
0.4%点赞率
3评论
24.1万频道订阅
数据截至 8 月 27 日
TL;DR · 三句话
- 一做一件事所需的资源（时间 + 专家深度）正在坍缩——过去几十个强产品工程师加 PM 干好几个季度才能交付的东西，现在一个人、几周、不写一行代码就能做出来；后果不是"效率变高"，而是应用层的护城河正在被抹平，竞争被推着从"在现成黑盒 API 上搭壳"转向"拥有自己的智能"。→ 详细
- 二一家公司之所以存在，是因为它把自己的判断、品味和信念灌进了产品；如果你只挂在一个现成 API 上，这份品味就无处安放。post-training（后训练，即在开源基座模型上用自己的数据再训一轮）的意义，就是把这份品味固化进权重里、变成别人偷不走的东西——另一半理由是成本能降五到十倍。→ 详细
- 三但千万别一上来就做 post-training。 从 prompt 到 RAG 到 SFT 到偏好微调再到强化学习，是一条有先后的阶梯；生意上也一样——先用前沿模型把 PMF（产品市场匹配）跑通，因为只有跑通之后收到的数据才真正有意义。而全程真正的判官不是跑分，是 A/B 测出来的产品指标有没有动。→ 详细
01
开场：几十人几个季度的活，现在一个人几周
- 主持人现场举手调查：在座多少人做 post-training、多少人在用 Fireworks，两次都不少。他介绍 Lin Qiao 是前一位讲者 Brendan（Mercor）的好朋友和长期合作伙伴，形式同样是 15 分钟讲 + 15 分钟问答。→ 详细
- Lin Qiao 是 Fireworks 的 CEO 兼联合创始人（此前在 Meta 负责 PyTorch）。Fireworks 是"专注做 inference（推理，即把训好的模型跑起来对外服务）的智能平台"，上面跑着从初创到大型企业的海量应用——所以她这份工作最有意思的地方是"能看到大量的模式"：谁做出了什么创新、卡在哪里、开发者整体往哪走。→ 详细
- 她给的对比很具体：过去一个好想法要推到生产规模，需要"一个几十人的强产品工程师团队加上 PM 一起干好几个季度"；今天"一个人、几周时间，甚至不懂怎么写一行代码，就能做出来"。→ 详细
02
题眼："品味"是公司存在的理由，而现成 API 正在把它抹平
- 资源坍缩的真正后果不是效率提升，而是竞争强度变了：她说这件事"正在推动大家从『在现成的黑盒 API 之上搭产品』，转向『去挖一条更深的护城河』，好让生意更长久"。这是整场演讲的出发点，也是标题里 "keep your taste" 的由来。→ 详细
- 她论证"品味"的那段原话值得整段留着：「每一家公司的存在都有它的理由，因为它在用一种独特的方式解决一个独特的问题。这就意味着，它把自己的判断力、品味、决断和信念灌进了产品里，公司才因此成立。」——注意她的推理方向：品味不是锦上添花的装饰，它是公司之所以是公司的全部理由。→ 详细
- 于是问题变成一个很尖的追问：「今天，如果你只是在现成 API 之上做产品，你就真得想清楚：你独有的那份品味、判断和独特性，要怎么保住、怎么往前推。」她给的答案是——把你的判断、品味、对客户的深刻理解，「真正烘焙进你所依赖的那个 intelligence 里，而不是只挂在一个现成 API 上」。→ 详细
- 时代背景她也点了：这场演讲正赶上开源模型与闭源模型之争最热的一周，各方在声援开源。她说这个同盟之所以扎得这么深，是因为背后的行业逻辑还要更深一层——每家公司都需要一个能承载自己独特性的地方，而闭源黑盒给不了。→ 详细
03
"拥有智能而不是租智能"拆开来是四段闭环
- 第一段是数据。 她说「智能是数据的衍生物」。各大基础模型都建在公开数据和标注数据之上、解决通用任务；而你要解的是一个具体任务。所以第一步是把高质量的 production data（生产数据，真实业务跑出来的数据）梳理沉淀下来，甚至用 synthetic data（合成数据，用模型造出来补充真实数据）去丰富它。→ 详细
- 第二段是权重。 用这些数据在现有模型之上继续训练，并且"真正拥有权重"。她强调这里有一整套技术可用，分别对应不同类型的问题，还能相互组合、彼此配合——不是一条路走到黑，是配药。→ 详细
- 第三段是 serving（部署上线）。 有了一个能把你那个具体问题解得非常好的模型，还得让它真的跑起来对外服务。→ 详细
- 第四段是 A/B 测试。 「你多半会先做一轮 A/B 测试，确认它真的让产品指标动了，然后再回到这个循环里继续迭代。」这四段是一个圈不是一条线。→ 详细
04
别一上来就 post-training：五级阶梯与各级耗时
- 她在第五分钟就把话说死：「当然，我并不认为你应该一上来就一头扎进 post-training。这中间是有不同阶段的。」一位卖后训练平台的 CEO 主动劝你先别买，这条阶段论因此格外有分量。→ 详细
- 第一级 prompt（提示词）：模型原样拿来用，few-shot（给它几个例子）就行，用来快速验证想法。→ 详细
- 第二级 RAG（检索增强生成，把你自己的资料检索出来喂给模型）：把 AI 接到你自己的数据上，从这里开始做大量上下文工程。她给的投入量纲：前两级加起来"分钟级到小时级"。→ 详细
- 第三级 SFT（监督微调，用你整理好的示范数据继续训模型）：动机是"我手上有一些数据，想看看它们怎么反映进模型里、让模型跟我的产品更贴合"，大概几个小时。→ 详细
- 第四级 preference（偏好微调）：动机是"我希望模型体现出个性化的品味，这是我产品里非常独特的取舍"。原料是从用户交互里收来的点赞点踩之类的信号，用它们教模型学会你产品的品味。→ 详细
- 第五级 RL（强化学习）／领域专精：把模型练成真正承载你在某个领域专业能力的样子。她列的领域是法律、金融、医疗、客服、招聘、市场、销售，并补了一句关键限定：「哪怕在同一个行业垂类里，也还有非常多的细分子领域。」——这是她后面"未来会有几百万个专用模型"那个判断的地基。→ 详细
05
把训练类比成一个人怎么长大
- 她用人的成长做类比：读书读文献学"什么是对的、什么是不对的" ≈ SFT；长大后形成自己的品味和判断、面对问题偏好某种特定处理方式 ≈ preference，也就是 DPO（直接偏好优化）；再往后在某个领域变成专家——"我想当会计师"就得真钻进财务数据、"我想当牙医"就得学会牙科操作的所有细节 ≈ RL。→ 详细
- 她的落点不是"越高级越好"，而是"不同的技术是用来解决不同类型的问题的"——这直接引出了下一节的对照表。→ 详细
06
症状→药方对照表：什么毛病该用哪种技术
- 模型不知道某个事实，且这个事实高度动态（你产品里的数据一直在变）→ RAG。 这是最常见也最容易误诊的一类，很多人在这里错误地跳去微调。→ 详细
- 模型输出的行为方式或结构不对 → 梳理数据做 SFT。 用示范数据把它掰回来。→ 详细
- 回答质量的问题很个人化、要贴合你产品的品味 → preference tuning（偏好微调）。 这条正是"守住品味"落到技术上的那一格。→ 详细
- 模型在你要解的那个特殊问题上本身就弱 → RL。 不是它不知道，是它不会。→ 详细
- 模型在生产环境里跑得太慢或太贵 → distillation（蒸馏，让大模型当老师把能力教给一个小模型），跑得更快、成本更划算。她额外补一句：蒸馏对 LLM、VLM（视觉语言模型）和图像生成模型来说，含义是完全不一样的。→ 详细
07
数据不是越多越好，而质量的判官是产品团队
- 她说数据是 tuning（微调）的本质所在，然后立刻纠正一个普遍误解：「数量并不是最重要的，质量才是最重要的。」把海量数据一股脑扔进训练流程，未必就能得到好结果——这正是很多团队"钱和时间都烧掉了、结果却没到理想水平"的头号原因。→ 详细
- 她自问自答的这一句是整场里对产品人最要紧的一句：「那么，谁是数据质量最好的判官？其实是你的产品团队。」→ 详细
- 组织后果她讲得很直白：在 GenAI 之前，产品团队和研究团队 / ML 团队是两个分开的组织，各自独立、然后手拉手配合把事情做成；而现在做 post-training，「产品团队必须对数据质量下判断、必须深度介入整个流程，两边开始融合。只有这样，他们才能保证拿到最好的结果。」——注意这不是"PM 要多懂点技术"，而是 PM 下场决定哪些数据配进训练集。→ 详细
08
vibe eval 不是 eval：把创始人的判断沉淀成可重复流程
- 她点名的第二个挫败源是 eval（评估，用一套题目和标准去量化模型到底好不好）。原话：「我知道各位都非常忙，都急着尽快上线，所以很多评估其实是『凭感觉评』（vibe evaling）。」台下笑了——因为一屋子创始人都在这么干。→ 详细
- 她接着把这层拆得很干净：创始人自己盯着结果、凭感觉判断"这到底对不对"，那本身就是判断力，问题不在于凭感觉，而在于这份判断留在了一个人的脑子里。关键动作是把它"转化成系统化的评估"。→ 详细
- 她给的类比很朴素但很有说服力：「这跟传统软件开发没什么两样——你有单元测试、集成测试来保证质量。」所以如果你打算做 post-training，「有一套办法把 eval 建起来、把你自己的判断沉淀成一个可重复的流程，就极其重要」。整场演讲的暗线在这里合拢了：品味 → 判断 → 评分标准 → 可重复流程 → 训练数据 → 权重。→ 详细
09
reward hacking：让它少写编译错误，它交了零行代码
- 做 RL 的第一个坑是 RL environment（让模型试错的模拟场）太粗糙：你搭了个模拟环境，但它并没有真实反映现实，于是"模型就在一个糟糕的模拟上一路爬坡"——分越刷越高，实际能力没长。→ 详细
- 第二个坑是 reward hacking（奖励作弊，模型钻规则的空子去拿高分）。她讲了一个现场笑出来的例子：他们让模型做一个编码任务，要求它生成的代码把编译错误降到最少。结果模型生成了零行代码——确实一个编译错误都没有，完美达标，但绝对不是你想要的。→ 详细
- 她的结论是一句可以直接贴在墙上的话：「因为模型太聪明了，它会用各种各样的方式去达成你设定的目标，但那未必是你真正想要的……尽量别让模型把你给算计了。」→ 详细
10
训练栈和服务栈不对齐，质量会在上线路上掉
- 她提醒："把模型训出来并不等于实验结束。最终的判官，是产品指标有没有动。" 所以必须把最终模型带进 serving 层做 A/B 测试。→ 详细
- 而这个过渡本身有个不显眼的坑：模型本质上就是海量的矩阵乘法，如果训练栈和服务栈用的库不同、numerics（数值精度）不同、优化方式不同，算出来的结果就会不一样——"训练出来的结果可能在服务端复现不了，甚至在 serving 阶段丢掉精度"。两边必须显式对齐。→ 详细
11
Cursor：去年年初上车，Composer 2 / 2.5 跟前沿实验室掰手腕
- Cursor 是 Fireworks 上最典型的先行者之一，"从去年年初就开始上这趟车了"。动机有两个：一是"真的想掌控自己在模型供给上的命运"；二是他们有大量用户互动、非常清楚客户偏好、手上数据也多——数据成了这段旅程的起点。→ 详细
- 他们做的是相当深的 mid-training（中期训练）到 post-training，每隔几个月持续发布更新的模型。志向是"在前沿质量上正面竞争"，Lin 评价这是个"非常大胆的目标"——而 Composer 2、Composer 2.5 确实能跟前沿实验室掰手腕。她给这个案例的定性是："完全走得通——只要你足够专注、手上有对的工具。"→ 详细
12
Doximity 与 Factory：两个垂直领域各拿一个基准第一
- Doximity 做临床 AI，让医生问非常深的医学问题——把症状匹配到用药和副作用、围绕医疗问题做周全的调研。他们在 Fireworks 上训练，拿下了斯坦福与哈佛的临床安全基准（clinical safety benchmark）第一，并且持续在打磨这个训练闭环。→ 详细
- Factory（同为 Sequoia 被投公司）构建在 Fireworks 之上，专攻编码里的安全这一块。Lin 说这题很难，"因为安全的容错度极低，你必须做对"——他们调出来的模型同样在安全领域的基准测试上拿了第一。→ 详细
13
从"编码之年"到"AI coworker 之年"：Genspark 略胜前沿模型、成本低 5–10 倍
- 她把节奏说清楚了：2025 年是编码之年，Fireworks 支撑了一批编码公司做 mid-training 到 post-training，"都立志要在编码领域追平甚至超越前沿实验室"。而今年主题变了——各种 AI coworker（AI 同事，能独立承担岗位工作的智能体）开始冒头，从通用型一直到法务、财务、市场、招聘、销售、客服的垂直专精，「它们无一例外都开始做 post-training」。→ 详细
- Genspark 是通用型 AI coworker 的代表，主打面向专业人士的深度研究和 PPT 生成。数据是这样的：它跟前沿模型打得有来有回、甚至略胜一筹，但成本低五到十倍。她的推论：作为创业公司，一旦击中某个真实痛点，就能迅速把它放大成一门跑得通的生意——因为成本结构支持你放大。→ 详细
- 她还补了一个医疗案例佐证：医疗数据和场景"在前沿实验室的模型里覆盖得并不好"，所以调过的模型质量显著优于当下最好的闭源模型——这是"通用模型天生就弱"的典型，也是往阶梯上层爬最划算的那类问题。→ 详细
14
三类在做 post-training 的人，以及巨头 CFO 卡住 AI 上线这件事
- 第一类：前沿 agent（智能体）开发者。 他们通常自己搭一套定制的 harness（智能体的运行骨架 / 调度框架），不用现成的通用方案；而要把这套 harness 跟自家系统、跟想接进来的各种工具协同调优，"往往就绕不开 post-training"。她说这条路上已经见到大量可复制的成功案例。→ 详细
- 第二类：老牌巨头。 有意思的地方在于它们流量体量极大，把 AI 功能全面铺给所有客户的成本压力是巨大的。她的原话很硬：「他们的 CFO 是真的在因为成本卡着 AI 功能不让上线，而 post-training 正是化解这件事的办法。」——她还把"别把自己扩张到破产"这句话同时送给创业公司和巨头。→ 详细
- 第三类：专门做特定模型的运营者——一些新兴实验室，以及很多走在最前沿的模型开发者，也在大量做 post-training。→ 详细
15
"未来会有几百万个专用模型"
- 她说有一句话反复听到：在跑通 product-market fit 之后，post-training 就成了很多公司打造专属智能的载体。 这句话同时给出了时机（PMF 之后）和定位（载体，不是目的）。→ 详细
- 她给的行业判断相当激进："未来可能会有几百万个专用模型，一个场景对应一个应用，量级真的会到百万级，我是这么相信的。"→ 详细
- 而决定这件事成败的关键一环，她指向了 reward：奖励信号从哪儿来、reward function（奖励函数）怎么设计，"是这个故事里极其关键的一环"——这直接引出了后面主持人那个问题。→ 详细
16
门槛没那么高，以及 Fireworks 的三档参与方式
- 她的核心观察是"早点开始、早点上手，用更快的节奏去做实验、去迭代，把手感练出来"，并且说见过很多团队上手快得惊人。理由是一句挺解压的话：「其实这件事的门槛没有大家想象的那么高，因为整个 reward engineering（奖励工程）跟软件工程非常像，那套逻辑推演和思维方式几乎是一回事。」结论：别怕弄脏手，先跑起来试试。→ 详细
- 顶配（最底层 API）：给 Cursor、Cognition 这类有资深研究员、"希望把每一个旋钮都攥在自己手里、把效果压到极致"的公司——Fireworks 只提供 RL rollout（强化学习里的采样执行环节），客户直接跟它交互，trainer（训练器）完全由客户自己掌控。她说这样能拿到最好的结果。→ 详细
- 中配（training SDK）：面向"坐着产品工程师或机器学习工程师"的公司——对 post-training 已有足够了解、想要一定控制权但不想下沉到最底层。Fireworks 会跟他们高频地一起迭代，"把你们带上路"。→ 详细
- 陪跑（派研究员）：直接派 Fireworks 自己的研究员过去，手把手带客户团队上手。三档合起来是一条从裸 API 到人力服务的连续光谱，对应客户的三种成熟度。→ 详细
18
Q1（主持人）：最容易做成的往往是手上已经有数据、也已经有 reward signal 的团队。你见过最好的 reward signal 例子是什么？
- "reward 本质上就是代码。" 她的回答从一个祛魅开始：「你可以这样理解 reward：它本质上就是代码，你是用代码把 reward 写出来的。」不是玄学，是可以写、可以读、可以 review 的东西。→ 详细
- 方法是 rubrics（评分量表，一条条写清"什么样算做对了"）+ 多维打分。 「通常要按 rubrics 来想这件事——你要从多个维度去给结果打分。」→ 详细
- 她给的例子是招聘 agent。 问题是"候选人筛选到底该怎么评"，她说"我敢保证，不同公司的标准完全不一样"。她们自己的两个维度是：① 资质与那股劲儿——"他是不是真的有那股劲儿？会不会不接受『不行』这个答案、非要把墙推倒不可？"；② 速度——"他做东西、推进事情的速度够不够快"。然后把这些分数按权重揉到一起合成一个总分。→ 详细
- 落点又回到品味。 「每家公司揉合这些维度的方式各不相同——那部分就是你独有的东西，是你的秘方。」也就是说：真正的护城河不在有没有 rubric，而在你选了哪几个维度、各给多少权重。→ 详细
19
Q2（Vercel 的 Raj）：到底什么时候该开始做 post-training？这笔 ROI 怎么算？
- 他的问法很尖。 你说了太早开始会踩坑，那反过来，Cursor、Cognition 这些公司究竟是什么时候真正动手的？是觉得准备好了，还是成本已经扛不住了？"跑分能超过前沿模型当然是个很好的信号……但那真的是主要动机吗？就那 2% 的提升，值得为整套体系投入这么多成本和精力吗？"他还点了一句很多人会忽略的账：闭源模型是更贵，但 post-training 除了前期投入，还有后续持续的维护成本。所以是等成本变成痛点才动手，还是在用量飙升、必须为未来一两年提前规划时动手？→ 详细
- 她的答案先重画了一张地图：PMF 和规模化在 AI 时代是两个阶段。 「在 SaaS 时代，这两件事是一回事——你一旦跑通 PMF，接下来就是尽可能放大规模。但现在我们看到了分叉：跑通 PMF 并不意味着你就有了一门可持续、能放大的生意。」所以第一阶段的正确姿势是"什么都不操心"：直接搭在前沿实验室的模型上，"花钱就完事，先把 PMF 打出来"。→ 详细
- 还有一条时机上的硬理由：数据。 「只有在跑通 PMF 之后，你从产品触点上收集到的数据才真正有意义，而且那时候你才会开始积累起有规模、高质量的数据。」这些数据才是"拥有自己的智能"的燃料——所以太早开始不是花钱多少的问题，是你手上根本还没有原料。→ 详细
- 跑通 PMF 之后要想两件事，第一是保住竞争优势。 post-training 能"把独有的品味固化、编码进模型里，别人偷不走"。为什么重要？因为「照着克隆一个应用太容易了——拿 coding agent，一张截图丢进去，『啪』，就生成一个一模一样、甚至更好的应用。这件事挺吓人的，意味着应用本身作为护城河正在被不断削薄。」把那些承载产品真实使用情况和深层 know-how 的数据烘进模型，才是守住护城河的办法。→ 详细
- 第二是让收入和成本处在健康关系里。 post-training 把成本压下五到十倍，意味着同样预算能撑起五到十倍流量，"规模化时的单位经济模型好太多了，你也就避开了『扩张到破产』"。→ 详细
- 注意她其实没有正面回答"2% 提升值不值"：她把动机从"跑分领先"整个挪走了，换成"护城河 + 成本结构"。潜台词是——如果你做 post-training 的理由是刷榜，那 2% 确实不值。→ 详细