Notion 的 Token 小镇——Sarah Sachs(Notion)

Sarah Sachs · AI Engineer

AI 产品投资

视频 23:55 原文约 2.2 万字预计阅读 13 分钟来源视频 ↗ 中英对照全文

原平台热度 YouTube ↗

1,894观看

43赞

2.3%点赞率

4评论

62.7万频道订阅

数据截至 8 月 27 日

双人对谈 · 本期速读电台 00:00 / 15:54

TL;DR · 三句话

一Notion AI 工程负责人、"靠谈 AI 合同为生"的 Sarah Sachs 拆穿每月准时上演的两个陷阱：推理模型"升级"后单价没变、却偷偷多烧 3 倍 output token（输出 token）；或新版本贵 40%、还逼上一代在 4 个月内弃用——可你并没有同期增长 40% 或营收翻 3 倍，所以无脑自动升级就是在坑客户或坑投资人。→ 详细
二她的核心判断是"你的供应商就是你的竞争对手"：向一个既卖模型、又卖第一方产品的实验室买 token，等于为一份守不住的价值付"加价之上再加价"，一旦锁定就没有退路——所以要把每家供应商都当对手，靠 model-agnostic（不绑定特定模型）保住"可选择性"这唯一的筹码。→ 详细
三真正的护城河不在 token 经济学，而在产品、数据飞轮和"按每能力·每秒成本"精细路由——Notion 的 auto model 用便宜模型扛掉约 75% 流量、能用确定性代码解决的（CSV 转 PDF、SQL 查询）就别用 LLM，这才是不从"AI 富裕"滑向"AI 破产"的活法。→ 详细

谁在讲 · 这场讲什么：Sarah Sachs，带 Notion 的 AI 工程团队，自称"靠谈 AI 合同为生"；团队开玩笑说她做事像 Vogue 主编 Anna Wintour（她还给自己 P 了张 AI 版发型图）。主题叫 Token Town（代币小镇）：怎样才能不从"AI 富裕"一路沦落到"AI 破产"（AI rich → AI poor，讲者的双关，对应后文的 "token poor"）。今天全场都在聊 software factory（软件工厂，指把一堆 AI agent 串成流水线自动产出工作），她要聊的是怎么可持续地做。→ 详细
Notion 定位 · AI 转型四阶段 · 88% 卡关：Notion 是"durable system of record（持久记录系统，团队协作的唯一事实源）"，只是今天协作方从人-人变成人-agent、agent-agent。AI 演进四段：思维伙伴（三四年前感恩节初代 ChatGPT，帮你给房东写邮件）→ 助手（执行单点任务，Notion AI 早期靠这个火）→ 队友（约一年前推出）→ 系统（流程互相对接、整套运转）。现场几乎无人举手说搞定了"AI 作为系统"；她抛出数据：88% 的人连"助手"这关都过不去，Notion 归因于数据太孤岛化 + 缺一个持久记录系统兜住协作节点。→ 详细
成本是结构性门槛：搭这套很烧钱，她放了一周内一串诉苦的新闻标题，还比喻成"拿喷枪去点一支大雪茄"。成本是进入门槛，让你难以支撑产品、难以搭工厂，是当今很多事无法规模化成功的最大原因之一——做应用型 AI 的人必须吃透其中取舍。→ 详细
【核心】每月准时上演的两个陷阱：例 A——一个 reasoning model（推理模型）升级了，per-token（按 token 计）单价没变，听着白赚，可你一跑，它烧的 output token 是原来的 3 倍。例 B——模型换代，版本号整个进一位，比上一代贵 40%，而上一代在接下来 4 个月内就被弃用（deprecate）。这俩都是 Notion 每个月真实碰到的场景。→ 详细
【核心】灵魂拷问：那你凭什么自动升级？：这段时间里你增长 40% 了吗？营收翻 3 倍了吗？没有。所以你要是把所有在用模型无脑自动升级，就是在让某个人吃亏——要么坑客户、要么坑投资人，取决于你怎么收费、钱从哪来，两种都不是好事。→ 详细
谁有筹码 · 她为谁发声：财富 500 强（Fortune 500）雇得起咨询团队、养得起长期团队去权衡取舍；其余人没筹码、被困住。她把自己的活儿定义成"为『财富五百万强』发声"——那几百万家非 500 强、没体量却同样得想清楚怎么办的公司，把自己背靠大流量学到的经验适配给没流量的人（四个月前这还算"秘密"）。→ 详细
【核心 · 金句】你的供应商就是你的竞争对手："Your supplier is your competitor"——几乎没人能说服她这不成立。你从"自己原生造 token"的实验室买 token，永远是烂交易：他们卖的是 first-party（第一方，自营）产品，COGS（cost of goods sold，销货成本，即营收里为交付服务直接烧掉的钱）差得离谱；你以巨大的 markup（加价）买进，再加一道 markup 转卖出去——这不是你守得住的价值。把自己绑死在一家 provider（供应商）身上就没有退路（no exit）；用这种结构去卖 AI 产品，等于交叉手指、祈祷自己还能是门活得下去的生意，她明确不鼓励。→ 详细
佐证：Dylan 的价差分析：她引分析师 Dylan（原文只念了名，大概率指 SemiAnalysis 的 Dylan Patel，但转录未给全名）一份分析——买个订阅套餐一比，Frontier Labs（前沿实验室）对自营产品收的价，和它们卖 token 的价，差距一目了然，就是烂交易。→ 详细
【核心】别在 token 经济学上赢，去赢产品：别玩这个游戏（要玩就回头告诉她你怎么赢的）。取胜不靠 token economics（代币经济学），靠产品、靠数据飞轮（data flywheel，用得越多→数据越多→产品越好→更多人用的正循环）、靠比谁都更懂你的客户。你的活也不是训模型——"Bet on the frontier, not on the lab"（押注前沿能力，别押某一家实验室）；真在训最强模型的会后来找她，但大多数人不是。→ 详细
【核心】成本要按"每能力·每秒"算 + Citadel 备忘录：关键取舍是"cost per capability per second（每单位能力、每秒的成本）"，不是单看 token 单价。她很喜欢 Citadel（对冲基金/做市商）约两周前的一份备忘录：对整个经济体，更简单的模型也许才是最具性价比的生产力路径，存在"前沿 vs 日常"的分化。而什么算前沿、什么算日常、什么算"能力已饱和 / 能力富余（capability overhang，模型能力用不完）"，取决于你对自己产品的专长，没人能替。→ 详细
【核心】不是所有流量都等价：把所有请求都甩给最新 Opus（Anthropic 最强档模型）是巨大失误。大规模数据分析这类活，Notion 确实会推荐 Opus；但只是整理个邮箱收件箱还上 Opus、还收你钱，那就是既坑客户又坑自己。先看清你自己的流量分布模式。→ 详细
【核心】加油站经济学：价格≠能力：前沿实验室实质是寡头垄断（oligopoly，两三家把持顶端）——这没问题，他们在争顶尖，顶尖既难又重要。定价逻辑很简单：你要么是最好模型，"AI 今天做不到的"之上都是你的市场，想定多高定多高；只要你稍落后，每百万 token 便宜大约 1 美元就能吃下剩下的整个市场（像加油站理论——最好的加油站往往紧挨在一起，好最大化覆盖东西两向客流）。结论：价格和能力增长并不成正比。应用型公司若在营销上高调只站队某一家实验室、不做 model agnostic，对她是危险信号——因为最强前沿每个月都在换家。→ 详细
【核心】可选择性就是你的筹码（锁定是最贵的决定）：为了拿更大折扣把自己绑到一家，等于差不多一半时间在坑客户。"Optionality（可选择性）就是你的筹码"——任何时候你都没有"掉头走人"的能力，你就被困住了。她认为这是你会做的、代价最高的一个决定：不管折扣多大、不管为实现模型互操作性要写多少工程代码，都不值得用被锁定去换。→ 详细
【核心】Model-agnostic 实操手册 + auto model 扛 75% + "AI 界瑞士"：应对之道是保持 model agnostic——系统里备好不同模型/能力，一旦某家定价不公或难以为继，你不至于就此关门。Notion 的 auto model 做得好：最先进模型始终在架，最上层一个 auto model（自动路由）扛了约 75% 的流量；这套切换能力也开放给客户，让他们免于 vendor lock-in（被单一供应商锁死），这是"AI Switzerland（AI 界的瑞士）"策略。手册要点：为多模型（multi-model）设计（对话中途清 cache、再切模型很难，Notion 为此投了技术，且不必做到每个 thread 都能切）；把你的 harness（调度框架）直接当成"模型互操作层"来设计。→ 详细
给实验室回报，别用巨额承诺换折扣（Parallel 例子）：和 Parallel（Notion 的网页搜索供应商）合作时发过一份评测：只看单次调用延迟、或只看单次成本，Parallel 未必最便宜；但看"整条搜索轨迹（trajectory）"就看出差别——正是这份 eval（评测）的细粒度让 Notion 能替客户做最优决策。"快切、勤切"；同时也要给前沿实验室回报——你在具体场景上的专长很值钱，用 eval 合作去换，比签超大额 commit（承诺用量）强，因为折扣永远不值得损失可选择性。→ 详细
【核心】Open weight 是可信替代 + 谈判筹码：中等难度任务，认清 open weight（开源权重模型）的位置——它已经够强，在其之上做 RL（强化学习微调）还拓宽了它能吃下的高端市场。它为客户降低成本门槛，也给你谈判筹码，对寡头形成向下的价格压力（否则顶端两三家垄断下这种压力根本不存在）。她举例时 ASR 把版本号念糊了：某开源模型（听着像 Kimi K2）第一次表现超过某同期闭源前沿档（听着像 GPT-5.2），另一个开源模型（听着像 GLM-5.2）也是重磅——具体版本号请以官方为准，要点是：如今 open weight 早已不只适合在小任务上做 SFT（监督微调）。别只盯外部 benchmark，要懂自己系统的工具报错率、真实延迟需求。差距终会被追平：今天够用，半年后大概率被 open weight 覆盖，现在就该备好。（Baseten 的 Philip 那张幻灯片她"偷"来一直用，核心是"你不必做到最顶尖"。）→ 详细
【核心】CPU 优先于 GPU：很多活根本不该用 LLM：Notion 新上线了叫"workers"的东西。不是每个任务都要 GPU：把 CSV 转成 PDF 不需要 LLM，有 CLI 时去调 Notion 的 tool call 不需要 LLM，跑确定性 SQL 查询就更不需要 LLM。人们就是在这种地方很快变得"token 贫穷"的。→ 详细
治理 + 收尾建议：除了 open weight、CPU、可选择性，最后一招是治理（governance）：可见性（谁在用数据）、可维护性、可控性；有了模型可选择性，你能给客户的东西就多得多。三条总建议：想架构、想 open weight、构建超越 token 本身的价值。→ 详细
下半场：安全才是未来半年真正的坎（致命三要素）：她判断未来六个月的挑战不在能力、在安全。援引 Simon Willison 的"lethal trifecta（致命三要素）"：能访问私有数据 + 暴露于不可信内容（摄入 / MCP / 邮件）+ 能对外通信（含网搜里夹带的攻击 payload），三者齐了就在暴露风险，越自主越无人监管。sandbox（沙箱）、computer（电脑操作）能带来更好的确定性和 token 经济性；她强调"企业知识的持久化"被严重讨论不足。→ 详细
Notion 软件工厂现场演示：别让工作流沦为"整个工程团队给工厂当保姆"——agent 编排是最难的一环。今天上线的 managed agent（托管智能体）演示：在"活文档"里让 Claude 把任务 scope out（厘清范围）、自动生成 spec；不懂就 tag 进团队（PM 是 MJ，这次她也不知道）；客户声音 Claude Code 未必最强、但合作伙伴 Decagon 的 agent 擅长收数据；问过 TL（技术负责人）后让 Claude 开 PR，再让 Codex 复审（挑出两个问题）。要点：多个 agent 编排协作、不绑定任何一家实验室，你绑定的是"AI 增强并自动化你所做的事"这个理念。（她顺带让同事 Tay 去劝大家买 Notion AI。）→ 详细
真实内部用法 + ROI：她征得 Rajeev 同意公开：Notion 内部几乎所有打磨与大量反馈都由软件工厂协调完成——写给对的团队 + 让编码智能体（coding agent）先迈第一步；Vercel 的 staging→shipping→closing 也这么干。客户侧看到巨大 ROI，单个任务省下超过 3 分钟——没有可选择性、没有"哪任务配哪模型"的笃定，这些都做不到。→ 详细

闪电问答 / 收尾

本场无正式 lightning round（闪电问答）。收尾她给自己的销售/招聘信条打了个广告式的注脚："永远在成交、永远在推销、永远在招人（Always be closing. Always be selling. Always be hiring.）——欢迎来找我。"→ 详细
临别反思：外面的世界真的很疯狂，市场还很年轻、异常不透明、变化飞快；她特别感激像 AI Engineer 这样的社区能把大家聚到一起坦诚交流，并呼吁"我们有责任为所有客户把这件事做对、并在一起摸索时保持批判性思考"。→ 详细

联系方式

她自称"常年泡在网上（chronically online）"：可以在 Twitter 上私信她、给她发邮件，或会后直接来找她（也在招人）。→ 详细

接着读

NO.93 · Agent 工程光有 harness 工程不够:软件工厂为什么失败——Dex Horthy(HumanLayer) Dex Horthy · 11 分钟 NO.92 · AI 产品你的护城河是你的数据模型——Mike Phipps(盖茨基金会) Mike Phipps · 11 分钟