eval generate——没有评测集?它会分析对这个 agent 的了解(trace、instructions 等),自动生成一套以任务遵循度(task adherence)为核心的评测(一批任务 + 问题 + 评判标准);② optimize——本次运行约 45 分钟,对评测确立的指标做爬山优化(hill climbing,小步试探、只保留更好的版本),用"类似 GEPA 风格的循环"迭代候选组合;找到更优版本后 optimize apply 一键把旧配置换成新配置。→ 详细本期为大会演讲,无闪电问答环节。收尾行动号召:想试今天讲到或演示的任何东西,去 ai.azure.com 上手。→ 详细
视频中未给出个人联系方式;产品入口为 ai.azure.com。→ 详细
本期与你的三个知识系统项目(第二大脑、Holdwell 知识底座、agent 工厂)几乎条条命中——这是一场"怎么给 AI 建知识"的方法论演讲,正是你在做的事。
他怎么做的:Pablo 的知识三分法给"第二大脑该存什么"提供了一把筛子——模型内生知识(Intrinsic)已经覆盖的通识,检索系统随手可得的公开信息(Web IQ 那类),都不值得你花精力搬进库里;真正值钱的是另外两类:你的"环境数据"(你自己的笔记、决策、对话记录——别人没有)和"习得知识"(你干活过程中沉淀的判断与模式)。他还强调 token 效率:"用最少的 token 给出信息密度最高的答案"。
你可以怎么做:把这把筛子焊进摄入 SOP——每次收内容先问一句"这是模型本来就知道的,还是只有我有的?"前者只留索引和跳转,后者才值得写成原子笔记。这和你的密度梯度标准同源:信噪比不是写多少的问题,是"存独有、弃通识"。另外他"检索前先反思信息需求是否被满足"的 agentic retrieval 思路,可以反过来用在回顾上:翻库时先明确"我这次要回答什么问题",而不是漫游。
他怎么做的:两条直接可抄的架构结论。① 检索靠组合不靠单招——"整个行业曾以为把余弦相似度算好就万事大吉,结果事情从来没那么简单",向量 + 词法 + 排序 + agentic 反思的组合在真实客户场景里显著更好。② 知识库与 agent 解耦——"每个 knowledge base 本身就是一个 MCP server",独立资产、标准协议对接、零胶水代码;且系统分层,傻瓜模式和专家控制在同一套栈里。
你可以怎么做:你的 code-to-context 底座将来喂给 RAG 时,别在"选哪个向量库"上纠结太久——按他的证据,纯向量检索对 ERP 术语(单号、SKU、状态码这类精确词)大概率不够,词法检索必须在场。更值得抄的是"知识库即 MCP server"这个形态:把 Holdwell 的业务知识底座做成一个独立可挂载的服务,PRD 工厂的三驾马车谁需要谁挂,而不是把知识散装塞进各个 agent 的提示词里——这正好治你"六条产品线强耦合、跨线对齐难"的痛点:业务知识做成所有 agent 共享的单一入口,才有对齐可言。
他怎么做的:learned knowledge 一节是全片最有杠杆的部分。前提只有一个——配置外置化(instructions、工具、skills 写成配置而非硬编码),然后 agent optimizer 走"建 baseline 评测 → 生成候选 → 评测 → 一键换配置"的爬山闭环,连评测集都能从真实 trace 自动生成(eval generate),优化后的指令"不是人手写的,而是从过程中涌现的"。Satya 的说法:这个闭环"捕捉组织的独特之处,形成差异化"。
你可以怎么做:你的 PRD 工厂三个 agent 的指令(.Codex/agents/*.toml)全是手写的,且"agent 产出缺可观测/可验证"正是你自己列的痛点——他给了闭环的最小配方:先攒 trace(每次 PRD 产出留底),再从 trace 生成以任务遵循度为核心的小评测集,然后才谈得上优化指令。哪怕不上自动爬山,"baseline → 候选 → 评测过了才换"这个纪律本身就是可验证性的解法之一:把"评测通过"设为换配置的硬闸门。app_incubator 同理——设计稿即契约已经是外置配置,差的是评测那一环。
更深一层(镜子):Pablo 的三分法也照向你自己——你的判断力操作系统(判断力 > 努力、盯那 1%)就是你的"习得知识",而它现在大部分只存在你脑子里和宪法文件里,没有进入"agent 干活 → trace → 反思 → 改进配置"的闭环。Chief of Staff apps 想做的季度回望,本质上就是给你本人跑一次 agent optimizer。
(StockHelp / 小红书号:本期无直接关联,略。)
怎么做的:Pablo Castro(Microsoft 检索负责人)给了两个可验证的论断:① "每个 knowledge base 本身就是一个 MCP server"——知识库该做成独立资产,agent 谁需要谁挂,不写胶水代码;② 组织的护城河不是模型而是"习得知识"——agent 干活留 trace,从 trace 反思出改进,优化后的指令"不是人手写的,而是涌现出来的"。
你可以怎么做:①是一篇中等强度的 C 类候选——《微软大佬说"知识库就该是个 MCP server",我把一人公司的共享知识从提示词里拆出来试了两周》:把 drizzle tech 散装在各角色提示词里的公司知识抽成一个共享底座,晒拆分前后各角色的口径不一致次数和上下文 token 账单,可抄物是"哪些知识该抽出来共享"的三问清单。自检:不做拆分实验这篇就只是名词科普,不发。②暂时写不了——你的流水线还没攒够 trace,先记进选题库,等第一个 App 走完一轮再验。
所以呢:这周就能做的一件事——给 Holdwell 知识底座定一个"知识库即服务"的形态目标(独立入口、标准协议、所有 agent 共享),并从下一次 PRD 试点开始留 trace:没有 trace,学习闭环永远是 PPT。