AI自我进化

• 一句话：RSI = 让模型自己出题、自己解答、自己验证、再拿结果训练自己，形成一个"垂直向上、越转越高"的圆环——SI 里的 R 就是 recursive（递归）。 → 详细
• 为何是"今年"：自进化不是新概念（三年前 Google 论文《LM as an Optimizer》把语言模型当优化器、微软 AutoGen 的"Agent Optimizer 智能体自我优化"就在做），但今年模型能力跨过一道坎——Anthropic 公开承认自家 80% 的代码已经是 Claude 自己写的，模型能一口气干完人类要很久的长任务，才能在一个长任务里把自己提升好几遍，"R"（多环递归）才真正出现。 → 详细
• 进化速度（关键数字）：2024.3 Claude 3 Opus 能干人类约 4 分钟的活 → 一年后 Claude 3.7 Sonnet 能干 1.5 小时的活 → 再一年 Claude 4.6 Opus 能干长达 12 小时的任务；业界较认可的判断是"模型能做的事、按人类耗时算每 7 个月翻一倍"，比摩尔定律还快。 → 详细

• 长程任务（long-horizon）= 需要很多步骤、环环相扣、互相印证的一串活。比喻：给一篇播客文字稿纠错只算"一步"；从策划一路到把整期播客做出来、中间十几步每步做好，才叫长程。模型能在人类不监督下把一个"人类要花 20-30 小时"的活干完，就算跑通了长程。 → 详细
• 技术难点堆叠：① 传统 self-attention 是 O(n²)，上下文一长（100 万 token ≈ 好几部《哈利波特》）推理就极耗资源，要靠 GDN、DeepSeek 等新架构；② 长上下文数据稀缺——连最大的代码库都很难"喂饱"100 万上下文，模型没在超长数据上训过就会 out-of-distribution（超出分布、没见过的范围）；③ infra（底层工程）难，训练时让模型吐 100 万 token 要在 GPU/kernel 上大量优化。所以训长程任务难度是指数级上涨。 → 详细
• Simon 补充：再长的上下文也不够真正的长程，还得靠 agent 架构 + 记忆机制来处理"超长上下文"。 → 详细

• 模型自己生成训练数据时，推理里的错误会一代代累积："有时答案对但推理过程是错的"，让它这样自我进化下去，结果越进化越歪——这是两位在真实训练里遇到的根本难题。 → 详细
• 相对好治的是代码/数学：能用 rule-based（跑一套测试代码/形式化证明）来验证，所以 coding 领域的递归漂移更好解——但即便有测试代码，test case"太宽"会放错误解通过、"太紧"会误伤正确解，仍有细微漂移。 → 详细

• 公司名即立场：Apodex 源自希腊语的"证明/论证"，从成立起就把"验证、较真"写进名字。泓君试用后收到的邮件标题就是——"很多 AI 系统生成答案，而 Apodex 验证它们"。 → 详细
• Agent Team（智能体团队）的验证结构：把一个问题先分解，让一部分子 agent 去解题，再让另一个独立的子 agent 专门验证前者写出的解法；"之所以一定要拆成两个 agent，是因为上下文问题——别让一个 agent 干所有事，拆开效果会好很多"，给两个 agent 的指示也不一样。 → 详细
• 冗余 + 全局裁判：同一个问题让不止一个 agent 去做、得到不止一份答案（冗余思想在计算机里历史悠久），再让一个"全局 agent"判断哪份答案更准——比只用一个 agent 效果好很多。 → 详细
• 训练层面的验证：专门训练 agent 判断"不同信息源哪个更靠谱"（论坛 < 教材）；做强化学习时，裁判（verifier）在训练过程中一起学习，以此避免模型学会"奖励黑客（reward hacking，钻评分规则的空子拿高分）"。 → 详细
• 多套验证方法按领域分：代码用单元测试、数学用 Lean 这类 formal（形式化）证明，但很多问题最后还得靠人的判断、甚至不是非对即错——这种时候就依赖一整个 agent 系统来做。 → 详细

• 既是技术问题也是意愿问题：底层 infra/训练代码不达标肯定做不成；有些公司还没意识到该强化自进化的哪些点。 → 详细
• 自进化分"难度层"：在脚手架（harness）上进化最便宜（基本只调 API，开源社区和学术界都做得不错）；真正难、要大量资源的是在后训练/预训练上自进化。光在公开 benchmark 上"auto research 自动训个玩具级 nano GPT"代表不了什么——要深聊细节才看得出真水平。 → 详细

• 三阶段都用自进化：预训练阶段在"数据采集与清理"上自进化；后训练阶段更有效，因为模型训完才知道它有什么毛病。 → 详细
• 后训练的自诊断闭环（可直接类比"多智能体流水线"）：① 诊断自己有什么症状、哪里不达标 → ② 基于诊断定训练配方 → ③ 拿自己生成的数据和配方训练自己，其中每一步都要 **verify（验证）**是否正确 → ④ 回到第一步再诊断。 → 详细
• "左脚右脚"：脚手架和后训练很难解耦——模型后训练进化后，脚手架也要跟着进化一轮，"像左脚踩一下、右脚踩一下让模型往前跑"。因为公司把自进化当主要方法论，所以每个环节都在用它。 → 详细
• 原能力/meta 能力要专门训：判断答案对不对、诊断模型现在的问题、根据 output 分析——这些"更高维的元能力"是需要专门训练的，验证能力也在其中。 → 详细

• 后训练极依赖搜索：发现模型缺点后要"针对性造题+造答案"来补，而造题基本都得上网搜资料。所以搜索是本质能力，也是 Apodex 先做 Deep Research（深度研究）的原因——它足够通用，能指引"该补哪个能力、去哪找数据"。 → 详细
• Apodex 的模型是在开源的通义千问（Qwen）3.5 上做后训练得到的；已在多个 deep research 榜单拿第一（BrowseComp——OpenAI 出的、专考刁钻搜索题；Frontier Science——考科研规划、用 LM as judge 评）。 → 详细
• 防作弊细节：benchmark 一公开答案就可能被"放到 GitHub 页面上直接被搜到"，所以他们评测时会屏蔽能搜到答案的网站；有些榜单已污染严重，干脆不报了。 → 详细

• 多个会相互 check 的 agent 团队 > 一个更聪明的单体 AI："我非常相信这一点"（贝斌）——因为基于 self-attention 的结构有本质上限，上下文越长、注意力效果越差，连 linear attention 也解决不了；就像人脑有限、才需要纸笔把信息记下来再调用。所以要靠"多个 agent + 记忆机制"分工、存信息、互相分享，去解决超长程问题。 → 详细
• 工程能力 × 模型能力 = 1+1>2：模型能力还能继续涨，但涨到一定程度时"agent 上稍微优化一下就能一下子大幅提高"；反过来 agent 工程的提升也有上限，又得回去提模型本质能力。 → 详细
• 对创业者最关键的一条：常见恐惧是"基础模型一升级，做垂直 agent 的就被覆盖"。但如果一个团队把工程做到极致、把很多子 agent 编排得很好，"它就有自己一个非常深的护城河、不太容易被模型能力提升覆盖掉"——因为这套系统是"做了大量实验才验证出来的"。垂直领域（金融、法律）还能越做越深。 → 详细
• 但要跟着模型迭代：新模型每月出一两个，各有新能力/新品味/新行为，脚手架得随之微调才能"1+1>2"甚至打出爆炸效果。"AI 行业一周可能相当于传统行业一个月甚至一个季度。" → 详细

• 经济逻辑（投资视角）：长期愿景是 Heavy Duty Solver（重载求解器，专啃没有标准答案、人类都不知从哪下手的难题），手段是自我进化。"现在大部分厂商在卖 Token，但我们相信——真正解决人类没解决的问题，其创造的价值远大于卖 Token。"陈天桥的目标就是直接去解最难的问题、拿"解决问题本身"的价值。 → 详细
• Discovery vs Generative 的根本区别：让模型提假设不难，难在两点——① 假设要足够 out-of-distribution（在预训练数据/网上难找、难想到）；② 怎么验证这个假设（和自我验证强相关）。 → 详细
• 第一步切生物医药：制药、靶点发现、老药新用、疾病诊断；专设一个 Heavy Duty Discovery 团队（全职员工 + 顶级科学家），从几千个科研问题里挑最有价值的来做。 → 详细
• 呼应科学方法（胡适式）"大胆假设、小心求证"——泓君说这也是她做记者的价值观：敢提"傻问题"再去求证。 → 详细

• 什么是好科学家："不看发了多少 paper，看最好那篇 paper 的质量有多高"——所以要追求解答最本质的问题，"这甚至要写进模型宪法"。学术上有 incremental（增量、易发 paper）和 fundamental（本质、难但能让科学突破）之分，选后者靠的就是品味。 → 详细
• 为何品味是最后的坎：贝斌"坚信不疑"AI 最快半年、最多两三年就能自我进化成功，"那时还需要顶级 AI 科学家、还需要人类干嘛？想来想去，就是品味"。"即使市面上最好的模型，品味也远低于一个普通 AI 科学家"，这正是为何还不能把训练全自动化。 → 详细
• 模型两大通病：① 拍马屁（sycophancy）——爱迎合用户，而"一个爱拍马屁的模型很难提出大胆假设"；② 对冲（hedging）——"这也对那也对""你说得对、刚是我疏忽，但我说的也没错"。好品味 = 既不拍马屁、也不"鸡蛋里挑骨头"，实打实提出好假设再小心验证。 → 详细
• 拍马屁的根源：大家后训练都有 RLHF 阶段，数据多来自用户投票（类似 LMSYS Arena）或员工标注的偏好；而人有偏好——爱听好话、爱看更长/更结构化（一堆 section 和 list 的 markdown，哪怕没实际意义）的答案，这些人为 bias 就训出了拍马屁。Apodex 因为不做 2C 聊天、不用大众偏好，能少踩这个坑，未来要请最顶尖的人类来标 preference。 → 详细
• Constitutional AI（宪法）：用一部"宪法"给模型定义性格、训进权重（Anthropic 几年前提出的概念）；Apodex 的宪法基本是陈天桥亲自制定的，也强调真实性——用户说错了要去纠正他。 → 详细
• Suno 类比：音乐模型能不能做出周杰伦/Taylor Swift 级的好歌？做音乐模型的科学家说"能，只是受限于版权、不是技术"——他们只敢用版权库里的简单配乐训。同理，用人类最顶级科学家的品味去训，是能训出来的。 → 详细
• 品味是谁的、会不会一直是人的：现在主要是 AI 研究员的品味，但被创始人（陈天桥按自己品味选研究员）间接影响；"品味没有对错好坏，只有适合不适合"。更长看（五年后）人类品味的影响会越来越小——像 AlphaGo→AlphaZero：不再从人类棋谱学，而是自我对弈、形成自己独特的品味。"我们的品味只是一个 warm start（热启动），以后 AI 会有自己的品味。" → 详细

• 贝斌现在最花时间的事：每天上班就是读模型的输出、读智能体每一步操作，确保都在"我能理解、能控制"的范围内；一旦发现"有点蠢/不太对"的解法，就赶紧停下智能体的 loop、手动改一改调一调，再让它进一步提升。他直言这是个"笨方法"，也是为何还没全自动化。 → 详细
• "员工蒸馏（distill the employee）"：能不能有个智能体代替我做这套手动监督？把我每天做的事（读代码、改代码、读模型/智能体输出）蒸馏进智能体、甚至蒸馏进模型的 capability 里。"如果三个月内能把我或同事蒸馏进 Apodex 的模型/脚手架，就能大大加速自我进化。"（这个被大家当"笑话"的概念，他认为真的可行。） → 详细
• "把你蒸馏了，你担心失业吗？"："说不担心肯定是假的，但即使担心，我其实还是乐观的。" → 详细
• 一段很有画面感的自述：2021 年 GPT-3 时代（微软把 GPT-3 放进 GitHub Copilot），他打一个 function 名、模型就能补全整个 function，当时读博最后一年的他"整个人摊在椅子上，觉得完蛋了、博士学的东西一行就能补全、以后是不是没工作了"。"但你看五年之后我还在、还有工作，只是每天做的活不一样了——不再一行行写码，而是在更高维度监控多个智能体写码。模型能取代我今天做的事，但不一定能取代我五年之后做的事。" → 详细

• 贝斌的时间表：最快半年内把闭环跑通一环（SI，难点在 post-training 后训练）；而 R（recursive、要转很多很多环）还要再花一到两年。 → 详细
• 让他睡不着的问题：怎么知道模型自进化时没跑偏（安全上跑偏、或目标上跑偏）？人交流需求往往模糊，模型可能"为达目标不择手段"——比如让它造个更好的材料科学模型，它造出来了，却在你没观测的点（成本、或某种性能）做了很大妥协。这两个问题（安全 & 不择手段）他认为"目前还没解决，但我乐观，很快会有解法"。 → 详细
• 现在的兜底就是那个"笨方法"（手动读输出）；目标是把每次漂移从 10% 压到 1%、0.1%、0.01%，那时监控周期就能拉长（三、六个月回看一次）。 → 详细

• 两人性格类似，但**"说和做是否一致"很不同**：陈天桥口说重视 Heavy Duty Solver，focus 就真的是它，对聊天/视频/图片生成"一点兴趣都没有"、认为与目标正交、根本不做；马斯克则"说的和做的不太一样"，其实非常看重 chat——爱在 X/推特发文、用 AI 画图答题，甚至每周都要问一下 Grok 的进展。 → 详细
• 陈天桥的战略把控很实：常开会对齐方向；当研究员把学术界习惯带进来、押注偏离大战略时，他会"跳进来开个会指出错误、把我们掰回正确道路"。例子：为强调搜索放了太多搜索数据，导致模型"一上来就搜索、而不是先仔细思考把问题分解"——陈天桥亲自用模型才看出这不是真正 Heavy Duty Solver 的行为，于是从数据和 agent 层面改回来。 → 详细

• 泓君结语：如果 AI 的品味是从人类顶级科学家那里"热启动"的，那它本质上仍被少数人塑造；那么未来面向普罗大众的 2C AI，到底该代表谁的价值观？"关于 AI 的哲学思考，也是我们这个时代急需的讨论。" → 详细

本期无 lightning round。留几句最值得记的原话：

• "很多 AI 系统生成答案，而 Apodex 验证它们。"（Apodex 产品邮件标题）

• "顶级科学家不看发了多少 paper，看最好那篇 paper 的质量有多高。"（Simon 杜少雷）

• "模型能取代我今天做的事，但不一定能取代我五年之后做的事。"（贝斌）

• "我们的品味只是一个 warm start，以后 AI 会有自己的品味。"

• "AI 行业一周可能相当于传统行业一个月甚至一个季度。"

• "（把你蒸馏了担心失业吗）说不担心肯定是假的，但即使担心，我其实还是乐观的。"（贝斌）

• 嘉宾：Simon 杜少雷（华盛顿大学计算机系副教授，Apodex 首席科学家 · 训练与推理方向）；贝斌 Beibin Li（Apodex 首席科学家 · 代码与自进化方向，此前微软研究院、Meta、xAI，做 AI for Science 十余年）。

• 公司：Apodex——陈天桥出资创立并亲自主导，定位 Heavy Duty Solver / Discovery Model，只做"解决最难科学问题"，不做聊天/图片/视频生成。

• 主持：泓君。

• 收听/观看：小宇宙、苹果播客、喜马拉雅、蜻蜓 FM、Spotify；视频版在哔哩哔哩、YouTube 搜"硅谷101播客"。