软件工程不是写代码

• Benoit Schillings 自嘲在机器学习领域是"新人"：一年半前还在 Google X（做出 Waymo 无人车、Google Glass，"有成有败"），那段经历教会他如何在 DeepMind 这样的地方带研究团队。→ 详细
• 他在 DeepMind 团队的使命定义得很精确：开发让 Gemini 在"1 个月到 1 年内"变强所需的任何技术——下限 1 个月，因为一周内要用的东西是完全不同性质的工作；上限 1 年，因为没人能预测更远。团队除代码外还做推理演进、网络拓扑、强化学习基础科学。→ 详细

• 2018 年他们在 X 启动 Pitchfork 项目，研究 ML 如何改进代码编写——目标是压缩"一个小改动要等三天 review"这类拖慢开发的循环。在 Google 内部展示时"根本没人搭理"："你为什么会需要 ML 来写代码？"但他们同时也完全低估了这件事的发展速度。→ 详细

• Benoit 写了 45 年代码，从给 Apple II 和 Commodore 64 写游戏起步，科班出身是汇编。他的鄙视链亲历：写汇编时怀疑编译器"这玩意儿编译得对吗"→ 用 C++ 后看不起垃圾回收语言"那不是真正的编程"→ 今天他用 Python + vibe coding。"老狗也能学会新把戏。"→ 详细
• 当年他也曾对"用英语写代码"（vibe coding）完全不屑："我们有编程语言就是为了这个，英语可不是编程语言"——"看来我在这一点上错得离谱。"→ 详细

• 时代一：机器是瓶颈。计算稀缺，要榨干机器每一分算力，那是汇编年代，写代码必须极其精确。→ 详细
• 时代二：人脑是瓶颈。算力便宜后进入云时代，很多问题可以"靠算力硬解"，真正的瓶颈变成模块化设计能力——怎么建库、写函数、把问题拆成长期可维护的结构。而这套软件流程的底层限制其实是人类工作记忆：普通人只能同时装下 7-9 个 token（虽然人类的 token 信息量很丰富），对比之下模型的 context（上下文窗口）"很快就基本上无限了"。人类这个生理局限塑造了过去所有软件的写法。→ 详细
• 时代三：AI 前沿时代——写代码本身不再是挑战，瓶颈整体上移（见下）。→ 详细

• 金句本尊："软件工程不是写代码。软件工程是你入职一家公司的第一天，发现代码库里躺着 3500 万行 PHP，而你需要在上面做改动——那一天你才真正明白什么叫软件工程。"管理这种极端复杂度、把它拆成可控单元的能力，正是 frontier（前沿）模型仍在攻坚、尚未拿下的地方。→ 详细
• 语法生成已是超人水平，别再纠缠："写代码的细枝末节——你可以争辩、可以找反例，但那个时代已经过去了。"他上次看着 Gemini 写的函数觉得"我能写得更好"已是遥远往事。承认这一点，才能看清剩下的仗在哪打。→ 详细
• 真正的瓶颈是"确保代码是你真正想要的"：写代码容易，但把一个具体问题真正需要什么讲清楚、规格化出来，难得多。所以至少近期，人类的角色是架构师——思考"让 ML 去设计的这段代码，究竟有哪些深层影响"。→ 详细
• 归纳式思维（inductive thinking）是人类第二个明显占优的领域：在更宏观的上下文里审视一个系统，从中发现模式，并基于模式做决策。模型目前恰恰不擅长这个（见主题 9）。→ 详细
• 判断力的天花板在架构层：他举 Google 架构与 Jeff Dean（Google 传奇工程师、核心架构师）为例——那个层面的思考牵涉硬件优化、安全管理、以及"怎么把系统设计好，让你十年之后不会追悔莫及"。这才是今天要攻克的进步空间全貌。结论一句话："写代码结束了，但要做的事还多得很（code is over but there's plenty to do）。"→ 详细

• 当年选代码做 Pitchfork 有两个独特优势：① 数据海量——直接抓 GitHub；② 验证成本合理——代码能跑、能编译、能过单元测试，"模型生成的对不对"相对容易判定。这两点把行业带到今天。→ 详细
• 但训练数据用完了：他估计如今 GitHub 新增代码约 80% 是机器生成的——"人类贡献知识、供模型挖掘训练"的模式正走向终点。→ 详细
• 好消息是可以 self-play（自我对弈）——DeepMind 的看家本领：AlphaZero 不靠任何人类知识、纯自我对弈就达到超人围棋/国际象棋水平。代码 frontier 模型现在也到了能"自己给自己出题"的阶段。→ 详细
• 他的思想实验：把一位出色的工程师关进房间两年、只管送披萨，任务是"变成更好的工程师"——这个人会给自己出可自我验证的挑战，然后不断打磨。模型同理："数亿小时的 self-play 写代码"就是通往下一层的路，能走多远只是算力和自我对弈时长的问题。→ 详细

• 行业的地基假设塌了："我们建立起的整个软件工程文化、基础设施乃至一整批公司，都建立在一个假设上：写代码是最难、最贵的部分。而现在写代码已经免费或近乎免费了。"直接推论：代码产量将爆炸式增长。→ 详细
• 爆炸带来两个棘手问题。其一是设计与适配性：面对那座动态生成的代码大山，怎么在微观层面保证系统依然可用、可靠？——"这是人类可以发挥重要作用的地方（Great role for human）。"→ 详细
• 其二是我们在写代码，但已经不怎么读代码了。他敢预测：一年之内，模型生成的代码将没有人真正去看——就像编译器：今天还有谁检查编译器输出的汇编？"也许还有那么一两个人，但基本到头了。"所以核心问题变成：需要建立哪些新流程，让这一切保持可控。→ 详细

• 模型审代码能发现"数量多得离谱"的漏洞，大家抢着修补，但这会是永无止境的过程：发现一层→修掉→模型更聪明→挖出更隐蔽的一层。所以"对代码安全和影响的思考，至少要和写代码本身一样多"。→ 详细
• 圣杯（他团队正在攻关）：不是"检测漏洞再修"，而是教模型从一开始就写出正确的代码——"非常非常难，因为高度依赖上下文。"→ 详细

• 今天的模型仍不擅长知识迁移：把一个领域的知识用到另一个领域、或拿两个概念找交集做演绎推理。要用 ML 建复杂系统，必须教会它这个——尤其是正确的规划：面对极复杂的问题，判断"哪种问题分解方式带来最好的清晰度和正确性"。→ 详细
• 评测方式也得改：SWE-bench（业界主流代码评测集）"在我这儿有点臭名昭著"——它只验证代码能不能跑通、输出对不对，而那只是软件工程的一小部分。他主张加入开放式问题，例：给模型 10 MB 代码，让它写最好的无损压缩器，损失函数 = 压缩后文件大小 + 压缩器源码大小——"这个问题没有尽头"，正是这类题会逼模型做真正新颖的事（如创造全新算法）。→ 详细

• 今天的推理是"代码链"（chain of code，类比 chain of thought），很成功，但人类思考远比这复杂——他认为写代码是很视觉化的活动（脑中的框图、数据流动路径），"代码只是吐出来的一串 token"这条路只能走到某个程度。Gemini 从一开始就定为多模态，模型正开始学会用空间、动态表征解题——他认为这将成为必备能力。→ 详细
• 一个反直觉的提议：是时候为模型造新编程语言了。Python 等语言是为人类发明的，不擅长写安全可靠的代码。既然写代码的痛苦不存在了，"何不反过来把写代码变得更难"——超强类型、借鉴 Lean（数学定理证明语言），把正确性的负担压到模型身上；而且这门语言不需要人类可读，"那已经不重要了"。→ 详细

• 代码是"解决问题的通用语言"，在代码里快速做实验的能力正外溢到其他领域——因为做实验基本变免费了；代码 × 原子世界/科学的交叉点是"真正的新颖性将出现的地方"。→ 详细
• 两个让他最兴奋的领域：化学——人类只理解化学"非常小的一角"，分子超过 20 个原子就不知道它会怎么表现；而"能把一万个原子组装在一起时，那就开始有点像生命了"。生物学——"大自然做了一场不可思议的工程，却把文档写得一塌糊涂"，模型能发现人类难以捉摸的关联。→ 详细
• 收尾概念"我们看不见的金子"：人类对"正确解法"的直觉带强烈偏见——"我们是进化训练的产物，那场训练是帮我们在丛林里活下来的，不是用来搞量子计算的。"大量突破人类根本感知不到，而 ML 视角截然不同，将带来很多"天哪，答案一直摆在眼前我们却看不见"的时刻。"激动人心的时代就在前方。"→ 详细

本期为大会 keynote（20 分钟单人演讲），无问答/闪电轮环节。收尾即主题 11 的"看不见的金子"+"激动人心的时代就在前方"。→ 详细

字幕中未提供嘉宾联系方式。身份信息：Benoit Schillings，Google DeepMind 研究副总裁（VP of Research），前 Google X 出身。→ 详细