2026 年 AI 工程现状——Barr Yaron(Amplify Partners)

• 主讲人 Barr Yaron 是 Amplify Partners 投资合伙人，每年做一次 AI 工程现状调研，目的是"穿透噪音，退一步看看 AI 工程师到底在做什么"；今年首次与 Notion、Vercel 联合发起。→ 详细
• 领域快到"做幻灯片的过程中它已经变了"——演讲前一周，前沿模型发布被当成国家安全事件对待，Meta 据报道在考虑出售 AI 算力。→ 详细
• 今年收到 1,048 份回答。她的开场承诺照旧："short time on bar, long time on bar charts"（Barr 本人少讲，bar chart 柱状图多放）。→ 详细
• 受访者不只是 AI 工程师——"AI 工程更像一门学科，而不是一个职位头衔"，覆盖创始人、CTO、工程师、产品人。连续第三年同一规律：偏资深但接触 AI 短——软件从业超 10 年者过半 AI 经验在 3 年以内；而中位数的新入行工程师，AI 经验几乎等于十年老兵。→ 详细

• 文本一骑绝尘；Barr 每年真正盯的是她自创的"采用意愿比"（intent to adopt ratio）：还没用某模态的人里有多少打算用。→ 详细
• 音频意愿最强且在加速：没用音频的 AI 工程师里 56% 打算用上，去年同一指标是 37%。→ 详细
• 同比跳升最大的是图像生成：用生成式 AI 做图像且体感不错的占比从 18% 翻倍到 36%，对应窗口内发布了 Nano Banana、Nano Banana 2、ChatGPT Images 2.0——"以前它只是个高效生成'诡异手指'的玩意儿"。→ 详细

• 生产环境里 94% 用闭源模型、45% 用 open-weight 模型（开放权重，即参数公开、可自行下载部署的那类）。两者不是替代关系：用 open-weight 的人里超过 90% 同时也在用闭源模型——Barr 判断"它们更像是一种补充，团队是在混搭着用"。→ 详细
• 反差极大：尽管开源 vs 闭源占了绝大部分话题量，它其实不驱动决策——只有 5% 的人把它列进选模型的前三考虑因素。→ 详细
• 真正决定选型的更朴素：质量遥遥领先第一；紧随其后是 agentic 能力（比如 tool calling，即模型能不能稳定调用外部工具和 API 去干活），成本与之并列。→ 详细
• 最反直觉的一项：可靠性没进前列，只有五分之一的人提到。Barr 说这不代表大家不在乎，她的猜测是可靠性已成"门槛型要求"——候选模型的可靠性都够用了，决策于是往上走一层，去比质量、能力和成本。→ 详细

• 87% 的团队在用不止一个模型——原话是"这恰恰是标准化的反面"。分配方式最常见的是按任务类型做路由，其次是同时跑多个模型对比输出，也有人按成本做路由，因为"模型各有所长"。→ 详细
• 另一面：超过一半的受访者说组织已开始在更少的 AI 工具上做标准化，等于"拿灵活性去换标准化"；其中一部分是混合态——某些层标准化、另一些层保持灵活。→ 详细
• 核心结论："我们正处在平台和工具大标准化的早期，而不是模型的标准化。"模型层继续多元并存，工具/平台层在收敛。→ 详细

• "无限的智能背后，还是有一张按用量计费的账单。"团队一旦开始同时管很多模型和 AI 工作流，下一个问题必然是成本。→ 详细
• 40% 说成本经常影响他们用 AI 时能有多激进，另有 36% 说有时候会——合计约四分之三的人在按成本调整用量，"剩下那四分之一可能是有公司报销卡"。→ 详细
• 这是新出现的约束："12 个月前并不是这样。疯狂堆 token（token maxing）很酷，能找到真实的落地场景也很棒，但今天成本正在成为产品决策里非常重要的一部分。"→ 详细
• 它已经渗进运维层：生产监控项里成本与 token 用量排第二，仅次于质量本身——"它已经像 SLA 一样被盯着了"。成本不再是月底看账单，而是进了实时看板。→ 详细

• 定性：agent 是"所有开销里最大的那一项"；今年大会的高频词是 harness engineering（harness 指包在模型外面那层脚手架——工具、循环、上下文、权限、重试策略的总和），agent"正在走出 demo 世界"。→ 详细
• 95% 的受访者说在用 agent，约为去年两倍——Barr 自己在台上都说"这个数字我自己都觉得高"，并提醒这毕竟是问卷自报数据。→ 详细
• 权限的跃迁才是关键：去年用 agent 的人里 52% 说 agent 能真的写数据，今年是 89%——agent 从"只读顾问"变成了"有手的同事"。→ 详细
• 两个变化叠加（更多团队用 agent × 更多 agent 有写权限），全体受访者中使用带写权限 agent 的比例同比涨了三倍多。Barr 说这才是今年真正的大变化："agent 不再只是读取、总结、起草了，它们在系统内部真正采取行动。"紧接着的设问就是全场最重一问：那我们怎么控制这一切？→ 详细

• 答案是"用相当粗糙的手段"：排前两位的是人在回路（human in the loop）的审批和权限门禁。比喻很锋利——"这些直觉是对的，但基本上就是你拿来管一个实习生的那套工具"。→ 详细
• 再往下答案就完全散开：任务拆解、检索、记忆、沙箱——"大家什么都在试。还没有人把 agent 的控制层给定下来。"对做基础设施的人，这就是空位提示。→ 详细
• 她盯得最紧的一项是"记忆与持久化 context"（上下文工程：怎么让 agent 在长任务里始终手握该有的信息、又不把无关内容塞满窗口），判断"未来一年它会有很大的演进"——等于一位投资合伙人在公开点名下一年的热点。→ 详细
• 失败模式的定位值得抄下来：agent 出问题"通常出在'思考'上，而不是'管道'上"——约三分之二的人说最抓狂的是幻觉或任务做到一半就把 context 丢了。排查故障先怀疑上下文与推理链，而不是先怀疑 API 调不通。→ 详细

• "你的技术栈里最大的挑战是什么？"——Barr 每年都问，排第一的答案每一年都是 evals（评估，就是给模型/agent 出一套考卷、量化它到底答得好不好）。这也是本场演讲原标题的来源。→ 详细
• 今年的新变化：evals 的领先优势非常小、且差距在不断缩小，说明其他环节的痛感正在追上来。→ 详细
• 她把心照不宣的话说破："这份问卷里、这个房间里，有 96% 的人的技术栈是有问题的，你们只是在'到底是哪个问题'上达不成一致而已。"顺带给了创业提示：想做基础设施的话，"那张散开的图就是你的地图"。→ 详细
• 更值得警醒的是方法本身：评估 AI 输出需要多种方法并用，但"一如既往，凭感觉人工过一遍（vibe review）排在第一"——头号难题的主流解法依然是肉眼看，而且连续多年没变。→ 详细

• 调研把技术栈拆成八个层级分别问自建还是外购，每一层都是很宽的分布与混合状态，但有几个清晰结论。→ 详细
• 买得最多的是推理（inference）与模型服务——"很多人不想自己搭推理基础设施，这也很合理"。→ 详细
• 自建最多的是 prompt 管理，61% 自己做，Barr 调侃"看来每个人的 prompt 都很特别"。同一规律适用于所有靠近产品逻辑的层：prompt、RAG（检索增强生成，先去自家资料库捞相关内容再喂给模型）、评估都更倾向留在内部；而 fine-tuning（微调）是最明确的"还没到时候"，大多数人压根没做。→ 详细
• 路径依赖很强："买了现成方案的人，就不太想自己造；自己造过的人，也不太想去买。"build/buy 这个决定反悔率极低，要早想清楚。→ 详细

• 97% 报告 AI 对组织有净正面影响；但最主要的收益不只是速度，而是试错成本塌了——更多实验、更多原型、更多下注，"它不只是让工程师变快了，而是让'试一试'这件事几乎变成零成本"。→ 详细
• 提醒：样本里做工程的人占比很高（builder-heavy），乐观有取样偏差。→ 详细

• 81% 表示 AI 正在模糊工程师与产品、设计、市场之间的界线——"这些数据让我很震惊"。→ 详细
• 感受最强的是"发布软件"这件曾属工程师专属的事：超过三分之一的团队已有非开发人员在发布功能（多是较小的、内部的），而且 17% 说非开发人员经常在整个技术栈上发布面向客户的功能——"这一点让我觉得挺离谱的"。→ 详细
• 即便不做发布，也有三分之一的团队看到非开发人员产出真正有用的东西：原型、前端 mock 等。结论："发布软件已经不再以'你得是个工程师'为门槛"，且推进程度超出她的预期。→ 详细

调研最后是 rapid fire「押注题」，对当下和五年后各投一票。

• 当下｜76% 说 AI 提升了工作满意度（Barr 借 Elphaba 和 Glinda 的台词打趣："希望你们现在开心了"）。→ 详细
• 当下｜59% 担心今天 AI 写出的代码会留下长期隐患——和上一条并存，说明"开心"与"忧虑"是同一批人。→ 详细
• 当下｜只有三分之一认为软件工程已是"被解决的问题"（她补充：不同人对"软件工程"的定义并不一样）；对招聘会怎么变则普遍不确定。总结是"更开心、更快，但要接受维护成本的上升"。→ 详细
• 五年期｜67% 预计会有一家头部实验室在五年内宣布实现 AGI。注意措辞——问的是"会不会发那份新闻稿"，不是这件事是否真被做到。→ 详细
• 五年期｜只有 9% 押注 Transformer 五年后仍是最先进架构，大多数人选"不确定"。→ 详细
• 五年期｜最有争议的一题居然是外太空：五年后 AI 算力在太空更多还是地面更多？36% 说太空、38% 说不是，几乎五五开。→ 详细
• 收尾（"2026 年度总结"上半）：AI 影响压倒性正面；图像生成采用翻倍、音频采用意愿最高（与去年一致）；成本真正成为头等约束，在监控上、在人们做 AI 产品有多敢投入上都看得到。→ 详细
• 收尾（下半）：开放权重是补充而非替代，未来是多模型并存 + 技术栈收敛；agent 写权限比例前所未有地高、同比三倍，而 guardrails（护栏）还相当原始；推理是"买"的市场，越靠近产品逻辑越倾向自建。"现在做一个 AI 工程师真的是非常令人兴奋的时代。"→ 详细