E240｜OpenAI联手PE砸下40亿美元，聊聊硅谷最火新职位FDE
频道: 硅谷101
视频: https://www.xiaoyuzhoufm.com/episode/6a333603351c82c12b264c56
原文语言: zh
统计: 共 36 轮
[0:00]
大家好,欢迎回到硅谷101,我是伊文。5月初,OpenAI宣布成立Deployment Company，部署公司。背后的投资人包括私募基金也有我们熟悉的咨询公司。同一时间,Anthropic也宣布了和包括Blackstone在内的金融机构合作,成立合资企业。这两家实验室的新动作都是在提供同一种服务,把他们的模型带到企业里,在真实的工作场景中落地。来执行这件事的人呢,叫做FDE,也是硅谷这段时间来最火的新工种。FDE全称Forward Deployment Engineer，Near，可以直接翻译成前线部署工程师。为了组建FDE团队,OpenAI收购了一家叫做Tomorrow的公司,打包带走了150个FDE。许多面向企业市场的初创公司,最近也在扩建FDE团队。
[0:54]
部署公司的成立和FDE的爆火,本质上都是在证明Agent时代企业需要的不仅是AI工具,而是一套AI Native的工作流。这具体意味着什么呢?在这期播客里,我们和两位从业者聊了聊。一位是Cresta的FDE负责任Jove,另一位是前麦肯锡咨询师现任Invisible Technologies企业业务VP的Oliver。其中Oliver的访谈原本是用英语录制的,在这期节目里呢,我们用配音的方式呈现。
[1:26]
我们不只聊了FDE在做什么,也聊了FDE模式和Palantir的渊源,以及在这波AI浪潮里,私募和咨询行业正在发生的变化。Jove,介绍一下自己吧。大家好,我是Jove。我在这个很神奇的工种FDE,可能算是在硅谷这边FDE想多来说做的绅士比较大吧。我有一个将近百人的Team在招,然后是做Agent,所以很高兴能够参加这个节目,分享一下FDE相关的一些看法跟大家一些的问题。我们之所以要聊这个话题是因为5月份的时候,OpenAI成立了一家叫做Deployment Company部署公司的这样一家公司。
[2:04]
它同时收购了一家叫做Tomorrow的公司,拿到了150个FDE,就是我们说的前线部署工程师吧,Forward Deployment Engineer,或者前端部署工程师。现在还没有特别好的中文的翻译,我甚至听到一句说法,这一周是说AI落地关,听起来可能更fancy一些的。Anyway,确实是一个值得被不停定义的一个工种。对,其实在就是相同的时间,Anthropic也宣布了类似的消息嘛,包括你之前也有写到Google,其实也有类似的动作。
[2:32]
你怎么看待这些动作呢?能不能说一下你看到这些新闻的时候,你的立刻反应是什么样的?对,我觉得这也是部分原因是FDE一下子就将大家上头了。因为这个只为一个工作类型可能已经存在十几年的时间,从Palantir开始。但随着OpenAI跟Anthropic纷纷动手,去买公司和一些资本去做一些合作。包括我们公司是在去年一月份,差不多整整14-15个月的时间之前开始做FDE的这样一个部署。或者是说当时没有很明确的一定要招FDE,但是说默默忽忽觉得需要把一些engineer拿出来跟客户走得更近,能够通过这些非常贴身的一些服务,能够了解他们想要什么,然后把我们的产品用到位。
[3:17]
但是过去这一两个星期甚至一两个月有大量的FDE一些讨论在中文英文那些媒体的平台,包括像OpenAI,Tropic。我的一个感受就是说这是事情确实我知道会来,但我没有想到会这么快,来得这么的迅猛。但我觉得这也印证了几个事情。一是大家还是要会承认模型公司,他会意识到模型本身并不是一个产品。产品要落地,还需要做大量的工作。这个是传统的模型公司很容易疏忽,甚至是不确去做的。但是你没有这样一个非常紧密的合作的话,对于有钱想买这个模型的人,他也觉得买了也不知道怎么用。
[3:54]
我们发现FDE是一个非常好的形式。还有一个就是说模型公司跟应用公司这个边界就变得很模糊。OpenAI跟Anthropic的做法更多是我依然招最好的人去train我的模型。包括像Anthropic,大家可能知道它的模型就特别好,但也特别贵。可以卖得很贵,人效来讲可能会很高。但至于是说我要去向360行每行去落地那个需要大量的人,那这块我不见得想要自己找。所以这也是为什么有些收购有些是通过资本来让别的公司来做这个FDE。
[4:24]
所以这个模型公司跟应用之间的一有一敌的关系就变得更加的纠缠不清了。对,这个很有意思。我们先来给听众解释一下FDE这个概念吧。如果要让你用一句话定义FDE,你会怎么说?对,FDE是在跟客户紧密合作,能够让AI应用真正跑出来的工程师。且它承担了让产品变得更好的这样一个职责。所以FDE一是要把AI落地,二是把这些lesson learn能够直接的方式去改变产品,让产品变得更好。就有点甚至像是一个forward depot的CTO一样。
[5:00]
就是你是一个非常全面一个人,你是要把这个单子搞定,你要把这个AI应用落地,把客户锁住。但是你作为一个CTO,你不光是整天要想着怎么让产品变得更好,甚至是你要自我革命呢。所以FDE就做这样一个事情,就是把AI落地且用这些lesson learn把这个产品变得越来越强。能不能给我们一个具体的例子,就是在你接触到的客户里面,FDE是怎么样去改变他们现有的工作流的?其实你们服务的这些财富100强的公司,他们很多都是不同领域的嘛。
[5:31]
不同领域的公司对AI call center这件事情有不同的需求,它肯定涉及到很多他们专业领域的一些,无论是术语也好,然后知识甚至数据也好。这些客户是怎么样跟你们传递他们的需求的?你们又是怎么样去理解这些需求并且去做部署的?对,好问题。针对COSP Experience这个领域的话,因为Cresta的先天优势是在于我们相对来说是积累比较长。我们一七年就开始做了。所以before AI这个wave之前,有大量的human to human的这些conversation就已经在Cresta这个系统里面。
[6:03]
当然我们花旦功夫去做合规啊什么的,所以比方说我们可以说的像Mariot这些大的公司,在AI agent这个时代之前,人工的agent的大量的这些文本语音的语料,就是合规的方式在Cresta这边存储。所以你可以想象一旦AI agent我们决定去挑几个use case去做的时候,我们肯定会去分析哪些use case是量比较大,但是又没有做起来那么复杂的,就是没有很多人工的判断的,就是它现在是SOP比较清晰的,然后它量比较大,这样的话有点像是你可能80%的volume是来自那个20%的一些use case。
[6:38]
有了这些大概的一些判断之后,我们可以借助我们过去的这些历史能够去抽象出来说有哪些典型的问题客户在问,作为一个客服不管是人工的还是AI的,你应该怎么去有效的跟他解决这个问题。所以这些就避免很多猜的成分,因为我觉得AI跟Data需要做很好的结合,然后我们是一个蛮好的例子,就是在我们做一个相对比较大的单子的时候,往往他已经用了很长段时间Cresta别的产品了,我们可以基于他的人工的对话的一些数据,能够去提炼出他的一些pattern,然后我们甚至可以用他的数据来train一个小的模型,然后用那个模型来去做更多的simulation。
[7:19]
所以FDE就要去作为一个相对有经验的这样一个AI的落地观,去判断哪些use case我们可以先做,然后这个use case对应的这些资源是不是到位了,那不到位的话,我们并不倾向于我们帮他改一批,更多是跟客户共创,包括后续做出一个版本的AI进程,然后做大量的测试做优化,这边其实也是花很多的精力的。所以FDE还是以技术人的方式,就像一个mini的CTO,去跟客户把他培养好关系,然后了解他具体想要什么,做出一个AI进程,而且做出来只是第一步,你后续有大量的一些优化监控,这些都是很花精力,也很花大家的技能点跟经验的。
[7:59]
我想再回到你刚才说的数据的这个问题,就是你讲到你们从2017年开始,就有很多历史数据嘛,然后这个对你们来说是一个优势,甚至说和一些客户相比,因为你们有的数据比有的客户还要多,然后你们可以做的事情也会更多,这个是不是你刚才提到的这个应用层的公司,和模型层的公司的区别,就是像OpenAI Anthropic这样做模型的公司,他们想要把他们的模型,用在用户的具体使用场景里面,但是他们没有这些数据,然后他们可能也不是那么了解,客户的具体需求是什么,所以这个是不是他们的一个劣势,想到于是?
[8:34]
对,大家其实挺矛盾的,就是文艺公司有这个很强的意愿,觉得我一方面要把模型变得很聪明,但是我一定要能够了解企业,到底每天在做些什么事情,它的系统是怎么流转的,这些最终在一起工作,模型扮演一个指挥家的作用,但它模型不用什么都做,所以应用这块,我是觉得是会越来越重,但是大家不能期望模型本身就无所不能,因为毕竟每公司要做的业务,然后它的很多数据不可能共享,它的API千奇百怪,甚至是在内网,就有太多的事情,是模型本身是不能控制,所以为了能够让AI能够更深刻的改变世界的话,需要利用FDE这样一些模型,能够把应用落地的更加扎实一些,你会需要去现场看客户是怎么样进行这些工作的吗?
[9:22]
会,对,so for the void这个词有点比较抓人眼球,但包括我自己,包括我的同事,没有一次是超过一个星期在一个客户那边的,因为我们FDE不需要做一些cord reach,或者是一些偏授钱的事情,更多是说大家已经有很强的意向了,然后更多是拿我们做一个专家,看怎么去落地更合适一些,所以我们可能会kick off一个会,大家飞到他的办公室,那我们可能闭门的开个两三天的会,然后把一些high level的goal能够定下来,kpi定下来,把他对应的api能够验证,甚至如果顺利的话,我们可以在那边做一个小型的poc,给他们excited,但是之后我们可能就各回各家,然后我们可能会每周,或者甚至是每天会有一些会,然后开发都是要么在办公室或在家里面,然后我们可能会在项目的所谓的UAT用户验收的时候,可能会再聚一下,或者是我们又谈到要考虑下一波的use case怎么做的时候,而且面对面就像我们现在聊天一样,就是大家会有些eye contact,然后大家可以甚至培养一些私交,你早期培养这些私交,有些trust对后续工作生有用,很多大家不见得很方便书面化的东西,那通过一些聊天和一些公通,能够培养更多的默契,跟了解更多的context,这些是往往你不onsight是很难达到的,但这些目的加在一块,都是为了能够把AI落地变得更加的solid,而不是逼客户去去,而是说我们了解你要什么,然后帮你做出来,做完之后你想自己维护也可以,但是AI落地这个事情就属于又难,时间又漫长,但是FDE会让它变得稍微简单一些,所以FDE是在什么时候进入客户的工作流的,是在你们这个产品刚卖出之后吗,相当于和产品一起打包,可能送给客户的这样一个package,还是说是在更后面一点,我们其实比较灵活,FDE就在售前,售中,售后都会有参与,售前有可能是如果需要做一个功能级,比较全的一个demo的话,往往可能我们的Service-Chair 并没有这样一个技能,FDE需要帮它做一做,尤其是说当这个单子谈完了,然后我们可能会有一个期待,是在两个月到四个月内,这个就要上线了,当然上线也是一批一批的,就是我们挑一批Use Case,作为一期上线,后面再做,在这个过程中就会花些时间去做初期的开发,然后把它做调试,辉度发布,或者是一些监控,但一个项目如果它已经上线了,我们会监控这些,比如说客户的满意度,或者电话了时长,或者Case也没有解决,这些指标都是在这个合同里面的,如果已经符合合同的话,其实是没有必要继续把人放在里面,因为毕竟我们项目比较多,而且你总共有机会可以修改Prompt,做些东西,这个其实不见得很划算,所以一个项目,我们可能做个两个月,四个月,FDE就退出了,后续的话,可能一些小修小部就可以别的同时,没有那么AI Expert的方式来去做,这样一个模型,我们也是在一个尝试的过程中,因为甚至我们在看是不是有些情况下,你即使客户没有花钱,我们是不是给他一个甜头,让他花个比如说两个月三个月,我们倒贴一些人进去,把这东西做出来,他弹到甜头之后,就像有的时候送货上门,你就已经门口放在那边,让你试穿了,你说你再退掉,也不愿意,所以AI现在这个领域就属于节奏非常快,可以说是各自在抢山头,所以我们FDE本身不用操心这些ROI,我们也从来不是以FDE的小事来charge的,所以一旦as a team,我们决定要把这个项目放FDE进去做到,我们就全力把它做出来。
[12:44]
其实我们今天聊FDE这个工种,它有一个历史背景,就是你之前也提到了,这个模式或者这个概念,是由Palantir一开始发明并且推广的,然后我理解最早的时候,Palantir其实是有两个团队,一个叫Echo,一个叫Delta,这两个他们放在一起成为了一个FDE,但是可能Delta更像我们现在理解上的FDE,就是工证师的这样一个角色,Echo这一批人呢,他们更多是熟悉这个专业领域,这个能不能给我们讲一下,你觉得当时Palantir解决的核心问题是什么?
[13:15]
对,Palantir作为这个模式的original creator来讲,肯定值得尊重了,当然它的那个业务会非常的神奇,因为不是每个厂商都能够去做一些军方的一些业务,在10年15年前开始做的话,我觉得就是因为很多具体想要什么,他是不高兴说得很明的,你必须是跟他们面对面,跑到同一个军营的帐篷,看到这些数据,他才愿意说得很细,而且中间又会涉及到比如说数据建模,或者是要临时做API,所以他是招了这两个团队,一个团队是好像是所谓,有点是FOR,DEPORT,SOFT ENGINEER,另外一个是PN Business Owner的,对一些作战,或者是一些抢救之类的,他会比较熟,一个是偏Technical,一个非Technical,然后FDE,我们通常认为上来讲,还是一个非常Technical的一个工种,对Crest来讲,我们其实也是觉得这样一个方式会比较合适,最理想的情形当然是,你一个人什么都会,就像一个所谓的One Person Company一样,你什么都会,你既是CEO又CTO,但毕竟这样的人比较难招,而且大家精力比较有限,所以我们做过一些尝试,比如说我们早期也有所谓的,Compensational Designer,他更多对人际交互,共情,很多细节会比较熟,他不需要Technical,我们最近这差不多一年的方式,也是有所谓的FDE和FDPM,FORWAL Deport Product Manager,就不需要那么Technical,FDE像一个FORWAL Deport的CTO一样,可以想象FDPM,也就是FORWAL Deport的CEO,就他用他的People Skill,Communication Skill,Nikation这些Skill,能够跟客户耗在一起,花很多时间去培养信任,知道他的底下到底想要什么,包括做一个Agent,你该说什么不说什么,你的测试集应该怎么去创建,很多事情跟编码没有那么直接相关,他也不需要知道,你这个安全应该怎么做,网络怎么配,但这个本身是个很扎大事实,就一大块的活,那FDPM就可以专门对这块做一些把控,就像CEO一样,他为整个公司负责,FDPM就为整个Agent的Behavior,他的Quality负责,然后FDE就是从技术角度,确保这个实现是合理的,然后我们对应的测试是健全的,包括FDE还带有把这些Lens and Learn带回公司,能够把产品变得更好,这样一个职责,这样一个FDPM跟FDE合在一块的话,因为我们很容易一天,你要跟两三个客户要开好多的会,这些会对于FDE来讲,并不是每个都要参加,因为他可能还在讨论,我应该先说什么后说什么,如果大家有个结论的话,实际上来看不是一个很难的事情,所以大家分工不一样,FDE就可以更注重这些AI的一些Best Practice,怎么能够把一些经常要做的一些开发的工作,能够把它变成SDK,工具包,CLA,那么更多从基础角度来做贡献,而FDPM就可以把握具体的一些需求,包括有的时候会有一些risk,你怎么去escalate,甚至是你要去upsell,你原先已经做了三个use case,你可能是不是变成六个,有大量这种,你就把它想象成CEO跟CTO的差别,我觉得还是有效的,这样的话避免要对招聘的人的要求过于高,而且让一个人每天要花大量时间做不同的事情,这样的话分开两个肉会好一些,了解,每个项目现在都需要一个FDPM和一个FDE吗,还是说有的项目它可能有比较多的历史数据,让它的流程更加的标准化一点,可能就是一个工程师就可以来做了,我们基本上差不多是以一个FDPM配两到三个FDE在一个项目里面,不管这个项目有多大,这样的话就避免是说,因为这个项目现在小,FDE在里面,如果这个项目变得越来越大,你是不是还要做交接,而且确实你有大量的,你要跟客户沟通的一些事情,所以我们大概这样在一个1比2,1比3这样的比例,同时一个FDPM可能会做好几个项目,而且我们也有意识地去看能不能找到一些共性,比如说这几个人比较多地做一些医疗保险,他对这些行业的一些术语,一些规范,一些所谓的common sense会比较熟,这几个人如果做一些类似的一些项目的话,他们这块的行业经验会越来越多,会越来越经验,包括从技术角度来看的话,FDE也会有意识地说,有这几个人对payment很熟,这几个人对search很熟,因为毕竟我们要面临的这个世界是非常复杂的,所以FDE我们慢慢成规模之后,也会培养一些不光是领域的专家,在某个商业领域里,而且也是针对某些技术领域也会培养一些专家。
[17:28]
所以总结一下就是FDE其实本身是一个技术性比较强的这样一个职位,然后FDPM更多是对行业知识的了解,不理解可能这些人很多是从比如说咨询背景,或者更多的是一个企业operation的一个背景,因为你这次正好来纽约也是来招人的嘛,我觉得可以借这个机会说一下你觉得什么样的人最适合当FDE吧,就是一个优秀的FDE是什么样的?我觉得也是逼自己抛出来一句话,我要说打造全世界最好的FDE team,对啊,是个目标吧,因为你虽然说现在获得一些成绩,但我确实觉得Palantir的巨大的成功,或者是它的股票往上涨,有多少比例是因为FDE,这个其实很难讲,因为它本身有太多因素在里面,但是它开创这样一个模型,但现在FDE变成很热门,是因为AI落地有太多的困难,而这个复杂性你不想把它直接抛给客户,FDE能够把这些复杂的层面自己消化掉,能够给客户一个很好的一个方案,而且对于很多产品公司,或者是SaaS或平凡公司来讲,FDE把这些在前线的这些Less and Learn,直接去改变产品了,就是因为你想10年前Palantir的FDE,就算知道产品有很多bug,又怎么样了,它可能回头只能写封信,或者是开个ticket,求着别人去改,可能再过半年就改好了,但是因为现在AI coding特别强,所以我们这些FDE,当然我们招的时候就会巴比较高,希望是比较好的engineer,但是另外一方面的话,因为有这些coding agent,你Cloudcode或者是这些模型,你知道哪里不对,哪里有提升空间,哪里可以做的不一样,哪怕你有5个10个不同的reple,不同的语言,不同的站,你就可以很容易的让AI帮你做成这个样子,然后你找着合适的人review就可以了,所以这个迭代就很快,除了coding之外,现在这个skill本身也是一个很好一个模型,就能够有一个方式可以蒸留了,就原先都是大家留在脑子里面,大家肯定要花长时间做脑子transfer,那现在你可以把它写成skill,有一个很长的markdown,有一些script,有一些reference,你做了两个三个类似的事情之后,就可以变成一个很好的skill,这个skill就可以在下一个项目里面,很快就用得到,或者是说,我们现在30个FDE,又来了20个FDE,那个20个FDE,他甚至只要把这个skill装在那边,就能够access就可以了,他都不用去学,所以这个就很容易像一个雪球效应,所以FDE现在肯定是很好的一个,比较合适的状态,能够招更多FDE能够去落地,包括我这次来纽约TechWeek,也是希望能够办一些活动,我们希望招,一是说肯定是一个很合格的engineer,因为这个本身就像一个CTO,你肯定不想是一个,很不会写代码的人做CTO,他肯定要技术很强,然后因为我现在招这个team,就是局限在AI agent FDE,我这边对data engineering,对security,没有那么强的要求,但是你这个人一定要会AI agent,我这边很多时候看到一个简历,他说我是个AI engineer,我这不废话,现在你哪个engineer,suffer engineer如果不是AI engineer,你都已经很out,肯定没有人期待你每行代码都自己写,你是必须要会用这些,Honis framework,你要用cursor,用cloudcode,但是你不是很多人会知道,怎么去开发和测试一个AI agent,这个技能对我来说是很care的,我们不想花个两个月三个月,再train一个人,你可能这个人两到三个礼拜,就应该进一个项目,所以你需要是一个好的developer,你要是开发跟测试过AI agent,另外一块就是说,他需要有比较过硬,或者比较让人幸福的customer facing的经验,毕竟我们是for deploy,哪怕你是过去都是现场开会,或者是偶尔可能会过去个几天,但你还是要去跟对方的CTO,对方的IT director,对方的senior的人进行沟通的,有的时候你也跟一些非技术人员去沟通,你应该知道怎么去把一个比较复杂的问题能够简化,或者是你能够从他的表达过程中,抓到一些具体一些点,能够进行求证,有的时候你要say no,这边有不光是英文层面的沟通,而且是你整个人要比较subskate,就像跟CTO一样的,就CTO也不能是光线代码一个人,所以这个技能我就一般是期待他要么做过咨询,或者是他自己就是作为一个founding engineer,或者是自己有大量的甚至是freelancer,这个我对都是挺OK的,除了编程,除了这些customer facing之外的话,顺下可能就是一些人的要不要靠谱,要有韧性,因为FDE就是真的很想忙,你同时multitasking很多事情,然后你有很多压力,你面对的都是一个很不完美的世界,API根本就是纸糊的,然后SOP就跟没有是一样的,文档也是千奇百怪,压力也很大,大家可能会有一些不切实际一些想法,所以要很强的能够面临这些巨大的复杂性的一些能力,能够面临巨大的不确定的能力,能够有这个agency去知道我应该怎么去push,怎么去跳出来做一些事情,所以我是很喜欢招founder,confounding engineer,甚至是说经历过很多大风大浪的,能够知道没有一个事情是guarantee一定会成功的,你就是要必须是非常努力的去做,才能够到一个稍微好一点状态,所以这种靠谱任性,往往也是通过这种方式我们希望能够看到,我这边是不招任何junior的FD,因为就像前面讲的,就是你一个项目也就一两个人,跟对方的CTO在那边在共创,你如果一个很junior的人的话,就很难达成这样一个信任,然后你可能很多时候也没有头绪,你总不能打开AI,让AI告诉你怎么做,你自己没有判断的能力的话也很差,所以技术的能力肯定是要在位的,然后你的customer facing能力要在那边,你能够drive很多事情end to end,其实这也是我下面想问的一个问题,就是FDE你刚才说,他们面临的是一个不完美的世界,面临的还是一些,现在来说还是比较新的这样一些agent工具,那么这个职位到底会是一个长期存在的职位,还是一个过渡性的角色呢?
[23:03]
就是当模型足够强,工具足够成熟之外,我在想这个角色它会消失吗?而且我们刚才把它和Palantir做对比嘛,因为你也说到Palantir做军方的业务,其实这是一个门槛还是比较高的这样一个业务吧,所以说导致它的客户对Palantir提供的工具,还有提供的这个FDE产生了一个比较强的用户粘性,但是在AI的时代,当工具会不断的自我迭代,不断成熟之后,你觉得这个角色它会变吗?还是它会消失呢?无意不变的就变化嘛,但我觉得相对很多别的self engineer的工作来看,FDE要被AI化录还很长,短期来看,比如说一到两年,它肯定会有越来越多的工具,能够让FDE的工作变得更高效,比如说我们现在大量的电话或者是沟通,都会有像Gong啊,能够把它录下来,能够做翻译,甚至你可以对着这个recording,你可以提问题,类似我们有些工具像Glean,也是可以搜到最新的一些聊天记录,然后看到一些代码,就这些工具的产生会让我们这些multitasking的人更高效,而且有的时候我可能看了一个上面,一个时间段已经被double book,truple book,那有些会你肯定会miss,那你就可以通过这些工具,能够让你更加同时出现在不同地方,或者是不至于miss很多具体的一些点,但这些工具能够让FDE,比如说假设我们现在平均是两到三个项目,是在一个人身上,那你可能再过段时间可能变成五到六个,所以工具的改进会让我们效率会更高,或者是能够做事情更多,但是再远一点会分化,会要求有很多很高端的FDE,做那些很难的事情,你可以用各种工具,但是工具本身并不能解决,还是需要有非常资深的人去做,然后一方面的话,会有大量的原本不需要FDE的人,会想着我能不能招一个便宜的FDE,就像大家在说soft engineer这个事情,招聘需求其实反而它上升,因为原先觉得他没法雇soft engineer的小的诊所,小的个体户,觉得我也可以招一个soft engineer,可以把我的某一个工作流把它产品化掉,所以对应的FDE就会出现有一批,可能针对中小型的,然后针对这种常委的,甚至是远程的,比方说越南或者哪里不是很发达的地方,可能就会有很多FDE,永远不要onsight,但它就是结合客户的需求,结合它的AI技能,把它东西做出来,如果它自己有一个产品可以沉淀的话,也是这种模式,所以只要是客户的这种复杂性还在那边,AI能够完全自动化的,总归是有gap的,这个gap需要FDE来填,真的到了某一天,比如说有一个完全AI FDE,哪怕现在FDR这个事情,都没有很好的AI化,假设真的有一天,FDE这个事情可以99%都可以AI化的话,不管是你理解客户,写prompt,然后做测试,跟客户扩通,甚至你可能这个AI,跟另外一个客户的AI,做agent to agent的一些沟通或者对齐,但那个时候其实我们担心的就不是FDE本身,就整个行业世界都已经不一样,就可能人在里面参与的就很少,但我觉得这个会有很长短的路要走,FDE我还是非常的有信心,是这个工种会越来越丰富,参与的人会越来越多,大家会越来越意识到它的一个重要性,其实这也是一个很好的过渡,因为我们一开始提到了OpenAI做这个deployment company,然后Anthropic做joint venture,这两家公司呢,其实都是在和私募基金合作,然后我们知道很多PE的旗下,有很多可能中型的一些企业,一些middle market companies,他们有的是比较传统的SaaS服务,有的也是在不论是机械啊,重工啊,或者制造业啊,其实比较传统的企业里面,你觉得这些私募去做这个改变,去和OpenAI,Anthropic这些模型公司去做这个合作,他们是不是也有把自己portfolio里面的这些公司进行转型的,这样一个意思,对,大家一开始听到这个新闻可能有点差异的地方,就是并没有找传统的像埃森哲啊,这些咨询公司,而是直接去找私募,然后有一种说法就是说,如果你找一个软件外包公司做,毕竟还是一个工具人,你还要很比较长的一个啊,我要找哪个vander,然后添一个工期,但你如果你的投资人是说,你如果你用这个FDE的模型,我帮你有些投资会做得更快一些,那所以你直接去给一个诱饵给一把手的话,这个推进会快很多,所以我觉得,我觉得很多VC现在对AI的加速是抱有很大的期待的,他希望通过资本的力量能够直接给CEO一个指标,说说你就是要用FDE把你的行业的东西能够AI化,过程中也会用到更多的模型的一些token,那这个要比我安排给你一个资讯公司,你跟资讯公司慢慢谈,谈个scope,要更加的简单粗暴一些,所以PE在里面扮演的角色也会非常的神奇,然后另外一方面的话,这些资讯公司本身也会有这种危机感,因为他原先做了一些相对比较,国内说CIUD engineer,就是你数据库做一些政策改查的事情,那原先没有AI,可能大家会找外包,那现在外包针对这个领域也会有一些忐忑吧,因为客户来讲,他不见得非要找外包,他自己也能做,那AI这块也是一样,到底AI让客户自己学,那还是找外包公司来做,还是说像我们这种平台公司,直接帮你做掉,所以这些资讯公司,传统的这些软件外包公司,也在一个,不能说是孙死存亡嘛,但是对他来说也是一个很大的一个转折点,各方势力都是希望能够一起把AI的这个饼,一个作业大,但是就是以各自的方式先把这个饼做大,但是每家都是需要非常努力,才能够在这个市场里拿到他的份额。
[28:27]
那周五提出的这个疑问,其实也是我的问题,第一,部署公司做的事,包括深入企业,改造流程,帮他们用好AI,其实和传统咨询的逻辑很相似,那么咨询行业会被这波浪潮取代吗?第二,就像周五说的,模型公司为什么要找PE合作呢?我们知道Blackstone这样的机构手里,握着大量投资组合公司,很多是运营了几十年的传统企业,对PE来说,这个合作到底有什么吸引力呢?周五从他的角度聊到了一部分,接下来我又和有咨询背景,又长期服务PE客户的Oliver,从行业变化的角度聊了聊这两个问题。
[29:10]
Hello,Oliver你好,给我们的听众简单介绍一下,你自己和你目前所在的公司吧。谢谢伊文,我叫Oliver,是Invisible Technologies企业业务的VP,我的工作是帮企业客户落地AI,使用我们的解决方案。在这之前,我在麦肯西做私募股权咨询,我所在的团队叫Rewired,专门帮企业重新思考商业模式,变得更技术驱动和AI驱动。你说你们帮公司落地解决方案,具体是什么样的解决方案呢?好,简单介绍一下我们在做什么,我们的公司叫Invisible Technologies,也就是隐形技术。
[29:47]
我们的名字来自于一个理念,就是当技术做得足够好的时候,它是隐形的,也就是说你是感受不到的。我们的做法和很多软件公司不一样,我们在日常生活里都会用AI工具,这些工具非常好用,但问题也就在这里,个人AI使用率和企业采用率之间,有巨大的落差,这个落差很大程度上是市场的供给造成的。你想想看现在市场上是怎么服务企业呢?要么是大模型厂商自己卖,要么是套壳产品,比如做法力的Harvey,或者做会议记录的Granola,都是很好的工具,但它们没有改变你做事的方式,只是在已有的方式上做了增强,结果就是很多公司部署了AI,却感受不到变化。
[30:31]
所以我们走了一条不同的路,我们不是一个工具一个工具的上,而是一个工作流一个工作流的切入,为每家公司量身定制软件,我们会把一个工作流拆开来看。比如说,如果有十个步骤,判断其中五个步骤必须是确定性的,因为设计数学计算,合规要求,不能出错。三四个步骤可以用AI来做,允许有一定的弹性,还有两个步骤需要人工审核,确认一切没有问题,这才是真正使用AI改变业务的正确方式。但要做到这一点,必须针对每家公司定制,因为每家公司每个部门的流程都不一样,所以如果你想把那些前AI时代的公司,变成AI原生公司,你必须给他们搭一套,适配他们工作流的定制软件,这就是我们在做的事。
[31:19]
我们搭了一个模块化平台,所以可以做得很快。听起来你们在做的事情,其实跟OpenAI前段时间宣布的Deployment Company部署公司还蛮像的,他们也是在帮企业落地,你怎么看待他们这个动作呢?你觉得他们为什么要这样做?我觉得他们做得非常正确,过去半年你能明显感觉到,CFO们和企业高管们越来越多地在谈压缩成本,与此同时呢,MIT斯坦福的研究报告也显示,真正把AI跑通,跑到规模化的企业,其实寥寥无几,这个落差是不可持续的,不能一直这样,所以大模型厂商必须推动企业侧的真实采用,必须证明ROI,光卖一个聊天机器人是做不到这件事的,他们想打开这扇门,就必须跟我们走一样的路,所以我觉得这部棋采的很准,当然了,他们有大量资本,也有很强的技术能力,肯定能做成,只是他们原来的打法非常横向,虽然有一些垂直应用,但本质上他们是做通用大模型的,现在突然要转去给企业搭定制化工作流,这是完全不同的市场动作,完全不同的销售方式,跟他们以前熟悉的打法很不一样,我相信他们能够想清楚,但需要一些时间。
[32:31]
我想先从私募股权这侧聊一下这个问题,因为你说你服务了很多金融机构的客户嘛,我感觉这里有两条线,一条是这些机构自己内部在用AI,另一条是他们投资的公司Portfolio Companies,是很多传统SaaS公司,他们都是PE去投资的,可能也需要转型,你觉得他们现在最需要什么,他们在怕什么,而这是不是他们跑去和OpenAI Anthropic合作投资的原因呢?我觉得PE和私募资本机构,有三个核心诉求,第一个是信号价值,我跟PE公司打交道有一段时间了,三年前大家还在问,能不能来讲讲AI是怎么工作的,两年前变成了,能不能帮我想想怎么在整个投资组合里推AI,今年彻底变了,他们来找我说的是,我要去向LP募资,向养老金,向我的出资人募资,我必须证明我站在AI的最前沿,我需要有案例,能展示我通过AI创造的价值,否则LP不会把钱给我,这是完全不同的逻辑,现在对GP来说,能不能展示AI已经关系到募资的存亡,跟行业里最想要的名字建立合作,是一个非常好的背出方式,所以信号价值非常高,第二个是投资组合的价值创造,这也是非常真实的需求,用对了AI真的能够创造很大的价值,细节比较复杂,但这一块确实是真实的,第三个是投资回报本身,这些合作的结构设计相当的诱人,本质上是让GP们进入一个高回报赛道,获得高增长资产的敞口,从这个角度看,逻辑也完全说得通,我觉得你说的第一点很有意思,你觉得是什么在让LP推动AI呢?
[34:13]
跟大多数公司在推AI的原因是一样的,从普通消费者的角度,你能读到多少相关内容,你就能感受到AI能做多少事,就比如说叫The Daily AI的播客,之所以每天都有新的东西可以讲,是因为变化真的快得吓人,MCP协议去年才出来,感觉一切都在以疯狂的速度推进,所以每个人都意识到,AI能做的事太多了,如果你没有再认真做AI,你就在落后,站在LP的角度,我把钱投给一个GP,我当然想确保他也在用AI改造背头企业,这是非常真实的需求,再说一个点,因为你也提到了SaaS,过去5到10年,PE最大的两个资产类别是医疗和软件,几乎所有的PE都有软件公司的敞口,今年SaaS一死的论调闹得很凶,LP和GP们都高度紧张,GP们都在努力证明我们没有问题,所以信号价值进一步放大,但话说回来,你看Anthropic和Caulio那些合作,合作对象不是纯软件投资人,因为你说的很对,AI创造价值最大的地方,往往恰恰不是软件公司,对,就是那些传统企业,包括工业,制造业之类的,商业服务,工业,医疗,特别是医疗,这个太大了,基本上所有原来软件不太能帮上大忙的行业,现在都可以用软件做出非常有意思的事情,还有一个很好的例子,就是GP自身,PE公司是干什么的呢?
[35:43]
找项目,估值,投钱,管资产,这是非常人力密集的工作,要用到非常贵的人,不管是内部团队还是外部顾问,这套工作流恰恰是最适用AI改造的,我有一个大客户,是一家非常大的资产管理公司,我们能帮他改造这些工作流,效果非常惊人。能不能给我们举几个具体的例子呢?我感觉现在跟很多金融从业者聊嘛,他们都还是在用AI做研究摘要,就还是那套和代元模型比较相关的这个用法,我还蛮好奇你们是怎么做到真正自动化工作流的?可以,有很多可以讲的,如果把一个投资基金的业务拆开来看,大概有几个模块,募资,投资管理,合规,财务和基金运营,我挑几个工作流举例子,先说募资这一块,我有一个大客户,一家非常大的资产管理公司,他们想跟一家规模较小的资管合作,对方帮他们把产品纳入自己的产品线,收一部分佣金,听起来很不错,但对方说,每次开客户会议,都要配一个你们的销售经理,大资管当然不接受,因为这样利润就没了,根本不可行,所以他们来找我们,说能不能搭一个AI销售助理,让他参与这些对话,这个工作流是这样的,首先他们大概有一千款产品,所以你得先搭数据基础设施,把这一千款产品整合进来,然后搭一个输入层,让另一方能够输入客户数据,同时权限要隔离,再搭一个计算模块,算出针对这个客户的最优产品组合,这部分是确定性的,因为本质上是数学,然后生成销售话术,供会前准备,再有一个会中使用的工具,最后会后根据会议记录,自动更新产品方案,整个是一个反馈闭缓,大概七个步骤,这套系统让这家大资管能够服务更大范围的客户,这是一个典型案例,还有一个我很感兴趣的,就是投资决策流程本身,做进调的时候,你通常要跑十条工作线,雇法律,雇各类顾问,什么商业进调,环境进调,跟这么多人协调,对投资团队来说压力很大,我们再为他们搭一个平台,让他们能够跟所有顾问交互,把问题推给顾问,自动扫描整个数据房间,你可以看到一个实时界面,追踪所有顾问的进展,还能调取这家基金在类似项目里曾经提过的问题,借鉴过往投资的经验教训,这让他们既能用上机构的历史知识,又能大幅精简跟外部顾问的沟通,最后文件的输出也是自动的,这本来也是一个很大的负担,我见过太多投资人,周末也要加班做这些,能帮他们省掉这些我很高兴,还有一个是基金运营,比如净资产值计算,或者账户对账,每个月甚至每天收盘后,都要确认账户的余额是对的,我的第一份工作就是做布计,非常耗时,但这套流程完全可以自动化,OK,我讲了很多,就是希望给你展示一些有用的成绩,那基于你刚才说的,我其实想知道啊,就是你觉得AI时代的PE收购这件事情,有没有改变呢?
[38:49]
因为过去我们谈到PE收购一家公司的时候呢,我们可能想到的是,比如说投后公司之间会有一些并购啊,一些roll up整合,那现在呢,感觉我们几乎是进入了一个所谓AIroll up的时代,表面上你是在买这些公司,但实际上你买下的是他们的工作流,然后我们再把他们改造成一家AI native的公司,你觉得这会改变PE本身的运作方式吗?我看到过很多不同的打法,但主要可以分为两类,第一类投资人会说,凡是AI颠覆风险太大的领域,我们都不能投,这其实是很多人的直觉反应,第二类则是更主动拥抱这件事情的投资人,他们会说,现在其实是一个非常有意思的时间点,可以通过AI来创造价值,Amax GBT那笔交易就是一个很好的例子,还有很多类似的deal,投资人会去收购一些过去技术含量并不高的企业,然后非常激进地用技术,用AI去赋能他们,所以这显然正在成为一种新兴的打法,一些走在前面的GP已经在这样做了,而且我认为,他们能够创造的规模价值是真实存在的,但要真正创造出这种价值,并不是一件简单的事,现在我看到的一个问题是,很多人想象中自己能做到的事情,横直正能落地的现实结果之间,存在很大差距,我想强调一个核心观点,很多人容易犯的错误,是只把AI理解成一个降低成本的工具,但实际上,AI真正的价值,很多时候在于创造收入,打开新的收入机会,所以我经常会问客户一个问题,如果现在免费给你一万个受过大学教育的员工,你会做什么?
[40:28]
你过去想做但做不了的事情是什么?因为某种程度上,这就是AI现在带来的能力,就像我刚才举的两个资管公司的例子,对他们来说,这意味着可以进入一个全新的客户或业务细分市场,这一个过去他们根本无法触达的市场,所以这不是在降低成本,而是在增加收入,我觉得这才是很多公司真正应该走的方向,但现在,大家还是非常关注AI带来的成本削减,我认为这并不是最有利的切入点,真正该想的应该是,哪些事情是我过去做不了,而现在可以做的,也就是收入创造,它可以有很多种形式,我再给你一个例子,我们有一个客户是一家乳制品公司,他们有很多农场和奶牛,我们和他们讨论的时候问,如果你有一万个人,你们会做什么?
[41:14]
他们说,这个问题很有意思,我们会给所有账户都写报告,因为他们希望减少这些报告的时间,而把更多时间用来维持奶牛的健康,所以我们帮他们做了一整套,数据整合和定制AI系统,用来为所有奶牛生成健康报告,这样一来,他们就可以把更多时间拿回来,真正去维持奶牛健康状况,而这在过去并不可行。诶,那听起来你们做的事情和咨询公司做的事也很像啊,这也是我之前想提的另一个话题,就是传统咨询公司以前是帮客户去搞定他们自己不熟悉的领域,但现在你们这样的科技公司和AI公司好像在替代这个角色,用AI去改造流程,你觉得咨询行业会不会因此过时呢,还是说咨询本身会变成AI转型咨询?
[42:00]
我觉得未来三到五年咨询会迎来一波增长,因为所有企业在探AI的时候都需要重新思考商业模式,最简单的一个例子就是律师事务所,以前按小时收费,现在越来越难了,如果要转成按结果收费,整套激励结构都变了,这种转型你是要找人来聊的,你想知道别人是怎么做的,有没有经验可以借鉴,需要有人带你走这段路,所以我认为咨询在未来三到五年,会有一个明显的需求增长,但真正释放价值的,是那些最终留下了一套转型后的业务的人,所以我觉得AI实验室和像我们这样的公司,这种做完就走,但留下一套改造好的业务的模式,才是真正创造价值的方式,而不是只聊怎么转型,但话说回来,现在市场上不确定性很高,大家都处于观望状态,所以对咨询的需求是真实存在的,大家不知道该怎么做,从哪里入手,这也是我工作的很大一部分,就是坐下来跟客户聊,先搞清楚哪些事情值得先做,这个必须是具体问题,具体分析。
[43:02]
你有没有遇到过公司以为,他自己可以用AI搞定某个工作流,但实际上却根本行不通的情况,比如说大家有的时候,是不是对AI太乐观了,或者说对AI的运作方式有误解?最常见的问题就是什么都想AI化,但现实是这条路走不通,你必须把几件事做好,最关键的一点是好的数据平台,它的价值是负利是增长的,AI再聪明,没有足够的信息和知识,什么都做不了,我们有一个叫Neuron的数据模块,专门帮你整合数据,把数据映射清楚,确保数据可以被使用,这是大多数公司的第一道看,而且代价不小,因为他们之前根本没有做过这种事,第二个常见的错误是,一个十步的工作流,不是每一步都应该用AI,你可以用AI来优化整体流程,理清逻辑,划定哪些步骤是确定性的,但不是所有步骤都该交给AI,比如账目对账这种财务流程,你不会想让AI来做的,你想要的是确定性的结果,所以可以用AI帮你梳理工作流逻辑,但具体执行的很多步骤,应该是硬编码的确定性的数学计算,我觉得最大的两个坑,一是数据,二就是把本该确定性的东西,也让AI来做,你觉得整合数据这件事情难不难,我理解每个公司都有自己的私有数据仓库嘛,Proprietary Data,但这些数据是不是比想象中的要更加难用,在麦肯西的时候,每次去一个新的客户,我都会把七个不同的数据集扔给一个分析师,让他把他们合并起来找洞察,我当时就觉得很不可思议,为什么还要这个分析师来干这件事,但这就是现实,数据不是只有结构化数据,还有非结构化的,你的Outlook邮件,Gmail,LinkedIn,ERP系统,Salesforce,这些散落在各种各样的系统里,如果你真的想要搭一套能够改变业务的系统,就必须把这些数据汇聚起来,我们有四个数据模块,第一个叫Neuron,是一个数据层和数据网格,不会打乱你原有的数据架构,把结构化和非结构化的数据整合起来,并映射不同对象之间的关系,让你真正能够消费这些数据,第二个叫Atomic,帮你梳理和自动化工作流,评估AI在工作流中的表现,第四个是Action,协调工作流中的不同智能体,Neuron是起点,因为数据整合往往是第一道门槛,而数据就散落在各种各样不同的系统里,对,而且有的时候公司自己都不清楚自己现有的数据长什么样,PE收购来的公司就是这样,可能跑这四套不同的ERP系统,Salesforce在这边,Outlook在那边,Gmail又在另一边,然后你想做销售转型,说想搞清楚为什么客户在流失,结果发现客户成功的数据在这个系统里,Salesforce的数据在那边,销售电话记录又在纲里,先把这些整合起来才是第一步。
[45:57]
好的,谢谢Oliver。谢谢。可以说啊,现在这个赛道已经有太多玩家了,模型公司在自己做部署,咨询公司在转型,应用层公司在快速扩张FDE团队,那在播客最后呢,我们回到和周五的对谈,聊聊这个市场最终会怎么演变呢?你觉得现在有那么多玩家参与到这个赛道里面,从一开始我们说的模型公司,到你们这样的应用层的公司,再到这些咨询公司,他们都开始去做类似于FDE的业务,这个市场之后会怎么样演变呢?就是它会变得像你说的那样,更加的去专注一个垂直赛道,然后会有更多的,比如说专精领域的这样一个产品,还是说我们会看到模型公司提供出一个更加通用性的产品,但是可以用在每个不同的企业里面。
[46:48]
对,还是比较难,就是在OpenAI跟Anthropic宣布它跟FDE公司合作,或者自己建FDE公司的同时,或者之后可能Google也announce它有FDE team,我们跟Google的愿远还是蛮强的,就是很多人其实也是Google过来,我们的工程文化比较接近,所以Google的FDE其实就是跟OpenAI跟Anthropic就不一样,他们也是说我这些engineer帮你做应用,的落地,且过程中我遇到我们产品的不足,我需要把它fix掉,但也是像我们这样有很强的产品的sense,帮客户去落地,但我觉得反过来说,毕竟它是Google,它是很不高兴去用别人家的东西,就比如说它语音,Google自己的语音,它不小不高兴用ElevenLabs,Cartesia,Deepgram这些第三方的厂商,或者是模型,它可能想推Gemini,这个领域就很卷,所以它不见得像我们这种比较独立的AI应用公司来讲会比较自由,就我们往往一个compensation中可能用20几个不同的模型,然后哪里最好,或者哪里最经济可笑,就我们不见得挑最贵的最好的,因为我们最后是卖Allcome的,我们并不是卖Token的,所以我们有很强的动力是说,我们挑哪个模型刚好够用,价格又合适,那我们去挑,而且要保证它要合规,然后要一直在线,那有些情况下你可能还要用一些自己部署的模型,确保如果网络摊掉也能用,我们会在这样一个中间状态,我们有机会挑最好或最合适的,而这种选择的自由度对大厂其实都是没有的。
[48:12]
嗯,嗯,明白。最后我的观点还是说,FDE是一个对人的要求会很高的一个职位,但是也是作为Engineer来讲是非常令人激动的,我还是认为会有很多Engineer需要做技术专家,比如他是某些网安全的专家,他是一个infra的一个专家,他是一个安全的专家,甚至是说他能够做出一些很好的全端组件的模型,若如此类,就不是说所有的职业都需要转成FDE,但是对于那些对自己的技术有自信,然后你也很open去学新的技术,而且你不讨厌跟客户沟通,甚至是你enjoy今天跟这个餐馆,明天跟这个牙医,了解到他们怎么运作的,因为你自己不可能一年换个三四四工作,去不同公司去做,但是你做FDE其实是有机会跟这些具体的行业,具体的owner能够有戏聊,哪些东西可能不见得很技术,但是对你作为个人来讲,你会对这个世界会有一个很近的一个认识,如果你不讨厌出差,不讨厌跟客户沟通,这是一个很不错一个方式,能够让你利用人这样一个价值,因为到最后我们自己也是百分之九十几的代码都是AI写的,但是我们还要花点时间去,比如说你要调prompt,你不能完全trustAI来调prompt,AI调AI可能的时候就会进入一个过分拟合,或者这样一个状态,所以人在里面扮演的角色更多是,我们是AI的触手,我们可能白天跟客户开会,甚至吃饭喝咖啡,你可能到晚上了,你自己对电脑一顿输出,把他东西说出来,AI知道了,变成AI的context,但你是不能指望一个人跟AI喝咖啡,跟他聊些有的没的,所以我们人在里面扮演的角色就变成,一方面能够获得很多AI本身不能获得的context,另外肯定AI很容易出各种proposal,但你需要有这个判断力,因为到最后我们是为这个事情负责的人,Skin the game,所以你有五六个不同的option,每个option,一大堆的procons,你出来个表格也好,AI可以帮你做这些看起来很全面的一些分析,但是他不能帮你做决定,还是要人在里面挑一个决定,然后你要为这个决定负责,你不管是take a shortcut,还是做一个大而全的一个方案,或者你意识到哪些有风险,就这边这个决定能力还是要比较强,包括你要去舒服别人,做一些改变,所以FDE锻炼的人的层面会比较多,如果有人甚至以后想自己创业,我觉得FDE是一个创业营一样,因为就是公司给你一个,肯定不是一个很舒服的一个工作状态,肯定有很多活要做,很多事情要学,但是你通过FDE可以锻炼出很多技能,这个对你后续的,不管创业或者是怎么样,都会很有帮助,是的,OK,我觉得非常好,那我们今天的播客就到这里了,谢谢Jove,谢谢一文,谢谢各位各位,拜拜,拜拜,拜拜,好了,以上就是我们这期播客的全部内容了,国内的听众可以通过小宇宙,苹果播客,网易云音乐,喜马拉雅,QQ音乐,蜻蜓FM,励志FM来关注我们,海外的听众可以通过苹果播客和Spotify,或者在YouTube上搜索硅谷101播客来关注我们,我们部分的文字稿还会收录在硅谷101的微信公众号上,谢谢大家,我们下次再见了,staff staff