自主智能体:AI 不替代工作,而是成为虚拟员工|徐文浩对谈澜码科技周健

- 发布
- 2023 年 7 月 9 日
- 时长
- 1 小时 26 分
- 主播
- 徐文浩
- 嘉宾
- 周健
- 收听
- 小宇宙(节目主页)Apple Podcasts喜马拉雅
澜码科技创始人周健(ACM世界冠军、依图十号员工、前弘玑CTO)与徐文浩对话,讲为什么这轮 AI 浪潮他不做大模型而做 AI 自动化与自主智能体:大模型赛道领先者已占先机,创业公司只能从场景切入。他认为大模型只是通用聊天工具,落地要收敛到单岗位(猎头、会计、律师),靠 prompt 而非 fine-tune 构建能力,并谈到客户筛选标准、CPM/CPC 商业模式、数据飞轮,以及中层被压缩、组织变成大后台加大前台的判断。
- 周健判断在确定的赛道里领先者拿走了资本优势,后来者用技术正面追赶不成立,所以他选择从自动化场景切入而非做基础大模型
- 大模型是通用聊天对象但不是通用专业工具,做通用软件连接器会失败,应该反过来先做单岗位 Copilot,用限定词把范围收窄,超出范围的问题直接拒绝
- 他把 prompt 视为新时代的编程语言,认为沉淀的是 prompt 架构与模块(如 text to action、text to chat、垂类实体语义搜索),这部分不会因换模型而失效;fine-tune 只是手段之一,且解决不了企业权限问题
- 能落地的前提是客户有标准化流程、有数据沉淀、有人力密集型环节,ROI 才能算得清;此外还有总部管控子公司的管理价值
- 商业模式上他从按打井收费的 CPM 转向只有出油才付费的 CPC,并希望抢占「人」这个 entity 形成数据飞轮
- 组织形态上他类比军事组织,认为未来是前线 sensor 加大脑,中层被压缩,管理者可管的人数大幅提升,公司只招实习生和八年以上程序员
- 私有化部署的商业模式尚未跑通,大模型厂商担心模型被拿走、甲方担心数据被拿走,专有云是当下较合理形态;他预计国内模型六到十二个月追平 GPT-3.5
- 他用单位成本对比说明白领重复性工作被替代的空间:人力每小时五十元,云桌面加 token 成本折合每小时几元
目录
点击跳到对应位置
- 开场:介绍周健——ACM 世界冠军、谷歌阿里依图弘玑的经历00:00
- 澜码在做什么:在大语言模型上做自动化平台,先提效一百个岗位02:41
- 为什么不做基础大模型:领先者已占先机,创业只能从场景切入05:03
- 跟钉钉、飞书、微软 Office 是竞争还是生态:通用做不了,要反过来做单岗位10:05
- 什么是 AI 员工:不是替代人,而是给每个员工加一批 AI 助理20:31
- 模型能力三分法:NLP 任务、世界知识、复杂逻辑推理,以及 magic word22:00
- prompt 还是 fine-tune:fine-tune 是手段不是答案,权限问题它解决不了29:58
- prompt 是新时代的编程语言:模块化架构与 design pattern31:59
- 从 demo 到落地:代记账公司案例与可打井客户的三个条件45:39
- 管理价值:总部管控、业财一体化与可仿真复测的决策47:48
- 组织会怎么变:合成营、sensor 加大脑、中层被压缩1:00:54
- 私有化部署与专有云:双方都怕被拿走,国内模型何时追平 3.51:08:12
- 为什么 GPT 是生产力变革:单位成本账与代码生产力三个量级1:13:32
- 研究 Agent 的推荐:SPQA 架构与《人工认知系统》1:18:10
- 制造业怎么用:研发侧 CAE 跑实验可行,生产侧卡在具身性1:21:17
文稿
共 1019 句 · 点段首时间或句子从该处收听,双下划线是重点词条,其他词条悬停可见
01:41对,是我们队长林晨曦嘛。对对对
01:43对对,之前呢他也在一个做这个这个公司做CTO,但是看到AI这个大浪潮,对吧?也按捺不住亲自下场了。
01:53对,对不对?然后,
01:54对对对,之前前两天,就前两周吧,跟他聊天说融资也比较顺利。那么,呃,他们今天呢我们其实就是对周健,呃,做一个,我们也不叫访谈吧,因为我们也不是什么媒体,也不是什么,我觉得更多的还是做一个这个交流,然后更多的想请他帮我们分享一下,
02:17对吧?他是亲自下场,已经开始动手干活。有人有钱有团队,对吧?也有过去AI、云计算这样的从业的经历,对吧?就是大家如果有什么问题呢,也可以在评论区里这个留言。
02:29如果我们能回答呢,就是我们今天就请周健老师给我们回答一下,对不对?那,呃,今天呢会是我可能会提很多很多问题啊,就是上次我们虽然简单聊了一下,但是还是不太过瘾,对吧?就是因为我们知道那个,要不周健你先介绍一下你在做什么事情?
02:46啊,这样我觉得大家可能有一个背景。对对对。
02:49好好好好,那个,呃,我觉得其实,呃,我们现在其实之前其实一开始提出来的那个slogan,就是希望能够在大语言模型上去做一个自动化的平台。因为之前其实刚才徐文浩没说,就是我上一家公司是在弘玑,是一家做RPA的公司在做CTO,所以当时其实看到了,其实看到了蛮多自动化的、超级自动化的一些需求。
03:12所以,呃,其实也当时一直在讲嘛,就是人机其实是可以去协同,人机去融合嘛,所以其实一直在想怎么样去加上AI。那那今天其实整个大语言模型实际上带来一个技术平权嘛。就相当于对于像澜码这样的创业公司来讲,我一直在说就相当于我有一个三百人的NLP团队。
03:31然后那其实原来可能很多不能做的事情,就是我我其实是在做自动化里边AI的那个部分嘛,但是就是确实是今天其实这个AI怎么样能够把它用好,呃。还是有很多的一些门槛,所以我们其实也是试了很多,其实也做了很多的尝试。那所以现在其实还是可能从自动化去切入吧。
03:51但最近其实我觉得外面的这个媒体现在也越来越多开始在提所谓的叫,呃,自主的智能体吧。就是在像今天还有一个叫Copilot@Service的一个朋友圈的文章就在讲。对对对。说我们要做一个智能体,其实最重要的是预测跟自主嘛。就是,其实本质上大语言模型给大家,就跟软件开发带来了智能嘛。
04:11那有了智能,我们应该干嘛呢?就是过去的软件其实很笨,对吧?就是我们其实怎么样把它能够变成自主的,能够自动的,或者说替你着想的,去把你把一些事情给解决掉。就是就是或者说我们我们形式化的一点讲,就是让你从当前状态能够按照你的偏好的,能够帮你做到你的目标状态,
04:31对吧?就是这个比较形式化的去谈这件事情,但但但事实上其实这里其实不只是大语言模型能够去解决的嘛,就是这可能其实还是需要有很多的传统的一些技术其实加持在一起,然后更好的把这个问题其实给给各行各业吧,给AI赋能千行百业嘛。那今天至少先是把一百个岗位,一千个岗位能够能够去提效嘛,或者说能够让他们变得,呃,能够提早两小时下班,
04:56对吧?这个可能是我们现在其实在做的事情。
05:00是是是,因为,哎,呃,周健的这个公司啊,他们这个公司叫澜码。然后,呃,其实我有一个很俗的问题,其实第一次想,就第一次见到你其实就想问啊,就是说,那因为你做的一个事情其实是偏向于把这个大语言模型或者AI落地的一个事情。但是呢,其实我们看周围啊,像你这样的背景,对吧?
05:20就是说,啊,也做过这个,在Google这样的公司待过,也去做过这个,在做过AI的公司,对吧?其实大部分人选择说,哎,我们看大语言模型特别厉害,我们去做更偏基础层,更偏纯的技术,它可能还没有跟应用结合。就,就如果说过去几个月大家听到的各种融资的消息,都是各种各样的背景的人,都是在做背景比较优秀,
05:44这个这个团队能力比较强,都是在做基础的大模型。或者有些人稍微退而求其次,说我去做一些AI的基建的工作,就是说我做这种分布式的训练框架呀。我去做说怎么能够在云平台结合部署呀,但是你其实是选择了做一个更偏向to B,偏向自动化,偏向相对比较早能落地的事情,
06:05就是为什么做这么个选择?
06:07呃。呃,可能跟我过去的一些经历有关吧,就是其实在我之前的连续的两段创业经历里边,其实一段是依图嘛,然后一段是弘玑。那依图实际上其实跟现在很相似嘛,抓住了其实技术的一波突破的那个曲线。当然,其实当时的其实没有现在环境那么好,可以有基础的云设施,对吧,云服务。
06:28那它其实是靠自己的一些力量去投资,去去突破一些技术的场,就是技术的能力吧,然后带来一些新的场景的一些解锁。但其实当时还是有一个很大的一个感受就是说,呃,其实某种程度上叫做怎么讲,就刀尖是捏在自己手上的。因为你一直在靠投资人活着。
06:47然后然后你其实做了很多,哦确实啊,就是做了很多探索的工作,做了很多,就当当然那时候可能也不成立吧,就是也没有也没有像现在这样子成立一些云服务,可以很容易的去拿到这个技术的红利。那这是这是其实是当时感觉到的一个一个就是说困难吧。
07:07其实你越到后面。实际上这个其实这个问题是是是是越放越大的。然后,呃,另外一侧其实当时在在弘玑其实是相当于是更偏更偏业务的一个公司。其实看到了说事实上其实当有旺盛旺盛的需求的时候,其实反而更容易能够把技术给找出来。或者说其实当时即使是再再早的一段的,呃,经历,其实在阿里云上面,其实当时就是也是当时像是阿里巴巴内部创业嘛,
07:35所以其实是很强调说能够拿到场景。包括像当时的就是现在的工程院院士王坚王博士,其实一直都在跟我们强调要客户客户优先嘛,客户第一嘛。所以,呃,我自己的经验其实也是觉得说一个技术。就是,其实我骨子里边还是现在十分想做一些世界级的技术,但是今天可能会觉得说,还是先要在一个场景当中能够能够去把这个技术能够去打磨出来。
08:01因为现状某种程度上来讲,其实已经如果说要去进入大模型的那个战船的话,其实已经失了先机了。就是大OpenAI其实在前面其实已经领先很多了,人家是七八年前成立的,那你今天其实用技术的方式去追这件事情,其实是我是觉得是不成立的。
08:18就是所有的商业的历史当中,其实在一个确定的赛道,领先者资本就优先的时候,你其实是不不能,没有办法追上的。其实所以你就是即使我想要就看墙去,它是一个弯道的一个一个好像是绕远路了,但是可能我我自己会觉得从商业的角度上来讲,它是一个它反而它是一个唯一可能存在的一个捷径,就只有这样才有可能能够走到走到可能我想走到的那个地方。
08:45明白明白。所以你还是觉得说,其实今天真的大家来做大模型,多少有点跟风吧,就是好多公司其实也就成立了四五个月。但是特别是如果我们去看海外市场,就特别明显,其实海外市场没什么人说,我们就再重新来做个大模型。对
09:01对对。大部分
09:01还是说围绕大模型的这个生态来做这个应用。
09:05是吧?对对对。但是
09:07回过头来说,
09:08哎。呃,你说。呃,我我我打断一下。其实,其实因为我在,怎么讲,就是说我我的其实师兄师弟交大其实有很多其实做AI创业,在创业出来,要出来没出来的时候,其实跟他们都见了一圈。
09:23然后我其实问了一些问题,基本上让我很印象很深刻的就是在问他们嘛,说做产品,其实是自己闷头做快,还是说真的是有客户需求,其实在把这个产品打磨出来快。基本上一致的观点都是说,有客户需求的时候,把那个产品其实反而是速度更快的。
09:40所以这个角度上来讲,其实就说也有师兄师弟们一些,因为他们很多其实都是技术类的创业公司嘛。然后是的是的是的,能看得到说他们既然也已经就是跟我跟我的体感是相似的嘛,所以所以可能我就觉得说不该去走一条其实是至少别人没有走出来的路吧,就是。
09:59不见得不存在这条路,但是但是至少概率会比较低
10:46呃。我是这么觉得的,其实,呃,其实蛮早就是说整个,呃,软件啊,就是说我们其实这个人机交互的界面应该发生变化了。就是传统的其实所谓的菜单跟,就是图形化界面,所谓的菜单跟button,其实都已经没有意义了。然后,呃,你包括像我们其实自己试了一些东西,因为过去实际上在RPA的时候,其实做的很多的事情其实都是一些,
11:14呃,相当于都是很多应用或者系统的一个连接器嘛。所以我们其实是能,就是在那段经历当中是能感觉得到。其实是需要有很多,呃,连接器在那边的。就是人很多时候,其实现在很多时候在信息化建设完之后,呃。呃,特别是在企业内部,今天做事的线走建完,人其实很多时候是系统的奴隶,是数据的搬运工。
11:37所以这个角度,这个价值其实是很明显的。然后那那过去只是说其实用传统的这些方式,或者说用过去的RPA的技术,其实就会觉得效率不够高,它的那个表达能力不够强,是强壮程度不够高。那现在其实有了大语言模型之后,其实这个这个这个瓶颈就被突破了。
11:54那么在这个情况下面,呃。其实是相当于我我我一直在讲说今天其实相当于打开了一个新的维度。就是因为我我包括我跟一个头部的那个办公厂商其实是合作,也会有很明显的一个感受,就是他们原来做的很多的功能,其实最核心的无非就是一堆API,然后围绕着这堆API其实做了一堆界面,做了一堆菜单,做了一堆button。
12:17然后,那现在实际上所谓的聊天框其实并不会复用那些菜单那个button,它应该会使得说,其实你通过自然语言就能够把这些API,就原有软件的API连接在一起。那这是,这是现在其实是各个软件其实自己是能做到的事情。那,那其实你再多想一层,就是为为为什么只连一个软件呢?
12:39你把多个软件的API连接在一起,为什么不行呢?从从这个角度上来讲,就就我我看上去就是就像如果是用军队来举例子的话,相当于多了一个空军的维度。你你任何,就你传统的软件所有的开发。你你你这个
12:54我认同啊,这个我完全认同。但但我觉得我我觉得挑战可能在另外一方面,就是比方说我相信已经有很多传统的软件公司嘛,他可能原来做OA的,或者他原来做,呃,比如说WPS,
13:08对不对?是是是。
13:44呃,我觉得从最终的形态上来讲,会,就是假设我傲慢的觉得说自己能够成长到那个地步的话,那最终确实是会会有一些竞争对手的那个状态了。那现在其实远远这个体量什么的差距很大。然后,呃,我觉得其实两个两个方面去回答吧。第一个方面是说,呃,其实今天所谓的大模型,呃。
14:09它其实只是在chat的时候让大家觉得很惊艳,但事实上你在实际落地的情况下面,呃。它虽然是一个通用的聊天,很好的一个聊天的对象,但它并不是一个能够通用的去解决专业场景的这样的一个工具。是什么意思呢?就是说它可能你能跟他聊啥,他都可能回答你的问题,但是就就拿今天最简单的,我们说微软其实所谓的Office。
14:37那么今天其实微软Office其实它是一个通用软件,Word、Excel、PPT,它是一个工具,它事实上可以做任何的领域。你作为一个Excel表格,你可以做财务,可以做HR,可以做疫情防控,可以做营销自动化。但这个情况下面。
14:52实际上今天,呃,大语言模型它可能并没有办法在没有一个上下文的情况下面,确实是能够,呃,就是说能够达到那个准确度。所以所以从这个角度上来讲,今天事实上你刚才讲的钉钉也好,飞书也好,即使用GPT-4,它可能也都没有办法能够直接其实去做出一个功能说,
15:17就像我我我我想干嘛就干嘛。所以就是这个其实也是我一开始的误区,我一开始的时候冲出来的时候,当时觉得说哇,这个这么惊艳,那其实AI的问题,当时以为说这个问题已经被通用。因为它确实是有通用性嘛,所以觉得说已经被解决了。那么其实当时觉得说,呃,当时曾经有过一个思路说我每一个通用的软件做过去,比如说Word、Excel、PPT、PDF、邮箱、网盘,
15:45然后说,哎,反正你正常任何一个岗位,你大概也就常用的有那么十几个办公软件,我都一个个的做过去。做完之后,然后我其实就能当时就很很naive的就说,哎,那我做一个连接器,我能把这十几个工具用好。就比如说金山,金山办公的Excel,Excel跟微信,我我能,我能比如说我有一堆,我有一堆客户。
16:09我能不能在客户过生日的时候给他自动的发那个生日祝福?那过去可能这事儿就很麻烦。那你现在其实是好像是能能能做的。然后但是其实在在我说我我第一个客户是头部的办公厂商嘛,其实就折折掉了,就折掉了,就你会发现说搞不定,就是通用的其实现在是搞不定的。
16:29你还是就是说你可以有一个确定性的领域,比如说我们就就只是解决表格里边的领域。那表格里面领域里边的关键词可能是,呃,单元格、行列、表格,然后可能有什么折线图、饼图、公式。好,在这些概念下面。我今天通过一定的技巧,我是能够把这个准确率做到百分之九十九的。
16:54但是啊,九十九可能夸张了一点,百分之九十五吧。但是你你你如果说今天客户在上面,可能里边用我财务,那财务他可能有各种各样的叫法,对吧?你的表头可能叫收入,叫利息,叫什么什么,然后说请帮我计算一下净利率,好,完了。你这个要能够把这个通用性的能够翻译对这件事情其实是极其难的。
17:20就是你你你相当于你做一个通用软件,你你你你反过来讲,我我我举一个很很直白的例子,邮箱。请帮我整理过去一周的邮件。你觉得这个能做吗?这个能做吗?
17:34它这个是,这个是需求没理清嘛,对不对?我我觉得这个听起来就像是,
17:40对。但是,如果我是你个人的助手,我反我我不断的在跟你磨合,其实是能做的。你的秘书
17:46你是可以
18:14看简历的。对
18:16对对。那那这个时候他说请帮我整理一下邮件,这件事情是能做的。其实没那么难。是是是,对对对。所以从这个角度上来讲,我原来的思路是说我先做软件,我再做设备。
18:27设备是比如说会议屏、电视屏,或者说打印机。然后就是因为那个就有场景嘛,而且那有多个软件嘛。然后我说我再做单岗位。但我现在的感受是说不对,应该是反过来,先做单岗位。你先把猎头做好了,把招聘专员做好了,把会计做好了,把律师做好了。
18:45那然后这因为这时候你你有这个限定词嘛,所以他问一些奇奇怪怪的问题,你就直接拒绝就好了。你说你说如果是一个猎头,他说哎,请帮我计算一下净利率,对不起。我是一个猎头Copilot,我不理解什么叫什么叫净利润。
19:02哦,明白
19:03明白。但但你即使有这张表,我也我也不理你嘛,就是就是,那这个时候其实是可控的嘛,然后你包括你其实是能,真的是能解决这个问题,所以,呃,我觉得今天可能远远没有到,就即使钉钉,就是更不要说钉钉,呃。飞书他们其实都还受到国内的限制,以及说他们自己即使有GPT-4,他可能也没法用,他必须用自己的大模型。
19:27那这个中间其实就给像我们这样的新兴的企业其实一些一些空间,然后这是第一个维度。那第二个维度其实,呃,你也知道,就像钉钉这样的这样的东西,对吧?钉钉、飞书跟企微,我前两天跟一个朋友聊天,他跟我讲说理想汽车这三个都用了。然后然后那那你说这任何一家会让其他两家连吗?
19:51然后那你反过来讲,今天我是一个保险的代理,呃,我今天可能需要发一些发一些文案,发一些保险的产品。我可能会需要得到公司内部系统的一些审批,然后那我可能需要有一些飞书或者钉钉,但我又我的客户在微信上,我又需要去连接这个东西。
20:10所以那这个角色就就是RM的集成器,它就绝对不会是钉钉、飞书。当然不见得是我,有可能是金山办公或者其他一些。
20:21希望是你,希望是你,对吧?这样我们以后用起来也方便一点。
20:25是是是是是是是,服务服务好客户,对,提的bug都是最高优先级解决。
20:31对,然后就是你因为刚才就听起来说你想做的事情,我觉得听起来不是一个不是一个单纯的AI自动化,听起来你做的第一步我称之为叫AI员工,对不对?对,你想,有一个AI,它像一个员工,就像你刚才说RPO或者BPO的这种外包。但是我可以通过AI能够去替代掉,对吧?
20:52这个就回到,因为本来想问一些模型的问题,那我们正好顺着这个,我们就先来聊这个这个Agent这个概念,对吧?Agent这个概念呢,其实那个大语言模型刚出来的时候,大家没有那么重视。但是后来呢,其实就出现了很多这种偏Agent的这个论文吧。
21:11因为产品其实我觉得还有一个阶段,就是呃特别是这种人格化的形象,包括斯坦福那个AI小镇,对不对?包括这个这个那个我们现在看到海外,当然我们看到还有C端的产品,像就Carrax AI,像Call Annie这样的产品。就那是不是在你的你们的设想中,或者你们对未来的这个想象中,是说,然后我作为一个普通的员工,或者对吧,
21:36就是我要跟很多个这样的虚拟人,这样的智能体去打交道,对吧?然后我有很多个助理,他不是一个AI把我替换掉的工作,而是每一个公司里的员工一下子多了很多AI助理去放大他的能力这样一个事情。
21:49是,是。我我我设想当中,或者说我觉得现在未来应该是这个样子的。我觉得应该是这个样子的。OK,
22:35我觉得现在其实从GPT-3.5的角度上来讲,我觉得今天,呃,就是我觉得有三方面的能力。一方面是说其实是一个NLP的一些工具,就是它其实能够很好地完成一些NLP传统的NLP的任务,分词啊,关键信息抽取啊,然后就是包括相似性啊,其实这些其实是蛮多的。
22:56然后,呃,这一方面呢,我觉得今天其实各种模型啊,就是开源的模型,6B的,就是100百亿参数的,其实应该都还解决得还是不错的。然后第二类实际上是所谓的叫世界的知识。那世界的知识呢,其实就看它的训练的数据集,其实相对来讲我觉得也还是比较容易能够去追赶的。
23:17而且其实能看到像国内的中文的一些模型,其实百度文心一言之类的,它其实是可以针对中文其实能做得更好的。就如果是知识性的问题,我觉得其实是有机会的。比如说古文,对吧?就是肯定是,我觉得是比他们要好的。包括有一些,就像之前其实我我知道嘛,就是因为它的本身底层的实现细节,其实你,它是token制的嘛,
23:37所以理论上它应该不能做什么左右结构啦,笔画啦,但是我后来发现说,哎现在竟然已经做好了,就是但但可能就是一个数据库嘛,就是但anyway就是说,就是说其实是,其实这些所谓的世界的知识其实是是是,可能相对来说也还是容易去做的。但是其实我觉得难的还是说所谓的复杂逻辑推理能力。
23:57今天其实,呃,我觉得GPT-3.5可能在这个维度上,呃其实还是比其他人都强很多。我们其实包括可能我我可以就是大概分享一些我们其实用的一些prompt的用到的程度。就是我们会发现说,就今天其实已经有很多人在介绍了嘛,system prompt,对吧?
24:16你是you are the best developer,然后,呃,我们后面发现说实际上有很多的magic word,其实可能是这个领域里面的黑话。比如说像编译员里边有一个黑话叫做抽象语法树AST。然后在我们某些特定领域里边,我们在我们某个我们某个交付项目当中,我们其实我们我们琢磨出来说,
24:40哎,可以用,就围绕这个magic word,我们可能有了一个好的一个prompt,于是说我们的这个完成这个任务的准确率一下子就提高了百分之。
24:50啊。所以
24:52所以这里其实是说就是说你你可能还真的是因为其实原理上也很简单,因为带着这个magic word的那些文案,其实都在谈这些事情,对吧?编译原理都在谈一些抽象语法树,对不对?他一下子那个预测的那个准确率就因此提高了很多,这个也很正常,就从原理上你觉得这个很正常,但是其实是于是就变成说其实你在做这些工作的当中,
25:16呃呃,你怎么找到magic word,你怎么,你怎么能够围绕它生成合适的prompt,其实就能把,就是在GPT这系列里边,今天是3.5系列里边是成立的。然后,但是在其他的模型当中,其实国内的模型以及其他的,呃,我基本上现在都没有看到,
25:37可能Claude还行吧。这件事情其实蛮本质,因为我自己觉得说没有前面,就只有前面的两个东西,其实不能叫有智能。你无非就啊对,可以可以做很多事情了,就是说你今天有了一个通用的,对吧,很容易的NLP的工具,你只要付出千token零点二美分的成本,你就可以问什么是名词,什么是形容词,什么是动词。
26:20你你就其实比如说简历里面,你想把关键的实体抽取出来,这件事情就变得其实是很简单了。然后但是但是你没有逻辑推理能力,其实还是会很麻烦。就是就是比如说,呃,我们最近其实也在琢磨一些,我们因为法律其实大家都会觉得说是很简单,很显然应该要去做的一件事情嘛,
26:42它都是基于文本嘛。那其实你里边会发现说,就就第一个观点是说,其实法律可能对于大语言模型还挺难的。原因是说,法律本身其实最本质的它就有两个法系嘛,大陆法系跟英美法系。那所谓的这些法系,其实法学它本身最后都是在语言上,因为有很多定法的时候,那个词可能等到新的发生了之后,
27:07它的词的,就像我们刚才讲的智能体,可能在,可能过去法律语言里面都没有,或者说钱,什么叫钱?比特币算不算钱?就是,就你其实是,就是这件事情上,其实就是即使法学专家可能都很难做。那就更不要谈我们,就就我都想象不出来怎么训练一个模型去做一个英美法系的Agent,
27:29或者说去做一个大陆法系Agent。就是这个意义上你不在上面去加一些东西,它几乎一定做不到这件事情了。那那其实刚才讲的就法律里边其实我一个我一个我一个案例,然后法律可能有很多什么客体要件、主体要件、客观条件这种,怎么样去去抽取,其实这件事情上今天其实用呃那些开源模型可能就还都做不到是吧?
27:55就是做不到的,那这件事情,你包括像简历刚才也是嘛,你说九八五二幺幺,你说要有责任心,要有创业精神,我靠。这个这个你你你其实用逻辑你是用prompt你是能猜出来,你是能拆解出来一些一些东西的,但它还是需要有一定的逻辑推理能力才能去应对这些exceptional的一些东西,
28:15否则它就这个这个burden又交回了像澜码这样的公司,那那这个成本就高很多了,因为刚才讲的你就像比如说今天讲的,即使是NLP的任务,那过去比如说简单的一个行程安排对吧。我有很多的行程安排可能在邮件、飞书、微信里边。那这件事情可能今天其实用开源模型能解决得掉的,你无非处理一下时间、地点、人物、城市,结束了。
28:40但但刚才讲的那些事情,完了。那那他他他解不掉,那这个任务难道澜码再训练一个模型解决这个问题吗?那不又疯掉了。所以啊,
28:49所以那就回到了上一代AI的那个逻辑了嘛。就又回到了上一代AI的那个逻辑了嘛。
29:38但是但
29:39是复杂逻辑推理能力一定是一个很重要很重要的属性,否则很多任务它就变不出花样来。
30:22我基本上觉得fine-tune可能不太对吧,就是或者说我觉得可能它只是其中的一个手段,可能跟数据库、跟跟跟搜索其实是差不多的一个手段。只是今天大家,呃,有点带着,就是大家讲大模型有幻觉,我觉得大家其实本身对大模型的能力也有幻觉。大家可能就觉得说fine-tune好像很高级,然后我有算力,然后一方是,就我我最近一直在打一个比喻,
30:51我说这个就跟就跟石油勘探一样,就是说今天大家可能说,哎,好像有一个新的新的工具,可能能打井打得深一点。然后大家说fine-tune,那我就再用这个工具再做得深一点,在我所处的这块田上面去去去打个洞,看看能不能出油。但是其实今天,不就是fine-tune其实很贵嘛,但是你你你有很多的问题其实并不是,就是说你明明可以用,
31:17比如说最简单的,今天其实在to B场景当中,其实有一个问题是fine-tune绝对解决不掉的,权限问题。你企业的数据拿来训练了一个fine-tune的一个模型,那CEO跟实习生都都能看到这个数据了,那你问他都答了,那怎么办呢?
31:32但其实这件事情,那应该解决方案叫做说我我传统的软件开发早就已经解决了呀。那我为什么要要,就是说在这个意义上来讲,你即使fine-tune完,你花再大价钱,做得再好,世界最顶尖的fine-tune团队,那他仍然解决不掉刚才讲的那个权限,或者说你仍然还是要用传统的办法去解决这个问题。
31:52那我一开始就用那个办法解决不就得了吗?然后所以所以我觉得很多时候其实是这,这是大家其实带的一定的幻觉。然后,呃,另外一个幻觉或者说另外一个误解呢,我觉得其实prompt大家可能会觉得说好像prompt就只是说我这一问一答,
32:10我这个话应该怎么说。那其实其实,呃,像我们的用法其实我会觉得就是说prompt其实是新时代的编程语言。我会觉得说今天其实传统的是那种命令式的,就是Java、Python那种编程语言。其实我们沉淀的是说新时代的prompt应该互相,prompt的架构应该是什么样子的。
32:33prompt的模块,假设有不同的prompt的模块,那么这些模块应该怎么内置?prompt的,就是说可能一系列的prompt组成了一个模块,它的,就是就像比如说我们可以可以分享一下,我们其实把把把核心的企业里边的场景其实分成了几大类问题。
32:50比如说text to action,就是就是就是说你今天就像我刚才提到的。说这个,呃,WPS跟微信之间的动作,就是你你说一段话,就请把PPT每一页的title改成宋体。这这个其实应该翻译成一堆的API的调用嘛,就是text to action嘛。
33:09那这个是一个模块,text to chat,就今天有很多的数据,我今天就像就像管理者或者领导很喜欢用,哎。你能不能跟我分析一下过去哪个星巴克店的营收是什么样子?能不能画个折线图?这是这个就是也是一个核心的能力。
33:25还有一个叫做说,针对垂类的entity去做一个搜索,就语义的搜索。比如说通过JD搜简历,搜供应商,搜什么,就是这其实就是,呃,当然还有,就这三个是我们识别出来,基本上每个B2B的场景,或者说每个专业岗位的场景,几乎都需要的这个这个可能的一些原子的能力。
33:47那你在这些上面去沉淀出来的,就是一个prompt的workflow,它它显然是,就是说你你是可以不断的深化的,就是它不是,就是说当然了,我觉得换了模型没问题。但是换了模型完,其实可能要改变到的可能只是底层的那些直接跟大模型互动的那个部分。
34:09在上面的这些可能这个architecture,就是就像你软件设计一样,我们讲有什么design pattern,我们讲有什么微服务,我们讲有什么router,有什么name service,什么什么之类的。这个的pattern是不会因为模型的改变而被改变掉的。
34:26那么它其实就会形成说,呃,一定的壁垒。而且今天,当然,未来最后又会变成大家commodity,对吧?大家都知道了。就是所以,在我看起来,等我等到一定的程度的时候,我一定会把这些东西再开源出来。
34:39这个当中其实有有两个问题啊,我其实想挑战一下。第一个问题是我理解大家说fine-tune,我觉得到大部分现在在做fine-tune都是说我们要做一个垂直领域的模型。对。就是说它还不聊的不是那个通用大模型,也不是说我需要个知识库,而是说,哎,我想微调一个模型,专门比如说解决解决法律领域的所有问题,
35:00对吧?它的前提假设是说,我可以有,因为,呃,通用的模型里你还是有很多数据你获取不到嘛,这个是一方面。第二个方面是它为了去解决那个通用的能力,所以说它那个数据是很均匀的。但是就像你说的,其实一旦垂直细分到一个领域里面,它就有很多专有名词,或者有很多专门的pattern。
35:23那么很多人会觉得说我应该去fine-tune这样一个模型,他觉得说我靠prompt从大语言模型里其实能够再激发再挖掘出来能力还是有限的。就是你可能今天你再怎么做,呃我我我我不我不我我不知道打一个什么样的比方好啊,就是说,那你可能也解决不了,呃比方说今天的大语言模型虽然有编程能力了,你可能刷刷LeetCode是够的,但是你要去刷Codeforces它就不够,
35:52对吧?就是我觉得当然是肯定是说这个问题更难,但也可能是说在这个垂直领域,其实就有很多别的细节的knowledge,靠原来的那个单个的模型解决不了。对。啊,所以即使是,但是这个会,会让你们会觉得说,哎,有人说我做一个垂直领域的模型,那你们可能是选择是我利用大语言模型以及我的整个工程开发框架来解决这个问题。
36:20所以你觉得会存在竞争吗?或者会存在这个路线正确或者错误吗?
36:24我们大家其实思路并不一样嘛,我并没有,我并没有,就是说在我创业到某个阶段的时候,我也一定会把fine-tune利用进来。但是只是说现在,呃,虽然我们公司其实很快速的已经招到了五六十个人,但我我觉得说prompt这边我都没有exhausting,所以我并不愿意把资源投到那边去。
36:45我并不是说它完全没有价值。然后反过来讲,就是你刚才提到的那些问题,其实我觉得今天在做这个fine-tune的人,他其实并没有,呃,我觉得他回答不了那些问题。回答不了什么问题呢?就是你应该拿什么样的数据放进来。
37:00然后去做fine-tune,fine-tune完。你提高的是什么能力?就我自己今天觉得说,几乎只有在智能客服领域,我觉得我是看得见说,你对于这个,就是你用你在这个特定的领域里边,你把相应过去的那些语料,或者说销售的培训,就是类似这些场景下面,我觉得我今天觉得说是成立的,
37:22就是你把包括像王建硕最近在做的Chat2这些东西,就是你把某个人的公开的一些演讲的资料放进去,让他去回答问题,我觉得这件事情是成立的。嗯。这个是今天我我能看到fine-tune能够提高,确实是能够有效果的。但是你从另外一个维度上来讲,比如说我们就拿我们最近一直在做,我们在想要做招聘,那你把一百万简历拿进去做fine-tune,
37:53等于如果是简历,我听起来其实你应该是拿简历数据跟比如说整个面试的recording的那些脚本,然后放在一起,然后以及甚至最后的你可能写了个summary,这些数据在一起,可能是用一个模型是有用的。光是简历数据肯定没有用吧,因为它其实你你没有办法利用那个来判断这个人好还是坏,我要还是不要嘛,
38:15对吧?所以所以我自己觉得说今天我觉得要fine-tune,但是今天其实在企业内部,它是不是已经成立了能够去做自己的垂类大模型的条件,我是带问号的。我觉得很多,就像你过去其实数字化转型之前,其实你必须要信息化。那今天,就是比如说今天就像我基本上已经识别出来说对于我的客户来讲,如果他本身的工作流是标准化的,
38:42那可以很容易的被我替代掉。如果他本来都没有工作流标准化,那我也不好做。他乱七八糟的,比如说一个就是草台猎头公司十几个人,也是形成一种默契的,那你让我要替代掉。这个这个太难了。然后然后但你说一个财务共享中心,然后它其实工作流都梳理清楚了,本来它对外看上去就是就像我刚才讲的RPO、BPO,
39:05那它已经梳理清楚了。那本来其实是已经沉淀下来很多的过程数据了。那这时候你去再去做替代,或者说fine-tune也好,prompt也好,这是容易的。但但当其实我觉得今天更多的大家在实际发生的一些fine-tune的一些项目,更多的是企业也不知道怎么办。
39:24他只知道说我有这么多数据。fine-tune的人其实也不理解这个业务,然后就说行吧,那那灌进来吧,大家fine-tune一下,看看效果呗。就是就是,所以我说嘛,就是打狗井,管他通不通呢,反正我先打了再说呗。
39:37这个我觉得是这个现在这个阶段肯定会遇到的问题嘛,因为太热了,又刚出来,就是大家在追逐这个热点的过程中,会有很多人跑出来说,我有技术,我也不理解业务,反正你数据给我,我帮你跑一下,对不对?第二个也有很多公司说,我是个大公司,我要追求这个追逐这个最新的技术发展,我有预算,所以我觉得这个是两边一碰就会出现你说的这种情况。
40:01对吧?这个我觉得对,但是回到那个prompt的问题,其实我又会担心另外一个事情啊,就是,呃,因为prompt其实就是一段文本,对吧?就是如果我们只看最核心的prompt,当然它背后也有你说的刚才分工啊、开发流程啊或者框架,但其中很大一部分就像你前面说,
40:21比方说在一个场景下,你只要用了抽象语法树这个关键字,那这个就在这个knowledge其实很容易被带走的,对吧?我们,你说我要跑一个模型,那模型好歹要几百G,我怎么也得,呃,对吧?你我考一点prompt,对吧?我那天跟朋友开玩笑说,我考prompt,我这这拿个软盘就能都考完了,对吧?
40:42会有这种担心吗?就是说这个就是你们投入了很多研发精力,研究清楚很多prompt、很多场景,但是很容易被迁移走。就是说有一个员工说,哎呀,我就拿走了。
40:53就是说现在这个阶段其实它还是在一个,就像fine-tune公司其实也是在打信息差。我们其实prompt现在也是信息差,就是这个意义上最后prompt并不是壁垒。然后然后我觉得各种prompt,就像其实围绕着我刚才讲的text to action,它其实形成的这样的一些能力,
41:15它更像是一个,就是还是我刚才讲的,是一个打井的能力,它是一系列的打井的工具。然后最后呢,实际上我觉得很重要的一个,就是如果复用当年广告的逻辑上来讲,我觉得现在更像是在做CPM。我不管,我不管出不出油。我帮你打井,反正我帮你打一口井,打五十米你给我五十块,一百米你给我一百块,我不管你出不出井,
41:39出不出油。然后我觉得,事实上我们今天在,呃,我们其实假设是说我们今天是市场上可能在prompt这边,今天是最理解在专业场景里怎么样去做prompt的人。从而呢,我们其实到现在其实我们已经在开始转了,我们现在在开始试图去跟客户讲说,我CPC,
42:02只有出油。有,我才,你再付我钱。
42:04然后,然后,付费了。啊,
42:06呃,没有到CPS,我觉得还到不了CPS。但是现在可能是按照CPC,然后就是说你你你出油了,就CPS其实就是说出多少油我跟你分。啊,这个我今天觉得我还没有这个能力,我没有办法,就是说,但我我可能会去,因为我我我已经摸了,我我已经帮着别人,其实我在商业上其实已经帮了别人打了很多口井了,有的出油了,有的没出油。
42:29所以我基本上今天是有把握说,我围绕在一一起,就是说我我甚至现在会帮别人去做勘探。比如说已经传统的业务公司,比如说可能花西子,或者说CGL,就是就是电商公司或者猎头公司,他其实围了一片地,然后我说行。我们来,我们来,我们来做个战略咨询,我帮你勘探一下,说你的工作流当中,今天这一百个,假设有一百个工作任务。
42:57好,你今天二十个任务用三点五是能搞定的。然后十五个任务要GPT-4才行,再有十五个任务可能得等到四点五。然后你愿不愿意出这个钱?你愿意出,然后我跟你说你的工作流,你甚至比如说你的,就是因为那样的话,他他比如他有高级猎头、中级猎头、初级猎头,
43:15确实没有办法把初级猎头十五个任务全干掉。但是如果你能把初级猎头十五个任务干掉十个,那他初级猎头可能就不用干那么多了。
43:24那整个裁员杀手,对不对?
43:26所以,所以这个其实是今天我们又能做的一个业务。那那那这个过程当中,实际上它其实最终会形成一个数据的飞轮。我我自己觉得说AI的原生企业,或者说未来那些企业,其实一直其实之前奥特曼就讲过嘛,呃,大模型公司、数据飞轮公司、AI应用公司。
43:47那数据飞轮其实要抢的是一些,我自己觉得说要抢的是一些有价值的entity。那么显然在企业场景当中,人财物肯定是最重要的。然后我今天其实想抢的就是人嘛。你如果把,就是我我我我我有一个合作伙伴跟我举了一个例子。说日本有一家公司叫Recruit,千亿美金。
44:07然后它其实是从猎头起家的,但它今天其实能做到,呃,日本所有的top五百的公司都跟它分享企业内部的,呃,就是说人力相关的数据。就日本人如果说入了这个联盟的公司,那么每年进去之后的薪资,每年的绩效考核,是不是真实评价,都会被那个Recruit拿到。
44:33当然它是用过去的办法。那你说能够守着这么一个金矿,你当然就是说你你你你你做你的这个这个,对吧?就是说数据飞轮,
44:42这个是人力资源的Bloomberg了,变成。啊,
44:45对对对对对对对对对对。不是,那个人力资源
44:47的Bloomberg了。
45:39那因为我这听起来你们已经有很多项目已经实际落地了嘛。那我想大部分现在用ChatGPT啊或者用大语言模型,其实还局限在做学习跟做demo,对吧?就很多人做了demo啊,试了一些prompt,试了下,或者个人工作中简单用一下。
45:56就是但是,呃,我们自己原来就跟原来做产品一样,就做个demo其实很容易。但真正要产品落地,就像你说的说这个工作环节我能够替代掉,其实是挺难的。就在你看来,这个当中最大的差别是怎么样的?就你们觉得是说做到什么样程度,说我能够把它替代掉,这个当中最大的挑战在哪里?
46:18因为说实话,我觉得大部分人现在看到的还是demo,看到的是还是媒体上的宣传,说啊这个这个东西好厉害,对吧?但是啊,大部分人就上去试了一下,就跑了,对吧?并没有真的说公司里说我们把文案这次真的都换了,也没有说真的把可能设计出图是真的是换了一部分。
46:38但是如果到语言模型这一块,其实至少我周围还没有看到大规模的替代。但是我相信你们肯定已经看到一些例子,至少在有些环节是可以替代的。但是,呃,我自己的体会,因为我自己也写了很多demo,我觉得写个demo还挺容易的,对吧?因为你只要改改prompt,改到那个你满意给大家看就好了。
46:58但是真正要替代应该还挺难的。就是你们觉得这个当中的核心挑战在哪里?
47:03我觉得现在其实我觉得,呃,它更擅长做的是一件什么事情呢?就是说其实你们AI炼金术发过那个那个图,就是它其实擅长做的事情是edit这个这个APP。就是说,就是说怎么做这件事呢?比如我们举个例子,我们有一个客户是代记账的公司。
47:24然后呢,他就他其实沉淀了几十万的客户。比如说对于餐饮企业,他其实已经沉淀了十万的企业的这种数据,所以他当然有大量的模板,以及说管理会计的报表。那他当然因为他的客户的群体付给他的钱可能都不够买一个BI的软件的,所以他最终的形态呢,就说我下载这样一个Excel的一个一个Excel的文件,
47:48其实里边就是写了我可能最近三个月的,我作为我管理会计,餐饮企业,比如说我今天各个材料,今天折损率是多少啊,我这个门店哪个利润率更高呀,就是这样的一些东西。那么他过去其实遇到的一个困难是说,呃,对吧?客户总会希望VIP服务嘛。
48:06我要改一个这个安,我不按月,我不看过去三个月,我看过去十个月,我要看这个这样那样,就是一些微调。那这些微调因为过去的这件事情其实就变成了一个Excel的调整,以及说跟SQL的一个联动。然后于是他就没有办法用,就他有大量的会计在服务这些客户,他就必须要用后面的程序员,所以他这个服务就开不出来。
48:30但是现在用了大语言模型,他的会计其实用上这个能力之后,其实就很容易的能够提供这个能力。因为原因是说我们本来其实就有数据,其实我是很容易的能够去验真验伪的。就是这种场景其实是比较容易。今天其实就那你说他到,比如说他有可能他三千个会计就可能可以裁掉一千个啊,或者说他可以低成本,
48:54就是说更便宜的去愿意提供给他的客户这个服务啊。那那这里其实就直接就,就是还是刚才那句话嘛,就是说当他把一些流程标准化,包括他的系统本身已经做得很好的时候,已经有足够好的数据沉淀的时候,其实这里今天个性化的成本是极低的,就是二开的成本,今天就变成只要聊天就行
49:16了。这是今天我自己看上去,基本上最口井是可以一开一个准的。就是所以所以我我现在很多时候如果是CPC去开井的话,我是就是去聊业务客户,基本上我就会问说你有标准化流程吗?你有积累数据吗?你有你有你有你有个性化想要提高服务能力或者说降低什么吗?
49:36你有的,OK,那就可以做。
50:00明白,那这样来说,就是如果有一个公司想找你们合作,想提升内部的效率。其实你对他们的期望就是类似于说,第一个,他得有一个标准化的业务流程,对吧?第二个,他得有数据的沉淀,对吧?
50:15对。第三个,最好是他原来其实已经有,比如说一百个人,就其实还是原来RPA的逻辑。其实那三个人已经在干,或者十个人已经在干。那他其实就,你从这个角度来说,你要么把这些人干掉,让他去做其他事儿,要么就是你能接更多的客户,要么你就是更低的,就就反正就是说,总之你你的那个ROI是很好算的。
50:36那这时候其实就,这是我说,就是我我基本上就确定这口井我打出来一定有油。那那那这个其实就,就就所以现在我看起来,其实各方各面的替代基本上都还在这个。就是就是今天能比较,我比较sure说一定能够带来其实业务价值的,就就就在这个这个方面上,
50:57这个领域里面,我今天觉得说基本上就,就就反过来讲,猎头其实本身也是企业原有流程中的一个外包嘛。所以就比如说今天怎么写JD,然后怎么去约面试,怎么去,呃,其实可能去怎么去人岗去匹配这些事情。因为猎头公司一般都会有这样类似的数据,所以其实是是是可能是容易能够把这个,就是端到端的效率能够提升上去的。
51:23因为反过来讲,对于甲方来讲,我原来一个岗位要面二十次。要面二十次试才能招到一个合适的,现在只要面两次了,那这个效率就是提升,这个价值是很很明显的嘛。
52:47然后就是
52:49你总部你也没办法看,对吧?然后但但我今天说我给你这个工具,你没有理由不每天交了吧。那你这时候你你子公司与子公司间倒来倒去的事情就被我很容易的就发现出来了。那这个其实是另外一个维度,就不是降本增效的维度,而是管理管控的维度的一个一个一个一个价值。
53:09那这个我理解就是本身上原来的传统的数字化是不是也是在解决这个问题,而不是一个AI的,嗯。
53:17他他是你说的,呃,传统的数字化里边,其实它最大的问题就在于说,就是这个过去自动化的这些经验吧,就是说它有很多人的因素,很多政治的因素。就刚才讲的那件事情,它其实并不是说做不到,而是说,就就最简单,我今天一个比如说我一个牙科诊所,
53:39我一个眼科诊所,我今天各地开了很多的这个分支,然后我有很多的诸侯,那我很多的诸侯,我财务为什么被你统一管起来?我希望有自己的小金库。我为什么要按照你?我我我我是故意的采购不同的系统。使得说你没有办法去那么透明的知道我真情。
53:58其实很多时候它不是,它不是技术的问题,它是管理的问题。然后那有了这个,其实就像,就像我记得中央政府很多时候,像像现在的其实银行啊,你包括像现在很多像在讲房地产卖地的收入啊什么之类的,其实都是,就是说它其实是用技术来促进说,呃,很多原来就是你用一种新的技术去促进很多管理,
54:22其实是一些一些一些,就,对,就是一些一些,你知道,就是我我也不想说的,
54:29另外的一些东西。啊啊啊,大家都懂的。
54:32对对对对。大家都懂的,对吧?其实
54:35是技术,就是说你没有借口了嘛,就是你原来实际上这个中间其实还是有很多的缓冲在那边的。你你你反过来讲,我们再举一个例子,呃。其实有一个很特别业务的例子,就像,呃,一直在讲要业财一体化嘛。那那你当时比如说,其实今天像京东他会做得很好嘛,你你在京东上下一个单,那他是他的加盟商还是他是他自己自营的业务?
55:01你比如说买一百,奖五十返五十,这个怎么结算?他其实是有一套统一的,其实是因为京东比较强势,他能有一套统一的那个结算的规则。那比如说,今天另外一个维度,比如说我今天加盟酒店,连锁酒店,我我我我一个我一个用户在我的加盟酒店里边用积分换了一个房间,
55:21这是一个事实,不会动的。但是这件事怎么结算,它是有很多业务规则的。那过去这件事情,那没有办法,你只能找软件开发工程师,把把代码实现完,你才知道嘛。就是但现在其实不需要啊,其实今天是有可能你在上头,其实其实相当于是通过一些,你去把一些,
55:43就是你可以把,就就像有点过去所谓的PaaS层,你其实可以把这个留留的那个configuration的那个部分其实留出来,然后你就可以靠人其实去不断的去试。就就这个可能如果复杂一点的话,我们我们讲一个股票的例子,你你你股票今天有大量的数据,今天有大量的指标,
56:00对吧?MACD什么什么之类的。那过去可能你你就人肉量化,就像你说我们,我我我是老股民啊,就是你说我写不出来这个代码吗?我写得出来的。对,就让我写个代码,我很难。
56:12我我我我可能想,哎。哎,我今天有个策略,招商银行三十五块卖,呃,买四十块卖,我我觉得我一定能赚钱。那那那那也就是了,对吧?但是其实是,你可以这么一说,你在过去你去simulation,你是能复测的,哎。这个策略对不对?
56:28ETF五十,每周二买入,每周二卖出。我的这个都是,就是,其实是说,就是说,因为数据在那儿,其实今天有了大语言模型之后,它事实上是很容易能够configurable,你可以很容易地去描述你的这个逻辑,能够在过去的历史数据当中去复测,这个能力其实也是很可怕的。
56:46就是,就是,这件事情上是,是,就是,就是,这是我讲的管理的这个维度的一个,一个管理能力的一个提升嘛。就像,呃,其实那个谁来着,就是最近我还在看那本叫做因果,就是,就是那个诺贝尔,呃,不是,图灵奖的那个人。就是,呃,就讲贝叶斯讲讲因,就是因果关系是什么,统计学贝叶斯的那个图嘛。
57:10然后他就在讲说,其实是观测、干预跟反思嘛。其实,其实是,就是说,你很多时候你要判断一个东西有没有因果关系,你是需要去进入干预的嘛。但是你所有的干预,你如果能够仿真,那你其实就是把一些条件改变掉,你能够重新去算一遍,其实你某种程度上就能够更容易的去发现这个因果关系嘛。
57:32那那这里的管理的意义其实是,我我自己觉得说这个是下一个阶段其实是很大的一个管理意义的一个,一个,一个价值的一个。如果
57:41我这样理解。我不知道对不对啊,就一方面是说你有了大语言模型,意味着我去记录跟提取关键信息的能力大幅度增加了。就原来其实很难,原来,就原来就算我们所有的沟通在飞书上,但你不可能有一个人去一条一条给我翻出来看。是是是是是。所以我这个信息提取能力增加了,那么意味着我其实更容易追踪我做的各种各样的决策跟这个过程是怎么样的。
58:06甚至是像你刚才说的说,我甚至可以,呃,复盘一下说我如果那样操作,它当时会是个什么结果。那么这意味着我这个这个我其实不只是说数字化了,因为原来数字化说啊,我其实关键流程数字化。而是我所有的细节都可以去replay,都可以去模拟,那其实我能非常精细化的去管理我这个公司的运营。
58:28对对对对对对对对对对对,就像我们今天,我我我其实就是希望我的企业是AI原生的嘛,所以我现在在要求他们每周都写周报,然后他们参与什么项目,做了什么topic,一定要写关键字去描述。然后我觉得我我未来的绩效考核很简单啊,我问问题啊,我把这些问题灌给大语言模型啊,然后我就问他做了哪些事,
58:50然后比如我如果担心他瞎说,对吧?那,那我就问啊,他说,那他做的事情是不是每次都有两三个人都在说这件事啊?哦哦。原来是不,现在其实这件事情就可能了嘛。就是你其实是很错的,就是然后这是一个观点嘛,另外一个观点其实,呃,我们其实用的还蛮有意思的,
59:11就是,呃,另外一个观点是说,其实就是我刚才讲的magic word。其实在管理上,像,呃,其实以前我们在依图的时候去推行过一些所谓的,就是丰田的One Piece的那个那个那个文化嘛。就是你做任何的事情。你必须要
59:25写个一页纸。
59:27然后有一些有一些一些问题你必须要回答嘛,就就或者说不说一页纸吧,我们说PDCA环啊,什么SMART呀,然后这些东西。那过去其实我想要推这个概念,大家听一遍,大家得个印象,不知道怎么用的嘛。那你今天其实可以,今天可以问ChatGPT说,我今天要在喜马拉雅上面开一个主播,请问用一页纸应该怎么做?
59:50巴拉巴拉巴拉巴拉。然后你说,应该怎么做,然后我我可能,我只要很简单的下一个管理手段,我说,你们每周周报必须必须举三个例子,你用PDCA这个关键词,为了哪些问题,然后我再组织分享,就是我不需要有一个。原来过去的要做这样的推进的时候,我要有一支很强的PDCA的这个coaching的team,我才有可能把这个文化推下去。
1:00:14现在其实不需要。现在其实不需要。你你你这个magic word一讲,大家一想,大家……对对对对对,因为大家其实是很容易,就本来是说这个东西就在书上,你看完一遍你也不知道对不对。现在是说你可以用的ChatGPT很快地能够去interaction,你能够让它在你的这个特定的问题领域里边给你一个response,
1:00:38然后你还可以跟它互动,要求它改进,要求它怎么怎么样。这件事情其实从管理上来说是很可怕的一件事情。就是就是说你你你,就是我我自己想通这件事情之后,就觉得说,我靠,这个这个完全不一样了,组织文化都可以完全不一样的做法了。
1:00:54对对对,那这个问题其实我也会比较好奇啊,这个其实我们之前就是,你觉得在AI这个时代之后,就是组织这个形式会发生什么样的变化?我觉得这个其实是个比较开放的问题,因为我相信随着比如说大家有Copilot,对,ChatGPT出现,公司的组织形式肯定是跟原来不一样的。
1:01:13肯定就是信息时代的组织形式跟工业时代就不一样。那智能时代肯定跟信息时代也会有差别,就是因为你们已经在,就是我觉得就是你你这边会有非常多具体实操的这个经验跟体验嘛,感受一定比我们这些,对吧?主要还是在外部做研究的时候,我们看开源代码啊,说做写demo的这个人会更有更有这个体会,就是你自己的体会,
1:01:35就是你觉得组织未来会朝什么样的一个方向变化?
1:01:38我其实之前我一直很关心军事,就是我其实很很很喜欢历史,很喜欢军事。所以其实这个时代出现之后,呃……呃,这件事情出现之后,大家因为一直在讲说这是哥伦布去了美洲,这是热兵器时代。所以,呃,我其实研究了一下,我发现说,其实今天的军事的军队的那个组织形态,其实一直是跑在比企业的前面的。
1:02:02然后你去看,就是过去其实一开始是说冷兵器时代,后就是骑骑,就是包括说可能封建时代的骑兵,对吧?后面其实是排队枪毙,然后再后来变成有有那个机关枪,大家挖战壕,然后有坦克,有飞机,对吧?就是所以实际上今天其实能看到的是说,传统的这个军队的组织形态已经发生了极大的变化了。
1:02:25它已经不再是过去的那种班长、排长、连长、营长、团长了。大家都在讲合成营,就现在都是在讲说我要有一个特战小队,这个特战小队什么能力都有,然后我能够呼叫后台的能力。比如说我我前面可能有一个合成营,它有坦克,有有有步兵、战车,但是它能够把信息传过去,能够把导弹、什么什么飞机全呼叫过去。
1:02:50那那今天其实今天其实我们的企业的组织其实也应该是一样的呀。然后你比如说举个简单例子。招商银行,那招商银行今天实际上它可能有各种各样的分行支行。其实那分行支行,其实如果从这个意义上来讲,未来其实最极端的情况下面,最后应该是像滴滴一样有一个大脑。
1:03:10它就就是总部可能知道说我今天要干嘛干嘛干嘛,跟跟那个大脑说,然后大脑就负责中间协调。然后然后前面其实是,对吧,就是说相当于是前线的成员,他可能拿着个pad就跟客户去聊。聊完之后,他发现这边可能有个什么东西,希望呼叫导弹部队,啪就炸过去了。
1:03:34就是一个大后台跟大前台,但是中间的层级结构被消灭了。
1:03:39是是是是是,你因为就是讲嘛,过去的组织结构,其实你你有一线经理、二线经理、三线经理,其实中层最后就是上层嘛。中层其实就是向上下达,那上上下下其实很容易带着自己的利益,从而使得说这个中间其实这个问题就扭曲掉了嘛。但其实今天ChatGPT今天在这个维度上,它其实是可以很忠诚地去去去,就比如说把高层的战略可能就用Fine-tune,
1:04:06对吧?灌一下,就像用王坚说的东西灌一下,然后你有什么问题去问,他就回答了。然后你可以完全可以再设置一些红线,如果发现这个问题,然后可能就直接呼叫后面的CEO来干嘛干嘛干嘛。就是这个其实就形成了,就是中间这一层。其实因为原来因为人的这个带宽,因为人的这些问题,就包括说管理上,过去可能是一对一,对吧?
1:04:32最多管七个人,或者说最多管十五个人吧,这件事情可能就被突破掉了。就是工厂其实你想,工厂里面的流水线,一个管理者其实是能管五十个人、一百个人的。那过去可能是因为说知识工作者,他其实是没有办法,就是说他有太多的这种知识的一些东西,有一些特定的条件。
1:04:52那今天事实上我觉得本质上是,这个实际上又是复制那个工厂的模式嘛,就中间这个层级就被代替掉了嘛。manager可能就应该能管,就像我们自己内部的实践是说,我今天已经不招三到五年的程序员了,我要么是实习生,要么就是八年的程序员。
1:05:14对,我自己的代码可能超过百分之七十,现在都用ChatGPT写的。
1:05:20对啊对啊对啊对啊对啊对啊对啊。然后三到五年最大的问题在于说,他让ChatGPT写出来,他不知道对错啊。八年的人是很快就知道对错了嘛,那一年的人本来也写不出来,今年挺好的呀,我们写一下。让八年的review一下。但是这个时候其实整个的管理的层级,这个半径其实就都变掉了嘛。
1:05:39然后这这还只是第一层的那个反,第一层的这个response。然后我自己会觉得说可能工作流都应该重新,就是我觉得大的概率是说,其实就应该是前面有sensor。就任何一个组织,它其实变成更更更灵活了,前面就是sensor,更多的人其实是一线的员工,他是一个sensor,
1:06:00他感知到这个东西。然后有一个大脑,这个大脑可以是机器,可以是人决策,没问题,我是资本家,我我我我有我希望要做这件事情。然后中间其实就都没掉了。就是或者说中间可能就有一些呃修管管道工,万一这个断了我修一下,就是说这个是有可能会有的。
1:06:19但是其他的情况下来讲,因为它其实好处就是说它它它对吧,就是说工资低、高忠诚度,然后可能学习能力很强,那这个就是完美的员工,过去你你招不到。现在现在他就他就,而且实际上另外一个意义上,当然这个事情我还没有做到,但我只是觉得说今天其实一定能做得到了。
1:06:40就是过去实际上比如说我们以前有过一个案例,呃……呃,我以前在依图的时候,我们有一年校招特别特别好,五万份简历进来。那你校招是有时间周期的嘛,你来不及review这五万份简历,所以只能我解了一个规则,清华了多少份,交大了多少份,然后让我的小朋友,HR小朋友去执行,他们天天干到两点,然后我完全没有办法控制质量。
1:07:04那那你说今天这件事情其实完全就可能啊。是,是。这个这个智能其实你你,就是专家其实写得出规则的,只是过去是这个规则其实也做不了,这还得靠人,那人其实就没有办法去控制质量嘛。你难,你你只有办法叫重新看一遍,重新看一遍,那我还不如不要了,我自己自己看不就得了嘛。
1:07:24那那那那这个事情上今天其实是,这件事情其实是会带来很大的,就是就我我还没完全想透组织会怎么样。就是说前面一个是比喻嘛,我觉得今天一个是军事团队,一个是今天刚才讲的一些实践嘛,就是管理观念一定变多了嘛。但是还有就是说今天一定管理效应上今天一定是会容易很多。
1:07:44就是过去很多安全、风险、质量其实加了很多的那些环节,今天其实是变得是更容易的。所以
1:07:52你就在至少短期内在你看来就是,呃,大后台跟大前台,就中间的层级一定会被减少跟压缩。第二个是说,如果拉长周期看,就是很多环节都会被自动化掉嘛,那么很多环节都会也会变得容易,对吧?就是说,我觉得再再往后,其实大家现在还都在摸索过程中。
1:08:12那我这里还有最后一个问题,然后我们之后稍微留一些,我看有评论区也有朋友留言。就是你现在接触的这些客户当中,呃……在在你看来,第一个是说,会有很多私有化的部署的需求吗?因为特别是你如果你的客户都是比较多嘛,对吧?就是就是他的一定是员工数比较多,用AI它的收益才会比较高嘛。
1:08:33那第二个是说,作为一个私有化部署的需求,就是你觉得挑战会在哪里?因为最好的模型现在肯定是ChatGPT或者GPT-4。但是我相信如果说你们要跟银行合作,它基本上肯定是说我得有个私有化部署的版本,就是这个当中会有哪些挑战?
1:08:50现在我觉得,嗯,整个大模型的厂商对于私有化部署这件事情的商业的模式,今天还并没有跑通。他们今天其实因为现在另外一方面是说,嗯,大家在讲Model as a Service,但是你在私有化部署情况下面,怎么样用传统的软件的方式能够去加上license。
1:09:09因为他其实很担心说,大家其实,呃,对吧,在大家拿一堆数据,就像我以前也干过这活,买一个人家的私有化模式模型,把数据一灌,我就学出来了。我自己去学一个模型。所以,所以这个意义上来讲,今天他们其实很担心把最先进的模型私有化部署,他很担心被别人偷走。
1:09:29当然,银行不会做这个事了,但是这个意义上,今天其实他们大模型厂商今天是担心的。然后这个,所以现在其实我觉得现状来看,可能比较合理的是一种专有云的模式。就是,就是指说阿里云可能开一块区,对吧?然后,呃,如果说就相当于阿里云作为中间人去保证说,如果说,呃,比如说大模型厂商MiniMax、百度文心一言,
1:09:57啊,就是所以,所以可能不能是文心一言,但就是说他如果把数据拿走了,就是双方都担心嘛,就是说……甲方担心,
1:10:09对对,
1:10:09一个测试的框架。
1:10:11对对对对,你甲方担心说我的数据被你拿走,乙方担心说我的模型被你拿走。所以今天可能比较合适的是有一个呃中间厂商,可能对于今天MiniMax来、智谱来讲,其实在阿里云上专有云是成立的。然后另外一个场景呢,其实今天可能并不太能够去做一些呃特别敏感的信息。
1:10:32比如说今天像我们之前遇到过广联达,他说他的工程报价信息,他可能不愿意。我们遇到过钢厂。比如说BOM的,BOM他肯定不愿意给过来。但是你说今天我企业内部,我其实用,就是大量的企业其实用了不少的SaaS的非控类的,是,非控类的SaaS,
1:10:49对吧?那那我今天做一个工具,使得我做非控的这个呃变得更智能化。那本来我这些数据也在SaaS端,所以你今天说跟我讲,我有一个大模型专有云在云端,我可能也就忍了。那反过来,还有包括像今天保险代理,本来他们也就在外面,你说保险代理今天今天用一个专有云的一个大模型,
1:11:11可能也就忍了。你你包括你包括再包括像基金,基金很多拿到的信息其实都是公开信息。你包括很多上市公司。今天其实会有很多路演,会有很多季报。那我今天
1:11:22如果本来也要发到网上,公公公布给所有的。这些企业今天是,
1:11:52问个,问个,这容易得罪人啊,你觉得大家多快能追平到3.5?
1:11:57嗯。嗯,年底到明年年初吧。我觉得大概就是
1:12:00六到十二个月,六到九个月。
1:12:39但还有一个很大的问题,就是国内监管的问题,大模型要发证。然后,啊对,这不已经
1:12:45发了一批了吗?不已经发了一批了吗?
1:12:48没有啊。现在不是算法发证吗?还没有说大模型,那个不是大模型。那个
1:12:51那个叫,那个叫生成式算法发展,对吧?对对
1:12:55对对对,那个不是通用语言模型的发展。OK,
1:12:58OK。嗯。
1:13:43对,呃。呃,其实,其实过去所有,我觉得过去所有的软件吧,实际上更多的还是一些信息的记录吧。就是,就像陆奇博士讲的说,过去是一个system record。然后GPT它其实是今天,其实按照这个理,从从角度上来讲,它其实更多的是一个知识的,就是压缩嘛,
1:14:03或者说文本的一些压缩嘛。那这个意义上,其实它解决了所有的,就是说,就是知识的这个,就是它把这些算力真的转化成了这些智,呃,不能叫智慧,应该叫做知识的一个问答。那这个能力实际上今天,呃,我觉得是,是,就,就这么说吧,呃。
1:14:27呃,今天北京上海的人的平均工资大概摊到每小时是五十块钱。你在阿里云上面租一个云桌面,呃。每小时是五毛钱,然后你再七七七八八你加上一些,你想嘛,你你一个真的,就像我提到的数字员工的概念,一个数字员工一个小时各种处理,你你你你处理一小时能处理多少个字数?
1:14:51一千个token零点二美分。就算你处理10万个字符好了,很很牛逼了。一个小时你正常一个人,一个小时你能处理,你能读10万个文字吗?你读不了的。那,那如果从这个角度上来讲,10万字你一百倍也就,对吧?
1:15:07两块钱,三块钱,对对。对,再减不得了。那这个中间的空间,你想想看,就是说,这这很可怕。
1:15:16是是是,就如果我们从。
1:15:56那那就是另外一个话题了,那就是另外一个。但
1:16:39七十万程序员?
1:16:40对对对。全中国有七百七十万,全世界大概有两千三百万的程序员。那你从这个角度上来看,我当时算过,应该一天写一百行代码吧,你大概一年大概是一千五百亿行。那你其实大概包括说你如果平摊工资,一行代码大概十块钱。那你今天你问个问题,妈的十行代码就生成出来了,那你说这个是不是只有一毛钱了?
1:17:02那那那那那那从这个角度上来讲,呃。五年后,全中国全社会代码生产力加三个量级,你包括程序员可能会更容易了。你像这,我先不说这人就变多,七百七十万变成一个亿,可能每个人也都能写程序了,就是也不是写程序,就是他其实达达到那个,就像我刚才讲的股票那个东西,其实达到写程序的那个效果吧。
1:17:24那那那你说这件事情上来讲,呃会发生什么事情?就今天其实你很难想象像李开复这样的富豪,他能够有一支一百人的团队给他写一百万行代码,对吧?就是搞一个智能的agent你很难想象,但是未来,哎,成立啊,这件事情可就是一百倍一千倍的提升之后,
1:17:43为什么不成立呢?当然可以啦。你每个企业今天被定制化一个自己的一个什么样的系统,过去是不可能的,现在为什么不可能呢?可能啊。就是你你从总体的端到端量上来。
1:18:27好问题,我觉得,呃,现在可能这还比较前沿吧,就是,呃,我确实自己看到的,我我其实提到的那个所谓的SPQA嘛,其实我看到了有一个,有,就是,S是State,P是Policy,Q是Question,A是Action,就是,就是在讲说新的architecture应该是这么写的,这个是我今天看到的,可能还比较好的在谈到新的软件架构的,
1:18:55就是Agent相关的这个软件架构的一个一个一个博客吧,一个文章吧。然后,呃,我其实关注过一些传统,因为Agent本身不是一个新概念。AI其实一直在谈。你包括像我我上个月还去参加了CCF的这个多多智能体系统的一个研讨会,但我觉得他们可能现在没没在谈这些事情,
1:19:19所以我包括我其实买了好多他们那些研究的像什么多智能体系统的协作啦,就以前打星际嘛。这是打星际。就是包括说德州扑克这里,我觉得那些事情现在可能确实都还没到。
1:19:34就是现在还没到要多语言之间协作的地步,现在单Agent怎么去更好的去做,我觉得还处于很很初级的阶段。然后呃我自己的经验啊就是说,对,你要说这个的话,我我们其实我我我,可以可以到京东上去搜一问叫人工认知系统。他其实谈了人工
1:19:54认知系统。现在就下单。
1:19:58然后然后他其实提到了说他觉得硅基生命其实如果要做认知系统,他大概认为说有那么几大模块。什么自主性、具身性、记忆与预测,然后发展与学习、社会化认知、知识与表征。我觉得今天大语言模型只解决了知识与表征,其他的,就是我我自己去琢磨这件事情上,我觉得,呃,有些事情我自己也没感觉啊,
1:20:22就是,但是比如说记忆与预测,我觉得这不就数据库嘛,或者说这不就机器学习算法嘛。就是,然后我把这个加上架构之后,对于我探索这个所谓的Agent架构,其实是挺有挺有帮助的。然后,但其他东西我觉得更多的只能说是大家更多的在实践当中,就还是那个逻辑嘛,仿生嘛,人类大脑,
1:20:43其实那边那本书。其实我觉得那是那是专业科学家,他整理了很多认知的理论,然后重新去去去去去去整理出来,相当于一篇导论吧,就一篇综述。OK。然后然后我觉得今天怎么跟实际的大语言模型结合在一起,我觉得还是大家只有实践吧。
1:21:28呃。呃,我现在并没有,我过去碰过一些。然后,嗯,
1:21:34这么讲吧,就是其实在BOM里边,今天啊,我们今天有一家就是做BOM的,汽车原厂的BOM软件的。然后里边就是BOM,Bill of Material嘛,然后里边其实是有挺大的这个空间在那边的。他们传统实际上就是说,呃,这个其实当然就是在工业制造的产研设计侧嘛。
1:21:55然后,呃,你包括像其实在CAD软件,在CAE软件里面,其实,呃,是可以做,比如说CAE软件是做仿真的,那过去可能他们很多时候是要拿一个表格,把很多种实验参数放在那儿。然后一组组去试。今天其实你大语言模型你其实是可以很容易的自动的跑实验嘛。
1:22:15因为本来也是虚拟的,对,你为什么让人这么去守在边上呢?
1:22:19没必要。所以就是听起来,其实在制造业就是更多的,我们现在还是看知识工作那部分,就是研发侧,而不是生产侧,对吧?而不是生产侧。
1:23:08明白。其实还是回归到那个
1:24:02对,对,对。你不做好信息化,不做好流程化,大语言模型其实就是直接在企业这个层面上很难发挥效率。
1:24:12那我看我们今天也一个半小时了,那我们今天这个聊可能大概就先聊到这里。那最后我也给周健打个广告,对吧?就是大家如果今天是一个大型企业,觉得有大量的呃人力投入,你又比较流程化,你可以找澜码去谈合作,看看他们能不能帮到你们去提升你们的效率。
1:24:31澜是波澜的澜,码是代码的码。然后大家可以搜,网上去搜澜码科技。啊,当然我知道你们现在也很忙,这个这个这个都不一定接得过来,对吧?但是大家有需求可以搜一下。对对对,好吧,哎。
1:24:46这个今天非常感谢周健。那么大家对我这个感兴趣的,也请在所有的渠道关注我们,可以搜AI炼金术,不管是呃微信、视频号、那个呃小宇宙、呃这个爱奇艺、钉钉,其实我们都有。好吧。那今天就感谢大家来听我们这个唠了一个半小时,也非常感谢周健。
1:25:10啊,我们希望以后这个等周健老师这个公司做得更好,有更多的认知,我们看以后有机会再请他回来再做个回访。好吧。那今天谢谢大家,也谢谢周健。哎,
1:25:21好,拜拜。
本期词条
重点词条
本期重点讨论的人、公司、产品和概念,按出现顺序。
人物王建硕