Open AI 和 Google 放大招,我们可以做些什么?

- 发布
- 2024 年 5 月 24 日
- 时长
- 59 分
- 主播
- 徐文浩、任鑫
- 收听
- 小宇宙(节目主页)Apple Podcasts喜马拉雅
本期围绕三件大事展开:OpenAI 发布会(GPT-4o 端到端多模态与实时语音)、Google I/O(同类 demo 与 Chrome 内置 Gemini Nano)、以及 Ilya Sutskever 离开 OpenAI。两位主播认为这一代模型主要增强的是感知与生成能力,推理与规划并没有跨越式进步,因此更可能是「软件 3.0」的机会而非短期 AGI。讨论还延伸到开发者该如何选择路线(搭 workflow 还是押注端到端)、应用层的新场景、数据价值以及浏览器端侧模型带来的成本与隐私变化。
- GPT-4o 本质是把语音识别、大语言模型、语音合成三个模型串起来的方案替换成一个端到端模型,增强的是感知与生成,而非推理能力。
- OpenAI 抢在 Google I/O 前发布,被解读为狙击对手且自身产品尚未完全 ready,暗示更强的推理模型短期内不会出现。
- 端到端模型让外挂知识库(RAG)、voice cloning 等中间层插入变难,做产品的人要在「搭 workflow」和「只搞数据、交给模型」之间做路线选择。
- Google 的优势在于 Gmail、Chrome、Android 等场景数据与生态位,Chrome 内置 Gemini Nano 可能让开发者算力成本大降、甚至重回免费模式。
- 对大部分团队的建议是:要么好好套壳做应用,要么做面向开发者的新基建,同时把更多精力投在数据上而非调 prompt。
- Ilya 与 SuperAlignment 团队集体出走被视为 OpenAI 越来越像传统硅谷公司的信号,也让人怀疑这一轮低垂果实是否已摘完。
- 市场侧观察:AI 应用收费变容易、细分的重复类产品大量拿到融资、把专业科技娱乐化是一条可探索的路径。
- 两人把当下的 AI 浪潮当作最好玩的时代,鼓励以玩的心态参与,机会仍多,尤其对有完整经验的老兵。
目录
点击跳到对应位置
- 开场暴论:AGI 短期不会来,这是软件 3.0 的机会00:00
- 本期三件大事:OpenAI 发布会、Google I/O、Ilya 离开01:09
- OpenAI 发布会:意料之外,情理之中01:43
- 端到端多模态:增强感知与生成,不增强推理03:07
- 受到冲击的是谁:组合式方案与估值型公司04:40
- 拿数据的能力与 AGI 的另一条路径07:45
- 什么叫 AGI:推理能力与世界模型两条线10:46
- 软件 3.0:确定性软件、搜推广、端到端模型三代12:19
- 推理能力是否要靠 workflow 和 multi-agent 拼出来13:52
- 千人千面:拼的是数据与上下文,Google 的场景优势16:47
- 新基建的想象:从 Doom 引擎到 RAG 如何外挂18:21
- 路线选择:只搞数据,还是继续搭 workflow27:32
- 最近看到的应用方向:收钱变易、细分产品与专业科技娱乐化29:43
- 新产品形态:AI 与你同处一个场景34:32
- Google I/O:一模一样的 demo,被 Sam 嘲讽36:30
- Chrome 内置 Gemini Nano:成本、免费模式与隐私38:29
- Ilya 出走:集体跑路、路线之争与低垂果实42:59
- 摩尔定律式的乐观:也许从犄角旮旯又接上棒子45:50
- 给做 AI 产品的人的建议:套壳、基建、数据48:08
- 投资人视角:高增长的公司不发 PR 稿;老兵的机会52:01
文稿
共 719 句 · 点段首时间或句子从该处收听,双下划线是重点词条,其他词条悬停可见
00:05我的理解是说,现在的你的输入的能力变成了一个感知的能力嘛,你的最终输出也也是一个生成的能力嘛,然后中间你模型又有一层的推理能力嘛,对吧?现在其实是模型可以跟你提三件事情,它三个东西都体现在同一个模型里。那通过这三个东西,如果要做新的产品,它的基建是不是有非常大的变化?
00:45从Ilya Sutskever走,我会基于这个假设来做所有的事情。会觉得说是不是这一轮的AI的,就是low hanging fruits已经摘光了,就是低垂的果实已经摘得差不多了。说我们就得假设说在接下来的迭代,一年,可能一两年还能有这现在的这个进化速度。
01:02再往后,真正想要的那个AGI可能短时间内不会来。
01:09欢迎大家来到AI炼金术啊,我们失踪人口回归。Hello,hello。好的好的,那那个我们就来聊天了。本来那天就是那个发布会后准备拉徐老师蹭个热点的,但是那个创业公司比较忙一点,然后我们就等到周末来继续蹭热点吧。这这周就几件大事嘛,第一件就是OpenAI的发布会,第二个是Google I/O的发布会,第三个是Ilya Sutskever同学终于就拜拜了,
01:37对。虽然他已经被证明了还活着,就是一个好消息,是吧?然后,所以这三件事我们可以分别聊一下。那第一个就是那个OpenAI发布会,对吧?正好,你看了啥感觉?
01:48看了,就是,第一个我觉得意料之外,情理之中。第二个我觉得是说,看完了之后我其实有一个,我有我我有一个新的暴论嘛,呃,AGI短时间内不会到来,对吧?这一轮是software 3.0的机会。然后我先讲暴论嘛,就是说其实我觉得从那个Claude的那个Opus那个发布,包括Llama 3发布之后,
02:10所有做基础模型的人其实并关注的是说,那么OpenAI什么时候会发一个新的模型?这个新的模型能不能真的在推理能力、长程计划能力,就是做planning、做计划、做推理、做复杂任务的能力上有很大幅度的提升。而且我们觉得这个事情肯定不能拖太久嘛,人家已经发了一两个月了,你不能说明年再发,你肯定在一个季度之内得发嘛。
02:33所以前一阵我记得那个LMSys上也有很多那个,就偷偷出了一个叫什么ChatGPT杠二的模型嘛,对吧?就是搞了很多。
02:45对。然后呢,呃,在这个发布之前其实有好几个小道消息。第一个是说,哎,会有GPT-4.5,就是ChatGPT第二代的ChatGPT,对吧?或者叫ChatGPT 5,当然这可能会改名,这是一种说法。另一种说法是传很多小道消息说ChatGPT会做SearchGPT嘛。
03:02然后第三个消息就是会做一个这种语音的助手。那实际上它最后出了是这个,本质上就是在原来的多模态能力又加上了端到端的语音的能力嘛。如果你回过头来从模型能力的角度来讲,加一个语音的多模态这件事情,我觉得第一个叫是顺理成章,肯定有很多人都想做。
03:23第二个是说,它本质上只是增强了感知能力跟生成能力,其实不增强任何推理能力。
03:29但是它的那个,我感觉它是多模态端到端的话,就是呃,你可以说它脑子并没有变好,我也测了,但是它应用层还是体验好了很多很多,有很多很多新的想象力了。
03:49啊,对。有能力有能力追赶的都会觉得我做得了。对对。
03:54对,就是,就甚至是说我觉得,呃,他做了这个之后,大家一想就觉得,哎,这东西是可以做的。甚至我觉得有很多团队可能都本身在做,我觉得它不是一个。所以从我觉得从这个视角来讲,就是这两天Twitter上也有人说,说ChatGPT,呃,就是OpenAI变成了一个cheap product company嘛。
04:12对。啊,对吧?就是变成那个廉价的产品公司。当然我觉得这样肯定也是你叫好像是是你叫酸葡萄也好或者怎么样,但是我觉得总的来讲,就说明了一个事,就是我的感觉是一个事情,那说明新一代推理能力更强这件事情的确比想象中难很多,不是说会在很短期内出来,
04:31这是一个推测或者假设嘛。或者说真的特别关注AGI,可能大家更关注的是推理能力而不是感知跟生成能力。但是感知跟生成能力推出之后呢,我觉得呃两点吧,第一个是我觉得会挤压很多原来做应用的公司的市场。就是有因为我有很多公司都在做这种把很多模型拼在一起啊,对吧?
04:53就是,比如语音这个东西之前有一堆公司在做嘛,对吧?比较知名的像ElevenLabs,然后实时聊天的有很多用Whisper加大语言模型加TTS组合的,各种各样的开源项目也好,什么前一阵小火过一阵的什么Hume AI也好,包括这样的公司有很多。
05:11那么这些公司其实会受到受到很大的冲击嘛,因为本质上你原来的所有的解决方案,相当于在技术上落下了代差。不是说啊它的效果比你好一点,而是说你是一个多个模型组合完成的结果,它是一个端到端模型完成的结果。这个意味着你在原来的那个架构下去做更多的迭代,是从短期是OK的,你产品已经发布了,你可能有用户,
05:35拉长周期。你必须去追这个端到端的模型。
06:34对你说百百万美金A或者千万美金AR下面其实是世界跟你对于你无关对吧。总归能做到,但是可以跟你去。
06:42对的。所以我觉得是这样一个,这是我第一个视角,就是说,当然回过头来,我还是觉得说这件事情,呃,挺抓人眼球的,但是稍稍让人对AGI丧失丧失一点小小的信心。
07:33付费用户的就是这个GPT-4o呀,现在其实并没有开放给付费用户。
07:37啊,对。但是他之后不是说付费免费的都能用都能用嘛,那这个时候差别就不大了嘛,他得给点更好的东西嘛。AGI这件事情上面的话,我在想他们是不是还就利用他们这一代的话可以攒更多数据。比如说我我现在跟他讲话的时候,他可以利用我们的语言的反馈拿到更多的数据再训练嘛。
07:58但是其实这个训练是很有限的,但是他如果比如说他现在做到了说我可以所谓叫做拿起这个杯子,然后让他建议我选哪个杯子,最后我没有选择他建议的那个杯子,这个时候他其实是他根据实体物理世界,虽然他现在没有手嘛,但是他他他可以操作我嘛。他最后可以看我的操作跟他的想象是否一致,这个时候的话,其实我会感觉他他可以拿到更更丰富的数据了,
08:26就是那个数据的含义会比那个纯粹我跟他聊天里面他能够学到的要多得多。所以他这个好像可以为AGI铺一个,他不是AGI,肯定不是,离这还远,但是好像他这个场景他能够进入到我的context当中,并且他可以看见这个世界,然后是实时的。
08:46我感觉他拿数据的能力在大幅度的提升,拿现实世界的能力啊。所以的话会有像我我也想做硬件了都,就感觉像可以帮他看见啊。然后让他跟我一起看电视啊干嘛的,就一堆的事情可以出来,这个时候就感觉吃数据的能力变强了,这是我我看到的关于AGI的事情啊。
09:20什么Project Astra什么的我都不会发那个音。对,我
09:23觉得本质上Google exactly就是Google完全其实做了一个同样能力的事情,对吧?所以说而他推了这个这个很短的这么一发布会之后,他其实这个产品并没有给大家可以用。对。所以本质上来说就是他其实自己也没有ready,但他是为了狙击Google先把这个东西放出来。
09:42对。但是看起来它的readiness比Google还好一点,它毕竟第一个放了API,第二个号称是coming weeks。Google有一些会告诉你是
09:52没有没有放API,
09:57对。那那4O跟之前的呃GPT-4V的某API是本质是一样的嘛。
10:02就就快一点,便宜一点嘛。
10:04因为快一点便宜一点,我理解它是一个做生意的逻辑,不是一个AGI的逻辑。是是是。就是我觉得他在这个时间点放出这么一个狙击Google的这个东西,我觉得是说明他在AGI这件事情上并没有太大的进展。就所以我的感觉是他其实还是就抢时间在干的这个事儿嘛。
10:23然后第二个,他之所以要抢时间干这个事儿,那我理解就是短期内他也拿不出一个就是更powerful的东西。比如说他Google发了之后一天他就能发GPT-5,然后推理能力巨强。那他他完全可以在后面来搞这个事情也可以,对吧?啊,当然当然这都是我们我们我们瞎猜的啦,我觉得这个是是一个嘛。
10:46第二个我觉得是说我,因为我觉得AGI这事情特别难定义啊,就啥叫AGI?就是在没有GPT-3.5之前,我们觉得给你看GPT-3.5,你觉得那就是AGI了,对吧?但是他出来一年半之后,你就觉得它不是AGI。那有些人又觉得看到了这个4.0,对吧?
11:03这个觉得这个就是AGI了。那我我觉得是这样的,就是现在大家关注AGI其实是从两个角度关注嘛。第一个角度关注的是说,哎发现现在模型还是没有很强的推理能力,就做不到说模型自主做决策。这个其实从4.0、3.5出来,所谓的这个Agent这个逻辑,其实我觉得过去半年甚至一年是比较偃旗息鼓的。
11:26是比较,就是大家也吹了一些demo了,但是真的有谁产品落地做得比较好嘛,其实没有嘛,对吧?但是很多人觉得真的有很强的推理分析,自己做决策做行动的能力,有Agent这个能力,这个才叫AGI。那这个来看,就至少到目前,没有一个跨越式的进展,对吧?
11:44你可能每一代的模型都稍微好一点点,好一点点,没有说哪一代模型一下子有了翻天覆地的变化。就至少我们再再没有看到从3.5到4的这个这么大的能力差的变化。尽管很多人觉得3.5到4的这个能力差变化都不大。那另外一个AGI的逻辑叫世界模型嘛,世界模型就是我能看到我能听到我能说,对吧?
12:05那我觉得4.0其实是把,呃,当然这个世界模型呢又不包括复杂的推理,就是,所以我我的感觉是说,它其实带来了一个新的东西,就是新的我为什么叫软件,我叫Software 3.0,软件3.0,对吧?软件3.0我觉得核心逻辑是什么呢?
12:19是说我们重新去想说,最早的软件是完全确定性的。后来的所谓的搜推广是说什么呢?是利用一些算法去解特定专业领域的问题。就很多专,很多非常细分的决策是用一个特定的模型去解决,但是一个模型只能解决一个非常明确定义非常清晰的这个问题,
12:40对吧?就是我们搜,呃,我觉得搜索广告推荐本质上都是在做这个事情,包括过去的人脸识别也是干这个事情。就是你做人脸识别只能用一个模型,你用声音克隆只能用一个模型,对吧?然后,那但是我觉得这个是它现在相当于你的模型能力变成了一个端到端的,所有的感知跟生成的能力都没有问题了,
12:59就是模仿一个,模仿一个普通人已经可以了,但缺的还是强的推理能力嘛。所以而你真正利用这些接口去做一个复杂的应用的时候,你还不是一个自主的Agent扔出去,可能是你利用你的输入输出变了,但是你需要围绕这个输入输出搭的整个的产品的形态变了,你需要的基建也变了,所以我觉得是一个新的我叫软件3.0的机会,
13:28而不像一个AGI之后带来的机会。这个是我在看完之后,我我的一个呃假设吧,或者叫暴论吧,就是说我觉得因为所有来参与这个游戏的人都得都得赌一遍嘛。如果是赌AGI 2025年就来了,我觉得那你要做的事情跟你赌说AGI只能慢慢五分五分往前靠,
13:49你会做的产品跟产品策略会完全不一样嘛。
13:52我我的看法跟你不太一样啊,就是我我同意你看到的现象,就是说他们现在没多大进步嘛,但传说中他们是已经练出来了,但是进步没有那么大,所以放了放了会更糟,对。所以所以不如不放。但是假设他们就算没进步不大好了,但是我怀疑的是我们有没有推理能力。
14:15所以我如果认为人类本身没有推理能力的话,人类是有各种就是相当于拍脑袋吐词的能力,就是GPT-4或者5的能力。然后我们学习了一些模型,相当于我们学了workflow和multi-agent。是不是我们理解的推理能力最终其实是要靠workflow跟multi-agent做出来?
14:36如果往应用层说有Software 3.0的话,就会说那这一层机会可能是留给每个专业领域你去搭workflow和那个multi-agent的。但是也有可能是他在上面自己加一层,对吧?它上面有一层是是是workflow和multi-agent,说你你就是个这种脑子了,然后我帮你就比如说你要学习一个思维模型,
14:58按照这个然后比较大小,然后干嘛干嘛干嘛干嘛,一步一步做下去。因为这个确实像现在那个比如说吴恩达在红杉那边不是也讲了一遍嘛,就是光这样就可以提高百分之多少的效果啊,布拉布拉布拉。我们自己也试了很多的很多的那个产品嘛,确实你搭搭一个workflow,效果确实就很简单就可以提升嘛,
15:19会不会是这种情况?
15:20就我觉得这个workflow本质上就是workflow,就是我说的叫软件3.0的机会嘛,就是它不还是不是那个你给一个人工智能,你给它一个word level的一些API,比如说有一些search啊,有一些database,然后你就自己去,还是说你清晰地把那个workflow定义出来。
15:36但是在很多的demo里面,demo就不是说使用里面,不是workflow也是他们自己定的嘛,对吧?就是说只是效果不好嘛,但是框架是存在的。
15:45呃,对。就是,因为因为我觉得这个客观其实大家也,因为Agent这个事情大家很多人都在试嘛。我的理解还是说现实世界中,人能花一些时间去解决的,很多人花一些时间才能解决的问题,其实现在的模型还没法彻底解决嘛。第二个我觉得有一个很典型的,为什么我们不管它是不是AGI,我觉得都有Software 3.0的机会,
16:08就是因为说同样的事情,不同的人有不同的workflow。这个workflow的带来的结果你也很难评判好坏,对吧?我我举个例子,就比方说,比方说我们想去学一个新东西,那每个人的套路是不一样。有的人是说问一圈周围所有的朋友,有的人是去我先去search然后看看翻书,对吧?
16:30这其实就是一,就可能是完全两套workflow。有人可能是说,我把书从头到尾读一遍,把题做一遍,对吧?有的人说,我先看概览,然后我找一个时间的项目来做一做。然后就就就那,这其实你的最终你想要到的那个终点是一样的,但是每个workflow都不一样。
16:47诶,你讲这个其实是我后来看那个Google I/O的得到的一个感觉,就是如果AI的智能方面的进化大概到这个程度的话,那其实下一步比拼的,因为你刚刚讲比如说千人千面嘛,千人每个人不一样,那不一样无非也就是两种不一样,一种是我个体的偏好不一样,一种是我当下的呃环境上下文不一样。
17:11那这两种不一样造就了我的不一样,一种是历史,一种是当下。但是这两种的话其实都是数据。那如果是Google来做的话,它有我比如说假设我在Google上面,我我Chrome上的浏览记录它至少是知道的对吧,我在Google搜过什么东西。
17:25我还假设我用安卓手机,然后干嘛干嘛,我在哪里地理位置,它全知道,Gmail也是用它的。那这个时候的话,它的这方面就会就会很容易做得更好。就是如果AGI,就是AI这方面不能分开距离的话,那不就比数据了吗?
17:41这个就讲到两个,就第一个我觉得说继续堆数据能不能进一步的增强推理能力,这个其实是个问号嘛,因为scaling law你要堆一个数量级的数据才能加一点点能力嘛,这是第一个对吧?第二个就是有多少数据,就是有多少数据,就典型的比如写email这个事情。
18:00email这个事情很明显是说你光靠email其实你拿不到完整的上下文,对吧?你肯定有很多线下,可能我们俩还打电话聊了一下这个事情,所以才写了这个email。可能我跟旁边的同事聊了一下,我才写了这个email。可能我从网上又搜了一些资料,才写了这个email。
18:17所以你其实是不存在你有完整的数据的这个情况嘛。
19:01对。他在发布的时候印象当中是更先发的,基本上上一次发就是就是说这个是他们的特点嘛,但是在产品化上可能还是OpenAI的,大家是局部人先拿到手上嘛,他们的还还还还鬼知道怎么呢。
20:30然后Google那边的话,就是你看那个Google I/O里面提到了多少个名字,就我都我都觉得说你为什么要告诉我这个名字啊?为什么又有一个新的名字啊?然后就觉得为什么呀?那你想Software 3.0是什么东西?Software 3.0你是想做啥?
20:46我这不是想做啥,我是在,就是我觉得这个也是个模糊的idea了,就是我还在想说这个东西到底是啥。因为,呃,我因为我前一阵也在翻一些history嘛,就是说当时看那个比较典型的是说,呃,游戏界其实是因为你AI是靠显卡跑起来的嘛,显卡是靠游戏带起来的嘛。
21:06但是游戏在有3D影,在有特定的这个三维的FPS引擎之前跟之后,其实就是完全两代产品。前阵我在看那个,就讲那个约翰·卡马克,他当时做那个Doom、Quake的时候,就其实很早他们在做这些产品的同时,最后都是打造了一套工具跟引擎嘛。
21:26就是我能很快地做更多的产品。其实我觉得移动互联网其实也是的嘛,就是说大家围绕了各种各样的基建,从研发的角度,就沉淀了很多公用的组件、流程、方法论,对吧?就上一代的互联网公司的研发方式跟前一代的软件公司的研发方式其实差别是非常大的。
21:44前一代的软件公司的研发方式跟再前一代的硬件公司的研发方式其实差别也是非常大的,对吧?就是那现在因为本身来讲,那新一代的当这个因为现在的模型的API其实本质上是个基建嘛。在有了这个基建之后,你去做这个新的产品的研发方式应该跟原来一样还是不一样?
22:04或者它需要一些什么样的新基建?我觉得现在有很多人都在做新基建嘛,一些开源程序的框架,像LangChain啊、LlamaIndex,本质上就是新基建,包括一些做这种编排工具,Dify啊之类也是新基建。那么是不是会围绕新基建去做一个新的产品,产品形态也完全不一样。
22:23因为我的理解是说,现在的你的输入的能力变成了一个感知的能力嘛,对吧?你的最终的输出也是一个感知的能力,也是一个生成的能力嘛。然后中间你模型又有一层的推理能力嘛,对吧?现在其实是模型给了你三件事情,它三个东西都体现在同一个模型里。
22:40那通过这三个东西,如果要做新的产品,它的基建是不是有非常大的变化,对吧?以前就是就就比方说我们说国内的互联网公司以前做的事情叫做招了很多很多人,搞了很多微服务,对吧?搞有有有搞中台的,有搞微服务的,有搞前后端分离的,对吧?
22:57然后有各种各样的开源的这个。那么在这一波当,基本上我觉得是说4O其实已经决定了,基本上让大家看清楚,就是说所有的输入输出端到端这件事情是已经能做的了。所以模型现在也有很强的理解任何形式的输入能力,也有未来一定也会有很强的做任何形式的输出能力,
23:17然后它有一定的推理能力。接下来的围绕这个东西做产品的基建是怎么样的?因为很典型的我觉得有一个挑战,就是我现在看到这个东西,我第一个挑战就是,原来我们用大语言模型的时候是可以很容易地外挂知识库的,叫RAG,对吧?如果用上一代的,你先做语音识别,再走大语言模型,再走那个那个语音合成,你还是可以外挂RAG的,
23:40因为RAG是外挂在LLM,就是大语言模型这一层的。那你现在如果输入输出是完全端到端了,你这个想外挂一个知识库怎么干怎么办呢?
24:22也不啊,他你就把他当人好了,那你workflow还是可以搭呀,最多也就是第一个人看到的还可以跟第二个人说说啥的。哦,你是说经过说说这件事情是毫无必要的,因为他们既然可以全感知的话,为什么要用语音?
24:53那跟以前的那个那个纯语言的,就是跟4没区别啊。
24:58呃,有区别啊,4只是,4我不是靠一个模型解决这个问题,我是靠外挂知识库来解决问题。
25:06那现在为什么不能外挂?
25:08因为现在你,那现在如果你外挂的话,那本质上你不是一个端到端的模型,对不对?你还是语音识别成了文本,我去通过文本去检索知识库,拼进来,然后生成文本的时候顺便把内容输出了,对不对?
25:22不是,是这些事情全部发生在那个所谓什么latent space,然后我并没有搜索,我并没有匹配文本。端到端的话,它端到端的,我我理解的多模态的意思就是所有的东西都搅和到了一块儿,变到了到了那个那个latent space。
25:38你说的你说的是对的,端到端是这样,那就意味着我得给每个人单独训一个模型嘛,因为你的这些邮件的数据显然不在那个模型里啊。
25:46不需要在模型里呀。你是说他需要出来看一眼,但是他原本那个4他也需要出来看一眼啊,对吧?他理解文字。
25:56对对。但是这有一个差别,就是就是所以原来的很多解决方案不是靠模型解决的嘛,是靠workflow来解决的嘛。但是你现在这个语音语音入语音出是个完全端到端的模型,对不对?那么我的如果我想利用端到端的这个低延时的优势,我想外挂知识库怎么做到?
26:20肯定不是端到端了嘛。这你你现在挂一个RAG,它也不是端到端的呀,它是你是一个workflow来解决问题嘛,对吧?你
26:27说得对。但是他反应速度快了的话,你用户感知不到不就结了吗?哦,你你是要考虑底层是吧?
26:34不是不是考虑底层,我觉得这是一个,那现在本质上模型在尝试做的事情是不停的端到端,对吧?不停的靠模型解决所有问题。因为原来的解决方法是语音识别是个模型,语音合成是个模型,中间的语言模型是个模型。它把三个模型串一块儿变成了一个端到端的模型,它降低了延时,而且让很多比较难控制的问题解决了。
26:56越是端到端意味着你越这个模型是一体的,你越难往里插东西。你想外挂一个知识库怎么外挂?比方说,我想让那个合成的声音是另外一个人声,对吧?我想听,就是之前语音合成有一段时间大家很流行做voice cloning嘛。呃,孙燕姿唱各种各种歌,是它靠它的模型就完全训练进去,还是靠什么样的一个方式?
27:19如果模型完全训练进去,那你说哎,我就是特别喜欢某一个人的声音。
27:24了解,做用户端的话,其实最差情况下就是不会比以前更糟嘛,对吧?只会比以前更好。对对对
28:09这确实是个蛮大的选择的问题。我们现在还是还是在老路上面,我们还是搭了,在搭workflow。
28:22那肯定啊,他当然对的,要搭他自己在里面自动化。这这个
28:27就是我说要做决策嘛,就是你相信AGI多快会到来。
28:31啊,你说的这个有道理,对。如果都是端到端的话,我不如相信它,它将来也会提供接口的话,我就纯粹朝数据上去准备,数据和应用场景上去准备,然后告诉它,就有这么件事,你去想办法,或者我就自己做模型。对,
29:02我倒是想到另外一个事情,就是如果你讲的第一种情况可能出现的话,那么就是那个我我推荐给你们之前聊过的,在数据标注方向上的那种公司的话,它可能有了新的定位。它可以说世界会朝这个方向发展,所以我们是未来最重要的公司。
29:24有可能,有可能。我觉得这是,但是这个东西是,就就当然会不会是,如果是的话要等多久,这其实又是两个命题嘛。
29:33大家也不用操心这件事。就天要塌了就,反正你也没什么办法。你还可以操心一下,就是我我现在只做应用我就不操心这个。那你们现在有最近有看到什么呃如果我们讲Software 3.0,我们待会儿聊一聊Google那个啊,然后你刚刚提到Software 3.0嘛,你们最近有看到什么比较好玩的那个做应用的方法啊,或者应用的方向啊,
29:56或者什么东西吗?
29:56呃,其实没有,其实我们埋头在做自己的产品,所以但自己的产品也不能拿出来讲,但是我们是觉得说呃,我们是看到这一些基建现在越来越完善了,就是包括围绕LangChain啊、Dify啊这种,围绕workflow编排的这些基建,这些创业公司做的事情越来越完善了,而且越来越好用了。
30:14某种程度上讲,就很方便说你基于它做产品是可以变得更快的,对吧?所以我我我觉得是说,这些公司过去两年的耕耘其实开始慢慢有一些收获了。这个是我观察到的一个比较明显的特征吧。你说他们做的这个事情特别特别技术含量高吧,其实并不是,它不是一个黑科技,也不是一个说完全创新的在C端的一个产品。
30:40它其实是踏踏实实地把围绕大语言模型需要做的,就是让所有人更容易地用大语言模型,变成一个创造生产力,做得更好了。而且它也是一步一步这么迭代起来的。就是说我觉得是这个是我感觉,从这个视角我觉得其实对很多小团队在围绕整个,就如果你觉得这个端到端这件事情不会很快到来,
31:02很快是指一两年,那么我觉得其实在这整个领域还有很多事情可以做。
31:07对,我我想想我看到的一些东西跟大家分享一下。一个就是,呃,现在看到的话,收钱比以前好收了。对。就是大家AI的应用收钱比之前,你不是AI的应用收钱比好像,呃,收钱会好收一点,对。这是我看到的第一个现象,因为看到了一些公司。
31:25然后第二个呢,就是有一些公司的那个发展可能远超大家的想象,但是都没有大规模的PR,所以看到的PR和公司的发展好像两件事情是不相关的。所以的话呢,就是大家可以去那些论坛啊什么的多逛一逛,就是有可能你会发现一些正在爆炸型的应用。
31:47还有一个就是海外啊,这个我中国这这段没有太留意,海外的话,看到了大批量的非常重复的、非常细分的产品,就是他们腻到你都觉得说什么鬼。为什么,为什么这个这也是个产品?那
32:04但是这样的产品的收入怎么样呢?
32:06不知道。但是都都能拿到融资,对,我我是看那些拿到融资的。对对对,他们做,比如说我随便举个例子,比如说比如说专门给骨科的骨科的诊所做appointment的,然后就专门就是就是诊所还要再细分一个品类,然后还要细分品类之后只做中间的一个活儿,对吧?
32:25就是这样切切切切切切切好几刀。对。专门给某一类的那个用户做某一个细分需求的。然后还看到一个可能的机会,我们最近也在也在找业界的人在聊,就是看到一个机会,可能是把原来的专业科技民用化。
32:45因为我看到有公司他们是走了这条路径,他们把一些非常之高科技的东西,然后用在了非常胡扯荒谬的娱乐领域。所以我们现在也在到处看说有没有什么什么什么国防啊、安全啊、刑侦啊,这种奇奇怪怪的这种地方的,其实他们已经积累了,不管你说workflow也好,场景也好,他们积累了很多的东西嘛。
33:08这些东西加上加上,但是这堆东西比如说原本你要搭一套可能就要三个亿,但是他们有这个know-how,可能搭一套就三千万了,这几个人出来。那再加上如果你只把它用在娱乐上,可能就三百万了。再加上里面的组件,把它有有一大半的组件用那个用开源的,用新一代的技术,而不用他们的老技术做,
33:28可能五十万就做出来了。但是做出来了之后呢,别人一下子三个月还抄不起来,因为那五十万里面有他们的一个,比如说在在比如说审犯人,审审过一万个犯人积累出来的那套那套奇奇怪怪的那个经验,那个那个那个套AI,把它两者拼起来。但是要用在非常娱乐的领域。
33:47所以的话呢也在看,这可能也是个大家可以看一看的、看一看的方向。所以你可以看看你身边有没有特别小的细分,也是可以做的。对,虽然我现在还没有特别get到这个逻辑啊,但是我觉得像你讲的,就是其实你如果你你刚好有资源,有一个小细分的话,了不起的话你就赚钱呗,对吧?
34:06你就先不要考虑两年后的事情,这两年赚钱肯定是可以的。然后的话呢,你如果身上有什么黑科技,对吧?就是传统技术,你也可以想一想说这个传统技术有没有可能娱乐化,用到C端,找一个奇怪的场景去用。比如说刑侦的科技能不能用来抓小三,是吧?
34:23刑侦的科技能不能用来鉴别渣男?看这张脸就觉得他未来是渣男,对吧?这种奇奇怪怪的,可以找一找。反正我看到有这些。然后从OpenAI这次发布会上我也会看到说,就是会觉得很有可能场景这件事情,就是它跟你同时在一个地方,
34:41和你是了解了这个场景,你向他提个问题,这可能会是两类不同的产品出来。我们以前没有这种情况过,相当于他在我身边嘛,对吧?这个时候,那会不会有一类新的场景出来?因为它它就在我身边,它看到了我看到的。这件事情就不太一样了,跟以前产品设计。
35:02以前产品设计是我生活在这里,然后我通过这个屏幕告诉他他发生什么事情嘛。所以我们觉得这里面可能有机会,就是一个and的机会,就是我跟他一起。然后这个时候会发生什么机会,而不是我ask他something。然后还有一个东西的话呢,就是他现在明显可以看懂屏幕嘛,那他不是肯定可以看懂按钮嘛。
35:26然后他他操作这些按钮应该也不难嘛。对。所以理论上来讲的话,就是一开始讲的那套agent,比如说可以,因为我们大部分时间都是在电脑上、在手机上,那理论上来讲,那一套所谓,腾讯不是也发过那个论文嘛,就是操作操作手机、操作电脑,理论上来讲这一步应该不会太远了。
35:47所以觉得这里面不知道有没有什么机会,所以也在看。然后另外还有一个东西,就是我们自己做了一些测试,然后就会觉得说,多模态的话,在C端的感受可能会比大家觉得的要更影响会更大一点。就是比如说他说话到底是等延迟两秒钟还是延迟0.2秒,对吧?
36:10这个在数据上好像也不是很大,然后它的比如说会撒娇了好像也不是很大。但是如果你要做一些情感类的东西的话,这个的影响比那个知识库准不准影响更大。
36:21肯定是这样的嘛,效率类的应用跟走心类的应用,我觉得重点的东西是不一样的嘛。
36:30哎,那我们第二个聊一聊Google I/O呗,Google I/O刚刚聊了几句,那个我们蹭热点就蹭个够呗,这周发生的所有的热点。I/O你有什么想法吗?
37:01所以被那个Sam在发发推特在那边嘲讽嘛,阴阳怪气。
37:07我是觉得说就是Google发的所有东西都这么那点,嗯,Google技术很厉害,对吧?就是尽管是被别人抢先或者怎么样,你还是说他,他反正因为团队里的人才密度足够高,完全能够把你做的事情也都做出来。然后第二个呢,我觉得客观从过去很长一段时间数据来讲,尽管有了ChatGPT,尽管有了Bing当时加了那个ChatGPT,
37:30但是没有看到说真的对Google的搜索产生真正的冲击。所以我觉得其实Google还是有一个很大的回旋余地。但是呢,这个呢让你觉得对Google很有信心。但是呢,你每次看Google发的这些新的玩意儿,你又又觉得说,哎呀,你这好好的技术,为什么做出来的这个产品就是现在这个样子呢?
37:50你又会觉得对这公司又完全没有信心,所以你也不知道他们在干什么。
38:29对,其实我这个当中我其实最关心的是他们说在Chrome里面未来会内置那个Gemini Nano,就是Chrome里会自带这个模型。但是我很好奇,比方说你作为一个呃开发者,比方说我做一个网站里能不能调用Chrome的这个模型的能力,
38:47或者我做个浏览器插件能不能调用这个模型的能力。如果我觉得它可以的话,它其实又让很多应用有了一轮新的机会。就是你也不用做个应用,我做个网页,利用Chrome的内置的nano的能力,能不能做出一些什么有意思的东西来。我
39:03本来我本来想说这样就可以离线了,但是你是个网页,你离线也不存在呀。这这这这做来到底是干嘛的?
39:11没有,这个可以做成这种PWA offline也能用的应用了,这个肯定也是可以做的。因为我是觉得说,它的所有的这个场景对于你,因为我们不是Google啊,那我能利用你的这个能力能干点啥?就你干的事情对我什么东西有用呢?那我唯一想到的是说,如果Chrome里内置,它已经确定会内置Gemini Nano嘛,但是我很好奇说,
39:31这个Gemini Nano的这个能力开发和暴露给就是,比如我们做网站的,做浏览器插件的这些人嘛。如果能暴露出来的话,那我觉得又有很多事情是有一定的想象空间的。而且它可能不一定短期,因为那个模型很小,对吧?是个nano的模型,但是随着算力上升,这意味着可能未来浏览器里都会内置一个觉得比较powerful的模型。
39:55那么是不是我去做一个应用的时候,我就不需要考虑说我自己host个模型在server端?我是不是有很多的应用就直接利用浏览器里内置的模型能力?就能做了。
40:06比如说什么呢?
40:25然后如果是这样的话,其实理论上来讲,如果Chrome自己带类似于Arc一样,比如说可以帮你那个什么另存为的文件,可以帮你自动命个名啊什么的,理论上来讲,它会把Monica的常见功能应该全部吃进去。就Monica吃小小小插件嘛,它吃Monica嘛,所以Monica要去做浏览器,不做浏览器就是死。
42:45看到也就哦,就结束了。
42:48你不不会觉得说啊好厉害啊,你从一个用户的角度,或者从一个消费者的角度,多少有点审美疲劳了。
42:53OK,你觉得会有这边会有一个机会,了解了。啊,就Google I/O。然后那最后一个蹭热点的是讨论,就是Ilya,你怎么看啊?第一个是当
43:05八卦看一看嘛。第二个是,呃,我因为你也不了解到底什么情况嘛,就是大家就只能当八卦聊嘛。就我觉得无非是,而且不止Ilya走了嘛,就整个SuperAlignment团队的,不是,就推特上一堆人说I resign嘛,对吧?这其实也不是Ilya一个人跑路,就是一堆人集体跑路了嘛,对吧?
43:24当然,我们也不知道它是个纯粹的内部的政治斗争,还是路线之争,还是,但是我我总觉得就是说,就我们做研发出身的人吧,总觉得Ilya走了,是不是证明其实OpenAI也搞不出AGI了。就就当然这这个是个,就纯八卦的讲法了,纯八卦讲,就或者我觉得这样,就是说,就是因为如果说觉得,
43:44觉得这个AGI能不能搞这件事情,我觉得对所有人还是非常重要,非常有吸引力的。那么到现在这个,因为我相信即使Ilya在过去半年在内部不管怎么样,但是他基本的信息肯定都还是有的嘛。就到底我你我们的模型进展到什么程度,到底能有多强的能力。
44:02我相信他不至于不知道,对吧?
44:04你的意思就是如果OpenAI比如说很快就能搞出AGI,他哪怕忍辱负重,他也会在那边死死赖着。
44:12也不叫,我觉得不是赖着吧,我觉得他就更有可能坚持要做SuperAlignment。是。他可能就有可能更有可能坚持在内部一定要把SuperAlignment做了。呃,我不知道啊,就是我觉得我们也只能当八卦聊啊,我们也不认识Ilya,也不认识Sam,对吧?
44:27也不,也没,也不认识在OpenAI内部的朋友,对吧?所以我的感觉更多的是像对OpenAI来说并不是个好的信号了。就是当然去年也不是个好的信号,去年那个政变,就是因为我前一阵正好说我在看那个,对吧,就是Masters of Doom,
44:44叫叫什么,Doom启示录,对吧?就看John Carmack跟那个约翰·罗梅罗两个人掰了嘛。当时这个,呃,id Software掰的时候,这个罗梅罗走了,成立了成立了离子风暴,对吧?事后当然证明,哎哎,那个id,对吧,id干的后面干的还不错,然后罗梅罗走了是错的,因为离子风暴其实干得非常烂嘛。
45:05但是某种程度讲,当罗梅罗走了之后,id Software也就慢慢变成了一个平庸的公司。我觉得一个厉害的公司,很多时候它能那么厉害,还是需要有这种,就是差别非常大的人能够共同精诚合作。所以就是说,如果都是一个公司里都是一类风格,都是比如说都是Sam,或者说都是更看重我产品,就是更像一个传统的硅谷公司,
45:30未必是一个好事。至少OpenAI的确越来越像个传统硅谷公司。我们不知道是不是,只能说从外人看来。对,越来越像,从外人看来越来越像。就比方说它现在模型也不开源了,对吧?
45:42之前还发Sora,还发TechReport,现在这个那个Sora TechReport也不发了。然后SuperAlignment团队也解散了。所以我会觉得说,是不是这一轮的,这一轮AI的,就是low hanging fruits已经摘光了,
45:57就是低垂的果实已经摘得差不多了。那就就就是换句话说,我们就得假设说,在接下来的迭代一年,可能一两年还能有这现在的这个进化速度,再往后,真正想要的那个AGI可能短时间内不会来。我会说,从Ilya走,我会基于这个假设来做所有的事情。
46:17但是按照你这样的话,其实我们基本上还是相信未来两年还可以进化,比如说五至少是会出来嘛,但极大概率会有六嘛。只是你这样推,其实就是有没有七嘛,如果按照线性推的话。
46:50是觉得这个东西它可能就是不断往上涨的一个东西。然后我会觉得Ilya的判断也不见得是准的,为什么呢?就,嗯,就是他的判断一定是有道理的。这个东西就很像是历史上的摩尔定律。摩尔定律在每过两年都会有一个很有道理的说法,说摩尔定律已经搞不下去了,比如说碰到量子效应了,
47:11碰到啥了,碰到啥了。你看起来都是一个科学问题,但是最后总会有一个非常奇怪的角度又把它给解决了。因为经济利益足够大的时候,会从一个犄角旮旯,因为其实会有一百个,因为经济利益足够大会有一百个犄角旮旯,比如说类似于什么,类似于什么RAG。
47:28什么乱七八糟的这种这种奇怪的模式出来。这一百个里面一千个吧,一千个里面九千九百九十九个不靠谱,但是最终会出来一个,然后他们又把棒子又接下去了,又又再往上再拉两代,再拉两代。所以也可能,我觉得更更可能是这种事情,但这个就纯属瞎想啊,毫无根据。
48:25呃,我自己会总结为对大部分团队来讲,要么就好好套壳,呃,要么就去做新基建。新基建不是做模型啊,就是新基建。比如说,呃,现在那个比如说模型,就是中间件的,像LangChain这样的开发框架已经比较完善了。那么第二个是像这个Devin这样的一些编排系统比较完善了。
48:43那么围绕的,我觉得还有很多东西有有需求啊,就是说我举个例子,呃。我我其实就有一个需求,就是说围绕多个模型能够方便地并行评测效果,然后在自己的线上应用的这种工具有没有?能不能在LangChain上做这样的迭代?就我随时切模型、切prompt。
49:01呃,你做一个,你现在可能大家基于GPT-4,就是大家我觉得大家现在经常会基于GPT-4或者基于Claude做了一个应用。但是我为了降成本,我是不是要换模型,对吧?或者说,哎,我发现这个能力,那个GPT-4不好,我要换Claude,对不对?
49:17那你可能经常要做各种各样的prompt上的测试呀,那这这个事情怎么能够嵌入到你整个日常,而且那些模型经常也不稳定。因为因为我们总觉得OpenAI偷偷在背后经常换东西。那这个其实有一整,如果你一旦开发了一个产品上线,其实你有围绕它的一系列的基础设施的需求。
49:34那这个这个就是我觉得更偏就是for developer的这种SaaS的需求。我觉得这类需求其实是有很多点,有很多需求可以抓的。而且我觉得是说随着开发者越来越多,这些需求是很容易付费的,在海外。因为我们自己作为开发者就买了,就就用了很多这种SaaS,嗯,来来干这个事情。
49:52我觉得这是一类需求嘛。第二类需求我觉得是应用的需求,本质就是套壳嘛。本质上现在做应用,其实你要么基于开源模型,要么就是基于这个这些API嘛,对吧?所以你其实大部分人是自己是不不改模型的嘛。对,第三个我觉得就是大家重视搞数据嘛。
50:08就是因为说实话,搞模型这件事情,未来的ROI会越来越低,就是因为它的成本越来越高。但搞数据的ROI,我觉得会越来越高。
50:45我觉得就是你想做什么,就是就是你,我说你花更多的精力在数据上可能会更有价值。我觉得倒不是说你这个数据能成为护城河,而是你要做产品。现在你可能在模型上花和prompt上花更多的时间,不如花更多的时间去解决数据的问题。
51:00哦,嗯,有道理。
51:23还有什么其他的想法吗?我觉得这个这个对对对的,我我虽然也会讲这个,但是有的时候我讲完就自己忘了。第
52:01我先讲两个听来的,听来的是那个说跟跟跟徐文浩刚刚那个悲观的想法不太不太一致的。是听来的是说,呃,只要在那个数据还不错的情况下,不停地堆算力,模型也也会变聪明。对。然后硅谷那边的说法就是,所以第一个这个。
52:21然后第二个就是说那个coding方面进展还是很快的。然后那个特别是在写代码的validation部分。但是你如果validation好的话,你再搭workflow,你也可以让它写得更好嘛。我觉得还好,validation的进化比writing code要快。
52:38然后我们最近也在搭workflow来做软件开发,所以这边的话也在搭workflow做软件开发。因为我们也投了一批公司嘛,然后也想说,嗯,我们要提供一些什么投后增值服务,能不能我们帮你外包一些活儿,然后但是我又不可能真的找一帮人来干。
52:57然后然后说能不能我用AI帮你干一些活儿,然后就就搭出来的那个东西的话,觉得等个六个月应该是真的能用的。对,所以其实觉得现在当然还有各种各样的问题啊。然后另外的话呢,就是因为现在在看项目嘛,所以那个换到投资、投资人视角的好处就是在于说可以看到好多奇奇怪怪的东西。
53:19然后你就会发现还是有蛮多人跑出来的。对,只是说他们就就可能没发PR稿,就是发PR稿的那些,反倒可能就是就有点像我自己之前创业,也是往往是在我情况不太好的时候发发PR稿。我业务进展很顺利的时候我恨不得全世界都不招我,但是但是我要找融资的时候,还是得把自己说得漂亮一点嘛。
53:41所以在投资人那边我还是很光鲜的。但是我跟媒体讲一定是讲我很悲惨,所以还是有一些公司现在涨得挺快的。所以大家也也不用太悲观,做应用也也是现在还是有一些很多公司在快速高增长的,甚至于是甚至于还会有很多是赚钱的高增长。对。所以机会还是很多的,只是看起来都是老兵了,确实没有看到太年轻小朋友,就就比如说赚个三五万美金一个月的这种嘛。
54:09但是只有老兵才是那种,就是上来就砰砰砰砰砰,直接砸量。然后说,哎,有什么技巧吗?没有,投放,算得过来账就加大投放。我就觉得说,嗯,果然是大军团出来的人啊,都是很猛,但是都能做好。所以大家也就是如果你是你是老兵的话,其实现在还是个好机会。
54:30因为这这次它确实要求还蛮全面的,对,又要还甚至还要考虑出海啊,然后你上来又要投放啊,你要产品要做好啊。还得招得到懂技术的人啊。一般来讲,三十五岁是是互联网人感觉就自己要被淘汰了嘛,对吧?我我跟徐文浩都超过了嘛,对吧?我们都属于已经被淘汰。
54:49但是你会发现这一波其实,对吧,老年人就是焕发什么,就是就是再就业的,还是很有希望的。因为还是有蛮多很很复杂的一个领域可以搞。今天还在跟一个朋友在说,真的就就这个好像在炼金术也讲过好几次,就是非常的感恩在这个时代,因为就觉得真的是太好玩了。
55:10虽然我不我不觉得我一定在这几年可以做出来点啥,但是这几年一定会玩得很开心。因为你个性上的话,你几年都做很无聊的事情嘛。但现在就是每一天你都会见到一些非常奇怪的、非常奇怪的人,非常奇怪的项目。然后你就看到科技又在进步。然后你你想想,比如说在疫情之前,你要你看谁家发布会啊,对吧?
55:32都很无聊嘛。对。这个你还跟发布会,还研究科技的进展,天哪,这这太嗨了。那天看到,哦,你发了这个啊,哇,好神奇啊,或者说,哦,这个还不够神奇啊,对吧?除了前两代iPhone的时候,可能你还看一看,现在谁看啊?
55:48反正觉得很神奇。我觉得大家可以以一种玩的心态来看,这几年的话会更好。因为大概率我觉得最后就是就是AGI到不到,无非我们被干掉或者被养起来,也就是到底是十年还是五十年的事情嘛,对吧?哎,徐文浩。
56:02你之前是不是有一个关于搜索方面的一个一个想法,我还记得你好像跟我分分享过。
57:12好,谢谢大家,拜拜。
本期词条
本期还提到
常见名词,文稿里悬停可见,右侧数字是本期提到的次数。
- Google29
- OpenAI26
- GPT13
- Ilya Sutskever11
- Google I/O8
- ChatGPT8
- Software 3.07
- RAG6
- 苹果4
- LangChain4
- Monica4
- John Romero4
- Claude3
- Gemini3
- fine-tune2
- 世界模型2
- John Carmack2
- Dify2
- 《Doom 启示录》2
- id Software2
- 摩尔定律2
- GPT Wrapper2
- Llama1
- Opus1
- LMSYS Chatbot Arena1
- ElevenLabs1
- TTS1
- Whisper1
- Hume AI1
- 红杉资本1
- 吴恩达1
- scaling law1
- 微软1
- Doom1
- Quake1
- LlamaIndex1
- DeepSeek1
- Meta1
- 豆包1
- Sora1
- Devin1
- a16z1