AGI 就像特斯拉的自动驾驶，看起来行但是离 L5 还有距离

00:03OpenAI这些人是深刻相信这一点。他

00:05甚至认为什么算力啊，什么都没有这件事情重要。因为

00:08算力也不是他的，对吧？都都是买买这个老王的卡。

00:15就现在我们听他讲故事的时候，就觉得说你在这一点上，你也不能说明这条路是对的，对吧？我们就要很理性地来看这个，质疑这个小火花不一定代表未来的路是通的。但是他们当时在黑暗当中看到这个小火花，应该是嗨死，冲啊，兄弟们，能搞到多少钱搞到多少钱，往这边冲啊。

00:37国内有很多创业团队，其实都在尝试说融大钱做GPT-4级别的模型嘛，想要。但是现在的假设是，就他们到底有多信这个事情。OpenAI因为已经趟出一条路了，所以我信，还是说我内心已经说服自己，这个就是正确的道路。

01:01因为每次有人跟我问一堆有的没的东西，然后说GPT啊、什么人工智能啊、未来会怎样啊，然后我就会说你干嘛要听我这种二道贩子讲呢？我又了解不深，甚至于你也没有必要听世界上各种二道贩子讲，你就直接去听OpenAI这几个人讲不就好了吗？Sam Altman啊、Ilya啊、Greg啊，这三个人演讲和采访其实蛮多的。

01:26而且的话呢，他们有一个特别大的优点，就是这三个人虽然说好像是搞技术的，但是表达能力非常好。他们每次说话都让我觉得就是又生动又精确。然后听起来就是就是就就非常舒服，又不啰嗦。然后那个那个这三个人里面Sam的出镜率很高嘛，所以今天先跳过，因为我估计大家看公众号看很多了。

01:51今天主要来推荐Ilya的五个演讲和访谈。然后这五个是我自己看下来，就觉得说我自己受到了蛮大的启发的。虽然我后来我刚刚也是自己把自己公众号看了一下，我觉得从公众号我也看不出来那么多启发。

02:07所以所以大家大家还是去看听听原文吧。我我之前其实有里面有好几个演讲，我之前也看过那个中文的那个转述的那个文字版。但是后来你认认真真去听他的那个音频视频版后，得到的启发莫名其妙要更多一点，我也不知道为什么。

02:24我觉得是这样的，就是你还是要看一手资讯，就是说对吧？就很多表情的这个表情啊，或者他他觉得什么重要的时候，你看一个文本采访其实看不出来。

02:35就少了很多感觉，就是得到的启发和灵感也要少很多很多。所以大家如果今天听我们讲，觉得哎呀这个好像还挺有意思的话，呃。那其实你可以去看他的全本的那个演讲和访谈，这个会得到更多的启发。我觉得就是二道贩子的话，就是当然我们现在也是在做二道贩子啊，跟大家推荐这个东西。

02:56但是既然有有有大神的原文的话，大家就可以去看一下嘛，对吧？我们就相当于是像罗振宇讲的，推开那扇门，往里面赞叹一下，说哇，然后吸引你到那扇门里，你自己去看去，对。这样就最好了。OK。

03:13所以啊，那第一篇我觉得对我有影响的，就是觉得有启发的演讲，叫做Building AGI Alignment，呃，Spice、Microsoft，Spice和Microsoft的Alignment。然后它里面几个我觉得比较有意思的东西，第一个就是他把AGI类比成特斯拉的自动驾驶。

03:32然后我当时第一第一个反应是这什么鬼意思，然后他要表达的意思就是看上去啥都能干了。你现在想想特斯拉的自动驾驶，什么跑到你家门口来接你啊，什么高速公路啊什么的都没问题。但是呢，实际上呢，现在离所谓的全自动驾驶L5又还很远，就看着好像啥都能干。

03:51实际上呢，离上路又还有距离。他他觉得AGI现在大概属于这种这种地步，想了一想，觉得好像还挺挺精准的。其实

04:00就是特斯拉今天的自动驾驶其实已经挺惊艳了。因为现在大家可能不觉得啊，你就真的倒放五年前，就疫情之前的那个自动驾驶跟今天的自动驾驶，如果你去看一下demo或者体验，其实差别是挺大的。当然我可能不开车，所以说我更多的就是从这个宣传片里有这个感觉，对吧？

04:20我也没开特斯拉，但是我至少认识的一些朋友都说，诶。他们觉得自自自己的一个就对AI一个aha的这种moment嘛，对吧？就是你很多时候你会看到一个东西特别震惊。我的aha moment是看ChatGPT，但是有很多人是看到这个特斯拉的这种最新的这个自动驾驶能力，

04:39对吧？当然就是你现在它还没有被能够允许说上，就是大规模的上路嘛。但是Elon Musk不也跟人打赌嘛，说他我记得他打他打的赌什么，2029年之前，在美国有一个主要的大城市，会允许这个全面自动驾驶。OK，

04:582029年听起来好像现在觉得是非常非常应该的事情啊。对，还有那么久呢？这

05:05也很难说，因为自动驾驶你想想也搞了不止，也搞了有七八年了。就是我觉得自动驾驶就有点像现在的状态，就有点像去年甚至前年的那个AI。OK。就是已经大家投了很多钱，花了很多精力，哎，也觉得看到了很多进展，但是好像又觉得，哎，是不是已经没戏了，

05:25也就这样了。

05:26所以从你这个角度，其实我倒是觉得他这个比喻好像更贴切了。就是从身边的人你会觉得好像自动驾驶就是已经很很很aha moment了。然后我甚至于有朋友的话，他每天他之前说上下班，就是他会开到那个高高高架上面，然后就开始换自动驾驶，

05:45小睡一会儿，然后然后快到的时候他再切回来。这个

05:49这个不行，这个我们不推荐啊，这个这个是违反交通法规的啊，就就算它非常强大，你还是要把双手扶在方向盘上。

05:57然后而且在地面的路段的话，哪怕这么心大的人也是也是还是得认认真真自己开的，也不敢交给自动驾驶。所以一方面的话，它好像是好像很科幻了一样，但是另外一方面的话呢，就是它其实还是规定说你比如说像你刚刚讲的，其实应该是你双手永远在上面，然后你也不能不能小睡一下，对吧？

06:18不能不能稍事休息。所以其实就是我们看到的那个宣传片跟真实的世界里面的差距还是蛮大的。有点像现在的AGI，就是大家讲的改变世界了啊，蒸汽机又重新发明了。但是实际上你会发现，绝大部分人的绝大部分工作没有受到任何的影响。

06:35对，我觉得这个倒是像你说的，就像我们今天听这个，其实ChatGPT开放到现在已经半年过去了嘛，今天已经六月一号了，对吧？是去年11月30号，如果我没记错的话，啊，11月，11月28号，就反正是离12月1号差一点点，所以整整半年过去了。

06:52但是其实我们能够看到的产品应用还是在一些，就是你对可控性要求比较低的地方。对，对吧？大家画个这种娱乐性的图，或者说我们这种公众号文章贴个图，或者说是这个Jasper这种写写文章，对吧？然后一旦到严肃的地方，其实还是它还只是个Copilot，对吧？

07:14就写代码，它我写完也是要本地要运行一下，然后开始debug。我

07:19最近听说说OpenAI的那个流量还掉了五个点，所以也没有也没有那么狂飙突进了。对。流量还掉了一点

07:27啊。那我觉得掉了五个点，主要是他封了好多账号。他账户不封，估计这五个点就不掉了。

07:33采访者质疑他一个点说，嗯，GPT是没有办法有突破性的创造力的。然后他给了一个非常有趣的角度，提问的人其实相信说GPT是一个完美的模拟器，但是它不能做出很有创造力的事情。然后他说，他的意思就是，既然你觉得它是可以模拟的，那如果我们让它去模拟一个有洞察力、智慧和能力的人，

07:57那它会怎么样，对吧？它会怎么样？所以如果我们承认GPT能够精确地模仿和预测行为的话，那么当它模仿一个有突破性、有创造力的人，那那它不就应该有创造力了吗？然后我就觉得，哎，这个想法还蛮蛮神奇的。

08:13对，我觉得这就是一个很有意思的逻辑，逻辑的这个轨迹嘛。第二个我是觉得说就是大家不要老把人看得非常有创造力。就是我一直觉得，对吧？人类的本质是个复读机，是吧？如果人类的本质是个复读机，那么ChatGPT就最擅长做复读机这件事情。

08:33就是，你想我们号称在搞什么新的大模型啊，或者怎么样这种事情的时候，大部分人干的第一个事情是什么，是吧？别人的开源代码先抄过来，先去运行一遍。对，对吧？然后开始再开始他们改或者调，对吧？

08:47所以我觉得就是说创造力这个事情，呃。真的，你在所有的工作中创造的，有有那个火花，有那个spark的是很小很小的一部分。而且那个东西是不是就是因为随机性创造出来的，你都很难说。

09:01我们一般讲创造的话好像是灵光一闪，但是其实大部分时候也就是旧要素的新组合嘛，脑子里面莫名其妙把两个东西拼了一下。

09:09对对对。这个

09:10东西机器有啥不能干的，所以我觉得那确实不要太高估人类。然后他第三个这这个演讲里面，第三个让我觉得有意思的地方是，他那个那边的那个采访者就反复在问他说你是不是经常会有new ideas，就是就是提出新想法。然后他就在反复强调说，其实他大部分的事情，或者说那个大部分的重点，其实是在理解现有想法，

09:37理解正在发生的事情，理解正在发生的事情的潜在现象是什么，潜在的影响是什么。然后我们为什么以这种方式，而不是那一种方式，就是字里行间。我我我听到的意思其实就是，就是所谓的创造新想法这件事情大家有一点点过誉了。其实更多的是你搞清楚当下发生了什么，以及它隐藏的线索是什么，隐藏的。

10:01呃，那个那个含义是什么？影响是什么？洞察现在的情况比天天在那边拍脑袋，brainstorm可能要更更更重要一点。然后他这一点的话，其实在那个，因为我我是比较偏商业一点嘛，商商业界的话有一个战略大师叫那个卢梅尔特。然后他写那种战略书啊，就讲战略课。

10:21然后他说他说有一次他的学生就跟他讲，你讲好多好多大道理，我觉得好有道理。但是我觉得好像听完之后都是一个都都得出一个很浅显的结论。就是好像你随时随地都是告诉我们说，你要搞清楚现在究竟在发生什么，你你搞清楚了这个再想别的，就不要不要先拍脑袋拍一个战略出来。

10:40那我就觉得，嗯，很好，很朴素，就是这样。我

10:43就想，就你就想放到科学界，对吧？就是我们讲比如说物理学，那肯定还是有这种颠覆性的理论出现的。比如说当牛顿提万有引力，对吧？当爱因斯坦提出相对论，但这些理论在整个物理学的发展史上是极少极少发生的那一两个大事件。大部分人或者说大部分时间，就是我们所谓的大科学家，其实也只是在这个之上，或者在这个之后做的很多延续性的工作嘛，

11:11对吧？就是说所以我觉得是说，呃，就算对Ilya这样的人来讲，也许需要他有很多需要说我能不能找出一些new idea。但对我们大部分人可能，对吧？今天对我们周围的大部分人，我们能理解说先搞清楚到底这个现在的模型的边界，AGI的边界在哪里，

11:30然后可能能做出一个正确的决策。就大部分我们其实也没有机会，呃，去做一个说，哎，我就能跳开这个这个这个这个叫什么，

11:42呃，OpenAI的想法，说我能够搞一个更厉害的那个，呃，通用AGI的这个模型。我相信这样的人，我相信也许会有，我们不知道，对吧？但是我觉得可能不是你，或者也不是我吧。哪怕是

11:55像你刚刚说Ilya或者说爱因斯坦或者怎么样，其实本质上来讲，我觉得大部分时候也不是拍脑袋的。就有点像，比如说像微积分，不也是大家差不多时候，电话也是差不多时候。其实是时代把那些该训练的那个语料已经堆在那边了，然后已经有一群人都训练得差不多，有有一些想法了。

12:16那有有了这些想法之后的话呢，那么其实，呃，它产生那些想法往往也是有一些现实的，他要了解当下的一个问题，然后往下挖下去，挖出的那个想法去，呃。你刚刚举的物理学的例子的话，那像量子力学啊什么的，不就是那个什么两朵小乌云，对吧？

12:33那还是从两朵小乌云往外推嘛，对吧？然后或者说你你发现有一些那个算术那个公式就是对不上嘛，或者你你就觉得那几个公式应该统一就是统一不了嘛。然后这个时候，这这个时候其实还是在现象界的话，你发现了一些事情，然后你觉得这个是有问题的。

12:53然后你想把它把它给通掉，然后你再提出了一个一个可能看起来是跨越性的方法。对。但是觉得其实可能很重要的事情就是每个人都是时代的时代的产物嘛。我们当时就是只能被时代training到这里的话，我们就往前凭我们的想象力往前迈一步。

13:10但是那个那个前面的九万九千九百九十九步的话，还是时代把我们推到这个位置上，你才迈得出来那一步。所以我觉得其实跟机器也没什么区别，这样想想就越想越像。

13:21这两天我正好也在准备之后一个直播的课程嘛。然后就我就其中第一课其实是讲那个自然语言处理是怎么一步一步走到Transformer跟GPT的。所以就翻，就其实又梳理了一下过去的历史进程，对吧？你就会发现，其实无论是Transformer呀，还是什么GPT呀，还是什么，其实就它的很多基础的想法跟创意都是可能十年前的模型，

13:47甚至是三十年前的模型都有。有些是说，哎，算力到了，就以前算力不到，很多这种复杂的这个深度的序列模型就做不了。有些是说，哎呀，我们觉得这个太麻烦了。比方说，呃，原来用RNN或者LSTM这些模型，它的就就是不能并行计算。那我们就就想了个办法，说我们大力出奇迹，对吧？

14:08我们能不能暴力不要并，就暴力不要这个顺序，然后就给它一个，就是给它一个这个这个位置信息就可以了。然后你看一下，你会发现它其实没有什么，嗯。如果完全从一个模型的角度来讲，GPT其实没有一个什么new idea。它所有的idea都是从，呃，所有的创意或想法都是从旧的各种各样的模型里汲取出来的。

14:31只是说它把最后把这个东西拼在一起，然后它多了一个创，多了一个想法，就是，哎，我觉得大力可以出奇迹。第二个，我觉得我用这个方式就能模拟极高的这个你叫智能也好，或者能力也好。然后然后就花钱把这事儿干了，然后就出了这么一个结果。

14:49那个我就顺顺着你的话到它的那个第二个演讲，就是What's next for large language models。然后它里面其实我觉得就有几个点，我特别就是印象深刻的。其实第一个点就是你刚刚讲的大力出奇迹。那大力出奇迹这件事情，他们的坚信的话，其实是在过程当中发现了那个所谓的那个，我不知道中文怎么翻译，

15:13那个scaling law应该怎么翻译啊？缩放定律吗？

15:16嗯。嗯，你可以叫缩放定律吧。

15:18对。就就发现说大力出奇迹是有用的，对吧？你要么堆参数，要么堆堆训练，训练语料是可以按照对数的方式，把那个performance是可以堆上去的。就就就我我之前是看看另外一个演讲里面是说他们是在好像是在搞Dota的那个那个模拟器的时候，

15:38然后那边那边发现的这个这个定律。然后那边他们当时是很想把那个曲线给，就是发现它什么时候会变平，然后他们好去做下一个项目。他们心心念念心里面想的是另外一件事情。然后结果发现说，诶，好像这个曲线按对数取的话不会变平。然后就发现说，我靠，大力真的是可以出奇迹的。

15:58只是那个就是可能按照对数那个那个出，不是不是一根直线这样出。

16:03对对对。但这个也就说明这事情有上限吧。就是因为我们组组织人力物力的资源是你没办法对数，呃，没办法。这个就指数级上升嘛。是啊。

16:14但至少有希望嘛。

16:15你除非你能指数级上升，它这个对数的性能才能线性上升嘛。是。

16:20但是这个就毕竟知道知道了，只要你靠堆量是有希望的。只是说这个是一个，就是就是你必须指数级才能换一个线性的希望。但是这个希望是在的。对，就是他们拿到了这么一个这么一个一个匪夷的匪夷的路径。

16:37而且我觉得他们从这个当中其实也看到，就一个普通人的智商其实并没有那么高嘛。对，对吧？而且第二个是我我觉得是说，就是我们现在看，包括ChatGPT能够降价，包括我们最近看很多各种各样新发的这个论文，就是当你发展出一个里程碑的进展之后，大家都会冲进来来开始帮你优化。

16:59就是你是本身需要指数上升，然后大家就用各种什么LoRA啊，这种低秩矩阵啊，什么quantize啊，什么蒸馏啊，什么好。然后你一个巨大的模型又能缩到一个小的模型，那么其实就白白又为你挣了一个几倍的这个增长空间嘛。

17:15然后今天我看那个Sam最新的表态，是说他们在考虑开源GPT-3吗？然后，

17:21对，这个这个我我我们看到，就我们也很高兴，对。我们就是周围的朋友们都觉得很高兴，就是哎呀，他们真要开源了，觉得大家又有东西可以抄了。

17:35对，而且它开源了也可以像你讲的嘛，别人在它上面改吧改吧，发现还有哪里可以优化的，说不定他们又一脉相承，又可以用到四到五上面去，把这个线给拉平一点。

17:46当然我相信他们开源也是看到了，就是现在开源很火热嘛。就是就是第二个是我相信他们肯定又有了新想法。对。而且他们今天不只是开源，他们今天还发了一篇论文嘛，就是教你，呃，就是让让你的这个强化学习的反馈在那个算数学题的每一个步骤都发生。

18:06然后，对，所以我觉得说只要更多的这种东西放出来，我觉得周围会有越来越多的人有能力去复现一个3.5的这个模型出来。

18:17今天这篇文章就告诉了我们说，小学的时候，被老师要求一定要给步骤是有道理的。

18:24对于学习是有帮助的，对不对？一个电脑告诉你这样，一个电脑告诉你这样学习，对于提升自己的智商是有帮助的。

18:33对，我现在经常看到它，我就会觉得说，就就就就看到GPT，我其实经常想到就是自己嘛，就是会会觉得说我已经被pretrain了，是吧？然后现在已经已经老了，就翻听不动了，然后就觉得不对的，不能这样，然后要怎么样怎么样，所以把它鸡汤。

18:51因为

18:52按照按照这个逻辑是随时都能翻车得动的，对不对？就他这个模型从来没有说，哎呀，我这个模型因为翻车了太多，就不能再翻车了，对吧？按照他的说法叫做，叫做对吧？就是我只要用更多的数据，这个模型还能变得更好，对吧？所以年纪越大越需要学习。

19:13我们成功地把一个技术博客搞成了鸡汤。OK，那下一下一个，除了那个缩放定律，让他们可以坚持这条路上觉得大力是可以出奇迹的以外，其实最关键的他们的一个认知就是叫做预测和理解这两件事情，他们把它等同起来了。其实哪怕是现在，比如说那个李·昆之前也说，就是这就是个随机鹦鹉嘛。

19:36然后早几天那个我看朋友圈有人在听那个MIT一个教授的演讲，反正我觉得那个教授基本上也基本上都讲错了。对。然后然后那个那个比如说他就觉得这边就是一个就是在拼他脑子里的随机的拼拼凑嘛，然后诸如此类的。所以现在，呃，不管对错吧，就是现在大部分很多人的理解，还是认为说预测和理解是两件事情。

20:01然后它只是在预测下一个字符嘛，下一个token嘛。然后他们是在很早期的时候，然后他说最重要的事情不是预测token，也不是什么算力，也不是什么，而是能够认为预测这件事情很重要。预测下一个token很重要，你能够把这件事儿当一件大事儿来做，这件事情是最关键的一步。

20:21因为大部分人不觉得预测下一个token是达成AGI的路径嘛，你你你无非也就是做了个随机步嘛。

20:28对。对，我觉得大部分人不，我我觉得到现在其实我觉得这个逻辑，我觉得我都没有想通。我总觉得OpenAI一定还藏了很多。就比方说他们最近发的那个，比如按步骤解数学题，然后从中间就给反馈。那我觉得这个其实就是一个，呃某种程度上算是一个小小的secret吧，对吧？

20:49就是大家可能会想，那也许这样做有用，但是，那我觉得是说，纯粹的预测，比如说拿互联网语料，或者拿一个虽然是清洗过的干净的语料去预测下一个token，它就是智能，这个事情，就大家很难接受。很难接受，就是，就是它不是一个，就是跟我们日常的生活经验常识相符合的东西。

21:14比如说猫猫狗狗，它比如说你你其实是每次是给它一段讲一段话，有的时候给它吃的，有的时候不给它吃的。其实它会从你那段话以及你的语气当中，它会去哪怕是判断错，它会去建立很多模型来判断。比如说它莫名其妙它就最后听懂你的语气了。然后这个语气的话，你不能说它是按照人类的方式理解，但是它就知道说你里面包含了哪个音调的时候的话，

21:39其实就代表它会有吃的。这个东西猫猫狗狗也是能学会的嘛。但是其实就相当于说它通过了一个莫名其妙的东西，它来预测自己有没有有没有吃的。我好像讲得更复杂了，就是他其实他们在另外一个演讲后面会讲的，就是他其实是在之前做那个亚马逊的那个

21:59product review里的生成，就是预测下一个token，他们那个项目里面发现的这个问题。就是他们在那个项目里面的话发现说，那个文本生成器，就是生成商品点评的那个文本生成器，居然可以完美地判断sentiment，判断用户的那个情绪是正面还是负面。

22:20那那是一个纯粹的，而且是用的那个上一代的技术，不是用transformer。然后是可以判断，是有一个sentiment，然后他们把那个neural network给拆掉了。拆掉之后说有一层是是叫做sentiment neuron，就是它为了能够预测下一个，它自己长出了一个可以预测、可以判断它的那个理解、它的那个情感的一层，

22:43一个一个一个一个那个neural，一个神经元，是专门用来干这个的。

22:47但我觉得这个不太意外啊，就是说因为sentiment还是一个很简单的问题嘛。就是你基本上人只要瞄一眼一个评论就知道是正面负面了，如果你是是你的母语的话，对吧？

23:01但是那是人的理解力嘛，他们那个东西是，那个东西的目的仅仅是为了预测下一个token，但是他为了，他训练着训练着，为了能够精准预测下一个token，他被迫在抽象层去理解了他的sentiment。所以，所以其实他的意思就是在prediction和那个和understanding中间，其实你只要逼他逼得足够狠，

23:26说你一定要预测，然后他就被迫的要长出understanding。

23:30呃，对。这个也是他们的路线的区别，因为之前做这个就阅读理解，其实一直是用BERT嘛，对吧？当然，BERT它的预测是说，我把一篇一段文字盖掉几个字，对吧？盖掉百分之十五，然后让你看猜猜看说，这个被盖掉的部分应该是什么词儿。

23:48这个能做阅读理解呢，其实大家比较容易理解，对吧？这个就是跟我们做英语考试的完形填空其实是一样的嘛，对不对？就是你肯定是理解了这个文章是什么意思，你才能把空填上，对吧？而且你完全理解了文章什么意思，你这个空都有可能填错，对你词汇量不够的时候。

24:06那当然他们有这个词汇量问题。但是呢，就续写这个事情，呃。我觉得只能证明一个事情啊，就是人类其实挺无聊的。就是人会讲的话其实都差不多。对。

24:19所以所以他这个逻辑上的话就是这这这其实是哪怕是现在其实对于我觉得对于绝大部分人也是很难接受的一点，就是一个预测模型它上面是可以长出真正的理解的。现在这个其实大家还在吵架嘛，哪怕还有大神也在吵嘛。然后但是最近几天我也看了几篇新出的论文是在讲说他怎么看其实他都是有understanding的，

24:44我看了几篇新的，虽然没有仔细看，我就看了一下概要。

24:49呃，因为因为我觉得就是现在其实还有一派，还有好几派观点，我觉得这当中很有意思，就是，就是OpenAI的观点是说，我们已经走在一条向AGI的路上了。就是，对吧，这个是一派观点。第二派观点是，就是杨立昆老师吧，杨杨立昆老师，对吧？

25:07杨杨立昆老师说，你们这个路已经走到头了。你们这个模型就，就是这个路线就只能到现在这个智商，很难再提高了。你们这个根本路线错误了。所以你们不要觉得AGI很快就来了，我们还要去研究一些更底层的其他的机制，这事情才有希望。对吧？

25:24还有那个是那个另外一个哥们儿叫什么Marcus吧，就是啊我就是这这个哥们儿是是说那个这个这个你们这个路线是对的，AGI也是有希呃呃不。但是你们AGI还是有希望的，但你们这个路线可能也有点道理，但是你们离这个AGI差的还远呢。

25:44这个现在这个东西智商一点都不行。啊，我觉得这这个对吧，就是我觉得有好多种不同的观点，对吧？就是我相信Ilya他们能把这个东西做出来是有信仰的吧，对吧？就是他的投入，你想他，他训练一次，你想GPT-3最早的说训练一次要五百万美金。

26:03对吧？就是这个这个他们一定是坚信自己的这个路线的。当然这个路线对不对，其实我个人啊，我觉得说，就是啥叫AGI呢？就是因为我觉得大家其实对AGI这事情没有定义清楚，对吧？他今天假设你让他来做一个，比方说我们说电商的客服，他能替代一个普通的，比如几千块钱工资的一个客服吗？

26:26我觉得基本可以。其实

26:27按照去年以前的定义，这就叫AGI，只是因为它出来之后，我们把AGI的门槛抬高了，我觉得。

26:34但是你说他，但是呢，我们又看到他就是干一些很简单的事情又完全干不了。因为模型自身的缺陷嘛，我觉得最典型的是那个，也是那个，是Sam他们写的文章还是微软给的那个文章，就是说你给他一个单词让他翻转一下，不管是GPT-4还是Claude，在在一些特定的单词上他永远做不对。

26:57就是把字符从左到右跟从右到左换一下，对吧？所以就这个事情就很难，我觉得就是说，就是说，我我觉得还是存疑啊，就是说，就什么是AGI，就是我们对AGI的期望到底有多高，对吧？但是如果说呢，就是说这这东西是不是特别厉害，特别有用，改变人类世界，我觉得肯定已经是了，对吧？

27:17但是他会不会像很多人担心的一样，对吧？就奴役人类毁灭人类，我觉得好像还没到那个份上。

27:24但我觉得这个其实是我们对AGI的定义在不断的升高啊。你想五年前如果说有一个东西上来就可以干这些事情，这叫不叫AGI？我觉得大部分人会说这个已经明显的AGI了。只是在现在我们又会去挑一些问题嘛，但是我觉得我们挑的这些问题其实不是否定它是AGI，我们只是否定它是一个人类类型的智能，

27:50觉得它不是，还不是。但是如果有一个外星人他来到地球上，呃。呃，之前我看那个，呃，我我看那个有有一个，我忘了是谁的一个科幻，就是那帮外星人的话，他们生活的就是他们身处的环境完全不一样，所以我们的就是那些那个那个什么复变函数啊什么的，在他们那边就是类似于四则混合运算，

28:12因为他们生活在那个世界。

28:13啊，你说的是那个吧，Ted讲的那个你一生的故事。好

28:17像是，就是，就，就惩罚什么的。

28:19他那个就是说他说什么呃，之所以你们语言是这样表达的，是因为你们这里在你们的这个世界里时间是个线性的，就从前向后。他说我们的世界不是这样的，对吧？对。这个是个呃这个是个很有意思的很有意思的科幻小说，但是呢，这个这个这个我会觉得说，

28:41就是为什么我其实觉得就离AGI还有距离呢，就是说，因为我们很多时候说能干这个就行，包括我们其实我们很多时候提要求或者是本来就不太严谨嘛，或者比较随意。我们说能这样就就比如说我们经常会呃打个不恰当的比方对吧。你去什么相亲征婚，你会列一些条件。

29:01然后哎，有一个条件都满足的，那是不是就一定可以呢？其实一般来讲不是。对吧？一般你还是要见这个人，然后呢你就会，你不可以的时候，你就会说出一些理由，说因为这个这个这个，所以他不行。

29:14对。可能是因为，对吧？你本来是说，哎呀，我只要求学历、收入、工作，对吧？来了一看说长得不好看，那或者长得太胖，太太瘦，太胖，太高大，还都有可能，对不对？那，那就说明说，其实因为以前是什么，以前是我们根本没有真正仔细想想，因为我们觉得不可能。

29:32所以我们所谓对AGI的定义非常粗略，叫图灵测试。以前的讲法叫图灵测试，就是但是你真的仔细想一想，就是当你把想要把它当成一个AGI，但是你又发现它有一些很有一些能力，对，很奇怪的它就是没有的时候，你就会提出质疑嘛，对吧？就算你提了一堆要求，这个人来了，其他都非常好，但是你没有提一个要求说这个人比如说，对吧，不能秃头，

29:57对吧。那那我可能它就出错了，那你觉得不行，对吧？那那那其实我觉得就是这么一个过程吧，就是所以我们就，我是觉得说AGI这个definition，大家可能要又要重新去定义了。

30:09不过我觉得其实，嗯，其实可以两种定义。一种是我们继续吵AGI，但是其实你也可以把它当做，就是叫做，呃，我我如果我我重新解释一下AI啊，就比如说它它不叫通用人工智能，它它叫做another another competent intelligence，

30:32另外一种一种的那个有一定能力的智能，就当它是个外星人。这个时候的话，你大概率你会觉得这是一帮很奇怪的一个，就至少它比虫子要看起来更有智能嘛，对吧？我们都觉得虫子是更智能的，对。然后然后这帮智能又非常奇怪，比如说它可能像三体人一样，他们的那个什么什么脑子共通，对吧？

30:55他们相互之间可能交流更快，然后但是呢又又又翻转一个词翻不过来，所以它肯定是一种的，它肯定跟我们不一样。但是它又有一些地方比我们强，有些地方比我们弱。所以现在我觉得把它们当外星人看挺好的，就是一种一种一种智能，不不是不是那种。

31:14我

31:14理解，我理解。就是大家为什么要扯AGI，倒不是去判断它是不是AGI，就是其实在技术界，大家其实还是想要判断什么呢？就是说这个路线还能不能往下走。很多年前，就是就是大家觉得视觉用CNN，对吧？就是for ResNet就走到头了。

31:32突然有一天，当我们用自然语言用transformer的时候，现在视觉也都用transformer。是啊，对吧？就是说，那么就核心的问题就是说，比如我们用transformer，我们用GPT这种预测下一个词来提升智能这个事情，

31:46是其实我们快遇到天花板了，它就卡在那不行了。就像就像我们开篇讲的自动驾驶一样，它又是一直在L2、L3这个水平。但是你再用现有的技术路线往下走，是走得下去还是走不下去？对吧？那很显然是OpenAI的人相信是走得下去的。

32:05对。对吧？就是，但是很显然也有一帮人觉得是走不下去的，对吧？虽然杨立昆老师前一阵被人喷得很凶，但是呢我们看Facebook最近发了那么多开源项目跟论文，就是我们觉得呢人家喷也是有资本的。

32:20对吧？人家喷也是有资本的。这个这个跟我喷不一样，对吧？我喷人家会说，对吧？你懂啥，对吧？

32:25Facebook喷就是，对吧？人家Facebook AI Lab的头喷，对吧？他说，一开始喷，人家也不当真，对吧？他一开始喷，大家觉得是你是酸葡萄。对，对吧？

32:36啊，等一堆论文发完，特别是当开源的人发现，哎，就是Llama的效果好，对吧？然后Facebook又发了一堆各种各样的视觉呀、语音呀。多模态的论文，大家其实现在就不太喷杨立昆老师了，我觉得就是还是属于被打服了。

32:52至少至少就是就是没有人敢说比他厉害，虽然我觉得他不对，但是他肯定是很牛。

32:59对对对。我觉得就是，对，所以就像现在大家也不敢说OpenAI你的路线不对，因为我们也做不出你这个水平的东西，对吧？对。

33:09然后那个那个第三个视第三个那个视频是他跟那个那个那个黄仁勋的对谈，然后黄仁勋就抓着他问啊问啊问啊问。然后基本上他里面讲的关键就是讲说他为什么觉得这条路线是对的。然后他觉得预测下一个字符就会逼到，就相当于你不停地拷打拷打那个那个一个一个人，然后他每次要预测你说的话，

33:32然后预测错了你就把他打一顿。然后你拷打出来他就察言观色，他就要对你的什么生活形态啊，什么各种理解，对你的生活背景。然后他是说预测下一个字符的话会让那个模型发现数据底层的秘密。然后他觉得他们最重要的就是，呃，

33:49真正的难点不是搞数据，而是意识到预测下一个字符是一个值得追求的目标。因为大部分人哪怕是现在都不觉得这是一个值得追求的目标嘛，你干干嘛呢？

34:00对对，我觉得现在大部分人觉得它是值得追求的目标，主要还是觉得这样能够复刻一个很厉害的东西，然后什么融资啊、估值啊，或者说哎，我就是想要研究一下，对吧？但是说真的相信这件事情，我觉得这大家其实还是包括我周围很多，呃，这这个技术水平很高的，

34:20对吧，博士啊或者什么，我觉得大家还没有完全就是彻底相信这个事情，说哎，这个就是人工智能，就是我预测下个字符就是。我觉得大家其实心里多少还是有点打鼓的。就大家去相信更多的不是，呃，更多的是这个觉得它很厉害，但是一旦回到自己的那个理性世界，

34:40那个执念，就是你很难，你想了半天你还是很难说服自己，这就是人工智能。

34:46这不就是一个字符生成器嘛，对吧？对。了解，所以他们就还是讲那个段子嘛，就是他们是最开始在用那个LSTM的时候做那个下一个字符预测，然后就发现他专门生成了神经元来判断情感。那如果这个东西放大一百万倍的话，就是那是不是它就可以理解到比情感复杂一百万倍的世界知识？

35:07那因为现在比那个时候用那个LSTM其实也就也就就更更大更复杂了嘛，就加大加深嘛。那其实是一个纯逻辑推导，只是这个逻辑就是放大一万倍这事说不说得通就不一定。但是逻辑上确实是存在这个可能性，啊，只能说，不能说它不通。它从来不能说它的小小尺度上没通过。

35:29那小尺度上确实是通的。有拷打他确实他想出来别的别的招了，他理解你的情感了，但是你你并没有让他理解你情感，他相当于有一个byproduct出来了。所以这是他那个被黄仁勋追着追着问问出来的一个一个东西。然后第四篇就是对他个人的一个采访嘛，什么问他什么儿童经历啊儿时经历之类的。

35:52然后他还是再次强调说他其实就是最重要的一个发现就是意识到predicting the next thing is all you need，然后就是all you need，就是predicting the next thing就是all you need。然后这个这条路是可以通向AGI的。

36:07然后的话呢，那个那个，他觉得大家现在不要天天在讲这些局限性，因为他说你现在觉得局限性的东西，那你想想你两年前觉得哪些事情是不可能的，现在不都被打脸了吗，对吧？那那那你现在想的这个局限性两年之后再会被打一次脸就差不多了，所以大家不用太就想象力奔放一点，

36:28不用太天天先把那个围栏围在那里。他说你这这今年不就被打脸了吗，对吧？你你想想今年做能做到哪件事不是那个呢？然后他提了一个非常非常有意思的观点，然后那个观点其实我没有太听明白，但是我就莫名觉得特别重要。他他的观点是LLM极度擅长学习，然后他不太擅长输出。

36:53然后我觉得他的意思就是说其实它里面已经掌握了巨多的，就是已经非常深的知识，然后我我觉得他的他的意思是他的智能和他的知识其实已经比我们想象的还要大，但是只是说他表达不出来。

37:09我我，对，这个我觉得是这样的吧，这个这个倒是我理解是说跟之前的很多论文讲的那个逻辑，就是LLM是指预训练模型。就是我就预测下一次训练出来的那个模型。但是呢，如果你直接拿这个原始的模型，比如说你就拿Llama 65B，你让它去打一行字，让它立刻输出，

37:29你会发现它的输出文本其实都很短，然后都很简单。但是呢，如果你去做这个之后的指令微调跟强化学习，你灌给它一堆这个指令跟输出，就告诉它很多套路之后，你会发现它就开始，哎，我输出的内容就是就是结构也就更复杂，也就更丰富。而且我在这些指令中没有没有的这种pattern，那有些能力也会被激发出来。

37:57啊，我我我理解它是指，它是根据这个给了这样一个结论。这是为什么现在的模型训练其实都是两阶段的吧，甚至是三阶段的，对吧？第一阶段是呃基础模型，我们叫基础模型的预训练。第二阶段叫指令微调，第三阶段叫做这个强化学习嘛，对吧？就是其实很多能力的激发主要是在第二阶段，就是但是即使你，呃，

38:23你只要简单激发一下，对吧？就Facebook最近的论文说你给他一千条激发一下，它就能模型能立刻体现出很强的能力。

38:32一千条就可以。

38:33对对对对对，最新的那个Facebook那篇论文叫Llama嘛，呃，就是就是我们前两天聊的，就是羊驼家族的新的一员，就是Llama把前面的LA换成LI嘛，对吧？就是他说指令微调其实需要的指令非常少，你只需要一千条指令，而且你这个指令并不要求说你你的那些任务啊，

38:54在这些指这一千条里都出现，可能你没有出现过的任务。哎，你微调之后，那个模型接下来也能够展现出来了。对，我觉得这个有点像，就是，就是他这个预训练有点像练武功，在深山老林里练了就很久很久很久，他武功呢已经非常厉害了。但是呢，他又没有跟人跟人打过架，所以呢，他不知道怎么用这个武功。

39:18你说找个人来给他喂一千招，喂完之后啊，他就这个就大成了，对吧？但是喂完一千招之后呢，他又不懂得明辨是非，对吧？然后你还要在这个再行走一下江湖，让各色不同的人告诉他，哎，这个是对的，那个是错的。最后这个东西才能用。对对对。

39:35OK，

39:36这个这个这个比喻蛮好的。然后他还有一个，我们刚刚不是讲那个李·昆对他就是批评嘛，然后他也回应了一下那个批评。那个批评当中其实有一个是在讲他说不具备那个具身认知嘛，就是比如说看不见听不着，就光凭一个文字，你想做出来是是不可能的。

39:54然后他就反驳了一下，他他是说那个那个，我纯文字当中已经包括了很多信息，比如说颜色。他是觉得说如果如果GPT-4，比如说5，它看到颜色，它是觉得训练速度会极大地加快，因为你就看到了嘛。但是如果你看不到，无非也就是慢一点。你只要读了足够多的关于颜色的东西，然后你你在向量空间，比如说哪个颜色离哪个颜色比较近，哪个颜色跟什么关系，

40:21甚至于你可能比看到的会多很多维度。然后你其实已经理解了这件事情，你也知道，只是只是只是跟你看到可能取取信息的话，那边可能你直接取到一个波长什么的，可能你就更量化，一次性得完，对吧？一次性拿到一个物理物理知识。但这边其实你在人类的这个空间里面，你你你比如说看十万条关于颜色的东西，那边可能就一次性取数据，

40:45但是我这边就是慢嘛，但是你该拿到的东西也都拿到了，我要练也练得出来，它的那个反馈大概就这样。你怎么觉得？

40:53我觉得这还是取决于你你，我们回到前面说的，就是你这个通用人工智能要多像人才能算人工智能吧。因为人是又能看到，又有嗅觉，又能闻到，对不对？但是人也不会读那么多文章来训练，对吧？人不会去读这个这个，呃，对吧？就是Llama是1.4 terabyte的token，terabyte的token，对吧？

41:151.4T的token，对吧？那就是，那人也不会读那么多。所以你如果把它理解成不同的智能，我觉得可以接受。但是如果说你要就模仿人类，我觉得这个还是很难的吧。就是说你自己去，我们以人打比方，就是盲人，你说他能理解什么是颜色吗？

41:32你读了再多的文章，不停地有人跟他讲，就我我想象一下，我觉得很难。他他

41:38读不了足够多嘛，但如果足够多，他就能能记住。我们

41:41就讲颜色，我们就讲颜色，因为颜色这是个简单的问题，对吧？就是红色和绿色，颜色是个肯定是个简单的问题吧，颜色肯定不是个复杂的复杂的概念，对吧？在他的里面，

41:53他就要定义什么叫做知道颜色。比如说你知道哪个颜色，比如说我问他说哪两个颜色，比如说，呃，蓝色、紫色、红色，哪两个颜色比较相近。然后如果他能回答出这个问题，他是不是懂颜色？或者说你随机抽取两个颜色，你刚问他说在肉直观上，哪两个颜色看起来会比较像。

42:16如果他能够回答出这个问题或者类似的问题，他是不是叫做懂？

42:20我觉得这个就是，这个就是你能够背出来跟你能够接触的，就是就读万卷书跟行万里路的关系嘛，对吧？就是我觉得就是就是我我还是认这那个观点，就是它肯定是个很强的智能。但是如果你一定要把它跟人align成一模一样，我觉得就是你可能还是需要就是同样的接收信息的方式，

42:45就光靠文本可能是不够的。就是我就是，对啊，但是这个是你靠，我是个很很俗的人嘛，就是你总觉得这个跟你的切身体经验要一样，对吧？就像你让一个盲人，你让他去理解你刚才说的问题很容易，但是你让他描述一幅画的颜色的搭配，或者让他去描绘或者画出来，对吧？

43:12假设他没有眼，假设我没有，我看不见，但是我知道每个颜色什么概念，我也学了所有的绘画技巧。我假设有一个大脑能够精确控制在每一个像素上点哪一个颜色、某一个颜色，它真的能画出一幅普通人觉得很好看的画吗？这个我其实觉得是存疑的嘛。

43:31嗯。

43:33对，就就打个小小的问号吧，就是它可能能回答我们语言上去回答的很多问题，但是很多我们的感受跟体验其实不太容易用语言能够表达出来。对啊，我甚至再讲得极端一点讲，就是我们出去旅游或者出去玩，看到一些漂亮的景色，壮丽的景色，你其实受很大冲击的，对不对？

43:56但是第一个，你在现场受的冲击，跟你在视频里受的冲击，肯定就现场的冲击要大，对吧？然后第二个是你受了这冲击之后，你甚至已经记住了。过了五年之后，其实你已经很难回想起那个场景到底到底是什么样，你的记忆更多的是那个场景，反正我当时是很受冲击，但到底是个啥冲击，其实我已经不记得了。

44:20是啊，这。这个就是我觉得所谓的这个，就是所谓多模态啊，或者更多的这个sensor，跟我是不是靠学文本。就是当然这个是从我们人朴素的经验出发，那它没有什么科学理论啊或者怎么样，对吧？但是有时候你我也会觉得说，就是就是大部分的概念还是朴素的概念是有效的嘛，

44:43就是朴素直觉被推翻，通常意味着重大的科学理论突破，对吧？就像万有引力一样，对吧？啊。但所以这个就是很两面性嘛，就是如果说他说的是对的，那一定是个巨大的科学的突破，对吧？但目前来讲，至少它还没有从理论层面证明证明嘛。

45:05你刚刚我想到了几个点啊，一个是我我听你第一段的时候，其实想到的是说那个画我是觉得它应该能画出来的，因为其实最后背后都是都是数学嘛，哪怕光啊什么，它如果真的理解。但是你讲到说那个身临其境的，比如说被美景震撼，那现在的数据量我觉得又是不够让它去去感受到那个东西的。

45:28就是就是就是你靠文字要去感受到那么丰富的，可能就确实需要数据量可能还要再大，就至少视频先灌进去，再可能接近一点，然后可能还要加别的。然后最后你又讲到那个科学范式的转移的话。我倒是想到说，说不定这是个优点，就是因为我们我们肯定科学肯定是继续往前走嘛。

45:51然后我们肯定卡在了我们自己肉身，就是我们生活在这个世界上的一个一个局限性上面。那它如果跟我们不一样，未必是件坏事啊。

46:01对对对，就是反直觉的事情的确很有可能是科学突破，这个我认同啊，对吧？就是因为这个历史已经证明了嘛，你无论是什么万有引力啊，什么量子力学呀，什么波粒二象性啊，这些东西，对吧？你这个反正你就觉得，对吧？你是个正常人，都觉得这不是胡扯吧。

46:22对吧？就是但是你，呃，充分地经过这个教育跟训练，你得相信那个是科学知识，对吧？是真的，对吧？就像，呃，人工智能，你觉得预测下一个词就能得到人工智能，或者得到这个通用智能，这不是胡扯吗？对吧？

46:38但是呢，它的确也有可能是真的。是啊，但是，就就我觉得这个还是，

46:46就听你刚才讲他那么多的这个论文，就是我至少发现一点，就是OpenAI这些人是深刻相信这一点的。

46:54对，他很信。

46:56对。所以他们反，而且他们也知道这个事情反直觉。对。所以呢，他就反复每一次其实都是在讲这个事情。

47:03就因为这确实也是他认为最重要的一件事情嘛，就就就他甚至认为什么算力啊什么都没有这件事情重要，就是你要解决。

47:10因为算力也不是他的，对吧？都都是买买这个这个这个老王的卡。

47:16对，你要决定这条路值得做。但是他也提了一个我觉得非常好的一个一个观点，就是，呃，因为比如说这条路值不值得追求，这是这是一个问题嘛。但是但是他提了一个很好的观点是说，但是这个问题是一个工程上可行的问题。就比如说预测下一个字，这件这个问题它就是个明确问题。

47:40但是，对对对，去训练它，对，理解一段话，它是不是真的理解？那这个时候就就就这这事儿就变成一个哲学讨论，然后不是一个工程上可以解决的。那当然，

47:52那当然。对，所以以前阅读理解也无非是说让他答题能不能答对，或者说你写一段summary，跟人人写的reference做这种fuzzy fuzzy match，做这种模糊匹配，看这个词之间有多少overlap，有多少这种没有没有就去做评测嘛，对吧？

48:11对。但是这样子就会发现一个很，我觉得从这里面往后走就会发现一个很扯的问题。就是那些比如说批评它这个技术路线的人，那他们也必然要找到一个工程上可行的东西来来弄，或者最后也要去测一下他们那个东西到底好不好，对吧？你比如说他到底是不是真的understand，那他测的方法还是用这些方法呀，对吧？

48:35那那那其实你很难证明一个东西。

48:39这我觉得还好，因为这所有的这些理论，它都是用一些那个目标函数，嗯，有一些衡量指标来衡量这个模型的嘛。对啊，对吧？这个并不是，你不不能说，比方说，呃，预测下一个词，但是它也可以是一个场景下，比如说做做任务的成功率，对不对？

49:01或者说是那个，或者说是比如说打星际的这个，呃，不是AlphaGo，是吧，跟人下棋的胜率，对吧？这些它有很多方法可以评测这个东西嘛。

49:13对，我的意思就是所有批评批评那个预测来通往AGI的那套话术，其实比如说是打打打Dota好了，打Dota练出来的一个人工智能，它感觉很聪明，那你也会说其实它不没有真的智能，对吧？因为它其实是，你看它的所有的点，其实它只是在预测说，怎么说可以让Dota打赢，对吧？

49:36然后就就这套话完全可以套上去。

49:41我我觉得倒不是，我觉得是说大家不是说这不是人工智能，因为这个学科就叫人工智能，所以它就是人工智能，对吧？对。第二个是通用人工智能。那通用人工智能因为这个定义就不清晰嘛。

49:53以前还就是，就是如果你一定以图灵测试为标准的话。其实，呃，当，因为图灵测试是个很有意思的现象，就当大家都知道，都用过ChatGPT之后，再去和Chat和人家和ChatGPT聊，其实你挺容易识别出什么是ChatGPT的。

50:15对不对？你你你其实大家在没有用过之前，就是以前的AI是实在太弱了，弱到就是说你三句话它就露馅了。对。现在你面临另外一个问题，就是你周围有很多人，你有很多朋友，对不对？然后呢，另外一个地，有人就用ChatGPT，不管你用API也好，还是用了什么东西也好。

50:35但是你说你今天让我测一下，这个背后是个人心还是个ChatGPT，我觉得我是测得出来的。嗯。就是当大家都用过几个月ChatGPT之后，我觉得，哎，我觉得这个事也是一个很好的case，我们以后可以实验一下。

50:54我们可以实验一下，对不对？就假设说一个ChatGPT加一个人，对吧？你就随便，你也可以用插件或者怎么样，就是让你判断出来背后那个是不是ChatGPT，让你随便问问题。是。我觉得其实它不能不一，就是它出来的时候能通过图灵测试，跟过了两个月它反而就通过不了了。

51:15对。然后那个你你说的这个有人真的做了这个实验，但是他不是做的对话，他做的是把一个ChatGPT的bot放到了他自己的群里面。然后过了一段时间悬赏，让群友相当于狼人杀，说到底哪到底哪一个群友是，

51:33是是是

51:34ChatGPT假扮的。是。然后最终被那个ChatGPT被抓出来了，但是不是公认的，就是大众都判断错了，但是有一个人有理有据地把它给揪出来了。就是那个人的揪出来的证据是说，这个人从来没有主动，就是他附和过很多次，就跟人家聊得很好，但是他从来没有一次主动发起任何话题。

51:58就就觉得说什么，

51:59ChatGPT的整个说话的风格其实挺容易被嗅探的。

52:05你可以让他改呀。你你可以提前提前让他改。

52:08但是你，我举个例子啊，就是现在有很多越狱注入的这种方式。你用越狱注入的方式，如果是个人，跟是个ChatGPT，反馈我，一定差别会很大。对，就是我觉得就是当你需要一定要测一个，就是今天它是不是，其实还是能测。所以我觉得我们把它看成是另外一个智能比较容易。

52:29是。你把它看成人工智能，其实就跟人一样的智能，其实

52:33不是类人，是的。

52:35对，还是有很多很多差异跟漏洞的。

52:39是。对吧？我觉得就看成那个Another Intelligence好了，就就类似于那个七肢什么九肢桶还是七肢桶。

52:47对对对，你

52:48这对对。就是就是《降临》那本那本书，这里面讲惩罚，惩罚对他们来说就很难，什么负面函数对他们来说就很容易。

52:56对对对。

52:57然后那个那个还有两最后两个点的话，我过一下，一个是特别小的一个点啊。从他的角度上来讲，那边在逼他问说你们现在就不开源了，到底为啥嘛？然后他就讲了一通大道理，说人工智能不安全啊。巴拉巴拉巴拉巴拉。然后人家就说那现在已经到这里了，他说，嗯，其实还没有。

53:15我并不认为它现在已经到了这这里。那那现在是更多是从那个竞争角度啊，嗯，是更多从竞争角度，所以不能开源。就非常非常实诚的，就我感觉他就是非常实诚的说。

53:27我觉得这个这点比较好，这点其实你老实说嘛，对吧？就是我觉得，就我我们国内还是有很多团队，就是就是就是不肯说实话，对吧？或者说太注重PR了，就国内这些模型你仔细用一用，你会发现其实，对吧，离GPT-3.5都差得还挺远的。但大家出来做PR的时候就不太愿意承认这件事情，对吧？

53:51啊，非要搞一些参数，说，哎，这个行了，那个行了，就就还是不行嘛。就是你让它做点需要一些真正需要大脑，而不是靠小脑的问题，你发现就它就不太行。

54:03是。所以他他这边还回答蛮蛮实在的，先讲了一通漂亮话，还是讲完了。然后人家说现在呢，现在还没有到这个时候。

54:11而且你看Sam Altman不是最近说，哎，考虑要开源了吗？对吧？对

54:16对。那那肯定

54:17就不是，因为如果开源，那就肯定至少他觉得GPT-3开源是不会影响安全的嘛。

54:23对。或者说他们判断说开源世界反正马上也会出现类似的东西，那不如我开了算了。

54:31对，我觉得会的，我觉得会的，就是开源世界还是很卷的。是。

54:36然后最后一个点的话，我觉得是我自己听他的东西想到的。他是觉得说现在这个人工智能还在学习效率上还显著的低于人类嘛。就好像你说的，就是它需要读，比如说要读十万本书才能有我们读一本书的水平嘛。当然他举例子的时候举得特别凡尔赛。

54:53他举例子的时候说，人类学会微积分不就是应该只读一本书，然后做两道两三道题就会了吗？我就在想，鬼扯，我做两三道题我也不会。然后就是你们这帮天才才才会有这种打比喻的方法。然后然后但是我但是我我后来又换了一个角度想，其实我觉得不是这样的。

55:13它其实我们被预训练了一个脑子，我们脑子是几十亿年进化出来的。其实它已经对，比如说怎么抓东西啊，那些，对对对。

55:23就是你有很多基因里中已经遗留了大量的信息。

55:26对。其实我们已经就是train train了，是按亿年来算的，从从那个什么什么三叶虫开始train起，对吧？然后慢慢地train出这个这个脑子。所以你你在上面说它看一本书就会了，那你现在丢一本书丢给GPT-4，它也能说它马上就会了呀，对吧？

55:43他前面劝了那么多了呀。

55:46但这也有个区别，这个就是之前John Carmack的观点嘛，就是他一个人不是跑去搞了个公司做AI。他说人的基因里只有一个gigabyte的信息。OK。对不对？那你现在训练一个模型，你一个175B的模型里，就是如果是，呃，float32的话，

56:06就是差不多是六七百gigabyte的信息。

56:10那就没压缩好嘛，

56:11对吧？那就是就是需要的是现在人的是人的基因信息的一千倍吧。那人的基因信息里还预留了很多信息不是给大脑用的，对吧？是给你的手啊、脚啊这个东西。他说大脑只需要40兆的信息。

56:26是，对吧？就是说那那从这个视角的确是说那个那个那个信息，这个人不是只是看一本书，但是他的这个需要的信息量也没有那么大。对吧？但是我我觉得这个还是回到那个，就是就它就你还是把它当成不不不一样的智能，我觉得比较合理。

56:46就是你要复制一个人，克隆一个人，成本还是很高的。比你重新重新deploy一个model比还是要那个高很多的。

56:58是。哎，我不小心点了个啥。哎，

57:02还好。或者换个角度来想的话，人类其实是这么多年的进化当中的话，其实就是就是因为人类它不能太耗能嘛，那我不能存那么多东西嘛，能存下来。所以就不停的，就是稍微多存了一点，就看有没有好处，没有好处就砍死。其实它就是，它它后面的那个是一个非常残酷的那个那个reinforcement learning，

57:25非常残酷，就，哎，这下，哎，存了没有用，砍死，就砍死，就不停的被老天爷砍死砍死砍死，最后才把它压缩成这样。如果给它这么长的时间，然后哪一个没做好，砍死，那那个模型进化到这边，哎。你这个数据量的那个那个参数又变多了，但是没有更好的效果，砍死。

57:44其实它是这样子长出来的嘛。

57:47所以其实

57:48我们是因为祖先被砍死的足够多吗？

57:51啊，是是是，对。

57:54嗯，这个这个我最后收在了一个，收在了一个这么黑暗的话题上面。

57:59那那我我我我觉得还好吧，这不黑暗吧，对吧？我们又不出去砍人，哪里黑暗了？还好还

58:05好。OK OK。啊，所以的话呢，今天就是跟徐文浩过了那个Ilya的几篇那个那个访谈。然后反正其实就就就我我反正觉得还蛮蛮神奇的，他们当时这个这个想法的话，其实现在在直觉上也是不是那么好接受的一个想法，但是他们就一开始就赌嘛。

58:26然后我觉得最重要的两个想法，一个就是那个scaling law嘛，然后一个就是那个那个那个prediction is understanding。这两件事情要能够能够能够看明白才赌得下去，所以我觉得蛮蛮神奇的。啊，你刚刚听完这五个有什么感想吗？

58:42我听完五个，就是我觉得就是他们他们是个信念非常坚定的团队。我觉得这个挺很有可能会是，呃，很多追随者会不一定能够赶得上他们的一个原因啊，就是说就是其实国内也好，海外可能不多啊，就是但是我相信也会有大厂都会也会做。然后国内有很多创业团队，其实都在尝试说融大钱做GPT-4级别的模型嘛，想要。

59:09但是现在的假设是，就他们到底有多信这个事情，到底是因为，呃，这个OpenAI因为已经趟出一条路了，所以我信，还是说我内心已经说服自己这个就是正确的道路，对吧？就我觉得OpenAI其实是很，就是从这个过程中，就是说无论是Ilya，包括Sam Altman，

59:30其实都是说他们其实已经深深地信服了，这个就是，呃，通用人工智能的道路，对吧？那如果是他是对的，那他一定比我比其他人会走得更快。因为我觉得其他人肯定还是会犹豫啊，走不同的路线啊，对吧？就是这个是我其实觉得感触最深的一点吧，就是因为他其实五篇五篇里面虽然有各种不同的想法，

59:57但在这个一点上他是特别坚定的。

1:00:00嗯，对。然后我我我刚刚其实是在想一个差异哦，就是就是因为你刚刚也听了那个过程，它其实也是，嗯，他们其实相当于也是算MVP测试了这条路通的，然后再走的嘛。就比如说scaling law也发现了，或者在那个、呃，那个那个Amazon的那个review里面去predicting the next words，

1:00:25然后next token发现有那个sentiment的neuron，然后才才往这条路上走。所以的话呢，其实我刚刚有一个感觉哦，就是，呃，其实我也没有那么信，然后你刚刚也，我感觉也没有那么信。其实但是呢，这个事实又已经摆在了我们面前，然后我们其实还没有那么信，可能是因为他们真心是想做AGI，

1:00:48他们非常相信的AGI。具体这条路径的话呢，其实本质上来讲，就是就是其实他们我看听他详细讲的话，其实也是试出来的。比如说他们那个scaling law，其实他们早就想把那篇搞完，赶紧搞别的，其实也并没有想赌，大力大力出奇迹，是老天爷把他们送上去了。

1:01:06但是我在想，可能就是比如说假设我们每天不吃饭不睡觉，就是天天想着AGI，然后我们去去一条路都没有找到，就一片黑暗，然后觉得要要崩溃的时候。然后我们我们我们去做一个那个什么什么小红书、什么广告生成器，结果发现里面长出来了一点点智能。

1:01:26然后这个时候我们我们是会把它放大的。就现在我们听他讲故事的时候，就觉得说你在这一点上，你也不能说你这条路是对的，对吧？我们用很理性的来看这个，但是当我们desperately想要那个AGI那条路，但是身边的所有的路一点火花都没有，

1:01:42这边有一点点小火花。我们站在一个旁观者，因为我们并没有那么想去那个山山顶，我们就会质疑这个小火花不一定代表未来的路是通的。但是他们当时在黑暗当中看到这个小火花，应该是嗨死，冲啊。兄弟们能搞到多少钱，搞到多少钱，往这边冲啊。

1:02:00我觉得我觉得可能是这样导致了不同。因为他讲到这个的时候，都是觉得，哇，看到了这个希望，我们就是会冲啊。但是我们刚刚好像就就还是觉得说，虽然你们看到了这个，但是它其实也不能证明可以通往山顶嘛，只能证明前方可能有路嘛，

1:02:16对吧？但这个回过头来就是证明另外一点，就是他们相信AGI是在他有生之年能搞得出来的。或者说是他们相信说，因为我觉得大部分做AI的人其实没有去想过这个问题。

1:02:30那大部分人都想的还是一个具体的问题。比如说，哎，我是做视觉的啊，我是做自然语言处理的，对不对？我是做知识图谱的，就大部分人没有去想说我就是要做通用人工智能。

1:02:41我觉得这个是一个，就因为你只有那个前提，他才会说我需要这通过这些火花往前走。大部分做视觉的，就是我可能解决的就是具体的问题，或者说视觉里，呃，你理论如果是发了学术论文，你肯定想有什么更好的结构，就是你思考问题切入点会完全不一样。

1:02:59哦，对对对对对对对啊。那这边那你讲到这里，我再补两个段子啊。就是一个，一个是那个Ilya，好像他离开离开那个那个那个Google之后，先去了一趟DeepMind，然后DeepMind的两个人跟他疯狂地输出了一顿，说我们要把AGI给搞出来，然后他觉得这两个人疯了吧，

1:03:19然后他走了。他还提出了一个观点，说其他人可能没有走对路的方向。就是他说他们几个人是想把AGI搞出来的，所以他们想的就是怎么把AGI给搞出来。他说其他人好像陷入了一个、陷入了一个一个一个思维惯性里面，就是去打比赛，就是去拿通用的那个通用的那个数据集，

1:03:40去去train一个model。他们就在拼命地提高它的那个那个模型效率，而不是要做出什么东西。他说为什么一定要去用那个数据集呢？你如果能够塞更多的数据，让它效果变好，那我们就塞更多的数据啊。他说大部分人好像就被那个数据集给引到了一条，说大家去比。

1:03:58这个

1:03:58是这样的嘛，就是这个是学术界的评价体系决定的嘛。对，对吧？就是，呃，学术界评价体系在我在一个数据集上，我能刷一个更高的分数，那叫state of the art，对吧？SOTA，然后我就能发paper，对不对？

1:04:12但是我如果去搞AGI，那我，那就是你基本上就必须七年十年憋出一个大东西，对吧？你的中间过程是没有什么东西可以publish，这样你在学术界就就比较难，所谓的就传统意义上的这个ladder上往上走就会更困难嘛。是啊，

1:04:29对啊。所以所以还是很适合这种，就像像像他和Greg啊什么的，都是算已经已经有有一定大、有一定大成的人，就是来实现人生梦想的。其实

1:04:40Ilya不是有一个，也是有一个，也不能叫段子吧。因为Sam Altman呀、Greg呀，他们都算是，包括这个，呃，那个那个谁，Peter Thiel也投了他们钱，对吧？包括Elon Musk最早也投了钱嘛，对吧？就他们都算是功成名就的人，Ilya其实还谈不上到功成名就的地步。

1:05:00所以他当时不是说Ilya有两，手上有两个offer，然后他是犹豫到，就是OpenAI创始团队创建的这十个人，他是犹豫到最后一刻才答应了Sam Altman加入。哦，是这样的。对对对，说是Google给了他一个大概两百万美元年薪的offer。

1:05:22等一

1:05:22等，他两百万美金，他之前那个Hinton卖公司不就四千四百万美金吗？他有百分之，他有百分之三十啊，那也一千多万美金啊。

1:05:35呃，我理解你，我不知道啊，就是说但是这个实际上是真真实的，就是说，他就是他应该是最后一刻加入的，应该是Ilya，因为其他人都不没有这种纠结，对吧？Greg他是那个Stripe CTO，他其实，

1:05:51对吧？就没有

1:05:53那么，没有那么纠结，对吧？就就就Sam Altman、什么什么Peter Thiel这些人就不不谈了，好像就是Ilya是last minute，就是说他就是拖到了最后一天还是最后几个小时，对不对？然后他还在犹豫说，我是那个为了让家人短期内家人生活更好一点，去大厂嘞，还是加入OpenAI。

1:06:13OpenAI应该也给得起两百万美金一年吧。我

1:06:17理解，这具体我不太……挺

1:06:18好的，挺好的。我觉得这个这个挺好的呀，最后最最后就终于光明了一点，这样子对于我们这种普通人，对吧？就也没有那么有钱，但是就就就也不用那么操心衣食的，我们也现在也是可以搞一些奇奇怪怪的事情的。

1:06:34也不一定要像Sam Altman那样子才能搞，我们也可以搞的。加油啊，看好你啊。

1:06:42你也可以搞到。

1:06:43我是个做工程的人，我我比较擅长抄袭，就别人做出来了，哎呀——我们发现代码拿过来改一改，这个事情我还是比较擅长的。

1:06:52这不就是现在最重要的事情吗？他们不就是搞工程的吗？

1:06:57呃，还是有差别啊。就是他们虽然是搞工程的，但是就是你看过别人这条路径能走出来了，然后你也跟着走，跟这个，呃，就是你要完全从零开始，呃，走一遍这个路线，我觉得差别还是挺大的，对吧？就是就像你今天今天你搞工程，你有很多选择，你说，呃，我觉得也分几个难度啊。

1:07:21第一个是说我要复刻GPT-4，嗯，对吧？因为那个就是没有任何第一题的，你当然知道它肯定还是个大型语言模型，但它当中肯定有很多secret。比如说他们最近发的那个eval step by step这种论文，GPT-4里是不是用了，是不是标了很多数据，

1:07:35其实你是不知道的，对不对？那其实你还是只是这个事，你还是在黑暗中摸索。只是前面有人告诉你说，历史上曾经有人走出去过，但你还是在黑暗中摸索，这是第一层。第二层是说我们来复刻一个Llama。

1:07:52对不对？那这个事情你是其实比较简单的，OK，对不对？就是有人已经把代码权重都给你放出来了，然后大概效果是怎么样，你都都可以知道。那这个你，我觉得就是你可能大部分团队，厉害一点的团队，就包括，就厉害一点的团队，对吧？只要水平比我高，我觉得我找个团队，我们几个工程师可能三到六个月，我们觉得也是有希望能够复刻出来，

1:08:16对不对？但是你说我们三到六个月能不能复刻出GPT-4，其实这是个，这还是有带着个大大的问号。所以你的答案是，就算你说有信心，但其实你本质上是，其实你此时此刻你不知道，你最多只能说，就我们去努力一点吧。

1:08:34对。因为好太多未知了，

1:08:35对吧？就是这个我觉得差别还是挺大的。就

1:08:39是你Llama你要复刻的话，就是哪怕它再难，至少你现在能够拿它把玩一下，是吧？GPT-4其实你现在还不知道它内部到底是个什么东西。就

1:08:49GPT-4，就是我觉得虽然难啊，为什么说也没有那么难，是说就是主路线是确定的。就是因为它不可能一点口风都不漏嘛，就是美国人民是没有竞业协议的，他们不干，Anthropic的人也会干嘛，对不对？甚至还会，也有些人现在也有以前OpenAI干过的人，现在可能回到学校做做这个professor了，

1:09:11对不对？也有从外面又又重新回到OpenAI，也有微软的人，我觉得总是会，就是，呃，不能叫泄露吧。就是说

1:09:21一定会出来的。

1:09:22对对对对对，所以我觉得这个倒还好。

1:09:24好。是。哎，那就加油吧，反正今天就是聊它五篇文章，然后最后我们有一个光明的尾巴，就是也不一定要功成名就才能干这种大事儿，大家都可以试一试。有机会的话，只要你不会柴米油盐操心的话，都是可以试一试，搞点好玩的大事情的。

1:09:43嗯，折腾一下，生命在于折腾

1:09:46啊。欢迎大家在各个平台里面关注AI炼金术，对吧？就是包括这个微信公众号，对吧？然后里面有我们每周发的文章，然后我们也会在视频号直播。然后我们尽可能地在各个平台都让大家有机会看到我们，对吧？

1:10:04看到你不想看，不得不把我们屏蔽掉为止。就是，然后有兴趣也可以加入我们的知识星球，也叫AI炼金术。如果找不到的话呢，就去关注我们的公众号，每期文章的下面都会有对应的链接。

1:10:16好，打得好。好，请大家按照徐老师说的做。好，谢谢谢谢谢谢。哎，

1:10:24好。那我们准备下线了，拜

1:10:26拜。拜拜拜拜，拜拜。