用 AI 降本增效、千万别精神内耗

00:04最近有听到AI方面有趣的事情或者什么梗吗？

00:07投资人也开始写代码了。

00:09我都开始写代码了。

00:13我的假设就是说现在在几个billion这个级别的模型，基本上大家都会开源出来。

00:20它类比是那个游戏机，说每一代游戏机你玩到后面好像觉得那个游戏机的性能在不断的提升，是因为那些游戏厂商在不断的挖掘那个游戏机到底还有哪些东西没有挖出来的。

00:31其实大家都在挖掘GPT-4的潜力嘛。

00:39欢迎大家来到新一期的AI炼金术啊，这一期我们的那个AI炼金术的公众号的博文好像单独有几位同学过来跟我夸了一下这一篇，不知道为什么这一篇引起了大家的那个反响比较热烈。这一期写的是用AI降本增效，千万别精神内耗。那那个呃，这一期主要讲的主题非常的简单，就是赶紧搞，不要慌。

01:08然后赶紧搞呢指的是尽快大家赶紧把AI应用在自己的业务上啊，有传统业务的学习，网易把AI融入工作流，降本增效。想突破创新的呢，可以借鉴一下移动互联网，多多想一想，从底层思考一下什么叫AI原生，就好像我们那时候说Mobile First嘛，

01:26对吧？移动互联网原生应用应该是什么样子的，应该有什么机会，大家可以借鉴一下。有两篇文章讲这个。那另外一个呢讲说不要慌，一是说不要焦虑，对吧？现在大家都熬夜看发布会，熬夜追什么AutoGPT之类的，哎，没必要，对吧？

01:43保证自己在时代的火箭上就好，天天熬夜熬不动了，现在每天都有新东西，真的追不到追不到，对吧？那个连徐文浩同学都说自己干不动了，那我们这种凡夫俗子就更干不动了，根本跟跟不上了，对吧？所以不用那么慌，就这样吧啊，对吧？只要在火箭上大概了解就差不多了。

02:03那第二呢，也就是说不用太恐慌说AGI会把我们所消灭掉，因为我们自己干掉自己的概率也大一些。所以这一期主要就讲了说，呃，赶紧搞，但是不要慌。然后四篇文章，一个是在讲说从鸡血到躺平，面对那个，面对AGI该干啥就干啥，这主要是徐文浩同学的感想，对吧？

02:25不用担心追不上热点，看我们的公众号，对。从鸡血到躺平，不要焦虑，然后网易怎么降本增效，AI创造的新场景，然后还有徐文浩同学推荐的一篇科幻文章，说，嗯，从外星人还没有到我们这里来推算的话，应该外星人不是被AI干掉的，他们是被核弹干掉的，

02:45所以我们操心AI不如操心自己。

02:47那篇文章很扯，但我觉得也算有一定道理吧，因为它的假设是说，如果说AI已经能把人类干掉了，那按道理来讲，就是说它能够干成把人类干掉的事情，它应该也会自动探索宇宙，所以它也会慢慢地接触到我们。那如果我们没有接触到，说明那些智能星球都还没有发明AI。

03:07那按道理来讲不应该这样，对不对？说明啊，大部分星球都是在没有发明AI之前，都因为核战争

03:14把自己给干掉了。

03:15对。这个虽然比较扯，但是啊，我觉得也是个很有意思的观点啊。很有意思的观点。

03:21是啊，我们老是担心AGI，还不如担心我们自己，对吧？我们自己比AGI更不靠谱一点，何必呢？

03:28OK。而且而且虽然就是说我们现在看到那个AGI的雏形嘛，但是真的你说我觉得离AGI还是有还是有距离的，就是你看到这个对吧叫baby AGI或者怎么样，因为最近想开始做一些复杂的功能，我在想哎我能不能用这种AutoGPT啊或者之类的做，

03:46想了一下发现还不太好做。对。

03:50那我知道很多团队已经在做垂直的了，因为Auto它是梦想很大嘛。但是垂直的话，就是哪一类问题有专用的方法去解决，以及让他们去看专用数据。

04:02这是可以的。对，因为我其实是呃，有两个idea吧，先贡献出来，但我觉得反正idea也不值钱。一个是用垂直API写爬虫，写网络爬虫，就是你网络爬虫经常要写那种页面解析的程序嘛，对吧？其实爬虫本身程序很简单，其实爬虫主要是说怎么写页面解析的程序。

04:23那这件事情其实是你是可以交给AGI来干的，你就说，哎，我这个页面拿到了，我扔给你看，长这个样子，你对吧，然后你直接帮我把正文提出来，它其实自己也是能做到的。然后但是但是这个不会很准嘛，你就说，哎，你能不能帮我写个程序，自动把我里面想要的这些字段给解析出来，

04:41对吧？然后让他去想这个程序怎么写。是啊。这是一个一个，另外一个是有一些朋友在做量化嘛。那么量化就是量化经常是需要说用一些常见的套路或者算法去回测嘛，对吧？

04:55那你其实一般来讲原来的做法是，那我现在的一个思路是说，那量化的这个输入数据就是这些字段啊，这些这些这些你深度的order book啊，这些transaction其实都是有的。你说哎，我有这样一个数据表，然后我有这些字段是这个含义，然后说，那有这样一个策略，这个策略是要布拉布拉布拉，

05:16是是要干这些事情，你能不能帮我自动算一下这个东西以及最终的它的这个呃在回测出来的结果是怎么样，因为它本质上这个pipeline就是整个流程其实是一样的，只是中间的算法策略不一样嘛。直接做投资并不靠谱嘛。但是你让他说，呃，投资有很多种策略或者算法，你说你自动帮我用Python，我数据也在那里，然后算法我大概描述给你听，

05:42然后你就帮我把这个东西算出来吧。这个其实是可行的嘛。是。

05:47然后你讲的第一个场景，其实我们最近就遇到了类似的问题，就是，就是我们要要做爬虫嘛，但是爬虫有很多类，我们可能要就就就就有一百种爬虫，但是其实他们在爬一百种类似的东西。其实最好如果我能告诉你说爬这一类东西，你能帮我把这一类给找到，然后每一个自己去想办法把它给爬回来就最好。

06:10否则我就一百倍的成本嘛。做一个爬虫很容易嘛。对。但是做一百个做一千个还是挺费事的。

06:17对。就是我觉得这种垂类的一个小的应用其实是有可能通过这些策略做完的嘛，但是你如果说完全通用，就我觉得会比较还是比较难吧，就是说它还是比较，你不能让它，就它的智商跟注意力还是有限，你就不能让它太发散嘛。

06:33是，了解。那这次还有一篇文章，你是写说那个干不动了对吧？那就那你现在什么策略呢？

06:42我现在就是该睡觉睡觉，然后呃，然后该剩下时间该干活干活呀，就是多和人呃聊聊呗，然后我觉得关键是什么，就是说呃，这个领域还是无穷无尽的大，就是我自己接下来肯定也会做一些收敛嘛，因为要写专栏其实是所有的领域都看了，就是包括视觉啊、音频啊什么，其实有些以前稍微看过一些，看的比较少，

07:09但是但是核心价值我觉得未来还是在大语言模型嘛。比如说图片生成其实也是个很有意思的领域，但是但是你要把图片生成做好。其实已经要花非常多时间，对吧？就大概看一下了解一下，就是还是要做一些舍弃嘛，就有些东西就不作为重点来看，就只关注减少，就减少花很多时间去关注那个嘛。

07:33第二个就是，就慢慢来嘛，因为我觉得其实重要的内容没有那么多。就突然每天都有一个啊，对吧，就是比方说，就就前两天你转的那个什么segment anything at everywhere，对吧？就有很多都是

07:49在一个基础模型之上，它在扩展区来想了很多小的idea跟trick。那个论文可能也很也有也有十页，但是你就假设可以，如果你暂时不想要立刻动手用，就先不读嘛。啊，对。

08:01肯定不读。你以前这种东西你会读一遍。

08:05不不不，不会都读的，至少你会去看一下这种summary啊，idea啊，或者怎么样，对吧？而且你，而且写专栏有些牵涉到的东西，比方说我我专栏那个最近在写那个Stable Diffusion，虽然我写只写应用，但是你总得把算法整个过程大概看一遍吧，因为你不看你也不知道你在讲些啥，对吧？

08:24哇，你这段写的真的好扎实啊。

08:27不，你。写的东西一定是比你知道的东西要小一个数量级嘛。是啊。不然你很难去，就不然你只能写，就是不然你写的这个东西你自己也会露怯的嘛，对吧？

08:37是是是。你的专栏是我现在看到全网的最扎实的，每一个里面都有代码。太吓人了。

08:45啊，没有没有，这个本来就是给工程师看的嘛，代码也也比较简单嘛，对吧？啊，这样可以比较偷懒，对吧？就是你写了一些demo，写完了之后你就解释一下这个demo是什么，就可以比较节约时间。对吧？不然你还要重新想写什么内容，对吧？

09:01说得对，所以我打算那个混沌在跟我可能要做个商业课嘛，然后就说啊，在商业这种场景当中，我们应该这样来应用，来给个demo。

09:11对对对对，因为因为我觉得很多时候真的是demo，它其实相对来讲比较有吸引力。对对。就是，就是我觉得很多时候你跟大家去讲说这东西可以写文案，甚至我把那个写好的文案给你看，用户是没有感觉的。你给他一个demo，对吧？用户贴了一段字，然后他那里就不打，而且他你不是一下子生成的，你就用他那个streaming的模式，

09:33一个一个字蹦出来给他看这个字写出来的过程。那用户就觉得这个东西特别牛逼，对吧？就觉得哎呀，我我愿意花很多钱买这个东西。OK，对吧？如果你只是给他看一张PPT，说啊，左边是这个，右边是那个，他没有感觉的。

09:47OK。

09:47OK，好。那我重新想一想啊，哦，你说还要砰砰砰这样弹出来是吧？嗯，行。对

09:54对对对，就是动图，就是就是视频比图片有冲击力嘛。那图片比文字有冲击力嘛，文字比你光光开口讲有有有冲击力嘛，对吧？OK，

10:05好的。哦，那我再想想。你现在有知道说什么公司用什么东西降本增效，用AI用得比较好的吗？什么场景啊，干嘛的？

10:14呃。呃，我自己看到的还是几几个啊，就是一个是一个还是文案类的，就比较多的一个是文案类的。就是说，呃，因为我我自己之前做电商比较多嘛，然后帮一些朋友想一些，就其实还是就是根据标题呀，根据文案内容啊，帮他重新组织写内容嘛。这个其实是呃比较有，就比较有效的。

10:40前两天也看到一些demo，就是说，但不是我做的啦，是其他人做的，就是比如说这种淘宝评论的回评呀，然后这种，对吧，然后这种客服的一部分客服，当然有些我觉得是以前已经有了。比如智能客服这个东西之前已经有了，现在只是说是把门槛进一步降低了嘛，把门槛进一步降低了嘛，

11:02对吧？然后那个那个，嗯，我看那个评论区有人说嘛，就是那个模特换图嘛，对吧？对。然后我也看到一些demo，但我的确还没有看到说谁说我已经彻底变成这样去用了。

11:18对。就是就是这个东西传已经传了很多，我也知道有很多小团队在做这个，也有看到有demo，呃。但是我自己因为没有跑过特去去试过特别大的模型啊，我也不知道这个效果最终能做到什么程度。然后我也是在小数据上跑了一下，我觉得呃就是还不错，但是可能离最理想的还有差距嘛。

11:39对。对对对，所以我我其实不知道它是不是真的能降本增效。第三个就是我现在看到的比较多，也不要比较多的，我我我觉得我自己接下来再试的，我觉得比较多的是让它帮我写一些代码跟写一些SQL嘛。

11:55就是说，其实还是把就是原来那种比较简单的需求，简单的需求就是其实你找个普通的工程师，你跟他讲两句话。他半个小时一个小时也能给你整出来，比如你写个爬虫，写个页面解析。其实你找一个入门级别的爬虫工程师，可能工资就一两万块钱一个月。

12:12他其实说这个网站你帮我解析一下，他其实半个小时一个小时就写解析也就写完了，对吧？或者说你找一个这种数据分析师，你说啊，我有这些表，就有一个SQL，他可能半个小时一个小时就写完了。那这个其实是用AI来干是特别快的。就是说你基本上基本上你用LangChain已经有的这些东西，简单封装一下，呃。

12:36呃，我觉得就，当然你可能需要调prompt啊，或者你要看可能原来你的数据表的名啊、结构啊、注释啊不全，要去补这些东西，或者说你要去调一些流程，但是这个东西做完之后是能做到就是可用的。就是能做到可用的，而且可用就是说你可能花一天，花一两几天时间做了，带来的效果是说本来呃你经常要这种半个小时半个小时的工作，

13:01现在都是你找个业务人员跟他大概讲一下，这个事情就OK了。是。

13:06我，你刚说到文案的话，我们其实也帮那个比如说，嗯，营销公司做了一些那个demo MVP。然后挺吃惊的，就是在我的理解里面，因为这个东西对于他们降本增效太明显了。我的理解里面以为他们已经用起来了。但是我们展示给他们的demo的时候，对方还挺震惊的，觉得说，啊，然后就觉得，嗯，

13:32是这样的。就就是我们说了嘛，就信息其实就是信息差还是很大的。就是我自己接触完，我觉得信息差还是很大的。就是说我前两天是看谁呀，看那个原来经纬庄明浩，他说他在那个他他在即刻上写嘛，他说他去开这种会议分享，说让现场举手，说有60%的人还没有用过ChatGPT。

13:56就他去开这种类似于AI的分享的这个情况下。所以我觉得信息差还是挺大的。嗯。

14:02了解。哎，有人问你刚刚说的那种指挥别人，指挥那个写写爬虫程序，是不是需要这个人自己懂爬虫程序，他才能指挥GPT写？

14:12不不用，不用。我的我的目标就是做出一个不需要的。OK。

14:18那就好。

14:19对，我的目标只是说你说哎，我有这个，就是你只要给我个例子，比如说我说我有这么个页面，然后说你看这个，说我想往里面爬哪些字段，比如说我给你个示例，比如这个页面里我爬出来就是这么个东西，然后说你能不能帮我自动写个程序，把这些东西都给爬出来。

14:36用用用类似这样的方式啊，就是说并不需要说他会写爬虫，就是只要能举一个例子就好了。我希望是只要能举一个例子就好了。我我我，当然我还没有动手干这个事情，但我想了一下，我觉得是能做到的。

14:51那你是怎么让他读那个页面呢？

14:55你就让他直接把那个页面拿下来呀，就当就让他自己，就是快速把整个页面给他拿下来。

15:01让他哦，让他写个程序去拿，他自己不拿不到。对。

15:04这个当中肯定还是需要我来写程序的。OK。这个东西肯定还是需要我来写程序，就是还需要我写一个程序它能干这个事情。但是这个东西写完了之后，我的假设是，呃，比如说在垂直领域，假设我想爬电商，对不对？我只要是网页类的，我的假设是它都能爬下来。

15:21对。了解了。OK。啊所以你在做这个东西哈，到时候你这个东西我们我们来买一份。

15:28OK。我我我计划想要做这个东西，我还没有做，因为我们，因为我我的假设是，未来这个过程中，就是怎么怎么讲呢，就是第一个我觉得未来你不管做大模型还是做应用，你肯定是有大量数据采集的需求，对吧？然后那个，那么采集数据原来是个体力活嘛。

15:46哎你这

15:46个真的很广泛需求，我们都有这个需求。

15:49通用的搜索引擎，但是会有很多垂类的搜索引擎。对。本质上是这个这个特别是这种什么电商呀，什么这个比方说采集金融数据呀，采集这种东西，你其实就是那个页面你要把一些字段爬下来嘛，就每个网站你可能都要爬。那么能不能把它做成一个一个通用的AI自动写爬虫的这么一个东西。

16:12那

16:13AI原生的产品，你觉得会有什么应该有不什么不一样的思考这件事情的方式吗？就好像刘芹以前投资快手的时候，他想的就是说，那大屏幕就很适合放视频嘛。然后手机上有一个摄像头嘛，那以前大量的人用的是台式机上面是没有带摄像头的。那反正这个这个软件把这两个东西给用上了。

16:35那那那首先我们就要考虑这种软件，这叫原生啊，对。那那你会怎么考虑这边有没有什么嗯机会是我们原来看不到的对吧？

16:45我觉得这个机会其实现在就目前的趋势大家能看到的是那个generative agent嘛。就斯坦福小镇的那个就是包括AutoGPT本质上都叫都你都能称之为一个自发能行动的agent，对吧？就是回到以前就是我们看到的个人助理嘛。

17:02所以你觉得generative agent它是一个原生就很很牛逼的一个事情。

17:08对，它相当于一个，你叫智能体，对不对？现在它国内翻译有有些地方翻译它叫智能体，对吧？有有些叫agent，反正有些就就用原文叫agent，因为agent它本质上是说，我们真的有一个AI，你也不知道它是怎么想怎么干的，但是它自发的能根据你设定的一些人设也好，目标也好去行动嘛。

17:28那么，这个是过去的所有的，这个这个，过去互联网，移动互联网里都不存在的这么个东西。对吧？所以现在有人做这个，有人做什么，有人做觉得这个可以拿来做游戏。那前两天不还有人做了个这个吗，说里面做了个社交网络，这里面的所有的社交网络里的每一个人都是AI。

17:49对，我看到了，太扯了，什么鬼？对不对？

17:53不。我觉得这非常靠谱啊。是。嗯。

17:57我我我们我们在我在做的一个一个小小工具的话，最后出来有可能长得有点像。不过我们是说一个很正道的方向往这个方向想的，但是想一想好像出来之后感觉上跟它会有点有点类似。

18:11对。这这这个我觉得是就是从大语言模型来讲，这个是最原生的嘛，这个是跟原来最不一样的一个地方嘛。

18:18是啊，是啊。对吧？

18:20对啊，就是他他他他里面每个人都能说，都有给他有个人设，给自己有个图片，对吧？不仅他会发文字，和别人互动，还会发自拍照片。但是这个就是纯AI互动，不一定非常合理，但是一个AI跟人类混杂的社会，我觉得是比较合理的。因为纯AI互动，你人为什么要去看呢？

18:39但是人跟AI混杂的这么一个，我觉得是合理的呀。

18:42是是是。其实嗯对，人类其实也早就成生活在这种混杂的世界里面了。你去很多的美女的那个APP里面，其实很多美女也是假的嘛。

18:54只是之前不一定是不一定可能是抠脚大汉啊，不一定是AI嘛。第第一个问题，最近有听到AI方面有趣的事情或者什么梗吗？

19:03投资人也开始写代码了。

19:05我都开始写代码了。我都我都写了个五子棋了。

19:11有个投资人朋友，他们已经开始自己找了个人，然后开始他们开始写这个类似于一个AutoGPT，类似于那个斯坦福generative agent的那个那个那个那个开源项目。然后我还帮他转了。

19:24OK。对，我还

19:25帮他转了，哎呀我觉得哎呀，这太太大家实在是就是太兴奋了。是。太激动了。

19:32对。你这样讲，我朋友圈也有投资人在讲说，讲说说，哎，这个东西，那个那个那个那个，看很多人在在在说，但是感觉都是给VC看的，奈何我自己就是VC。然后，然后他就想说，我又看到了几个好项目，但是觉得要做这种项目的话，其实最好就是学Midjourney，

19:52那就不需要VC啊，那我就直接干，然后就在那边自给自足。对对对对对，就是说。

19:57我觉得我觉得某种程度上是这样的，如果你今天想做应用。你不太依赖，就是第一步，就是你bootstrap这一步，其实不太依赖投资人的钱。是的。你需要的投入其实比较小。是。

20:09只有你验证完了，你说我要通过做广告投放，那其实这个VC的资金对你是有杠杆的，因为你可能说我要快速出，我投不了那么多钱嘛。但是在做产品的阶段，我觉得现在其实不需要花太多的钱。对。

20:24而且很多事情就是早前MVP类产品都不需要嘛，就是人肉在跑嘛。炎炎磊小朋友也在帮我测几几个不同的MVP，跟不同的合作方，无非也就是人肉加上加上用GPT-4嘛。就搞定了。OK，所以投资人开始写代码是好玩的。

20:43就是我是觉得说这有一句话没错，就比如说我觉得GPT-4已经有很强的可用性了，可以干很多事情了。就比如说我们刚才说的，用它来写量化算法，用它来写这个爬虫，我觉得都是可以做的。就是我这人比较懒嘛，就是动手比较慢，特别是有别的作业要交的时候，我就会倾向于先把作业交了。

21:02我再分享一个，我就最近用了一个用法，GPT-4，然后对我帮助还挺大的。就是，呃，我以前一直是让它给我东西嘛，我现在不是让它给我东西，我是让它问我东西。比如说我我要做一件事，我说我明天要谈判了，然后大概我想到这些方面，你一个一个方面问我，我我打算怎么写？

21:23然后他们怎么想？然后你我回答完了之后你再给我一些建议和意见然后再问下一题。它就相当于把一件事情拆成了十个问题和十个来回。十个必，而且是短反馈嘛，它会当下就给我一些它的意见嘛，然后再问我下一个问题嘛。本来我要写一大篇东西才会把自己思路理清楚，现在就变成了十件小事。

21:45然后而且我问完这十个问题之后，我会让他再问我十个，让他自己想十个问我，就帮我补全了嘛。我后来就就发现说，这个过程把我的认知的那个负担极大减轻了。因为原本我如果需要思考一个大坨的一个事情的话，我是需要说，嗯，很认真来思考的。

22:05比如说宝宝进来找我玩的话，我就会被打断，就会就会有点接不上了，前后会浪费很多时间。但是我发现让他来搞的这事的话，我可以一边跟宝宝聊天，一边回答问题。就有点像是，如果是我脑子里面，比如说去一个新的地方，我是把地图背下来的话，我开车就要聚精会神开。

22:23但是如果是地图导航说，哦，前方路口右转，我就跟着就右转就完了，我就不需要操心全局了，我只需要操心当下的一个问题。这样子我的认知负担顿时就降低了。然后我就诶觉得诶，这招蛮有用的，我现在就都在用这招在工作。

22:40反过来用。OK

22:41OK OK，我理解理解，就是它其实相当于它帮你把任务给拆了。

22:45对的对的。他把一个巨

22:46大的任务帮你拆成了一堆to do list，然后你每次只需要去回答那个碎片化的那个问题。

22:51而且他也会及时的给我一个反馈嘛，人人类需要短反馈嘛，你觉得哎这个还挺好的。哦，

22:58我我我想起来了，就是最近还有一个比较关注的事情，就是复旦的那个MOSS开源了嘛。对对对，那个就是我看很多人说，就是这个MOSS开源其实主要的，我觉得是说它给了我代码还没有看，还没有怎么看，但是我看那个付瑶。就是之前说那个，哎，

23:15我也是看符尧说MOSS很好。

23:17对对对，然后我看大家看了一下它的具体的评价，我理解是MOSS多做了这样几个事情。一个是我们之前都是没有做，之前的开源的模型或者代码都是没有做AI safety这个事情的。就它做了。OK。对吧？

23:31第二个是他也做了一系列的这种工具，就是说，呃，这个我觉得就可能就是这两点有比较大的差别，其他的其实，虽然他开源了，但是因为之前DeepSpeed的Chat也开源了嘛，所以那个，像那些强化学习的东西本来就已经有了，然后那些微调啊什么的，本来就是市场上已经泛滥了嘛，对吧？

23:52就是说倒是没有什么特别，但是我觉得它是补齐了工具链跟这个safety这两块。我觉得就晚点可能想去看一下，就是那个东西它是怎么做的。这个也算是开源，我觉得有一些进展吧。啊。另外是前两天哪一家呀，我忘了哪一家，又开源了一个就是写代码的呃小模型。

24:14大概几十亿参数的，

24:16就可以写代码了。不

24:17是不是亚马逊，不是亚马逊，是另外一家开源了一个几十亿的写代码的这个小模型。呃，哎呀，对。名字我暂时忘了。好像是好像是

24:28代码写得好，

24:29我还没试，我还没试。对。就是所以我的假设就是说现在在几十个billion这个呃就几个billion这个级别的模型应该是比较容易，就是基本上大家都会开源出来。那大的模型现在主要还是计算资源不够嘛。

24:42刚刚刚好前面还有一个同学问说那个呃觉得这个增长就是因为GPT的发展很快嘛，说会不会线性就是就很快的发展嘛。我当时这两天看了戴雨森的一个观点，觉得挺有意思的。就雨森他说那个，

24:59就是我们现在看到的看到的GPT其实是劣化的嘛，就变糟了嘛。你去看那个，你去看那个微软那个演讲也发现会发现它原本那个好像更厉害一点，然后给我们的是比较差的，是为了为了把它调到说要要要乖嘛，因为要要让它变乖的过程中让它变傻了嘛。

25:18这个正好就跟教孩子一样，对吧？教的太乖就容易变傻是吧？

25:21对对对。所以我们家我我们家就完全不要求他乖的。我们家觉得他自己对自己的评价就是又乖又皮。什么时候乖？在幼儿园比较乖，在家里皮。

25:32就教乖了之后他就劣化了嘛，然后他类做了一个类比，我觉得挺有意思的。就光靠这个类比觉得还有一段时间的增长，哪怕GPT-5真的没有做或者做不出来。就他类比是那个游戏机，说每一代游戏机你玩到后面好像觉得那个游戏机的性能在不断的提升，是因为那些游戏厂商在不断的挖掘那个游戏机到底还哪些东西没有挖出来的，

25:54就性能。

25:55对，我我本来我觉得此时此刻也是这样呀，此时此刻。其实大家都在挖掘GPT-4的潜力嘛。对的。对吧？就是AutoGPT也好，Generative Agent也好，都是尝试在挖掘GPT的潜力嘛，

26:07对吧？所所谓的prompt engineering本质上也是在尝试用各种方法来那个挖掘GPT的潜力嘛。对。啊，我想起来上次看到一个什么有意思的东西了。就是，这个可能不是个新闻啊，是个旧闻，就是他们怎么怎么就是从模型中去挖掘一些潜力出来，

26:28就是说这个还不是使，他们是这样干的，他们说他们是用那个一堆prompt不是生成很多图片嘛，对不对？嗯嗯。你以前你记得这个Midjourney当中生成的或者Stable Diffusion它生成图片，比如说你说哎我要一个标牌上，然后写个比方说deep learning或者写个什么东西，写个bird，

26:48它那是会是一段乱的字符串。对。然后呢，他会发现说写不出来，但是你把那段乱的字符串作为prompt打进去。他就会比如说你说好，他说在标牌上写一个bird，然后他其实乱七八糟，你把那个乱七八糟作为prompt打进去，他就会给你画出一个鸟来。

27:07啊？

27:09对，他，所以他说这个其实说明就是模型里学了很多，学到了很多东西，其实是说并不在我们自然语言里面出现嘛。然后，是是这样的吗？啊，这是真的，这是真的，这是真的，这是真的，这是真。这个原理上也可以理解啊，因为模型学的是不是单个单词嘛，学的很多是super word嘛，就是把单词切成一个个词根词缀嘛，

27:32然后他可能觉得这些词根词缀拼在一起就有一个特定的意思。

27:38哎，等一下，那个标牌上那些乱码你是怎么打出来的呢？请问，

27:42不是乱码，它有些就是有有有一些版本，它是会学出来，就是里面就是英文字符，但是跟你要打

27:48的那个单词不一样。

27:49比如说他不叫，你说要学Deep Learning，他学的比如说DIP DEP DEIP。比如说不是把e换成i。

27:58然后他或者说

27:58你说，对吧，或者你说哎，两个鸟在聊天，他就会不知道会打一堆奇怪的字。然后就是说，就是这个就是说，同样的，他觉得通过这个可以绕过就是很多模型的safety check。哦。就是我用那个prompt能够生成一些你不会去，你觉得这个prompt我不需要过滤，然后他会生成一个你过滤不了的这个图片嘛。

28:21就是说，这个就是为什么说到这个，就是说你说在挖掘模型的潜力，就他们还有人去研究说，让ChatGPT把一段文本encode成一段人看不了的字符串，但是用这段字符串和那段文本作为prompt的输入。得到出来的内容是差不多的。

28:39这样就可以缩短我输入的prompt的这个长度。不占token。对，哎，对。反正有很多很神奇的，就是有很多很神奇的这种，就是你不知道它有什么用。对对对。

28:52看起，

28:53顺着那个那个进化来聊，就是因为GPT-4已经看起来很牛逼了嘛。那对。然后我的感觉是，他其实他已经具备智力去评判自己出来的东西好不好了。那如果这个角度，他他他岂不是能够自己教自己，应该可以自己自己来监督。左脚踩右脚是吧？

29:14左脚

29:14踩右脚对吧？左脚踩右脚，完全，我觉得理论上他应该可以自己来训练自己的呀。对吧？提供更多的，然后你出来说，哎，这个不够好，然后再重新出一个布拉布拉这种。

29:26现在有些模型我听说已经是用GPT在帮他们训练了。啊，对。

29:31这个是很正常的嘛，这个就是说我用一个GPT-4训练一个我现在只有GPT-2.5的水平的模型，帮助它提升到GPT-3.5嘛。但我觉得左脚踩右脚这个逻辑，从底层原理的逻辑上讲，其实是讲不通的嘛。OK。从底层原理的角度来讲，就是说你这个模型就是这样的，它包含的这个，对吧？

29:51你从熵或者信息量的角度，就是这么多信息量。你用生成的模型再去tune它，其实只是在它内部往某个方向调而已，并没有办法跨出新的一步吧。对啊，就是就是你还是在分布内，你在分布内可以生成更多的样本，但只是也只是强化了在这个特定的分布或者特定数据上的这个这个性能。

30:13你其实，因为我觉得所谓的模型能力增强，是说它的泛化能力增强嘛。就是现在模型厉害，是因为你觉得它什么都知道，而且它能推理，就它泛化能力强。我觉得你要说这个模型能力提升，一定是说它有更强的泛化能力，或者更深的推理能力。而不能是说，而不是说我用现有的泛化能力，再用一个数据进去训练，再调一下，它的泛化能力并没有增强嘛。

30:39对吧？就是换句话说，智商不是做题熟练度。对吧，就是你解方程解了一百道，又练了一道，然后你说啊，我更熟练了一点，但是你的能力没有增强。你只有解了、学了一种新的方式，你的能力才增强嘛。是。

30:55哎，那个，我听了一个那个Greg的那个演讲，觉得很搞笑。就是他讲泛化能力的时候举了个例子，他说你现在去测那个GPT-4，说你会发现它40位的加法运算都是对的。但是它40位加35位运算一定是错的。就是说它莫名其妙地泛化出了，就是它对于数学有一定的理解了，但是它又就非常莫名其妙地，它就是比如说要泛化，

31:23比如说要泛化这么大的话，它竟然泛化出了错一坨，40位的加法居然是对的，这是一件很诡异的事情。40位加35位的加法就一定会算错。几乎就

31:34觉得，嗯，怎么产生的这种这种奇奇怪怪的这种泛化，好有意思。

31:39这对啊，这个说明就是我的感觉，就是还是说明训练当中很多的东西，它本质上还是一个一样画葫芦嘛。对，对吧？而不是说他学到了一个套路，学到一个标准能解决问题的套路嘛，对吧？但因为它又是个黑盒子，对吧？或者

31:57它有点像小朋友总结规律一样，它它总结出了一部分很奇怪的规律，就是，对，但是它那个规律里面也有非常多非常扯的部分。像小朋友可能他就觉得，比如说他小时候肯定都知道说就是三加四他会数手手指头嘛。但是你在同时把他的手指头就在这里的时候，你问他四加三，他要重新要一定要这边四这边三嘛，对吧？

32:21他才能够数出来。就，就明明你问一下，你反过来看不就行了吗？但是他就没有泛化到这一步。对。了解。

32:30那下面还有同学问说，没有编码技能可以学会fine-tune吗？

32:37Fine-tune不需要编码技能。Fine-tune只是，就Fine-tune你去看一下文档上，大概就一行脚本就可以，一两行脚本吧。你只需要想办法搞到数据。看官方文档上，如果你用，我们假设你用的是OpenAI的那个GPT模型的那个fine-tune，

32:53它基本上就三行代码吧，就三行命令，行脚本，你执行一下就能fine-tune

32:58了。给普通人点建议，就是建议赶紧用起来，然后用用完的过程当中，赶紧在朋友圈吆喝一下，说你会用，对吧？你各种软件都会用，你还结合了你们行业再会用，那说不定就会有些人来找你，对吧？找你的话，那这个时候你再再看下一步该怎么走。

33:14对，我觉得我觉得普通人最好就是赶紧把这些东西都用起来，然后假装成你们行业的这方面的小能手，那这个时候说不定就有一些别的机会会冒出来，具体什么机会就不知道。对。

33:26对，你就当是安利嘛，就是你到处安利，一边自己用，一边到处安利就好了。

33:31New Bing说是接入了GPT-4，但是高频使用下来，对，我反正用New Bing没有一次好体验的，对。所以，嗯，我我我反正也觉得说它它可能是单独调了一下，它把它调到了一个非常诡异的方向上。它每次给我回答，我觉得不完全是。

33:47我我觉得其实是，我我有一个推测啊，我有个推测。就第一个是New Bing，它不是裸的ChatGPT嘛，它都是先搜索，然后把搜索结果套进来，然后用个prompt再把这个东西回答出来。那么我觉得这个更有可能是，第一个是说有很多问题你裸的回答，其实它是能回答对的，但是Bing的这个search engine可能做得不够好。

34:10就它有很多该索引到的，比如排名靠前的内容的质量不高，导致它用那个内容里的东西拿出来回答，你可能效果不是很好。

34:21它就算是不裸的回答，它也回答得很差，明显的差。

34:26我的回答也回答得很差，是吧？啊。那就不知道它是怎么调的了，但反正它跟那个，它不是，它是说是不是这个ChatGPT-4里的那个GPT-4模型嘛，是一个更老版本的GPT-4模型嘛。据说是一个，了解。

34:40然后有同学问说，那个想问一下，Ada embedding在业务场景不够好，想面向自己、面向业务训练，自己的embedding有什么思路吗？

34:50那你就训练个自己的embedding呀，就是你去训练个，对吧？你可以在像用你自己的数据集，在一些开源的大模型上微调嘛，什么什么Flan-T5啊，什么Flan-T5-XXL，嗯，什么Flan-T5-UL2，对吧？就找这种。

35:10或者你Ada的embedding不够用，你试试看用这个贵一点的嘛，就是DaVinci-Mini，对吧？就是这得看你具体场景是什么。就开源的上面你也可以训练embedding，因为我自己测过，光搜embedding的语义信息的话，

35:24开源的模型效果已经挺好的了。就你不一定需要一定用OpenAI的那个模型。这个就是传统的NLP里有很多啊，什么Sentence Transformers。

35:34什么，这，就很多这种开源的模型上你去调就好了。

35:40好的。那还有什么你要嘱托大家的或者想要说的吗？

35:44没有没有没有。就大家就用嘛，就是我觉得大家心态放平和，对吧？大家都用，就是，就是，

35:51就是它反正还是个挺好玩儿的东西，对吧？就不是一个，哎呀，不是一个出来你会手，就是因为它的交互很方便，所以大家都能用。就就就这个我觉得是，就尽量多用用。因为我现在真的用了之后，Google搜索少，而且搜索少搜了很多，看文档少看了很多，对，对吧？

36:12就很多都是你给我解释解释，当然它也会胡扯，我发现它还是会胡扯。就而且有些很专业的内容，它看得很专业，我看了半天，然后我以为它说的是对的，然后我去翻代码，发现它在完全胡扯。是。

36:27但但但但四胡扯比三点五还是好蛮多的。三点五它给我十条东西，基本上九到十条是胡扯的。四我经常发现十条里面有超过五条是真的有那个东西。

36:43就还蛮蛮不一样的。就我已经我已经很感恩了，就是你只有两三条是胡扯的，我已经很感恩了。对。但之前几乎每一条都是胡扯嘛。来来来，大家可以订那个公众号啊，对。

36:54公众号里面写的会比较深深一点，我们这边聊就是跟大家聊聊天，然后我们自己找个机会聊聊天。对。然后公众号会比较深刻一点。

37:04会有一些就是其实其实很难聊起来的东西，就会有一些就是我们看到的一些有意思的文章啊，或者怎么样。对，

37:13关心AI的话可以去公众号，反正每周我们也挑了一下，就是，就是有什么有意思的就发在那边了，大家可以看，阅读的效率还是比较高的。然后各大平台要敬请关注啊，那个AI的AI炼金术。对，好的。那我们今天就到这里。

37:30好。啊，欢迎大家，反正各大平台关注。好，谢谢，拜拜。