GPT-4即将到来,新一代GPT意味着什么

- 发布
- 2023 年 3 月 5 日
- 时长
- 1 小时
- 主播
- 徐文浩、任鑫
- 收听
- 小宇宙(节目主页)Apple Podcasts喜马拉雅
本期围绕 GPT-4 即将发布展开:徐文浩从传闻中的 32K 上下文说起,认为上下文变长意味着更强的"记忆"和更复杂的推理,也意味着不用 fine-tune 就能让模型理解业务。任鑫把 ChatGPT 类比为云和数据库,认为基础设施成熟后,IT 能力不再是核心竞争力,商业竞争回到洞察市场与设计生意本身。徐文浩还演示了用 ChatGPT 写 Google Sheets 脚本批量生成亚马逊英文标题与卖点,两人讨论了提示词编程、重复性知识工作被替代,以及 AI 决策中的伦理与对齐问题。
- 传闻中 GPT-4 的大模型版本支持 32000 个 token 上下文,约合两万四千个英文单词、半本小说的体量,远超当前 8K。
- 上下文变长意味着模型能记住更多历史信息、做更复杂的推理,而且不必 fine-tune 就能通过灌入资料理解一家公司的业务。
- 任鑫把 ChatGPT 类比为云和数据库:基础设施成熟后,搭建应用的 IT 门槛大幅降低,先受冲击的其实是技术岗位。
- 徐文浩用自然语言让 ChatGPT 写 Google Sheets 脚本,一两个小时做出批量生成亚马逊英文标题、卖点和价格区间的小插件。
- 改变提示词就是编程,用自然语言描述角色、目的和偏好,模型输出会明显变好,例如把成语翻译成押韵的英文。
- 按麦肯锡的生产、交易、互动三分法,重复性、套路化的翻译与互动类工作最先被 AI 取代,因为机器不出错、不疲劳、没有情绪。
- 医疗、法律等领域真正的障碍不在 AI 有没有能力做决策,而在责任归属与社会是否允许,这也是 alignment 与模型监督研究的核心议题。
目录
点击跳到对应位置
- 本期四个话题:调用 OpenAI 接口能否构成竞争优势00:00
- GPT-4 传闻:32K 上下文意味着什么01:36
- 大上下文让 AI 变成公司员工,不用 fine-tune 也能懂业务06:48
- ChatGPT 为什么惊艳:不用调模型,上下文学习就够08:05
- fine-tune、预训练与微调到底是怎么回事09:19
- Embedding:把词变成可以计算的向量19:12
- AI 变成基础设施,先抢的是技术人的饭碗23:48
- 实操演示:用 ChatGPT 写 Google Sheets 插件批量出文案24:55
- 任鑫的例子:改提示词让 YouTube 视频总结更好用28:40
- Tome 的启示:学会拼装 AI 能力也是产品能力35:25
- 生产、交易、互动:哪类知识工作先被取代39:47
- 提示词示范:催眠 ChatGPT,把成语翻译成诗43:19
- ChatGPT 会胡扯吗,以及中英文知识差异50:49
- AI 能不能做重大决策:真正的问题是伦理与责任53:18
- 结尾建议:对 AI 讲礼貌57:44
文稿
共 755 句 · 点段首时间或句子从该处收听,双下划线是重点词条,其他词条悬停可见
00:11其实如果你现在不懂技术,对你其实是好事儿。你现在也很有可能就可以分分钟就可以自己做一家AI公司,然后做一个自己的AI小产品出来。
00:24其实我觉得这一波的AI浪潮一定带来的一个结果是说,人人都用得了这个AI。
00:28其实活儿是ChatGPT干的,要让它干什么活儿呢?其实是你用自然语言跟它表达的。
00:37像医疗啊,像法律啊,我觉得最大的一个问题还不在于是说AI有没有能力做这个事情。即使AI有能力做这个事情,我们允不允许它做这个事情也会是个挑战吧。
00:51AI炼金术这个节目,欢迎大家过来啊。好。那简单起见,那这周主要聊什么呢?这周聊四件事情。然后第一个呢,就是讲一讲说,那现在用AI,所谓你会调用OpenAI的那个接口,能不能创造竞争优势?
01:07然后大致上是不行的,那讲一讲为啥。然后徐文浩呢也会演示一个程序,说,哎,他简简单单的就用OpenAI写了一个小程序,就是让ChatGPT帮忙做一个人工智能小软件,你到底有多快多简单。然后第三个呢,徐文浩会讲一下说那个,呃,GPT-4,因为大家现在都很关心嘛,GPT-4到底意味着什么?
01:30然后那这里面到底有什么机会?最后我再来收个尾,简单来讲。今天就聊这些。你先讲一下大家最关心的,比如说GPT-4到底是个什么鬼?
01:41都都可以啊。第一个我觉得大家可能也没有那么关心,而且就是,就是我觉得是当时GPT-3刚出来的时候,大家特别关注这个事情。对,GPT-4我记得当时吧,那个也不叫当时吧,就可能就一个月前,对吧?就是ChatGPT刚火的时候,大家都说啊,GPT-4,有人说,哎呀,有这个,现在不是1750亿参数的GPT-3嘛,
02:04有人说它有什么100万亿的参数啊,各种各样的这个传闻和概念,对吧?然后反正就是,呃,就前一阵嘛,我们也是看到,就是说海外有一些网络上大家其实放出来一些,据说啊,是OpenAI内部的一些资料,说是他们接下来要可以给头部的企业有这种私有化部署的这个版本的这个这个ChatGPT嘛。
02:31然后里面,因为我看到里面呢,就是说本身它私有化部署啊,什么价格啊什么,这个我其实倒不是特别关注。这个是啥概念呢?就是二十几万美元这个什么私有化部署呀,什么一百,GPT-4它反正有一个版本好像是一百多万美元可以私有化部署一年吧。
02:47但是我看里面有一个参数。其实挺恐怖的,就是里面参数写了一个,就是说现在的GPT,你如果用它的官方的接口,或者ChatGPT,你破解它的这个接口的话,它大概是支持叫8K,就8000个token的上下文。差不多就是说你一次呢可以往里灌,连你扔给它的问题,呃。
03:07包括你历史的这些对话的内容,加上它回来的这个内容,差不多是六千个字。六千个字是啥概念呢?六千个英文单词啊,六千个英文单词嘛,基本上是一个微信流行的万字长文,对吧?就是它有这个能够接收万字长文级别的信息,然后吐一个或者吐一个万字长的给你。
03:27但是它里面有一个比较大的模型,它列了一个数据,说是有三万两千个token。这个是啥概念呢?三万两千个token,按照它自己官方文档说,差不多就是,呃,三个单词叫四个token嘛,这个,呃,就token这么一个词儿嘛。因为它有时候一个单词它可能会拆成两个词,比如ice cream,它会拆成ice跟cream,
03:47这个是为了让这个语义更清楚一点,就是它让你知道,哎,ice cream它不是个单独的,它有点冰有点奶,对不对?比如saying,它是say加ing,对不对?是说,而且是现在进行时。那两万四千个单词这个体量呢,就差不多是半本小说的量。
04:05就大家可能随便去随手去买一本这种小说。英文的话大概是就这么一本吧,正常一本书吧,就薄的可能就是,呃,五万个单词,厚的可能就是十万个单词。这个意味着说我一下子说我可以灌好多好多数据给它。就今天你用ChatGPT,你会用的时间久了,你会有这样一个感觉,就是叫前问后忘记。
04:25就是你一开始跟它聊什么,反正你可能随着对话越聊越长,越聊越长,一开始呢你会发现,哎,怎么聊到后来它前面东西都给忘了。那特别是你内容比较长的这个时候。但是呢,如果说你想一想,就是说它能聊半本书,就半本书的内容它都不忘记,这个其实就挺可怕的。
04:44第二个就是它不仅是意味着说它能记住很短期时间能记住很多东西,第二个它能做比较复杂的推理嘛,对吧?你现在能只能让它做小学应用数学题。到时候我们看了很多什么这种所谓的叫做叫做这个上下文学习的这个能力,思维链的能力。你可以给它三个例子五个例子,但都是比较简单的这种逻辑推理,是吧?
05:04当然你这个如果说这个长度可以拉特别长,然后可以把半本书放进去,那其实你可以给特别复杂的思维逻辑在里面。所以我觉得这个数据还是个挺神奇的,因为在以前看到说一个人一天大概是说两千句话吧,对吧?那一句话你按照十个词儿,那就是两万个词儿嘛。
05:24那你现在是可能我能够把几天的数据都放在这个ChatGPT,对吧?让它来来模仿一下这个人。那如果再往上上个数量级,再往上上个数量级,能够把你一年甚至一辈子的话都放在里面,对吧?就是,我有很多人都在做这种项目,就是叫做这个用AI模拟,就是什么男友女友,对不对?
05:45这个现在其实作为娱乐还可以,对吧?就是大家闹闹着玩儿,效果可能还可以。但如果你真的说能把这个几万个乃至几十万个词儿都放进去,然后让它去模拟,那就真的挺恐怖的,就我觉得会跟真人一样。就就即使是说它在技术原理上没有大的更新,如果它这个数据规模真的再上一个数量级,甚至不是说这个模型上,
06:10说说它支持的这个我能够去推理的内容,或者说我能吐出来内容能够上一个数量级,我觉得都就已经特别特别可怕了。OpenAI吧,他们自己都说,哎呀。我们ChatGPT-4这个模型特别厉害,我们都不敢放出来。我觉得可能是真的啊,就是说,就是真的可能内部有些特别特别,它倒不一定说技术原理上有多大突破,
06:30但是效果上可能比现在更惊艳的东西,其实就真的没有放出来。所以我是比较期待这个事情的。
06:37了解。我听你讲倒是想到另外一方面啊,你是想到说可以把人的一生记下来,他就是一个就跟你谈恋爱,他不会忘记三天前的你,对吧?这种就可以就可以谈恋爱了。我其实想到另外一些东西,我我这两天在一个一个过海外的那个AI的产品,然后就发现比如说有一个产品它是就叫做把AI变成你的employee,
06:59变成你的员工。那什么叫做员工呢?就是他得保持一致性,然后他得懂你公司。比如说他是一个HR员工,他就先得把你公司的HR章程先给读了,比如说我们年假有几天这种东西。所以现在如果他的上下文比如说只有四千个,四千,现在是,哎,好像扩了吧,四千个token的话,
07:18那么其实他如果读了三千八百个字是用来读那个HR手册的话,他就只剩下两百个字跟你说话了。然后说说两句,他那个三千八百个字就忘了。但是如果有几万个字的话,他其实可以是可以把一家公司的基本的情况他是可以读进去的。他就现学,然后现学现跟你聊,然后其实他也是可以代表这家公司,比如说,哎呀,我们这公司有没有年假呀?
07:40然后我们公司到底能不能开VPN啊?这些东西都他都他都可以聊了。所以就相当于说不需要说我专门训练一个模型,只是临时就相当于每次帮他去洗脑,对吧?洗一些内容进去,都有可能可以让人更像是一个就是,呃,员工,而不是一个一个每次都是莫名其妙要跟他讲话的这样一个人了。
08:02就不需要调模型。对。但是可以训练东西。
08:05就是比较大的一个区别是什么?比较大一点就是GPT,就是ChatGPT之所以惊艳,就是因为你不用调模型了,对不对?就是我们以前搞所有的所谓智能都是,哎呀,这个东西我得给它调个情感分析,我给你调个模型,主内容主题我给你调个模型,
08:22然后这个,呃,就你啥都得调个模型。但是ChatGPT之所以惊艳,包括大家就是因为大家说我不需要模型了,就所谓的上下文学习说,哎,我给你一个段话,然后我直接给你一些例子,你就直接给我答案了。就是说我已经内部可能已经蕴含了很多知识,你给我一些例子,我就能立刻给你回答出来了,这个能力它已经有了嘛。
08:42那只是说原来因为我的这个上下文不能放太大,那我能给你个五个例子八个例子就了不起了,对不对?但是,即使说我的这个能力没有那么强,如果我能给你一百个例子,那你是不是一下子就会比原来再更聪明一点?这个我觉得就是说厉害的一点吧,就是就是我不需要调模型了。
09:19那fine-tune就是去调模型啊。这个我觉得这个,那为什么
09:22允许我们去调一下,那不不大可能吧。
09:25不,fine-tune它的逻辑是调模型的意思是说我再拿一些数据,把我原来模型我有很多参数,对不对?fine-tune是说,但是这些参数是它根据,呃,OpenAI自己收集的数据,对吧?他收集的这些书啊,这些网上的帖子啊,然后预训练一个模型,对不对?
09:43然后他又用了一些强化学习,对不对?就是说我标了一些数据,说当用户问这个的时候,我去回那个问题。那你现在做fine-tune,对吧?你需要做的是说,你是给它说,哎,提示词跟对应的回答。你可以认为它是说它那个基础模型,它不会帮你去重新训练。
09:59或者训练也没有什么意义,但是后面的这个强化学习的模型它是可以再做调整的。因为它原来论文里说的强化学习,我这是我的假设啊,我的推测假设可能不对啊。就是说我的理解是原来强化学习的意思是说,你看哈,你原来模型是这样的,现在我给你一些例子,别人这样问的时候呢,
10:17你那样回答一下,你现在这个模型它回答古诗词特别差,对不对?其实你今天用过这个OpenAI,你就会发现让它去做古诗词,它第一个它也不懂押韵。第二个它也对中文的数据量比较少嘛。但是呢你说我接下来就希望它这个有比较强的古诗词能力,那你就可以灌很多古诗词的数据给它。
10:39那它的那个大的原来的基础模型训练这个能力还在,但是呢会根据你给它的这个输入输出去微调。调完之后它的参数就会变了,这个模型只有只有你自己能调用,不会影响其他人调用这个模型。但是呢它可能就有能力说,哎。接下来我回答的古诗词,第一个我可能说韵脚都没有问题了,不是字数都没有问题了,对不对?
11:10啊,没有没有。这是隔离的。
11:12所以底层模型其实没有变,它是在我这边,相当于在上面再再怎么多,这一层是怎么多出来的,
11:19呃。怎么多出来就是一样的,就它你可以认为我把它原来的模型的参数复制一遍,对不对?然后呢,把你这些数据灌进去,那些参数呢,说哎,你按照这个把自己调一下,再调一下,可能旁边就有一个克隆好的模型,对不对?但是上面有一些些参数是稍微有一些变化的,那对应的你再去问它问题的时候,它会根据变化后的参数给你答案。
11:41那这个逻辑上其实就是回答答案就会根据你灌给它的那个数据就不一样嘛。因为微调这个方式在传统的机器学习视觉也好,或者自然语言以前也用的很多。只是说呢,我觉得有一个比较大的差别啊,就是说视觉其实从那个很早之前大家就微调了。微调的这个逻辑是什么呢?
12:01是最原来我们机器学习的逻辑是什么呢?是说我给你很多数据样本,比如说我做情感分析,对不对?那我只有一一万,比如说我有三万条情感分析的这个数据,两万五千去训练个模型,五千个我用一下没问题,然后用这个模型未来预测未来所有的内容。
12:17但是在这个基础之上有一个缺点,对不对?就是三万条其实数据太少了,很有可能光用我这三万条模型啊去训练出来的。很多时候呢,这当中有很多数据,其实你的内在联系你那个分辨不出来。比如说这三万条里数据里,比如说都是我们俩聊天,所以经常可能会用到任鑫或者徐文浩,对不对?
12:38或者说我们家里有个宠物,说经常有个比如说你养了一只狗,小狗很可爱,对不对?那未来模型可能会觉得,但里面有正面情绪,有负面情绪。反正只要说到狗的时候是必然可爱的,那它就觉得小狗很可爱,对不对?那当明天有一个人别人说小猫很可爱的时候,他不一定能够判断出来它是正面情感还是负面情感。
12:57跑过来再说小狗不可爱的时候,比如流浪狗不可爱的时候,他也可能分辨不出来,他还会觉得小狗很可爱。那么预训练模型呢,是说我拿好多好多数据,我不管,就是我拿这我也不管它是不是情感的问题,对不对?我就把所有的数据都拿过来,我能够学到语言之间的关系,对吧?
13:14我把网上所有的问题都拿过来,那它大概率觉得啊,小狗真可爱里面其实可爱才是那个正面的关系。那个同时呢,小狗跟小猫之间是可能有点关系的,就是它们都是小动物,都是宠物,对不对?我们再拿这个数据呢,但是那个数据出来它是,它只是告诉你语言之间内在的内部的结构,它其实不知道什么叫正面情感负面情感。
13:36然后呢我们说再拿我们标好的这个数据去说,哎。语言的内部结构你已经有了,根据这个内部结构,你再去训练一个说分辨正面情感跟负面情感的模型。然后呢,它就能分辨正面跟负面情感了。但是我的这个三万个我自己标好的数据里可能没有什么小狗,也没有什么大鹅,或者没有那些东西。
13:57但是呢,因为在整个语言结构里,我知道什么狗啊,猫,什么大鹅,都是家里养的宠物,对不对?那它过来它的判断能力就会比较好。所以这个是一个就拿一个大的模型做预训练,学到语言的内部结构,然后拿一些然后在一些小的任务上微调。其实是一个很传统很有效的,就是我们以前的机器学习的逻辑嘛,也就是所谓人工智能的逻辑。
14:20但是呢它不太智能。你这很容易理解,为什么呢?就是你干点啥,我说我都得标一堆数据,对吧?干任何一个单独的任务我都得单独标一堆数据。但是OpenAI现在给你GPT这个东西,就是说你干大部分事情你发现不需要标数据,对吧?
14:33你说情感分析,你说你就直接告诉我是正面的还是负面就好了。你不需要再拿一万条数据过来标,对不对?但是呢,我们也得认识到,就是说,它不可能在所有的任务上都做到最最好。比如说,它可能缺一些数据,比如说它缺一些古诗词的知识,对不对?
14:50或者它没有针对这些数据专门经过特训,对不对?你可以认为微调呢,就是在一个单独的任务上,一个聪明的人,他已经学了这个本科大学读过了什么,对吧?高考刚刚参加完,什么知识都会一点,这个能力是很强的。但是呢,他有些常识呢你问他,他不需要训练就可以。
15:10但就是有些单独的,就是特殊的知识,他可能没有训练过。那微调你可以认为就是短期集训一下,这个人本质没有变,但是呢,短期集训他在那个方面的能力就会一下子变强了,因为他短时间内灌了很多书,就跟我们以前大学考试通宵复习一样,对不对?
15:27但是呢,它也会影响你在其他认知任务上的能力。就你特训完了古诗词了,你可能发现其他能力它可能是稍微变差一点了,对不对?你跟他说,我们不讲古诗词,我们讲讲现代文,他可能能力可能会下降一点,大概是这么一个过程。
15:40其实这个跟跟我们上面我提的那篇文章有点像嘛,其实就是以前教AI的时候,像我们上一次创业的时候,就相当于你在教一只猴子嘛,然后每次都要反复训练它。现在你在教一个大学生嘛,这虽然都笨笨的,但是这个笨法还不太一样。你教只猴子真的太累了。
15:59但是呢,教那个大学生的话,你总归教两个月,他就会干这个了,会干那个了,他的通识已经有了嘛,有常识。然后我们之前这个面试把它比喻成说,那以前就好像你要自己搞一个网站,你要自己加数据库,自己搞搞服务器。那现在的话,相当于说你就这个东西全部包给阿里云去搞就好了嘛,然后数据库你也不需要操心嘛,就好多事情你都不需要操心。
16:22但是以前的话,其实都需要操心。现在AI也像云,像数据库一样,就属于一个默认的基础设施了,你就可以调了。但是我刚刚其实还是有点没太明白。我们自己做get嘛,然后自己比如说我们是基于那个TensorFlow,然后自己搭,然后我们自己灌数据给它,
16:37然后调一个自己的模型。这个其实我是好理解的,就是因为那整个那一坨东西都在我自己手上嘛,在云上面。我我全在我们自己公司手里。但现在呢,我是觉得说它有,比如说它是一千七百亿个参数还是怎么样嘛。就我总觉得那个模型它不会因为我丢了一点东西进去,它就有任何的变化呀。
16:56或者说它它那个变化要不然就变在里面了,我我我不是很理解它是怎么分层的,能够分出来这一层光给我用。我觉得就就就那个你你刚刚举的那个例子我是能听懂的,但是我觉得它实际上不可能是copy一个出来。我就觉得很诡异,就是它到底是怎么实现这件事情的。
17:13对,就是你你额外交出来。
17:15这个说实话就是说我还没有,第一个是我虽然大概看了一下文档,我知道它怎么调的对吧,但是我也没有,我还没有仔细研究过啊,就是说我至少我目前看的文档,它也没有公布说啊,我这个fine-tune实际上是干了什么什么,它其实没有讲,对不对?
17:30但是我我我们有几种推测嘛,有几种可能性。一种是说我其实把它拆成两个模型嘛。那个一个是说我原来的这种基础的语言模型我其实没有变。然后呢我在语言上模型上再搭一层,对不对?再搭一层这种强化学习的模型,那那个强化学习的模型就是我就单独根据你给我的这个数据去做调整。
17:53实际是什么,其实我们并不知道,但是肯定跟这个现在你用的这种上下文学习的逻辑肯定是完全不同的嘛。它还是用了这个机器学习去调整了模型的参数的。其实你去调整模型训练一下成本并不是特别特别高。主要是说我觉得比较大的挑战是说,如果我比如说我用了这个玩意儿之后,对不对?
18:17那我每次调用我都可以调用一个自己的模型嘛。那我调用那个自己的模型,一直要把那个模型加载在我的这个服务器里,不然它就会很慢,对吧?那那感觉就是它的成本会很高嘛,至少它给到的这个文档,包括它里面所有的各种各样的参数,其实都是在说明它的确是在做一个模型的fine-tune,
18:37就是模型的这个微调,而不只是叫什么微调模型,只是给了它一些,比如说这个叫prompts嘛,就是提示语嘛。所以我觉得这个倒是不必怀疑说它不是,因为你看他说你可以把fine-tune跟这些什么Weights & Biases啊这些什么整合在一起,然后它能够定义epochs,就是超参数啊,比如说batch size啊,这些东西。
19:04那所以我觉得这个肯定是一个正常的模型的微调嘛,就是一个应该不是一个他新发明出来的概念。
19:11了解了。那再问你一个词啊,我也没看明白到底什么意思。Embedding是干嘛的?
19:17embedding就是啊这个是个传统的机器学习的名词啊,我觉得大家不用去纠结它,呃叫干嘛。你可以认为就是我把词变成向量,我们可以认为这个世界上每一个单词都是完全不同的,对不对?你可以认为dog跟cat是不一样的,对不对?
19:34比如说,但是呢你会发现词与词之间是有关系的,对不对?就比方说,king跟queen,他们都是一个什么,都是一个比方说一个皇帝加上一个性别,对不对?king跟queen可能就跟male跟female他们之间的关系是不是你可以认为是一个对称的关系,
19:51对不对?所以说我们在这个词儿上,我们可以看到一个维度,这个维度叫做性别,对不对?然后我们可能会和很多词之间都会有内在的联系,比如说say跟saying跟said。这三个词儿其实是三个不同的词儿,但其实它们之间也有关系,它们的关系是时态上的关系。
20:07对不对?所以一个词儿可能说还有一个维度叫做时态。那有些词儿是没有时态的,比如说king、queen,它是没有时态的,那它在这个角度上它就可能没有参数,没有任何含义。但是有些词儿是有时态的,那它还有,那它有,你可以说一个词儿有各种各样的角度的含义跟理解,对不对?
20:25那么我们去学语言的关系说,如果我能不能说把一个词儿归纳成,呃,三百个角度或者五百个角度,或者我们能不能把一句话归纳成三百个角度或者五百个角度,对不对?因为这样我能够把比如说长的句子也好,短的句子也好,或不同的词儿也好,或者不同的语言也好,它能够变成一个数学上的一个,
20:46我们叫向量嘛,就是变成一个五百维的一个东西,每个东西它都是个数字。它呢你可以认为把原始的这个信息做了一点压缩。你你把它拆成五百个数字,肯定没有精确地表达每一个词,你直观上来得清楚。但是呢,它用一个确定的长度,对不对?就是五百个、五百维度的向量,精确的长度去表示了这个这个一个词儿或者一段话。
21:08那么后面呢,因为变成向量之后呢,我们就可以用数学的方式去做处理了,对吧?那为什么叫embedding呢?是因为很多时候机器学习的模型都是说最原始的,我是把原始数据灌进去,然后通过这个embedding,我们叫嵌入层,把它变成一个向量,然后后面再跟着其他的复杂的这个神经网络的结构,它所以它是嵌在这个模型中的某一层,
21:31啊,对吧?所以我们一般叫它embedding,对吧?
21:34那那个一千七百亿参数是说这个向量有一一千七百亿位吗?
21:39不是,这个向量现在你可以去接口拿到,其实只有一千七百多维嘛。这个只是从那个现在你拿到的是一个叫Transformer的这个输出层,就是decoder最后输出的最后一层的那个输出结果。所以你认为那层的输出结果它是一个一千七百多维的向量。
21:58中间它可能有很多很多层复杂的这个Transformer结构叠在一起,可能每一层的结构都有一个,呃,非常非常多的参数。所以这个模型的参数会比你,因为拿到的只是最后的那个输出结果嘛,所以你可以认为它只是只是输出结果,现在是其实没有那么多参数,输出结果。
22:16你你用一下它的那个,呃,程序的接口,它其实是如果我没记错的话,我们经常用的那些embedding的就是几百维到一两千维吧。
22:24了解了,说向量是不是标签?我的理解是不是,你标签是一个比较文科的弄法,就是你标签和标签之间你没法算算数,对吧?但你向量啊、矩阵啊,相互之间是可以变啊、叠啊。乘啊,搞搞一堆,它是它是可以算出来的。
22:40对对对。向量向量不是标签,向量就是向量,因为向量除了这个维度上有没有值,还有值的大小,对不对?那比方说男女这个东西可能我们认为是一个维度,但是其实可能不一样。就是你觉得不同的文文章,它的这个听起来的这个男性的气质是不一样的。
23:00你说他的这个脸上是个虬髯大汉,你觉得他肯定是个,对吧?这个虬髯的这个男性程度肯定比面白无须看上去传统意义上讲来要来来得高啊,我们不讲它对不对?但是或者说我们说我我爱你跟我喜欢你,那爱可能比喜欢的程度要高一点,对不对?就所以我觉得说这个当中有很多的事情它最后会用一个数字来表示,它不是个标签,它只是就像我说的一千七百多维,
23:27是不是一个词儿或者一段话只能从一千七百个角度理解,它其实也不是。因为它这个是个数嘛,这个数可以从,对吧,负无穷到正无穷,虽然一般来讲我们一般都会把它cap到什么负一到一啊,或者零到一之间,这个零到一之间这个可以无限分割的嘛,对不对?
23:43它能,它能用一个数字能够捕捉很多很微小的差异。
23:48其实如果你现在不懂技术,对你其实是好事儿。因为它其实第一步抢饭碗的是那些技术人的饭碗。因为比如说早期你觉得会架机房,这是一个很厉害的能力。所以你们公司比如说不没有这几个什么IT可以搞定机房,就没法开公司,是吧?那现在的话有阿里云了,那首先其实失业的是这些去帮你搞机房,然后搞运维的人,对吧?
24:13那其实现在的话,AI如果它这个能力越来越变成一个基础设施,你调两下就能用的话,其实它对于那种所谓的搞技术的人的需求,对于一家普通公司来讲是降低了。你现在也很有可能就可以分分钟就可以自己做一家自己的AI公司,然后做一个自己的AI小产品出来。
24:32所以相对于非技术人士,这其实是一个很大的很大的福利,因为它把那个你跟本来跟技术的人有这么长大的一个跨度,就是你一定要学会这些东西,一定要搞定这些东西,你才能够开工。但现在呢,其实基础设施已经架到这里了,你只需要稍微可能学两个小时就能开工了,以前你要学两年。
24:53那这个时候的话其实是有优势的。然后那我们就直接进入到比较比较比较硬核的环节吧,那个徐文浩你演示一下,就是普通人可以怎么样快点就可以搞出一个自己的AI小产品,他他就自己好玩就随手做了一个。
25:08就是周围有很多朋友都会面临一个问题,就是说,哎,我们好像只能用ChatGPT聊天,对不对?我能不能真的说我要提升效率,我们介绍了各种各样的工具,但是呢,那我真的想要干一个说我们说能够替代程序员,那那这个靠谱吗,对不对?那,所以呢,我就其实,这个创意也不是我想,其实是一个朋友,他们做海外电商的嘛,然后他们自己说,
25:30哎,用ChatGPT其实打了一段文案,说,哎,我们试一试,说发现,哎,它的确能够帮我去想文案呀,这个卖点呀,帮我去定价格啊。我们就尝试说做了一个小插件,这个小插件能干什么呢?说,呃,我们,我知道国内有很多人卖东西,说其实他进货也是从1688上进嘛,对不对?
25:48然后他卖货是去亚马逊啊或者eBay这样的平台上卖。那他可能有这种,对吧,标题,但是你会发现其中有些标题其实,呃,不一定适合在这个,这个,那我想给它取个英文标题,对吧?比方说,有些东西说,哎,我用翻译,对不对?我自动翻译这个,当然你会发现里面有一些翻译其实不适合,对吧?
26:08你看第一个里面这个叫一件代发,对不对?你直接把这标题往亚马逊上一贴,肯定就没人买了,对不对?你想啊,一件代发,那我何必从你这儿买呢,对不对?那我其实就写了一个小程序,我们写了一个宏,写了个宏干什么呢?说这个叫AMZ Writer,我叫它,让亚马逊给我重新写文案,对不对?
26:27后续呢,我们也会把这个程序免费的在公众号上给放出来。啪一下,大家看到,哎。现在它就出来很多英文,对不对?不管你懂不懂英文吧,你看第一个它说叫Korean girls cartoon hair accessory set,
26:39就是,对吧?韩韩式的女孩儿的这个卡通的头发的这个什么accessory set,就是套装,对不对?然后他们有一些卖点,什么super cute and soft hair。呃,我觉得他有些也是编的嘛,对吧?它比如说high quality,对吧?
26:53这个明显是他自己发明出来,这里没写高质量,但你写我觉得正常写卖点也没什么问题,对吧?然后右边还有一些价格,对不对?有些价格范围,对不对?那这个程序我是怎么写的呢?啊?
27:06这其实也不是我说,哎呀,我特别聪明,是吧?我是说,哎呀,呃,OpenAI你帮我写一下吧,对不对?来。当然它写了不能一次直接运行啊。我到ChatGPT说,我说啊,我想写一个Google Sheets的APP脚本,我说你要干一堆事情,
27:19它啪就给我生成一堆代码。然后这个代码呢,就是它这里有一个谷歌助手里有一个叫APP脚本嘛,它一点,啊,就我往里一贴,啊,然后稍微改了一下啊,其实还是调了一下,就好了。就贴,然后我我其实还因为做了一些别的功能,就就好了,就能用了,对不对?
27:36这个用法其实很简单,就是我就找GPT,我说呢,请根据这个商品标题,这个商品标题就是我在Excel里指定的那个标题,说干三件事情,写一个在适合在亚马逊上卖二十个字英文以内的标题,为它写五个在亚马逊上展示的卖点,用英文写,估计一下这个商品在,然后呢,返回结果用JSON,三个字段分别是什么。
27:57然后呢,之后呢,我就把它解析一下,就遍历一下,就啪,就出来了,这个结果我就出来了。那我们可以高级一点,对不对?我们能不能不要用英文,我们用日文行不行?对。然后我们再重新这个。
28:10所以那些程序其实是就是用来说联通这个Google Sheets和那个ChatGPT的。然后其实活儿是ChatGPT干的,而且要让它干什么活儿呢,其实是你用自然语言跟它表达的。
28:23是的,没错。啊,它的确有一些缺点,我觉得是说,明显它第一个它的日文的很好,后面两个它看上去还像中文的,对吧?那我我觉得这个可能我写的不太通顺,我们我改一下。
28:40好的,说我给大家讲一个那个更生活化的例子啊,就是我这两天,呃,大家平时用不用那个YouTube去看视频啊?就是看视频的话会不会有的时候,就是比如说你想学习ChatGPT,上YouTube然后看一个视频好长好长的,然后又看什么ChatGPT对什么CAD行业的理解,然后什么能不能生成3D的AI的软件,你可能会看去看这样的一些视频。
29:04但是经常看了二十分钟会发现这个视频啥都没讲。所以最好的情况呢,就是能够有一个插件,它能够用中文告诉我们说这个视频讲啥的。然后我之前用过一个插件叫做YouTube Summarization,然后我觉得不好用。然后我最近就重新用了另外一个软件叫做Glarity,它是一个Chrome的插件,就是我打开任何一个YouTube的那个页面,
29:28它就会在旁边给我一段中文的那个解释。然后就总结一下,但是呢我也觉得它解释的不好,然后我就打开了它的设置,发现它就是调了一下GPT-3或者ChatGPT。然后它写的那句话叫做叫做summarize this,呃,什么text above,总结了一下上面。
29:46然后的话呢,我就想说那我就可以改你这句话,我就把它那段话改成了用一到三句话总结一下这个上面这段文字,因为它把整个视频的文字全部扒下来了,丢给了ChatGPT,然后ChatGPT。然后他问说,嗯,你总结一下,我就把它这个你总结一下改成了三段。
30:03第一段叫做用一到三句话,总结一下上面所有文字。然后第二个叫做本这篇文字分为哪几个部分?每个部分的主要观点是什么?主要例子是什么?有什么证据,有什么行动项,然后让它分块儿,然后每一块儿告诉我到底是什么什么什么东西。
30:23然后再给它讲说,最后你再highlight一下这篇呃上面这些文字当中有没有什么呃值得高价值的呃那个有新意有亮点的东西,把它单独拎出来讲一下。所以我就分成了三段,一段就是这这段话什么意思,然后这个视频讲什么的,一个就是这个视频分哪几块儿。
30:42每一块儿,你按照我的结构告诉我说它是讲什么的。最后你再把单有新意的地方再拎出来,告诉我是讲什么的,然后用中文讲。这样子的话,你看一个英文视频的时候就会点一下,然后它就嘣出来。出来之后你就可以看到说,哦,还值不值得看什么的。
30:57相当于我在编程,但是我的编程是自然语言,纯自然语言我就去改。所以徐文浩做的就是类似的这样一个事情。
31:23你你你说的对,就好像我在我那个里面也加入了一个说,请用三百,请用五百到七百字来说,因为它之前总是太短了。就就就你这边就加一个,请用平假名片假名,相当于我们在用自然语言编程。
31:36对对对,那个我这个会放出来,就是大家如果以后要做改造,其实很简单,对吧?就是你可以说这不是商品标题,你可以说根据这个文章标题给我写一个比方说,呃,这个文章的概要介绍啊,你也可以说根据这个文章标题帮我想想SEO的关键词是什么呀?
31:53那因为原来你用ChatGPT有一个缺点,对吧?就是它你只能一条一条人肉搞嘛。我觉得这个在效率空间当中使用这种浏览器插件呀,或者Excel里的这种插件呀,或者Google Sheets里这种插件啊,其实挺好用的,你也不需要懂太多的代码,对吧?
32:10你每天也会用,对不对?你可能你你领导找你说,哎呀,我有很多资料要翻译,都是商品。那你把那个东西整成表格往里一贴,把这代码一改,刷一下就就出来了,对不对?就怎么用这个脚本,我们到时候会在那个呃公众号里发一个详细的文章,包括这个代脚本代码也会给到大家啊,
32:29对吧?而且这个代码其实大家可以自己去写啊。当然当然这个前提是,大家可以自己这个找ChatGPT聊天,让他说,哎,你有什么需求,你提给他,他会给你写的。但当然他写的可能有bug,或者不一定能执行通过。
32:42所以这个你如果有点一定的程序开发经验,其实挺容易调的。大概我写这个事情,加写加调让这个通过,大概也就一两个小时吧。那你就拥有了这样一个插件,而且之后我之后我要去干什么,我都不用改了,对不对?我只需要在这里把这里描述改了,我就能就能干了。
32:59但是但是如果你没有太多的程序经验,我可以把这个代码给你,我告诉大家,反正你要改就改哪几个地方就好了。
33:31你你比方说你们可能是个文字编辑,对不对?你们要开选题会,对不对?你搞了二十个选题,然后你觉得这个二十个选题重新取名字,你只需要改这段描述就好了,这个这个问题就解决了,对吧?
33:44你开发这个东西的话,其实跟我这两天学会的另外一个工具可以结合起来用。我我这两天还学了一个,我下次写一个教程,就是那个browse。那个browse的话,它是这样,它它就是个AI版按键精灵,就是它可以帮你去扒所有的网页。就比如说比如说那个那个比如说你想研究希腊神话,然后有一个网页上它有一个列表,把所有的希腊神话人物列出来了。
34:08然后的话呢,你就可以让那个browse去帮你把上面比如说有五千个希腊神话人物,你就你就你点两下,教它一下,说我要这几个参数,然后它就自动帮你整成一张Excel表,把网页全部工工整整地扒下来。然后扒完之后的话,假设我想去理解这五千个人物,我就可以把那五千个名字导到你这个sheet里面。
34:28然后的话呢,我让那个ChatGPT说每个人给我两句话中文的简单介绍,然后我就可以瞬间把这五千个人看一下啊。甚至于我可以为这五千个人写中文的中文的文章了,就是相当于扒扒一些原始数据嘛,然后过来,然后让它重新生成嘛,其实都可以连起来做。
35:24是。而且哪怕是提供产品的话,其实很多时候你也只需要需要说学会如何调用和组装这些AI的能力,而不见得需要自己去做什么。我举个例子来讲,就是那个,比如说大家很少可能会想到说我要做一个,我我要什么学习AI,但是大家可能会比如说明天要交个PPT,
35:46是吧?然后大家会想做一个PPT。那有一家创业公司就叫做Tome,T-O-M-E,然后他们做就是做PPT的。你只需要输一个标题给他,他就把整个PPT给你做出来了,然后包文字、包配图、包包故事线啥都有。然后我试了几下,就没有那么好用。
36:05但是我想了一想说这个这个这个这个软件它已经融了两千多万美金。然后我我仔细看了一下,我觉得它背后就调了几个API啊,就就它其实不用干什么事情啊。就是你输出题目之后,它先调了一下,肯定是调GPT-3,然后根据这个题目帮忙出个PPT大纲,然后出来一个大纲。
36:22然后它再把PPT大纲,比如说有六页,然后它就每一页的话,再让那个ChatGPT相当于说出这一页的这个PPT应该讲什么,然后就出来六页。然后它应该还调了那个,比如说可能是用diffusion或者用用用什么第三方的那个画图的服务,
36:38然后在每页帮它配个图,说这一页我的主题是这个,你你帮我画个图,然后就拼了一个PPT出来了。其实它不需要自己做那些底层技术,我觉得它也没有写得比ChatGPT好。就觉得,嗯,大家学会怎么拼也是可以的。
39:39对。要不然你自己学会用机器,要不然机器帮你做了,帮你做了之后,这份工就没了。了解了。哎。所以就是以前的话,其实我们一直会以为说人工智能其实是取代第一,就是脑体力劳动会先来嘛。
39:55但现在看起来就是这种重复性、套路性的,所谓所谓的知识工作,其实也不是知识工作,只是只是套路型的工作,其实最先的会被取代。啊,它是transformer嘛,对吧?它其实我觉得它现在看起来它最大的一个作用,它其实是把A transform成B的一个形式嘛,
40:13就是好多的那个内容。就就我知道它底层不是这个意思啊,就是它的使用上面的话,其实比如说你告诉它一个表格,然后让它说你你把换一种形式跟我讲一讲,或者我给你一篇东西。然后你去那边读了好多好多东西之后,你把套路总结出来,你按照这个套路帮我帮我generate一些新的东西出来。
40:35所以它其实从X到Y的这种变形的话,其实很擅长的。但其实我们的所谓的知识劳动当当中有大量的活儿,其实就是这样的。呃,就是把一个东西,你按照一定的套路加工成另外一个东西。比如说根据一个标题,然后你去看一看,应该给它想点什么卖点。
41:25在在麦肯锡的那个框架里面的话,它会把人类的劳动分成三种:一种是生产,一种是交易,一种是互动。然后我们一般认为互动,就比如说那个营业员给你给你聊两句,这个叫互动。但是其实比如说你那个刚刚讲的翻译,它其实也是一种互动嘛,就是为了是communicate嘛,
41:44把一个标题改得更标题党一点,这也是翻译嘛。然后一个律师给你提供法律建议,对吧?就是告教你怎么样可以合理避税,这也是一个那个那个翻译嘛,保险经纪人。所以你会发现其实我们的工作当中,甚至于你给老板的PPT,对吧?为什么这种内部PPT又不产生实际价值?
42:02就是内部在不停的人人和人之间的互动和翻译嘛,把市场需求翻译到他能听懂啊什么的。那这种其实我们工作当中绝大部分是在做翻译、做互动的活儿。那互动的活儿现在看起来的话,就是以ChatGPT为首的这一代的AI科技的,做得很好了。
42:20你就算觉得它做得不好,你也得承认,比如说你是八十分的话,它现在至少有八分,是吧?但是它每年每个月都在变得更厉害啊。
42:29我觉得它肯定不止八分,对不对?它它肯定是六十分总是有的。对,但我觉得另外一个很重要的是什么?它能二十四小时不会有任何抱怨跟疲劳地来干这个活儿,对不对?你说我找个人写这个东西,他可能,甚至我觉得人真的集中注意力写的也很快,比如说你专业的人。
42:48但大概率你就是你的这个构造有一个缺点,就是说你干连翻一个小时,你得歇一口气,对不对?然后你肯定会觉得很疲劳,然后你会觉得厌倦。你干俩礼拜会跟老板说,哎呀,这太无聊了,能不能让我干点高级的事情?高级的事情本来就没有那么多嘛,对吧?
43:03第二个是,就是机器没有情绪啊,这个我觉得是一个一个巨大的一个差别。哎呀。翻译的不好,再帮我再来一次,对不对?然后翻译了十稿不行,回到第一稿,对吧?你人肯定就已经崩溃了,机器可是毫无压力啊。
43:16是。所以一定要学会怎么样去用好它。
43:19我再给大家看一个例子,其实今天我是看别人的例子,然后改造过来的。
43:32对,你就觉得这东西笨。其实我觉得就是很很好例子啊,我说我们用ChatGPT做翻译,对不对?然后我们去翻译一个成语,对不对?叫水能载舟,亦能覆舟,对不对?然后呢,你看它第一句翻译是:Water can carry the boat,but it can also capsize the boat.直白嘛,
43:50但是你肯定没有这种啊中国成语的这个感觉。然后说我说你这写的不好,我说你是个,我给你设个人设吧,你是个精通中外文化和文学的翻译家,给一个更漂亮一点的翻译。然后它说:Water is a vehicle support,yet it can also be a undoing.我觉得还是不行不行,
44:08能不能再简洁一点?它说:Water can bear a boat,but can also capsize it.我想想说,哎呀,可能还是我讲得不够好。我觉得诗嘛,你要押韵,你要尽量意译,不要音译,对不对?就可能在英国里文化里不一定是讲船跟水的关系,对不对?
44:24第二个呢,你要押韵,对不对?然后接下来我觉得就用了一些更简洁的英文,对吧?Water,a vessel,a lie or a fall,can both carry and overthrow,right?你一看这下押韵了,对不对?
44:36前后两句都是以o结尾。然后它不是说先说前一句,先说覆舟,再舟覆舟,它其实前前后两段都是正反正反的这个关系。对的
44:45对的,它说它的,我解释一下,就是说它说那个水可以是船的朋友,也可以是敌人,然后可以载它,也可以把它搞翻。但是它就用了一个很有韵律的一个节奏的,就像是真的像诗一样的一个东西。水能载舟,亦能覆舟,就刚刚那那段话读起来,就是有这个韵律感在了。
45:06对。所以大家就是不要觉得说,哎呀,这个AI是智障,对吧?也许只是因为你文化水平不太高,这个AI觉得没有必要用这么高级的话来跟你沟通。我因为我看到,就你这个也是看到之前有个人有一个人推荐一个prompt说,请你,就是你要他回答任何一个问题之前,
45:23他都加这样一段,就提示词说:你是这个领域的专家啊,他世界领先的leading expert in this industry。比方说,请你用尽量怎么怎么样的语言把这个东西讲清楚。你就会发现他就从讲车轱辘话,跟你去讲这个领域中,哎,比较这个最新的这个研究啊,结果发展是怎么样的,
45:44还是说这个模型里蕴含了很多强大的知识跟能力。今天没有被挖掘出来。
46:17对吧?你可以其实你可以提更明确的要求,你说我要求简洁传神,用意译还是直译,要不要押韵,对不对?甚至我我觉得大家都可以去试。
47:01然后比方说这个是我前一阵,因为我最近也在补课嘛,因为有一段时间没有看这个,我去在跟这个课程里的一些作业,对不对?然后,哎呀,我作业做不出来,往里把代码一贴,然后让它帮我解释跟补全。万事不决都可以去问它一下,对不对?我我想起来我前两天看到一个特别适合整活儿的。
47:21啊,我们一个整活儿是什么?大家都看电影,对不对?对吧?看电影有一个事情很痛苦,有些电影特别长,那你不知道在几几分几秒去上厕所,对不对?你可能喝了可乐,这个喝了咖啡,然后你现在憋不住,对不对?
47:33那说,哎呀,说你是一个电影专家,你知道电影的哪些片段比较无聊?请你告诉我,所有哈利波特电影里比较无聊的时间段,我可以在那个时间去上洗手间。对啊。它就告诉你啊,这个电影每一部电影里哪些比较无聊,就它找的无聊都是那种,就是没有什么情节,可能就是没有什么刺激的镜头啊,
47:59对吧?我去看电影之前,我就可以在这个时间点去上厕所啦。啊,你甚至可以提说,哎呀——我这个三分钟,就你可以找一个三分钟,或者你可以提更多要求,说啊必须在前第一个小时里面的。所以我觉得说大家说能有什么用,能不能是不是只能用翻译,是不是只能用来写文章,是不是只能问点问题,
48:18就取决于你能不能整活儿嘛。
48:20所以大家要学会用。
48:21就是取决于你能想到什么有意思的应用。
49:09你说大家都都可以试一下,因为我觉得看起来它这个回答至少是真的哈。虽然我没有拿打开看哈利波特去看一遍,因为我相信第一个是哈利波特还是个比较热门的电影吧,网上肯定有很多讨论它的情节,所以我觉得这个信息它应该是有的,而且它说得像模像样的。
49:25而且你如果担心的话,你可以这样写,对不对?如果你不知道的话,就说不知道,它就它就会减少瞎编的概率,对不对?就这个我觉得大家就取决于整合,大家可以去验证。但是我觉得一般来讲,它对于你互联网上,你觉得这个信息应该是能找到的,但是很难找,它其实应该信息是比较全的,
49:43或者你不知道怎么找,特别是英文世界的。因为它毕竟它的训练数据里百分之九十九都是英语,中文的很多信息就是假的,这个是会有存在这个问题。所以我们也特别期待中文的大模型什么时候出来,对吧?就百度说三月十六号嘛,就是我们都在说,哎呀——那天估计百度这个这个服务器肯定会被打爆。
50:03ChatGPT服务器估计也会打爆,因为肯定会有人干个什么事儿呢?我觉得我们那天也可以干这么个事儿,直播一场,直播啥呢?同样一个问题在两边问,然后直播给大家看是什么结果,对不对?然后大家想问什么问题,可以直接在这个直播间提问,说,哎。
50:18我们觉得合适,我们就打上去,看两边比一下。整体来讲是英文的结果跟效果还是会比中文好。甚至有时候我会这样,我中文回答之后,问了一下他,发现效果不好,我说你先把我的问题给翻译成英文,然后呢我再重新贴回给他,让他用英文帮我回答一遍。
50:36英文回答出来呢,我就我又懒得看,我说请你再用中文解释一遍。我其实是个比较内向的人,有很多问题也不好意思问朋友,或者遇到问题喜欢自己研究,对不对?但现在就你问ChatGPT,毫无心理障碍,对不对?反正我钱也付了,然后有同学问,ChatGPT会骗人吗?
50:52啊?有时候会骗人,我给大家看例子,他就是胡扯。它它
50:55不叫骗人,它是个语言模型,它就是把话说通的一个模型,你不要不要拿它真的去查东西。
51:02我觉得英文里你说不要编什么的,效果还,中文它真的胡扯。我一开始说诗词名,哎。我看一开始什么密州出猎啊,什么赤壁怀古,哎。我看着看着怎么来了个滕王阁序,对不对?
51:15欺负你读书少。
51:17啥都列出来了,我说你就不要扯,滕王阁序跟声声慢,这不是苏东坡写的,对吧?一个是王勃写的,是一个李清照写的,对吧?然后他继续胡扯,说是苏轼写的。我说苏轼不就是苏东坡嘛?就说是的。
51:30在中文世界的知识上,就是说你觉得这个东西就是有事实的,它有知识的,它有可能会胡扯。但是我觉得,一个是它在训练数据里,英文知识的真的东西比较多,对吧?中文里面有很多虚假宣传,这个这个是有的,这个我们要承认。第二个是你可以用一些方式,比如我说不清楚就说不知道,你看它有时候就会说没有。
51:51因为我们知道它肯定是用了很多我们现在在使用这个ChatGPT的数据,进一步拿去做训练了。你今天问它的问题,明天它肯定的回答已经不一样,所以它这个模型一直在调。但是是不是它是怎么调的,它会不会有个人工去标一下这个数据,我们不知道,也许它会有人去过滤一下数据。
52:11那其实你胡扯,它就不会被列进去。
52:15Notion和ChatGPT哪个好?其实是一家的东西,它就背后其实接的都肯定都是都是OpenAI的东西。Notion背后接的明显也是他们家的东西。所以的话,我是感觉你如果是写东西的话呢,用Notion就比较顺一点,但是现在看不出来哪个更好。
52:32反正我自己使用体验上的话,ChatGPT给我的那个回馈会更好。更对一点。然后但是你要方便的话,在Notion里面,因为你敲一个空格,它就直接Notion AI就跳出来了嘛。所以在Notion里面,我会觉得它应该是做了一些那个提示词的工程,比如说我是什么人啊,你写东西要什么方向写啊,
52:50我觉得它应该做了一些这样的前期的东西做在里面。比如说你就是个什么professional writer啊什么,它可能写了。理论上来讲,Notion应该是更好用的,但是我实际用下来的话,觉得ChatGPT好像给我的体感还更好一点。
53:05我觉得还有一种可能性是因为英文中文的问题,因为大部分我的写作还是用中文的,然后那个中文就它们都很烂嘛,都都不咋地嘛。所以那个Notion的实例可能没有那么方便发挥出来。对,我觉得大家可能有一个误解啊,就觉得说ChatGPT是个特别牛逼的AI。
53:24其实任何行业都有比它牛逼的AI,就是比如说在诊断啊什么方面,其实都有专业的AI在做。但是这一次有什么不同的地方,其实是它比,第一它比较听得懂人话,第二它说出来的比较像人话。对。所以这点是比较不一样的。所以你说比如说互联网医生其实早就在做了,已经有很多的那个医疗方面的那个AI已经在大规模的在用了。
53:49只是说互联网上是不是这种跟你聊天的这个医生能不能直接直接改成机器人的话,是不是一定要用ChatGPT,这个还真不一定。因为其实医疗在大部分的那个小病中小的病里面的话,其实是它的所谓的临床路径是特别清晰的。就是这个人多少岁,他就应该先要做哪几个测试,哪几个测试达到什么值,就应该进哪个流程。
54:10其实它的临床路径非常清晰。所以在这个时候的话,其实就是不需要不需要ChatGPT这种东西。哪怕它就是一个很机械的东西,在大部分的病的那个所谓互联网这一层,就是互联网门槛的病这一层的话,其实它都可以做得很好。它跟ChatGPT的发明关系不大。
54:30所以的话,我会觉得说,就它它最大的帮助的话,这一波浪潮主要是帮助说你说话,你不管怎么说话它都听得懂,以及它说出来的会更像人话,跟你的问它的问题会更相关,而不是像以前的那个机器人,那个互联网医生可能会比较死板一点。对,我我的理解是这样。
54:51我觉得这个问题的核心逻辑是,能做重大决策,肯定第一个我觉得肯定能做呀。现在有很多决策,第一个是大家可能没有体感,就是说现在大家去拍的这些废片啊,包括CT啊,就是X光,其实都是先机器读片。对,它当然不是ChatGPT,它机器读片是视觉去读片。
55:10这也是为什么说过去几年,就是有大量的这个呃原来不太容易发现的这种肺部的结节,其实片子里都发发发现出来了。但是我觉得这个东西更大的挑战并不在于说AI能不能做决策,对吧?有没有能力做决策,就是AI有能力做决策,我们是就还回到一个伦理跟法律的问题。
55:29但是你说AI出了这个事情谁背责任嘛,我包括我觉得像自动驾驶啊这个东西,其实都是类似的问题。它肯定有些地方它可能今天很蠢,没有那么厉害。但是伦理问题其实挺难回答的。它不像有些事情你说我AI比你好就立刻干,你比如客服,AI比比人好,其实我公司内部我就能做决策,
55:48因为最坏的情况就是无非是最坏情况是AI今天不靠谱骂了客服,那我赔钱就好了嘛。但是有很多像像医疗啊,像法律啊我觉得最大的一个问题还不在于是说这个AI有没有能力做这个事情,即使AI有能力做这个事情,我们允不允许它做这个事情也会是个挑战嘛。
56:08这个也是我觉得就是OpenAI他们自己也在研究的,就是说就是社会企业社会的叫ESG,对吧?企业社会责任啊,治理啊,这样的一个问题,就是,就包括他们提说,我为什么GPT-4一直不放出来,他们给的理由是说,对吧?我对这个世界负有责任,我不能,我要想清楚了,我这东西才能放出来,它会对社会造成什么冲击。
56:28所以我觉得这个是个比较大的一个话题,研究领域比较关注的一个话题,说叫叫Scalable Oversight。其实本质上就是回答说啊,我这个模型更更厉害了,这个能力越来越强了,对不对?然后这个这个我的研究方向就是我这个东西放出来,呃。
56:45更大规模的模型会是怎么样的,它是不是能够alignment跟人类的利益是一致的。因为ChatGPT它自己放出来,一放出来,其实是做了一些叫强化学习的微调嘛,就是让它很多标数据就是不要骂粗话脏话,对不对?要有礼貌,你会发现ChatGPT特别有礼貌。
57:03对,ChatGPT是个很有礼貌的机器人。但本质上我觉得是大家做了很多在伦理层面的这个考虑的。所以我觉得这个其实是是很多事情呃能不能的一个挑战,不在于它有没有这个能力,这个能力我觉得,我刚才说错了,刚才不叫不叫不叫overhead,叫alignment,叫对齐,对吧?
57:21就是这个所谓的对齐,就是说呃怎么跟我人类对齐,怎么让我们脆弱小脆弱的这个无知的人类,对吧?能够真的驾驭AI,而不是最后被AI统治,对吧?大家科幻片都看过,对吧?但是呢,我觉得此时此刻,这个AI还没有那么强,对不对?第二个,我觉得对大部分人来讲,不是说哎呀,AI已经太强了,我用不了,而是大家都还没有用起来。
58:25谢谢大家。拜拜,
58:27拜拜。