开源背后:商业模式与独特优势 | 对谈 林旅强 Richard

- 发布
- 2024 年 8 月 30 日
- 时长
- 1 小时 11 分
- 主播
- 任鑫、徐文浩
- 嘉宾
- Richard 林旅强
- 收听
- 小宇宙(节目主页)Apple Podcasts喜马拉雅
嘉宾林旅强(Richard)是开源社联合创始人、零一万物开源负责人,他从大模型公司视角解释开源与闭源其实都是商业模型选择,而非强弱之分。开源通过开放权重占领生态位、吸引开发者跟随,闭源则靠 API、私有部署与定制交付收钱。节目还讨论了开源模型跑起来的算力成本、模型可替换性带来的锁定缺失、开源软件式的「上游」地位在模型时代是否成立,以及 To C 应用该用开源还是调 API、孵化器如何在开源社区找到并撬动技术人才。
- 开源与闭源不是强弱之分,而是两家公司各自的商业模型选择,谁更强要看公司自身的战略闭环是否说得通。
- 开源模型的目的是占领生态位、形成开发者心智的马太效应,使用者一旦基于某模型开发,生态位就被锁定为 follower 而非 pioneer。
- 开源模型开放的通常只是权重,数据与算法 know-how 并不开放,因此无法像开源软件那样复现,也尚未出现 Linux 内核式的「上游」基座。
- 开源免费但跑起来不免费,本地算力成本把很多个人开发者挡在门外;大模型公司目前没有一家靠营收覆盖成本。
- 大模型公司优先做来钱快的四件事:卖 API、商业交付、帮客户训模型、做 To C,中间件与推理框架层留给了创业团队。
- To C 应用调公开 API 意味着竞争对手能用同样 API,护城河只能靠价格、交互与体验;基于开源做 SFT 则可能沉淀为公司资产。
- 开源项目爆火源于可看效果、可验证、可自己改;投资/孵化要找的是 GitHub trending 加上能取得项目人信任的中间背书人。
- 国内贡献开源的比例低,既有文化与意愿因素,也有 996 挤压时间的影响,「世界开源、中国受益」的局面短期难改变。
目录
点击跳到对应位置
- 开场:为什么关心开源世界00:00
- 开源是商业模型,不是强弱之分02:13
- 选择开源模型就意味着做 follower05:31
- 开发者关系已成开闭源公司的标配09:10
- 开源模型 vs 开源软件:开权重与不可复现11:01
- Llama license 的演进与生态位占领15:59
- Llama 3.1 的压力与行业结构性难题19:50
- 为什么大模型公司不做中间件与推理框架23:46
- To C 产品需要自己训模型吗28:53
- 应用视角:开源、API 与公司资产35:56
- 如何在开源社区找潜力项目与人42:33
- ChatTTS 案例与开源的不同逻辑47:55
- 信息茧房、Twitter 与近期趋势平淡53:54
- 国内开源贡献为何偏少58:26
- 开源怎么帮大模型公司挣钱与结尾1:03:27
文稿
共 814 句 · 点段首时间或句子从该处收听,双下划线是重点词条,其他词条悬停可见
01:06好,欢迎大家来到AI炼金术。今天欢迎的是Richard林旅强老师。然后啊他。他是开源社的发起人,然后之前是华为负责开发者生态的负责人。现在呢是去了零一万物负责开源部分。
01:24找林老师来呢,其实一方面是我们认识很久很久了,其实主要就是聊天。另外一方面是非常想打探一下说那个搞大模型和开源之间到底有什么关系。呃,我本来对于开源世界是没有那么关注的,但是最近因为开始搞一些多模态的产品,然后就发现说,说是说搞多模态,
01:43发现呃不同的项目组其实就是从开源的世界去搬不同的demo出来show off一下,然后就觉得啊你们就是就在开源世界扒拉东西嘛,这开源世界太丰富了吧。为什么就让你们这样扒拉?所以的话,现在就对开源世界充满了,充满了好奇。但是呢,因为我实在这方面太不懂,那那个,近来失踪人口回归了,对,身体康复的徐文浩老师,请你来问问题吧。
02:08交给你了。好好好。
02:09不敢当老师,现在就非常好奇啊,很谢谢,很高兴今天能认识Richard。其实我的第一个问题,我觉得也是大家很关心的问题,就是为什么一个创业公司要开源自己的模型呀?市场上有两类公司嘛,就大家都在做国内的,我们叫做AI大模型的,你叫什么四小龙也好,六小龙也好。
02:29其实有些公司是没有选择开源模型。有些公司是选择了开源一部分模型。有些公司是选择了开源了更多的模型。其实零一万物,我我理解Richard老师在零一万物对吧?因为那那我我理解其实零一其实开源了一个相对比较大的模型嘛,就是34B的模型我记得之前是。
02:49就是为什么会决定要开源模型?因为我们也看到有一些公司其实是没有开源模型的,很火的一些公司像月之暗面,他们就没有开源模型,
02:58对吧?
03:05其实我这边说一下啊,呃,开源这件事情跟闭源啊,它并不是因为你是创业公司或你是一个大公司,所以你选择了开源跟闭源,而是这家公司本身,他认为开源对他是比较有利的还是闭源。所以在我看来,开源是一个商业模型,它并不不等于说啊,这个商业模式谁比较好。
03:29呃,之前其实也有其他的这个呃媒体来问我,说哎那到底开源跟闭源之间的关联,甚至啊他们的默认就是闭源比较强,开源比较弱。那这个之间的距离是会拉大还是缩小?我说其实这样说不太对。我说如果今天OpenAI忽然间他发觉他想开源,然后并且把它开了,那那难道你就会说哦所以开源胜过闭源嘛,
03:53对吧?这这其实,因为现在OpenAI大体上还是龙头嘛,就是说在各种方面的能力,当然最近有有稍微开始有一点松动了,但是之前OpenAI都是非常强的嘛。所以其实或者说之前像啊百度这边说啊开源是智商税啊等等的,我觉得这些都是一个基于他自己公司商业模式的一种表态。
04:16然后外面的人其实看得很含糊啊,所以我我再回到就是说这个刚刚一开始问的问题啊,就是说像去年有几家公司他是领头的在做开源,我说国内的哈。那比如说从智谱开始对吧?智谱是一个小公司,至少说比起这种呃呃百度阿里等等,我说这种所谓的几小龙哈。
04:36国内的几小龙其实智谱有开源,他接的是百川,他接的是零一。然后也有一些啊后面像面壁啊等等也也开源了。那其实当中也有不开源的,就是像这个月之暗面,啊MiniMax等等的嘛。其实还是要去想,他的开源对他自己的意义是什么。我举一个例子哈,比如说哈智谱跟百川开源之后,其实啊因为他们是比较早开源的两家嘛,所以说就很多的人会去看,
05:04哦,你开源出来这个东西我可以怎么用。首先呢很多的其他团队尤其是说我不想练大模型,我只想用大模型的团队,我会先把它拿出来用。用用之后发觉说,哦,他都做出来了,那我是不是就可以以后直接基于他的开源去做了?甚至呢,我基于他的开源去做完之后发觉,哎,如果这个东西我一旦加入他生态,我就不太可能超过他。
05:31比如说之前有一家哈,我就不说名字啊,他基于Yi模型,我们零一万物的Yi模型,练出了一个新模型,然后并且去发布说他新模型很好,而且他也没说是用E练的,但我们自己知道哈。但是这个好是很暂时的。为什么说很暂时?因为我们下个版本如果再出来的时候,他一定又是follower。
05:51就当你选择你用开源模型的时候,你已经决定了你的地位,你的生态位是个follower,你不是pioneer。OK。而且呢,他会让更多的人就是说好,我今天一旦Llama是最清楚的,大家应该知道,这个Llama一开源,这个全球都都用它嘛。
06:08所以说,Llama在它开源的过程当中也让很多人不会再跟它去竞争了。他觉得说,反正你这种这么大的公司,Llama,那个Facebook的这个Meta是绝对不会垮的公司嘛。那我今天就follow你就好,以后反正你就算跟我抽所谓的智商税,或者你你就算跟我去在商业上有时候结算,
06:31也比我自己独立去做一个呃模型来的划算。所以开源其实是一种创造出来,说我是领头的,你以后就跟着我。然后呢,你跟我一起玩之后,就算以后我在某些商业版本,因为其实我们零一万物也有商业版本啊。就是说我们是开源闭源的两头走,所以他对开源模型如果觉得不够强,他想要跟我们私下哎再签个合同,
06:54把我们内部的闭源更强的模型来去合作,我们也有钱赚啊。啊所以所以其实这个某种程度就是开源的去长生态,然后闭源的部分呢去抓到真正的商业。那如果说回来,有一些本来就是闭源的公司,他就要想尽办法让他的这个不管是API调用这件事情的成本尽可能做到低,
07:18因为他没办法开源,他只能开API对吧?那你开了API之后,你就是实打实的去去看你的能力怎么样。所以比如说我观察到的,像月之暗面或者某些厂商,他在开API的时候,他就会强调说我有某个特性,就一直强打他这个特性,而且他这个特性并不一定是模型能力,他是模型加上工程化玩的一个产品能力,
07:41对。比如说像Moonshot,它它就是一个最终我们呃开发者去用它的API,用下来什么感觉,那就是什么感觉,且呃API的好处也是它的坏处是,它在源头上变了,你只能够去猜去感觉,因为你没有办法真的去把那个开源的放在你本地嘛。
07:59所以之前有人就说某某公司的,我就不讲谁,某某公司的API一开始用起来很强啊,为什么后来变那么渣,对吧?就是说使得他这个呃他的应用依附在他API的时候其实是有波动的,就是他自己的效果是有波动。那那家公司就就可能装傻说没有啊我没改,但其实用的人就会有体感。
08:18那为什么会变渣,因为当时降价了嘛,对吧?知道说这个规模去降价之后,很多的体感就变渣了嘛。因为这个其实是一分呃钱一分货,OK。所以拉回来就是说,它的一个开放它的open weight,就开放它的权重,还是开放它的API,我觉得这个是不一样的商业策略。
08:38那不一样的商业策略,我并不觉得谁一定比较强,现在大家都还在摸石头过河。比如说硅谷前面的那几家其实都还是按着OpenAI API在玩。所以其实如果回到我们公司,我们也是推出API的这个这个平台,而且我们的API强那个是是个千亿级别的,
08:56跟我们34B其实完全不同的效果。所以我们也是想说用开源占领市场,然后呢用API来想办法获得高端的客户,以及用私有部署再获得更大的项目。所以大概是这三。所
09:37这么说吧,我觉得你这个假设是有所本的,但不是说只是因为我们有开源负责人这样的一个的title吧。我举个例子。比如说像是这个阿里的通义千问,啊,它也有所谓的对外的这个开源负责人或技术的这个发言人,就林俊旸嘛,我跟他也是朋友。
09:56那比如说就算他是闭源的,像是这个月之暗面。啊,里面也有一位叫唐飞虎啊,这个他就是月之暗面的开发者关系负责人嘛,因为他不是开源,但是他会说我叫开发者关系负责人,因为只要让开发者跟他距离engage越近,也对他的商业是有好处的。
10:14因为像我自己以前在华为云,就是AI开发者平台的时候,那个平台也不是开源的,但那个平台一样需要做这个开发者生态、开发者关系。所以在我看来哈,开源是一个手段,让用户更自由,但是闭源你也可以有开发者关系。像之前,OpenAI就有一个开发者关系负责人,叫做呃,Lo,Lo,还是什么的,LOG什么,我忘记名字了,
10:37但他后来离职了。离职前他还写了一篇blog。所以其实不管是开闭源公司,在我看来,搞开发者关系已经开始变成很多项目跟企业的标配。只是说它的名字不一定要叫开源,它可能叫开发者关系,或者开发者生态,或者是个没有名字,但是他实际上就在做这个事情的人。
10:58对。所以这个海内外我觉得已经是标配了。
11:01第二个我是比较好奇,因为模型开源跟我们传统意义上的开源软件其实差别还挺大的。传统意义上的很多开源软件一般都是说,呃,因为你需要使用我的软件,它的复杂度比较高嘛。就是特别很多,比如说我们说用Linux,它有各种各样的发行版,其实你非专业人士也很难使用。
11:20所以一般是说我会,呃,既有开源,然后我去卖服务。但是模型说实话,现在我觉得模型它有一个巨大的差别,是在于现在所有的模型对外暴露的形式基本上是一样的。就大家都是,呃,有一个模型通过一个prompt能够调用。意味着所有模型厂商开源出来的东西是对用户没有什么锁定效应的。
11:43就是我今天用了你的这个模型,我明天换用别人的模型,其实没有区别。不像我原来比方说我用了一个开源的一个package,或者某一个API,比方说我们用Ruby on Rails做development,或者我们用Spring做development。
11:57一旦用了之后,我很难迁移走,因为我有很多investment。但是对大部分应用模型的公司来讲,我其实只是把那个API的URL换一下。现在大家的API的形式基本上都跟OpenAI长得一样嘛,或者有很多开源的软件开发商,对吧?
12:12它不是模型开发商,提供了说反正你用所有调O B I一样的方式,能够去调用所有的这些模型。从这个视角上来讲说,那开源模型会不会其实跟开源软件相比,它其实是它的那个经济或者商业模型跟原来会完全不一样,或者说甚至不一定成立。
12:33我举个例子哈,我先讲开源模型跟开源软件开的东西是不一样的,这点来说之后我再讲它哪里是一样的。首先呢,开源模型它开的东西现在一般来说是开的是它的这个权重啦,就是weight。也就我今天已经把东西训好了,我就是把我的weight给放出来,让大家直接去用。
12:54所以其实呢,你是无法去复现的。因为呢,像开源软件可以复现嘛,它有源代码,你自己再去做编译啊、打包啊等等的,你是可以去复现。那开源这个它做出来的weight,其实前面有两个部分它可能是没有开的,就大部分都没有开,一个是它的数据,
13:13对吧?它顶多在这个tech report上去看到它的数据配比,可是你看到数据配比不等于你知道它的数据,所以从学术的角度上不一定能够去复现的。第二步是它的一些算法,还有它里面的某一些know-how,对吧?那这些算法跟know-how其实就绝大部分是不会去说出来的。
13:32现在只有很少数很学术型的,它是把所有东西都开,就包含它的数据、它的算法,还有它最后的weight。OK,所以说这一点确实它跟软件是不太一样。以前软件有所谓的叫做upstream first,这个概念是什么呢?我今天比如说我Linux kernel做出来了,你其他的distribution不管是Android、Ubuntu或者CentOS或者啥的,
13:56你就只能基于我的Linux kernel去发展你这个东西。可是呢,今天确实哈,目前还没看到任何一个大模型基座,包含Llama在内,它能够变成这个基座,目前还不太确定哈。因为呢,毕竟它的数据不是开的。如果今天我我举个例子,如果未来有一个真的是从头到尾都开源的大模型,数据也开给你,算法也开给你,
14:21然后呢,你只要拥有足够的算力去去训,然后呢,甚至加上你自己的数据,你去训,训出来的东西也是你的。那我就会觉得这个会颠覆掉今天的开源大模型,但是这个还没来,而且这个会来的前提是它的商业上要说得通嘛,因为商业上说不通的东西很难发生。
14:40对。所以今天的模式商业上说得通,因为呢,我把我自己做好的东西,比如说以Llama我给到你了,那对于整个Meta来讲,它的战略,它的商业大闭环是说得通的。它一定是有说得通的地方,它才会这样做。但是它的好处又跟以前的闭源软件不一样哦。
14:56我认为今天的开源大模型是卡在自由度没有开源软件高,但是它的开放度跟自由度又比闭源软件高很多。为什么?我今天拿来之后,我可以自己在上面做,比如说SFT,就是监督式的这个微调,或者是我更深一步可以再做continuing pre-training,
15:14后训练等等的。那以及我拿它再去加上RAG。加上,或或者是说我拿它就当一个一个组件,我上面做个router,我甚至需要不同任务的时候我调不同的大模型,这些都开源的很自由的一个点。如果你今天是闭源软件根本做不到这一点。
15:30所以其实今天的开源大模型还是因为它的开放性得到很多灵活的应用。所以在我看来呢,至少开源模型会在某一些领域当中完全胜过开放API,也就是闭源的模型,因为闭源的模型它是一个限制很多的东西。就是我我今天就只能调API,没有别的事情可以做,而且这个API是不是现在版本都不清楚,而且呃同个版本还会变嘛。
15:57所以我刚刚提过这个问题的。那拉回来,我再讲一个就是开源模型,其实我认为未来跟开源软件还是会有相同的一个地方是什么呢?就是当一家公司,如果他通过他的信念,比如说我觉得Meta就让我觉得有哈,就是他就会持续的不断,不管是LeCun这个人,或者是这个,对吧,就是那个Zuckerberg都出来说了,他就会说我就是持续开源。
16:23所以呢,我节约了行业绝大多数人的成本,并且他的license也有变哈。他一开始说,我呢,这个模型你拿去用,你拿去再再去train出更好的模型,可以。但是呢,你不能train出更好的模型是别人的品牌来跟我对打。它的license其实里面有说,你只能优化我的Llama,但是你如果优化完Llama拿出一个跟我对打的,
16:48我不接受。所以它最早的license其里面有一条讲这个。但很有意思啊,3.1,也就是上周呃多出来的时候,3.1版本的license,它每个版本的license都有一点点调整,它把这个限制拿掉了。也就是说呢,你真的可以拿Llama 3.1去训出一个跟Llama对打的模型,它是OK的。
17:09所以为什么它会这样说,因为它要逐步地走向开放,就算你今天做出跟我竞争的东西。我还是愿意让你来用的时候,它的生态才会更广。因为就算你做出跟我竞争的,你还是会用我做上游啊,所以我的生态位就更稳固了。他以前那种做法,坦白说很多人不敢跟他玩。
17:29我举个例子吧,呃当时我们E模型出来,为什么会在海内外还算蛮火的,有两个原因。第一个原因是说它在size比例在34B,刚好呃Llama没这个,Llama就是7B就70B了,要么就更小更大对吧。三十几B的这个地方,当时全球没有好的,就是这个大小啦,没有好的这个大模型去做,所以我们占住了这个生态位。
17:52后来阿里发现了,就出了一个32B的。但其实从现在可见的数据,就在全球范围内,34B的下载量,还有这个整个生态,就是零一万物还是遥遥领先的。原因是因为阿里是全家桶嘛,他拿出一个32B可能别人不会太去注意,但零一万物就当时是专打这一层。
18:09所以其实我们某种程度开源也能占住一个生态位。所以你刚刚讲的这个可替代性哈,什么意思呢?你说哦,那确实啊,你今天不管是拿了零一万物34B,或者是千问的32B,似乎同样的prompt,它都能去做出差不多的效果。我先不去论各家的prompt,其实同样的prompt会输出不同效果,先不讲,假设它是同样效果好了。
18:33你也会因为你越早在生态位中占住一个位置,然后越多的开发者哈,他们都不喜欢吃螃蟹,他们就看谁用的多,他就继续用谁,所以形成一个马太效应。其实我们可以去想,以前在我们的这个呃所谓的呃移动互联网时代,也层出不穷各种APP,呃我们都经经历过。
18:54但是其实蛮多APP你说它真的那么厉害吗?它就是说很早抢到一个生态位,形成一个心智的占领之后,它就在那,它不用比别人强了,因为它比别人够得到大家心智。有点像比如说Kimi,我举个例子吧,Kimi也是这个情况,就是它已经占住一某种类型的人了。
19:13所以这种类型永远的这样的人就会用Kimi,反之可能智谱也占了某种人,零一万物也占了某种人。那比如说Llama跟OpenAI也是。对,所以我认为呢,在这个生态位的占领才是它不可或缺的一部分,而不是说它的prompt可置换。
19:30因为这个事情其实只要你没有太夸张,就跟别人家差距太大,那我觉得这件事情在齐头并进,你的用户就会形成一个强了,就是这个护城河。那这个护城河也会慢慢地扩张或缩小,这也要看它接下来的一个发展的情况。这这是我的观点哈,就是说多了。
19:50嗯哼,这个我很好奇,我觉得因为我觉得这是开源模型,是一个我们没有见过的事物嘛,它其实跟开源软件差别还蛮大的。就我我很好奇,你刚才提到Llama,那就是当Llama 3.1发布了之后,会对你们有压力吧?因为这又是我觉得开源模型跟开源软件另一个差别。
20:07就是说,呃,当然今天Llama 3.1是没有特地,或者说它没有突出强调一个中间尺寸的模型,比如30B或者呃30、30B上下的嘛。但是模型会有这样一个缺点,就是如果说有一家发了一个模型,30B的,突然效果很好,大家就会迁移走。就好像今天Llama发了一个大的模型之后,就是在同样的产品上,大家很难说,因为我用了这个产品啊,
20:34我有很多数据在上面,或者我用习惯它了,我就搬不走。就当Llama 3.1出来,我相信对所有做开源模型的人,包括做闭源模型的人,都是一个巨大的冲击。
20:45对。其实我举个例子,首先,呃,我也先说一下,开源虽然是免费的,但是呢,把开源模型跑起来不是免费的。这件事情其实大家还是要先去注意到,你要能把任何开源模型跑起来,你自己本地的算力那个成本,其实已经阻却了很多的个人开发者。你就算买一块4090,有人都会觉得贵,对吧?
21:06所以所以我的意思就是说,首先开源它是有成本的,只是这成本不是付给开源的那个提供方而已。然后第二点是你刚刚讲的这几个哈,我与其说是Llama 3.1出来给到我们压力,不如说这整个行业的每天我们都会看到层出不穷的新东西出来。甚至就是因为每个人都有信息茧房,甚至我还经常要跟别人交流或看别人的朋友圈,就不等于说我知道的才是有,
21:34搞不好我是看到某个媒体报,或甚至某个媒体没报,但朋友在讲的某个项目啊。所以其实我们天天都会有这种感觉,就是看大家还在追赶。所以坦白说哈,Llama这个出来当然会给整个行业带来一些这种压力,就包含我们在内的整个行业,而且就算是闭源的,那也会有这个压力嘛。
21:56但是我们还是要去想,这个市场的本质是什么,以及它要如何走到PMF。我觉得这是我在这一个岗位上,呃,思考最多的。坦白说,我目前还没有真正的答案。就是说现在大模型公司就算做得超级好的,比如说OpenAI说赚了很多钱,从它的API,它也cover不回它的成本。
22:19就现在全球没有一家大模型公司是正营收的,那一定是营收加上成本是负的。对,所以我觉得这才是整个行业的压力。它压力不是来自于别人忽然出了更强的模型,而是说在这个过程当中到底怎么继续下去。我目前的感觉就是,各个大模型公司其实在看的倒不是说只是在追逐这些东西以及它的压力,
22:45因为我们觉得商业模式才是最,或者说怎么样的客户愿意为它买单,怎么样的形式才能够赚到钱。我觉得这是整个行业都在追寻,呃,摸石头过河的一个地方。我觉得,呃,时间越往前走,呃,大家也会怎么讲,就是持续在摸了,压力也会更大。所以这个反而,如何让自己已经接触到的客户持续地用,以及如何扩大自己的客户去用。
23:15以及他在用的过程当中,我也会问他说,你是否会考虑换成别家?如果你换的考虑是什么?你不换的考虑是什么?我们会实际做的事,因为担心是没有用的,我们都会直接跟客户。这这个其实做产品的人都知道啊,就是看那么多报告啥的没有用,就是好好地把把客户问清楚,然后他的想法就会让我们知道说哪些地方可能做对了,
23:38但哪些地方可能有问题。我觉得担心是没有用的,但这个行业确实也是有一些结构性的还没解决的问题啦。
23:46明白明白。因为我第二个好奇是说,就对于一个大模型公司来讲,呃。为什么会考虑说,因为有两条开源的路可以走嘛,一条路是我把我的模型开源出来。第二个呢,其实是开源一些周边的基础设施。因为像我们其实既会用开源的模型,也会用,比方说我们今天模型推理,可能业内大家用的比较多的是vLLM,
24:06然后可能大家现在会有一些这种,有很多人或者过去一段时间社区很红的这个LangChain跟LlamaIndex,对吧?这个其实是模型周边的这个生态。那这些生态呢看起来是说,哎,当大家都用了这个之后,慢慢地就收敛到少数几个开源框架上了。
24:26Maybe今天来讲,模型推理可能vLLM算是大部分人都说,哎,我默认就会用vLLM。但是在模型上似乎其实没有这么强的,就是头部效应说,啊,用的多了所以大家都用一个,或者说也没有很强的锁定效应,不会用的多了大家说我就不换了。
24:42作为这零一万物来说,为什么不考虑,会考虑说,哎,我多做一些周边生态的这些,叫中间件也好,或者像推理工具也好,或者这种生态的产品也好,是不是,呃。还是说,呃,其实更希望说把模型拿出来给大家用。因为我理解是说我们看到的在这些基础模型公司啊,我称之为叫Foundation Model的公司,
25:03对吧?就是自己从零训练模型的公司,似乎开源的都是那个模型,并没有谁去尝试把这些中间件或者这些,呃,推理框架其实开源出来。
25:14首先哈,就是可能刚刚一开始在这个,就是开始介绍的时候,我我并没有特别去说我今天的一个角色啦,就是我当然是在零一万物工作,但今天是as a friend,对,来这边讲。所以其实,就是我想说的事情有,呃,基本上是我个人的观点啦,可能不代表公司立场,还是要先这边先说一下,
25:35因为你刚问的东西哈。对,我我有想过,但是呢,我有想过不代表我在公司内有进行过讨论以及有进行过决策,这是两回事。就算有这个也是我个人的想法,对对对。所以还是要先表明一下这个情况哈。那因为咱们听众很多吧,如果同事听了可能也会觉得,嗯,对对,好。
25:56那我自己哈,其实目前所看到的事情是,如果一家大模型公司,他想到说我要赶紧找到人给我付钱,那么他去做vLLM,或者做Llama,或者做Llama Factory、LangChain,还有现在的Dify.ai,这一堆都是你讲的这一类东西啊。
26:16对对对。那就我也有在研究,就是说大家怎么用大模型。我发觉呢,大家用开源大模型不是直接去我们那边下载然后自己去搭建,都是用这些推理工具,或者用这些工作流工具来去用。我我的问题跟你一样,就我发觉说,哇,好多人做这个东西,这些东西比大模型更火,LangChain,
26:35对吧?你后面接啥都可以。那为什么大模型公司不做?其实我大概在前几个月,我就跟你一样的的的想法了。但是我后来发现,就是各个公司并没有真的去做这个事,有可能是因为呢,他觉得做这个可能还是不赚钱。
26:54就是说,我们要实际跟赚钱结合得紧密一点的话,第一点卖API嘛,OpenAI已经这样做了,就是卖API就能直接地赚到钱。第二点呢,是我要去做商业交付,比如说智谱啊啥的也给我们做示范了嘛,就基本上去打单子就对了。然后第三点呢,可能是在帮其他某些客户训他自己的模型,对吧?
27:18这个其实很多人也在做,这些都是直接来钱。然后第四点是做to C啦,就今天其实MiniMax也做to C,零一万物也做to C,对吧?就是我们发觉to C的东西真有人付钱,而且已经付了挺多的了。就是我们在海外的产品这样子,公司第一个想的一定是先做来钱快的,所以就留出了这个空间,让一些创业团队能够在中间件或者是工具层这一层占领住。
27:45他一旦占领之后呢,模型侧就变成是他的上游了,他才是真正对接开发者的这些人。而我们有一句话嘛,搞开发者生态叫做得开发者得天下嘛。所以呢,我就意识到说,哦,那他们才是流量入口啊,如果我不是呢,那我是不是还得去求他,对吧?这个就就就会产生出这个点的,所以你问的我有想过,但是呢,想到不见得能调动开发团队就来搞这个事情,
28:12因为据我所知,这一些,呃,推理或者是,呃,workflow,甚至agent的工具,他们也都是很正规的,就是一群人,然后可能甚至有融资,然后去把这个东西给搞起来了。对啊。那就算没融资,也会得到很多支持嘛。那个VLM不就真格就送了他十万美元嘛,我记得。
28:31我会觉得这个空间他们也抓得很好,但是大模型公司可能第一个有资源不会马上做这个,因为你想,如果一家大模型公司先做了这个了,别人都去做to C了,就to C了赚钱了,那这家公司的投资人怎么想?你站在这个投资人的角度,肯定就是你去做这个好像还有点远啊,不如赚钱。
28:51对,我理解,我明白,我理解,我理解。对。因为说到to C其实就是一个好奇的问题,就是做to C一定要大模型自己公司自己来做吗?或者一定或者说就回到那那个命题了。我觉得这这是两个命题啊,一个命题是说,如果做to C产品,是不是其实完全不需要做任何模型训练相关的问题。
29:13这个其实是我最近的一个困惑。因为我们其实也融了资,也在做一些,当然我们没有做Foundation Model的training,我们可能做一些fine-tuning或者怎么样。我们也在做投入,做一些就是multi-model的事情。
29:25但是其实你也会问一个问题,就是我做了一个巨大的投入,因为模型的训练是一个巨大的开支。它不是一个说我我我我十个developer的那个成本,它还有大量的,基本上你模型开支可能developer的这个,呃,研发成本只占其中的可能五分之一、十分之一,大量是算力的成本。
29:45我如果是做一个to C的产品,我需不需要自己去train一个model?第二个是说我需不需要一个去train一个开源的model?还是说其实to C跟model是没有关系的?呃,这这个可能离开源也也不一定是开源不开源啊,就是因为就像零一万物在海外也做这个陪伴类的产品,
30:05也做这种writing类的产品。其实我们也看到有一些startup,他也在做writing的产品,他肯定是没有model,他肯定是没有一个自己的model的,他可能用用的是一些prompt去调一些OpenAI或者Claude的API,或者他用Llama小一点的模型去去解决一些问题。
30:23那呃一个foundation的model公司一定要做一个to C的产品吗?还是以及说一个做一个to C的产品,一定需要有一个foundation的model才能胜出吗?
30:35对。也问得挺好的,然后一样啊,还是我个人的观点啊,就是我其实不太确定这个公司的一个口径是什么。首先看你你的定位,你先站在你是个大模型公司,或者你是一个APP,你就是一个to C的一个厂商。我觉得不同的定位,你可能有不同的结论。
30:55首先你站在一个你现在的定位,你是不可能去训个大模型的,因为这个跟你的定位还有能力还有路线发展是不一样的。你肯定是想,我要怎么样在某一个to C的场景当中找到PMF,或者是说你能结合大模型的能力,找到一个新的PMF。因为我们现在很多讲AI native嘛,虽然说众说纷纭呢,就是什么是AI native,大家说法不一致。
31:21但是呢都知道至少上面要有明确的AI属性,可以不管降本提效或者产出新的一种交互方式。有了AI native的这个东西之后,那你去找了某一个场景并且把它占下来。我举个例子,比如说像沉浸式翻译吧,那沉浸式翻译它就就是占下一个很清楚的场景,我就是我就是一个沉浸式翻译,
31:46对吧?那你后面用什么模型其实可能大家不太去管。所以呢,我认为to C的其实是你要去占领,就就有点像什么,其实Kimi我觉得有点做到这一点,他根本没在管,就是用户根本没在管什么Kimi的这个月之暗面大模型是什么。他其实无所谓,他只知道说我用起来效果是这样,我要这个效果,结束了。
32:07所以我觉得to C其实是要站在一个C端不懂也不需要懂大模型的这些人,或者说B端其实也不懂也不需要懂大模型,就是其实我觉得大模型不需要人人都懂,就像云计算,你今天去路边问大家还是不懂嘛,可是大家其实都在用嘛。所以其实我会觉得C端B端就是看你的客户需要什么给他什么东西就够了,只是现在因为AI很火,所以他有时候会拿这个东西出来做炒作,
32:33做概念上说哦我这个是智能化了等等的,但是最终还是要看新的PMF能不能做到。那我再拉回来哈,如果是大模型公司他去做to C的话,我觉得也有几个可能性呢。第一个就是明确啊to C这个做成的真能赚钱了,但是大模型目前还没有一个被验证的真能赚钱的一种方式。
32:56那所以说,那如果大模型公司分点力,也能够去把这个to C给做起来。而且其实你说to C要做起来真的超级难吗?我只能说有时候就跟投资一样,你多投几个搞不好就中了一个吧。因为我们现在其实是在一个在一个有点像2012年的这个互联网,移动互联网的时代。
33:18那时候真的有时候做几个出来,就是有时候是运气好,有时候是多做几个对吧,然后多投几个。所以现在还在这个时候啊,那你如果有机会在to C端或者是这一些新的领域投中过分一杯羹,我觉得逻辑上也说得过去。啊只是说,呃他的竞争对手就是那些其他可能更懂C端或更懂某个场景的人了。
33:41那所以呢,他有可能切入一个非常窄的场景,但是有些广阔的场景其实做做调研什么的,大家可能都差不多。有一句话我听过叫做模印一体,就是模型跟应用是一体。最早其实是那时候从GPTs出来的时候开始,就是很多人说,呃,GPT只要一升级,
34:04或者那时候搞了GPTs,还有所谓的他们的App Store,哦,那这一些其他的startup都不用玩了,因为它一旦升级一旦搞起来,就就很容易吃掉一些新创嘛。当时我听到是这样。那我直到今天还是觉得,大模型公司它的边界范围还不够清楚的情况下,
34:26那新创不被吃掉的唯一方式是还是占领用户的应用心智啊,就是说某一类型的应用我就得用它了。所以否则,在还混沌未明的时候,确实啊,GPT或者是任何大模型都有可能去把一些还不够明确化是谁的场景就这样吃进来。所以我觉得在模印一体的过程当中,其实大模型也有也有它自己的优势,但是这个这也会让产业分工的边界不一定那么清楚了。
34:56因为我举个例子吧,就如果云计算厂商都跑去做PaaS,再去做SaaS,再去做交付,他就跟他的客户为敌了嘛。就说白一点就是不同层有不同的这个定位。但是我觉得现在都还在找定位,所以其实都都都先去做做看这样子啊。
35:42我觉得我问了很多问题也也收获很多,就是Richard,我觉得因为呃其实还比较难在从从foundation model的视角去看这个市场吧,包括开源的model,包括这个要不Mars你来问一些问题,就我先消化一下。
35:56我我就完全从应用的角度啊,就是因为我们其实现在孵化的大部分还是AI应用嘛。然后你觉得应用和那个就是开源模型的关系是什么呢?比如说我们呃也投了一些应用嘛,海外的,比如说很很大的那个聊天类的应用。然后我我跟他聊起来,就是因为之所以要用开源模型,就是因为那个闭源模型的alignment让我们不能用,
36:22因为要做一些擦边的东西,所以所以就用了开源。然后我们孵化的项目这边呢,就会有很多的那些被孵化的同学的话,他们就其实会拿很多开源的,比如说这个可以换个脸啊,那个可以换个声音啊。这个可以出出跳个舞啊,就现在开源的多模态那边有很多奇奇怪怪的那种东西嘛,最新的一些paper啊什么的。
36:42然后就拿来点两下,然后演示一下,然后就说我们可以把它用在这里用在那里。然后这种呢我又觉得说好像你拿一个开源的来,虽然展示起来会很酷炫啊,因为其实我后来发现也就是大概一个小时就能弄出来嘛。但是展示出来我就会觉得那其他人也拿着就马上用嘛,好像也没有什么也没有什么东西。
37:02所以开源来讲,除了搞比如说黄赌毒,对吧?我我需要用开源。那其他的开源我到底应该怎么用才能够建立我当做是我的一个AI应用的优势呢?是应该在开源上我再包很多应用场景,然后在应用上再做些什么事情?
37:19其实我觉得任何的to C端的应用啊,你要追求的还是你整个产品本身的一个呃稳定性。就如我刚刚讲的,即使你输出黄赌毒或者你输出一些正常的东西,你必须确保它的一个输出的一个质量。那现在大模型其实呃一方面就是它有各种各样可能就是呃幻觉的一些问题。
37:45第二点就是说如果你今天去调用API或者是你你即使开源也有这个问题,是因为开源的版本会更新。就比如说你今天用的某个开源版本的你今天再拿它去做SFT或者做什么其他事的,可能你这个版本是定了。可是呢,它可能过没几个月又出下个版本了。
38:04那你又要再拿那个版本再去呃训出你的东西,这之间的一些差差异跟你的工程上要怎么样让用户体验是变好的,而不是说变差的,对吧?所以这个我觉得是在打造一个基于大模型能力的产品当中最大的挑战。因为这个这个情况啊,API也会有,开源也会有,只是开源相对在一个版本内是比较稳定的。
38:30就你这个版本调好就这样了。所以它很适合什么?它很适合对to B的交付。就是我交付你,就是这个时候验收啊,验收完之后,就是今年对吧,或者是一段时间,就是这样。所以现在开源很适合去做to B的交付,是因为这个东西你验收完就拿到钱了。
38:47那如果你明年还要再renew这个contract什么的,那可以再来嘛,就是又又来一笔钱。因为你可能做to C的会多一点啊,所以我个人觉得说,如果是to C的话,你应该公平的去看开源跟API这两个事情,我不觉得一定谁比较好。
39:08就是你要看你的场景,到底你是适合去搞一个开源版本,还是调某个API。而调某个API,我个人觉得它总体来讲的竞争力可能会比较有问题。什么意思呢?就是因为你的友商跟你做同样应用的人,他也可以去调跟你一模一样的API。你的生存就不会是你最厉害的地方,而是你的别的东西,例如说你的价格,你的互交互,你的体验,
39:37这些才是真正你能胜出的东西,而不是你的生成。对。所以,我我觉得调API的话,拼的是这个产品的其他东西。然后呢,如果今天用的是开源的话,你可以把那个AI的能力做得更specific,然后让你在某个领域当中变得更专业,让用户更觉得这是很实际的。
39:59所以也要看你的类型是偏专业化的输出的东西,还是说如果你今天只是搞个爽剧,对吧?然后输出剧本,然后再配图,然后再配字幕,再配TTS去讲话,然后做出那种东西,那个其实随便搞就可以。所以就是也要看你的应用到底是什么样的场景,以及你是希望赶紧让这个应用去变现或卖掉这个应用,
40:24还是你要把这个应用做成一家公司,长期去发展、去融资。我遇到的客户有各种不同的玩法,就真的有人就是这一波我养起来,赶紧卖,就卖个几百万就就就结束。也有的,那也有那种就是要融更多钱。所以我我无法直接回答这个问题。但我认为每一个产品都有它独立的战略跟它的战术去定,那要打组合拳。
40:47那这样。
41:12是,他要再上去,
41:15接公开API的好处是,赶紧把PM和SF给找到。就是呢,你用比较低的成本先找到再说,你找到完了之后再去想模型能力怎么提。所以我觉得你说天使轮的话,我觉得比较轻,可以用API。但是你做到一定程度,或者是你的专业度有一定要求,那API就,你就得API至少加RAG。
41:38API加RAG这件事情,现在也未必是好做的。可以做啊,就API加RAG,我们家也有这个产品嘛。但是就是不是在任何人用起来都会觉得这么样的一个舒爽。因为呢,如果认真的去训出一个,不管是小一点LoRA的也好,或者是说这个SFT甚至重一点也好,
41:58就要看它的成本跟看它的稳定性。我举个例子啊,比如说如果你今天是要做一个法律相关的东西,它的稳定性就可以很高,法律不会天天改啊,法院的判决也也就是长那样,或者医学的,或者会计,会计准则也不会整天改嘛。那个东西可能就更适合用更稳定的。
42:18你基于开源去做出你的版本,反而是你公司的资产了。但是如果你去调API,那不是资产了。对。所以要从,要从资产的角度去考虑这件事情。然后就算基于开源的,也不能说它就不是资产了,因为我们做出我们的版本了。
42:32了解。那还有一个问题啊,就是其实除了大语言模型的开源以外,其实你对于整个开源世界也比较了解嘛。那其实比如说啊,比如说有开源的,让人上传一张照片可以跳舞的,有那种开源,比如说最近很火的那个Live Portrait,然后这种东西。
42:49然后我现在就发现说,其实我们在看这种开源社区的东西的时候,或者是一种新的paper的时候,我们看到的都是最热闹的东西。最热闹的东西就是大家基本上都已经这两天都在看的东西,我们也看了一下。然后那看完之后也会就会尴尬起来,就会觉得说那我用这个和别人用这个就没什么区别。
43:10那从你这种就是已经泡在这个行业里面,泡了这么久的一个人来讲,你有没有什么看看到那种潜力股的好方法?就是就是最热门的我们也确实每周都在看。但是有没有什么你有一些独特的指标或者特性或者渠道说,哎,其实你们不要光看那些热门的,其实什么什么什么什么什么的会更好,
43:31诸如此类。有没有方法挑到那些没有那么知名啊,知道的人没有那么多,但是其实也会很好的项目。
43:38为什么笑哈,是因为你这个问题本身跟开源的逻辑就是反着来的。为什么呢?因为其实为什么你会看到它那么火?因为它是开源的。就是说在开源的世界里面,它火,它是大而多,它爆红,或者是说它忽然间窜出来,一定就是因为它很开放,
43:58它是开源,别人能验证。就就是说首先效果它会传播。但是呢,除了效果传播之外,你有没有真正能能让我去试试用?像Sora,我举个例子吧,像Sora之前很火是因为啊,它的效果很好,可是呢直到今天都没有人可以用嘛。所以当出了可以用,比如说可灵之后,那就那就爆出来,可灵也不是开源啊。
44:19就是说其实重点是,开源或开放的逻辑是什么?第一点,你能看到效果。第二点,你能去验证效果。然后第三点,你能去own这件事情。开源是全部都有,对吧?
44:32你能看到效果,能验证效果,你能拿来自己改。像可灵可能无法自己拿来改,因为那是他他他家的东西嘛。所以如果是这种逻辑的话,一个好的东西怎么可能默默无闻呢?就是照照你刚刚讲说我要如何找到潜力,就是他的逻辑就不会默默无闻。所以我刚才说你这问题可能有点逻辑上跟开源不太一样。
44:53哎。哎,没办法呀,因为就是这个,哎,这个这个其实就是那种贪婪的炒股票逻辑。好的股票你嫌它贵嘛,你不是要找那种潜力股,为啥会涨?
45:04我觉得不足。如果哈,真的要找潜力股的话,你这个问题其实已经有点像是风投在问的问题了,就是对吧?就是,我就完全是风投角度。
45:14呃。因为也有风投问过我同样的问题,我去哪里找项目?我说第一点简单啊,你先做个机器人嘛,然后去GitHub找trending啊,就是谁在短期之内这个trending最最强的,先搞起来嘛。像我举个例子,之前那个ChatTTS嘛,你们两位应该也知道,就突然间ChatTTS就爆火嘛。
45:34它爆火之后呢,刚好那两位创始人是我的朋友的朋友,就我跟他是二度关系啦。然后他们确实也有创业的想法,所以呢那个朋友就介绍我跟他们认识。然后就聊了一下,一聊就觉得哦,你这东西确实不错,而且都是开源人,其实很快眼神就对上了。然后我就找了几个朋友啊,或者是介绍什么的,后来投他们的人其实很快的聊一下,然后就投了。
45:58我后来发觉哈,有两个点。第一个点是你能观测到谁是trending的。第二点是你能不能够取得这个项目的人的信任。对。如果你是一个投资者的话,所以我其实是刚好虽然不直接认识,但确实啊,就是有时候在这个圈子一聊起来,
46:17你那个信任感,三两句话你就能知道对方是不是跟你同类的人。对。所以这个也是一个点。对。但这是投资逻辑啦,如果你今天只是拿他的东西去使用,那就用啊,这个无所谓的。
47:11我觉得这可能要还要看他的技术栈,但是我就以这个ChatTTS为例好了。如果你看过他的方法,他其实是基于某一些论文,就是说他这个方法不是他独创的。他其实是把一个公开的论文的方法,通过他自己去找到相关的数据跟他的工程化,去把这个东西训出来。
47:35所以其实呢,他的这个门槛也不能说是超级高。比如说ChatTTS出完之后应该一两周吧,字节就就都都出了嘛。因为这个东西不是他独创,且他没有专利。所以我只能说呢,你刚刚讲的那个情况。就是该团队要去衡量他自己能不能搞出来。
47:55比如说如果他就有一些你说东南亚的语料啊或啥的,可能他搞出来也也OK的。因为开源的话,虽然一些secret跟工程方法不一定写得那么清楚,但是总比你什么都没有来得清楚。你就搭配的论文,搭配的那个项目的一些痕迹、代码,然后再搭配的一些大家的讨论,其实是嗯有机会去复现的。
48:17所以开源也是一个好的点,是能让大模型本身的进入门槛下降的一种方式。有点像是什么,就是我开出来了,我也让更多人知道我怎么干的,所以我只能再往前跑。就对于开源项目,自己的压力是在于,因为开出来了,竞争者会变多。那我只能继续往前冲,来让别人觉得我永远冲不过他,我只好听他的。
48:41所以我刚讲Meta是这个逻辑嘛。刚刚讲ChatTTS其实它可能是另外一个逻辑,因为我不开源我就没有办法融资啊。他他真的那个情况是他得开,然后形成轰动,然后拿到钱,然后继续往前走。所以我觉得各有不同的开源逻辑。那你刚讲那个东西,我觉得就作为一个用户去用,然后自己如果能复刻,就去搞一个,他其实现在没那么难了。
49:04了解。
49:04但是另外一方面,因为我也在做一个除了投项目以外,我们也在做一个孵化器嘛。那这个时候其实比如说他是一个开源人,然后他技术还蛮强的,有一个突破。但是比如说他产品不太行,或者说他设计没有美感,或者说比如说他海外营销不知道怎么做,我们其实可以帮他把这些东西给配一遍。
49:26那这个时候呢,我其实就需要找到这个人,让他愿意跟我合作。比如说就因为我其实帮他把整个团队配一遍,帮他把MVP做出来,帮他海外推一下,其实也花不了多少钱,比如说二十万美金。但是如果融资,他融二十万美金,他可能嫌少。但是如果是我帮他整体,比如说花了二十万美金,帮他把所有事,什么后台研发、前端啊,什么设计师啊、产品啊,
49:48营销都做了,可能一共花了也不到二十万美金,然后我可能占的股份还比投二十万美金要占的多一些。那这个就是就是一种一种合作的一种方式嘛,但是它就省心了嘛,不需要怎么自己来build个团队,把一切事都搞定。那如果我是这样的一个嗯找人去匹配帮忙,但是多占点股份的一个投天使的心态的话,我在开源社区应该怎么样可以撩到足够好的人呢?
50:21呃,我觉得不是,我觉得不是。首先呢,每个圈子的人去recognize别人,都会有他的一些pattern。OK。呃,呃。即使你在开源圈子里面不一定那么知名,但是呢,你在某些领域,你是有你的一个expertise,
50:38也有很多人认可你的。所以呢,我觉得首先是第一点,就是要先让自己在哪个领域的一个知名度以及认可度,呃,是能够被被查验的,就是说能够被被滴滴的。第二点是你如果看到某个项目之,呃,这还是很人际关系,就是说你有没有办法找到当中有一个人,能够把你们之间给串起来,
51:05就是这个人同时信你也信他。所以呢,他是以个人的reputation或者credit去担保两方去对接。对。这件事情是一加一大于二的。所以我觉得你可能要在各个圈子去找到一些可能可以合作的这样的人,而且他是真的能够愿意为你背书的。
51:26然后呢,所以比如说我之前帮了ChatTTS,我也不是直接跟他认识啊,我是当中还有一个人,而那个人真的跟我关系很好,那个人跟对方关系也不错。所以对方才会信我,否则一个素未谋面的人,他信我啥?其实我们都开源圈,他也不认识我啊,因为开源圈不代表每个人都要认识嘛。
51:45所以这说到底还是一个平常是不是广结善缘,做人做得好不好。我我觉得这一点。其实你你应该也做得不错了。对。所以,我没觉得这是你的短板啊。
51:58了解了,就是以后要多约你来,他要聊播客,然后连麦。从这一点开始,打通我们我们在开源圈的名气。
52:08那我觉得还有一点啊,就是说其实开源圈子我再多讲一句话吧,很多人很重视的是你是不是真的理解以及appreciate。什么意思呢?呃,我举个例子,那时候这个ChatTTS出来的时候,我也不只介绍一个人给他认识。然后呢,我就了解到说,哎,有某个投资人一上来就问他一些问题,然后那些问题其实是看不懂的人才问的问题。
52:36比如说问他说你这个东西的价值怎么样啥的。我当时一看到这个项目,我就知道这项目有价值,而且我不认识对方,我只看到他火,我就好奇嘛,看这东西牛。然后看一下它原理哦,这个就我我就我就懂了。所以有时候呢,他上来如果遇到一个人就问他一些就很很外行,或者是呃他会觉得说,那你根本就看不懂我的价值,
53:00那我为什么给你投,对吧?所以我觉得懂这事情的价值是对于一个被投者来讲也会是,就假设他是有人追着,不是他去求别人,是有人追着投他的话,他就可以挑嘛。所以其实有的开发者也会比较这个就是说,嗯,你如果看不懂,那我给你投,我内心也会觉得投等于合作嘛。
53:21对对,所以这这事情我只能说你也比蛮多的投资人可能更懂技术了。啊,就是所以有时候他可以假装站在一个那是肯定的。对对对。站在一个懂技术或者是说appreciate他的角度,甚至你问的问题就能代表你知道多少。所以那次后来其实顺利投投成他的人,其实我我的理解就是比较懂,且决策迅速。
53:47就是今天聊完,明天上会,后天投。就大概是这个。
53:52对。了解。你现在有什么比较关注的,不管是AI的技术趋势,或者开源世界什么,呃,新奇的动向吗?就是,有什么你觉得比如说徐文浩和我可能会忽视的一些趋势,或者一些呃好玩的动向。
54:10我这样说实在是,我我内心实在是觉得太不敢当了。为什么?你们看的比我还多。我我看你们的AI炼金术啊,或者发表的一些东西啊,很很多还是我从你们这看来的。所以,
54:22我们相互相互相互相互。
54:25信息交流信息交流。
54:26更会,我更会看的其实是某一个信息茧房。我们每个人都在不同的信息茧房嘛。我会更关注那些就是不一定离商业化那么近,但是他可能从开源的渠道出来,或者是技术的paper的角度出来的一些新玩意。然后这些新网页呢,我不一定会从主流媒体上看到。
54:49当然,如果厉害的什么量子位机器之心都会爆了。我就知道应该可以关注某些我的朋友,他们可能在朋友圈或在Twitter上面发的一些东西,我可能会稍微觉得,哦,他们几个都聊到这件事了。可是主流媒体还没讲。那我就能感觉到那东西可能之后主流媒体就开始要讲了。
55:11这也就早那么一点点。因为Twitter真的是一个很好的来源,就是而且不论中外,其实能在上面去讨论的人,他都是跨越太平洋两岸的,都都是最高端的这一些AI人嘛。对。所以他们讲的东西未必我看得懂。
55:29就坦白说,因为我我进入到AI这个东西也就呃大模型的话也就不到一年的时间嘛。那如果是整个加上老AI的话,也就是四年的时间。所以有时候我也不一定懂,但是我就边看边学习边感受这样的心态。然后什么东西其实一出来火了或啥的,我可能就比你们快一点点知道而已。
55:49所以你不用觉得你是落后的。啊,就只要认真肯花时间,就不会落后。了
56:29是。不过这个东西因为Twitter就X的API哈,有很多的限制,而且调用也需要比较多的钱,所以我不太确定你怎么解决这个问题的。这个这个是我我想过,就是把某一些人每天定期的爬虫爬下来,然后再喂到大模型,然后让它帮我输出,这个其实能做到啊。
57:22好像不太多,就是你这样一问我的话,因为刚好啦,我我过去一两周的时间也比较紧迫,所以说,所以说看的比较少。
57:32我也是。然后感觉最近确实就那个让人非常嗨的东西确实就出现的频率少了一点,去年被阈值调得比较高。对。现在现在就感觉有点略微平淡。哎,
58:08是是是,是的。
58:09还有一个很大的原因是因为去年那一波demo都做得太好了,到今年都没有交出来活。去年你看到的很多惊艳的东西,到今年都没有那个视频里面那么好呀。
58:21那demo就假的嘛,或者是比较夸张的
58:24啊。所以这个就比较尴尬一点。
58:26我其实我其实还有一个好奇,其实真的就是跟开源有关。就是从你的视角来看,觉得国内的真正参与开源的开发者多吗?但是似乎实际去参与贡献开源的开发者的比例特别的低,我自己的感受是。
58:42索取不贡献是吧?
58:43对。目前整个全球范围内啦,其实啊我我就别说中国了,我也不说AI,我就讲开源软件这件事。整个开源软件本来就是用的人多,然后贡献的人少。只是呢,在文化方面呢,呃,就是西方文化的人会更愿意贡献。原因是因为啊,他有个逻辑是这样子的,就是我今天看到你这个软件有些问题,我把它修好,是因为呢,
59:13我本来就想修好它。我觉得第一点是我有能力。然后呢,我用你的东西,我把它修好了,我再把它反馈给你,就提个pull request嘛。也就是我希望大家,我修过之后其他人不用再修了,就能用到好东西。然后形成这样的一个文化。
59:31所以呢,我也能受益。为什么?因为别人也会去修一个我可能没注意到的东西,也修好了。所以它就会形成一个正反馈,大家都去修一个我觉得该修的东西。然后呢,今天项目owner就收了,并且如果项目owner不觉得那是一个该修的东西,我还能自由地去fork这个项目。
59:52我说那你不接受我的Pi啊,我自己搞一个啊,我也可以做一个我自己的版本,我再发出来跟你竞争。也就是说开源其实是个自由竞争,就是说你不接受我,我也可以搞出来。所以这个文化其实在呃西方的开源世界比较像是,就是自给自足,丰衣足食啊,大概是这个想法,
1:00:12就是我去做,然后呢我也再share出来,所以越来越好。那在国内的话呢,一方面开发者的,我觉得平均呢,可能大家是贡献的能力跟意愿,这两个都比较低。就平均来讲,我们的开发者可能能能跑起来就不错了。就把这个,我不是说贬低我们国家自己的,而是说可能更多人就是说我先把它用起来。
1:00:36然后如果修过什么东西了,我可能不会第一个想的是说我要怎么贡献回去,因为我可能想说,哎——那我修过了,那其他用的人没有这功能了,那我不就更强了嘛。就有时候它是基于一个我我自己用这个版本,那我就更强。但是这个其实就是不能说错哈,我只能说这个就会造成每个人都自己更强去,那他就无法让这个项目就大家解决问题分享给大家,
1:01:02所以这个文化不太一样。那第三点呢,讲的这个意愿还有另外一个事,即使有符合意愿的人,他可能会因为他的时间,他的精神比较少,因为中国的工程师其实有空的时间比较少了,就是西方的加班时间没那么多嘛,这还是九九六等等所造成的一个点。
1:01:21我是认真的说,就是中国的九九六,为我们经济带来很好的贡献,但是为我们的分享跟开源文化带来很大的一个伤害。但是这个没有办法trade-off,就是呃现在就是这个阶段,我们或许等到过了二十年,对吧?全部人都超级富起来,有UBI了,政府给我们发钱了,进入真正共产主义了。
1:01:42那中国开源这个大跃进,对吧?那到时候的事嘛,现在还还没到。所以我只能说,现在这个阶段是基于我们主客观,我觉得都还有障碍。那导致就是世界开源,中国受益嘛。但是有没有可能哪一天中国开源世界受益呢?
1:01:58我是希望我能看得到,就是活着的时候能看得到。
1:02:02希望有这一天。
1:02:04啊,对。你们是不是在开源一些东西啊?
1:02:06我们我们没有,我们但是我们有计划了,有proposal,但是要看最后出来的效果怎么样。就最后出来东西效果怎么样,当然如果效果不太好,那肯定不开源嘛,对吧?要效果特别特别好,肯定也不一定会开源。就效果比现在正常的稍微好一点,那你就会比较倾向于开源。
1:02:24啊,很合情合理。
1:02:25其实其实你个,对,对,其实哈,如果你是个商业考虑的话哈,我们就要把开源当成是一个,当成是一个策略,到底你你开还是你不开,对于你这个东西最终的商业化谁比较好,我觉得这也是很在商言商的。然后就像刚刚讲的说,我我已经投入在开源,比如说我是开源社的联合创始人,我搞了很多事情,但是呢,
1:02:48一旦回到商业,就如果我今天我是零一万物的员工,那我必须要想的是这事情到底怎么给公司挣钱啊,我我可以做的很分开的,就是我对开源的理想是理想,但是公司是很现实的,而且公司就是要为股东交代。公司是先为股东交代的前提之下,如果还能做开源贡献那是更更完美,但如果两全不行的话,那就只能为股东。
1:03:12所以所以所以这个其实,我我讲这话可能有些开源人听的不会很高兴,但是我我必须说,位置是要定位是要很清楚的。所以文浩你刚刚讲的我也觉得能理解,就是你先找到你能搞好你的商业再说。了解。
1:03:27那因为前面我们没有讲那么具体嘛,就具体来讲开源能够怎么帮大模型公司挣钱呢?是打出来名气之后,很多人会找你来说,来帮我私有化部署,帮我改一改,然后收To B的费用挣钱吗?
1:03:44理论上这件事会发生,而且已经有在发生,但是,各家都有啊,我们家也有,其他家也有。我,但我讲的但是,但是呢,目前做定制这件事情还是要看项目的大小。也就是说,项目如果小,那我们可能实际上是赔钱的。因为可能我们的这个人效,对吧,这个这可能每每个人应该带多少钱,对吧,这个是算得出来的。
1:04:10那如果人效不符合的,那我们也不可能接这种低价的case。但我只能说,我不认为那是开源的主要意义。就是说,开源的主要意义——其实第一步一定是让大家知道,说这家公司它的能力。因为像去年11月零一万物开源,有一个很大的一个考虑是说呢,呃,去年不管是这个我们讲独角兽五虎或六虎,
1:04:39对吧?现在不是讲这五六家。其实我们算比较晚的一家了,我们不是最后一家,但我们是比较晚的一家了。你要在如何晚的情况之下,如果你你又不开源,你要打出你模型的这个能力,你要去抢占市场。晚的人是必须用更激进的方式来去获得大家关注的。
1:04:59当然当时的激进也引来一些奇怪的评论啊。那个那个那个就不说了,说什么抄袭套壳啊之类的,这些事情。但是时间已经证明,对,时间已经证明,这件事情是子虚乌有,就是呃今天已经没人会怀疑零一万物是抄袭套壳的,因为你套不出来嘛,就是哪有可能套出那么强的模型。
1:05:19我们当时也是用这个东西来去让投资人,来去让我们的开发者都能知道说,哎,实际上这个东西就是呃很好了。甚至我我我我这么讲一个小故事啊,我就有一个团队成员,当时原来是别的公司的成员,他就听到说,啊,你开复抄袭套壳什么鬼?然后呢——又说,那怎么这个模型分出来这么高,是不是有鬼?
1:05:43就他就亲自去用,用完之后发觉,还真的很高。那到底怎么回事?所以他一步一步去了解完之后,才从黑粉转成红粉嘛。对。然后进而就跟我就加入我们的社区,然后还成为我们的贡献者,贡献完之后呢——帮你补补充
1:06:14给了很正面的评价给我。就是行内的人都知道那不是抄的,但是说这话的人就一定是要么不懂,要么有一些想法,对。所以我我我只能说就是后来就是通过这个事情我也对吧,我也找到那个人加入到我的团队啊,然后有一些不错的反馈,所以我只能说开源的好处就是呢,久了事情就会浮出水面,就算一开始可能有些问题。
1:06:40我我再回应一下就是第二步就是开源的商业模式,我始终觉得还在找。因为我只是开源AI,因为开源软件的商业模式已经很清楚了,就能运作到今天。但是毕竟AI不是软件。所以这个东西,我仍然相信开源是获得开发者技术影响力,乃至于就是技术选型,
1:07:04以及下一代的这个,你现在开了更可能让我们的呃模型跟这个技术在下一代的世代当中能够去被使用,然后它拿我们的东西基于我们再去做出新东西的话,那其实我们的这个,刚文浩讲的这个相依性或者是说不可取代性才会出来。对。所以其实真的各家都在找,而那些只愿意开API的所谓的闭源的公司,我觉得他们就是关注最容易能得到的商业机会,
1:07:37确实闭源在这方面并没有并没有弱势,比起开源了,所以我觉得都都在找呗。好的呀。
1:07:44哎,谢谢。然后今天就最后希望那个那个Richard这边赶紧找到开源世界怎么商业化,怎么办,通过开源的第二步,商业化这边怎么走。我这边赶紧找找说开源世界有什么好的人,有什么好的项目可以搞。然后徐文浩那边赶紧做出来一个,最好是做出来一个你舍不得开源的项目啦,但是也最好也可以做出来一个差不多,
1:08:09差不多比SOTA好一点的项目来开源,开源。我们一起搞一搞。希望,希望。谢谢,谢谢。行,那就是今天的AI炼金术就到这里。
1:08:20谢谢,谢谢。然后大家可以去那个支持一下那个零一万物的开源世界。然后的话呢,那个呃如果大家对于那个呃自己做一个AI应用之类的有想法的话,我也插播一个广告,然后我们现在需要呃好的产品经理,然后设计师,然后呃尤其需要说懂海外市场,然后有海外市场经验,
1:08:43有海外渠道的,对,所以也可以可以入职嘛,可以兼职嘛,也可以孵化嘛。对,反正可以谈,就就只要人够强,什么都可以谈啊。好,广告做到这里。
1:08:54如果你不想创业,想去一个AI公司上班,也可以考虑一下零一万物和我们。
1:09:23好,拜拜。谢谢,拜拜。拜拜。
本期词条
重点词条
本期重点讨论的人、公司、产品和概念,按出现顺序。
本期还提到
常见名词,文稿里悬停可见,右侧数字是本期提到的次数。
