69. 口述全球大模型这半年:Perplexity突然火爆和尚未爆发的AI应用生态张小珺Jùn|商业访谈录

69. 口述全球大模型这半年:Perplexity突然火爆和尚未爆发的AI应用生态

67分钟 ·
播放数20305
·
评论数81

今天这集是【全球大模型季报】第3集,我与广密从AI应用端出发,复盘全球大模型这半年的进展。

AI搜索是大模型在应用端达成的第一个共识。这次,我们详细聊了聊AI搜索企业Perplexity,关于它的创业、数据、竞争与护城河。Perplexity最新一轮估值已达30亿美元。

此外,我们聊了一些业界关心的重要话题:AI应用为什么还没有大爆发?GPT-5为什么那么慢?大模型的商业模式和壁垒究竟是什么?我们也对美国科技巨头过去半年的状况一一作了点评。

我们在这集节目增加了一个互动环节,大家可以就播客中提出的问题在评论区留言,也许嘉宾会现身回复哦:)

本集是《张小珺Jùn|商业访谈录》和《海外独角兽》的串台节目。
我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)
02:16 突然走红的Perplexity
  • 过去1年,应用端比较无聊,Perplexity是唯一跑出来的(2000多万月活用户,2000多万美元ARR,年底可能到1亿月活,1亿美元ARR,月度环比增长20%以上)
  • Perplexity的创始人和创立过程,硅谷核心圈都投了
  • Perplexity的豪华投资人天团、已完成四轮融资与估值爬升过程
  • (投资人包括:Google SVP Jeff Dean,Meta首席科学家Yann LeCun,OpenAI早期投资人Peter Thiel、OpenAI创始成员Andrej Karpathy、知名Solo GP Elad Gil,GitHub之前的CEO Nat Friedman,Databricks联合创始人Reynold Xin,Hugging Face CEO Clément Delangue,亚马逊创始人Bezos)
  • 为什么硅谷的个人投资者参与这么多?
  • 06:16 信息检索是匹配模型能力最合适的PMF
  • 对于知识工作者有积累创造性任务:组合型创造-探索性创造-变革型创造(信息检索就是组合型创造)
  • Perplexity CEO是先思考产品再思考模型,而不是先做模型再找落地场景
  • 如果Perplexity能向下改模型,Anthropic收购Perplexity,这是很好的组合
  • 11:12 Perplexity最新估值达30亿美元,为什么它值这么多钱?
  • Perplexity这种产品形态和小红书长期是什么关系?都在抢传统搜索的生意
  • Perplexity A轮融资的时候,我们拿它和头条早期数据做对比,很有意思(留存、用户心智)
  • 英伟达投资了Perplexity,黄仁勋公开说他用做多的一个AI产品是Perplexity
  • Perplexity怎么和Google、OpenAI竞争?错位竞争!
  • 面对Perplexity,Google、百度这类传统搜索公司有哪些应对?
  • 秘塔AI是中国的Perplexity吗?国内一个问题是:内容有割裂性
  • 17:50 Perplexity的护城河是什么?会独立长大还是被并购?
  • “今天的创业公司似乎都在巨头的辐射之下”
  • 18:25 同样是30亿美元估值的月之暗面和Perplexity,本质区别是什么?
19:16 无聊的AI应用生态
  • 首先画一张AI创业公司脑图(大模型公司估值显著高于AI应用公司)
  • 21:10 海外版“大模型的资本扑克牌”,很清晰、巨头主导,关注Meta和Apple接下来会怎么落子
  • 红杉美国只投了OpenAI和xAI
  • 22:50 AI原生应用系统性大爆发了吗?没有!
  • 为什么说现在模型能力和产品能力不够?
  • 应用大爆发的关键条件有哪些?(模型能力、调用成本、速度latency)
  • 26:55 未来6-12个月,哪些是高确定性问题?哪些高赔率问题?
  • 大家远远低估了模型变小的速度——过去一年我们卷云端和数据中心的基建,未来一两年会卷端侧基建
  • 模型变小的挑战是什么?
  • Apple和OpenAI合作并不稳固,Apple和Anthropic也谈了一个合作,随时热插拔ChatGPT
  • 接下来最重要的能力跃升是:逻辑推理reasoning+多模态
  • 34:10 一个听众互动(大家可以留言):如果OpenAI GPT-4o给开发者的API成本大幅下降,成本可忽略,哪些应用能爆发?
  • 回顾一下GPT降价幅度,过去一年降低10倍;我好奇OpenAI为什么不更激进降价?摧毁其他人
  • AI应用型的人才画像是怎样的?
  • 给AI新物种大爆发的时间一个预测?
  • 36:33 过去半年美国AI应用生态有多无聊?(沙滩上建房子)
36:58 GPT-5为什么那么慢?
  • OpenAI模型能力跃升停滞了吗?为什么GPT-5出来比较慢?
  • GPT-5预计什么时候来?GPT-5会长什么样?
  • 为什么GPT-4和GPT-5中间插了一个GPT-4o?(为了降成本)
  • 硅谷和中国大模型公司牌桌发生了哪些变化?
  • 拿到“最后一张船票”的马斯克xAI,有什么差异化?
  • 41:47 “OpenAI内部状态就像是从东向西开拓美洲大陆,科学家让火车高速奔跑,infra工程师在火车前面修铁路,铁路铺设和火车齐头并进”
  • 过去半年在大模型上,中美差距是拉大了还是缩小了?
45:35 大模型的商业模式和壁垒
  • 大模型是好的商业模式吗?壁垒在哪?
  • Scaling Law之外,会有不一样的路线走向AGI吗?
  • 怎么看通用机器人?怎么看无人驾驶?
  • 通用机器人和无人驾驶,哪个来得更快?
  • 今天通用机器人的目标还没有定义清晰
55:25 最后,我们点评了硅谷科技巨头这半年的状态
  • OpenAI(离职风波对OpenAI有影响吗?)
  • 苹果(AI的feature能不能带来换机潮)
  • Google(模型上不乐观,流量优势明显)
  • 英伟达(从股价角度超出了可分析性)
  • Amazon
  • Meta
  • 微软
  • 特斯拉
  • 61:43 “创业公司和大公司不是颠覆关系,是依赖关系”
  • 63:32 RAG、检索增强是阶段性需求,做得好不好是工程问题
  • 64:18 中美创新生态的差异(创新的温室)
  • 65:23 2024下半年展望:你会把时间和精力重点分配在哪些问题上?

【全球大模型季报】:

2023年:口述全球大模型这一年:人类千亿科学豪赌与参差的中美景观

2024年Q1:和广密聊AGI大基建时代:24 Q1全球大模型前沿手记

播客中提到的文章:

Perplexity CEO:AI 创业公司要先做产品,后做模型

【更多信息】

联络我们:微博@张小珺-Benita,小红书@张小珺jùn

更多信息欢迎关注公众号:张小珺

展开Show Notes
更新ai产业界信息,小珺和广密的节目必听🍗
晨萱-语迟者说-INFJ:的确,听过近一万五小时播客后,觉得科技播客里,如果综合看也许还有其他更好的,但这个播客自开始到现在这几期,极好,密度极高,很多需要听不止一遍。独立思考,而不是人云亦云。跟着风口讲那些大家共识的话,很容易,但很肤浅,也是因为我会戳破那些内容,所以之前常被围攻谩骂,甚至像一财的文科生主播也是一样想的有些浅了……
杜宇恒:广密是啥节目?
3条回复
JASting
JASting
2024.6.23
11:01 Open AI目前即时性信息检索能力太差了,Perplexity抢了这个空白。1️⃣搜索商业模式很work:如果AI搜索能抢到1%的份额,就有每年40亿美金年营收。 2️⃣Ai搜索应该是现阶段大模型能力最大的PMF:证明perplexity的用户专业度高,所以单用户query量是google三倍+。
今天控制饮食了吗:我靠,你大大提升了小宇宙评论质量🫡
ZoeHanVCer:为啥perplexity可以导入实时信息
3条回复
44:55 说实话了,国内很少有人说这样难得的实话。其实国内都是小镇做题家,擅长做题,按照标准自己出一份考题,然后答个高分,就可以宣扬自己超过 GPT4 了。大家都这么干,实际上哪有无源之水,你只问他有多少张卡,他就原形毕露了,不要再解释什么,他的压缩算法,什么算法之类的可以效率更高,像币圈一样,那种违背了区块链的三个不可能定理的所谓提升效率的全部是诈骗的虚拟货币
无敌风火轮:国内不承认差距变大的 基本上 不是坏 就是傻
一样嗯:为啥你觉得自己比百度,字节都聪明……
5条回复
杜晶晶
杜晶晶
2024.6.24
端侧模型好的都不是靠剪枝蒸馏,Phi3,MiniCPM包括通义千问都是从小的训起来的。
五里坨:实话实说,嘉宾发言也就听个乐,很多细节讲出来我们这些一线做事情的,一眼就看出来露馅了。本身还是个跟着英语新闻亦步亦趋的vc罢了。
chengxd:首个公开承认蒸馏的是Google的1.5 Flash
3条回复
JASting
JASting
2024.6.23
11:42 perplexity和小红书都是在抢传统搜索引擎生意,分别通过AIGC和UGC,做信息生产与分发。
JASting
JASting
2024.6.23
12:10 验证PMF的两件个度量衡:留存好不好,商业化模型好不好。1️⃣新领域的留存表现好,很和空白领域的产品心智有关(ChatGPT是chat的产品心智,perplexity是AI搜索的心智,characterai站住了陪伴心智)。2️⃣但大多数Ai产品的商业化模型是硬伤,广告模式的效率太高了,Ai应用现在主要靠付费会员,效率不会太高。
JASting
JASting
2024.6.23
06:24 今天匹配模型能力最重要的2个use case:信息检索和教育。理解今天模型能力。
JASting
JASting
2024.6.23
47:10 订阅,广告,年费,抽佣,互联网常见四种商业模式。可以用2个维度拆分:利用C还是利用B收钱,可售卖单位少还是多。 可售卖单位越多售卖效率越好,因为可以生态伙伴多了,机制就更多。订阅和广告利用C收钱,前者售卖单位远小于前者(用户账号base vs 注意力base),所以广告效率高于订阅。年费和佣金利用B收钱,前者售卖单位远小于前者(商户店铺base vs 单笔交易base),所以佣金效率高于年费。Ai商业模式要尽量向广告和抽佣的机会,如通agent抢夺了用户注意力份额,如通过创造单次价值抽佣。
-天空-
-天空-
2024.6.23
54:30 没有方向盘的汽车,只能进行自动驾驶。那么只要一串代码,就可以直接威胁他人生命了,更别说公司内部可以有直接的权限进行车体控制
-天空-:换句话说,造成公共危险的成本更低,方法更容易了
-天空-:而且自动驾驶的危害更大 手机、摄像头这类虽然有很大的隐私问题,但是这些应用的伤害最坏可能也就是电信诈骗、骚扰电话、隐私全方面曝光、一举一动都被监控下;但是自动驾驶的危害是更加直接的,它可以用一串代码的指令,直接夺走一群人的生命。 换句话说,这个杀伤力可能比枪支还大。现在只是因为l5以上自动驾驶还没全部放开,一旦放开后,一定会有相应的产业链(黑产、灰产)做这类生意,而且门槛很低。
3条回复
张小珺
张小珺
2024.6.25
嘉宾互动话题是这个,大家有什么想法?——如果OpenAI GPT-4o给开发者的API成本大幅下降,成本可忽略,哪些应用能爆发?
LiamZ
LiamZ
2024.6.25
35:48 AI应用型人才画像:90后95后,能拥抱不确定性。预估AI应用大爆发的时间点:GPT 5 出来的半年。GPT5大约年底会出来。
LiamZ:42:49 大模型和国外的差距是在拉大的?
JASting
JASting
2024.6.23
16:30 由于国内过早进入移动互联网,所以内容过于割裂(微信,小红书,知乎等),高质量数据不开放。导致中国出现Ai搜索更难,所以在中国一定是巨头的机会。但巨头对AI搜索动作慢的原因:1️⃣是迟疑是否是真正的PMF,2️⃣是否是大模型公司的机会(而不是应用公司的机会)。
JASting
JASting
2024.6.23
09:41 创业公司AI应用可行之路,如特定领域的助理:基于最好的模型能力,做PMF➡️降低成本➡️端到端做优化➡️Distill一个小模型,cover特定的query问答。Distill一个小模型比自己train一个模型成本低很多,又能实现own一个自己的模型。
haitaoyao
haitaoyao
2024.6.25
32:32 可解释性 被低估,越是商用越需要可解释,否则算卦的结果客户不买单你自己也慌
JASting
JASting
2024.6.23
27:03 未来3-12个月高度确定的事情:成本下降,多模态,端测。 1️⃣成本下降是时间和工程能力问题,应该会很快发生,所以创业公司可以以免费为假设设计chanp。2️⃣多模态,大模型催生voice in voice out,本质是降低交互的能耗(触屏手机能耗低于键盘手机),新的交互形态会催生新的抖音;3️⃣端测,模型变小速度会很快发生,小到足以跑在手机上,背后核心是用户query有头部集中效应,所以头部query train一个小模型放在小模型上就行。
JASting
JASting
2024.6.23
13:47 Perplexity的PMF做的很好,即找到的market是知识工作者,Product解决了他们复杂信息问答的需求(商业等,是google信息中top5%复杂信息的问答),也是LM最匹配的use case。
SinSin
SinSin
2024.9.12
可以找deepseek的人来一期吗!对deepseek做模型的思路很感兴趣🙇
击石
击石
2024.9.10
听下来,由于芯片禁运,国内大模型很难跟得上 OpenAI
未来AI代表智能劳动力而人代表智能创造力
JERRYJAZZY
JERRYJAZZY
2024.7.19
片尾bgm换个吧…