向量模型工程师:AI 的隐藏瓶颈与新时代的信息迷宫蜉蝣天地 Meanders

向量模型工程师:AI 的隐藏瓶颈与新时代的信息迷宫

129分钟 ·
播放数7487
·
评论数54

「蜉蝣天地」x「超级 Plaud」特别季的第一期节目邀请到了 N 同学,他是一位非常年轻的人工智能研究者。

他现在工作在一家国内顶尖的互联网公司内部的实验室,做的是自然语言处理方面,具体来说,是今天常说的RAG技术的底层,那种将语义转化为向量表示的向量模型。他和同事们开发的模型,在各种排序和搜索相关的榜单中都拿到过很多次 State Of The Art 水平。

这是一次非常技术向的聊天,相信听完之后你会意识到,向量模型和 RAG 技术,与我们每一个人的生活是多么的息息相关:正因为 AI 说话太像我们,所以我们总是觉得 AI 无所不能,但当我们较真地需要 AI 处理真实世界海量文本的时候,它的瓶颈,以及它的诡异之处,就会显现出来。AI 是一个新的界面,它改变了很多,但没有改变这个世界爆炸的,不可化约的复杂性。

💡接下来的 3 期蜉蝣天地会非常特别,汉洋和重轻将会与全球第一的 AI 纪要品牌 Plaud 做 3 期的共创节目。

作为共创伙伴,Plaud 吸引我们的,是它超越了工具属性的品牌内核。它对“对话”保持着敬畏,致力于在语言的流动中,帮我们锚定那些真正有价值的思考。它不仅在记录声音,更在守护人类通过对话去探索世界的底层价值。

时间戳:

00:00:00 开场与嘉宾介绍

00:03:35 技术演进与个人成长

00:16:31 当老手艺遇上新技术

00:28:10 向量模型是怎么来的

00:46:33 为何大模型不能取代检索

01:03:48 RAG 的挑战与未来

01:37:22 未来超级知识库的想象

01:41:53 AI 时代的自我修养

嘉宾:N 同学

主播:重轻

蜉蝣天地是一个视频播客,由汉洋和重轻轮番(或共同)主持。

你可以在 Bilibili YouTube 等各大视频平台搜索 蜉蝣天地 Meanders 订阅收看,也可以在小宇宙、Apple Podcast 等播客客户端订阅收听。

🔗 Bilibili

🔗 YouTube

联系我们,请致信 geelish@funes.world 或添加 FUNES_GEE

展开Show Notes
MasterPa
MasterPa
2026.6.03
感谢 Plaud。配合好嘉宾,重轻是我眼中汉语互联网里最好的人工智能节目访谈者。
小粽:汉洋对重轻的爱就是那种溢出来,时刻要表白的那种😃
庄明浩:同意
12条回复
前奏把我听鸡皮疙瘩了,爷青回…
Enri恩瑞:不在场
重轻咋这么会问呢?好让人羡慕的能力,嘉宾回答的也好,听不懂也不觉得枯燥,又是长脑子的一期
7UUg
7UUg
2026.6.03
听不懂俺也要硬听。学无止境.范伟.jpg
是腿腿子吧:跟我想到了一模一样的一句,听不懂硬听😌
不会取昵称ya:xiao吧,你就xiao吧,xiao不死就往死里xiao
sanbai_
sanbai_
2026.6.03
视频里面重轻发型帅的。
RumW
RumW
2026.6.04
1:29:14 我觉得重轻这里说的特别有意思。我在想,现在大语言模型的 autoregressive(即 next token prediction),不管你前面放多少 prompt 去做 system 的约束,它最终都是基于你前面的内容,一个字一个字地往后吐。

也就是说,它是在走一个 trajectory,而且只能做一个非常短视的 trajectory。

但是重轻说的这个过程,给我的感觉更像是那种 diffusion:是从一个“无”开始,然后慢慢形成一点点框架,这个框架再慢慢变得丰满
这个过程更接近 diffusion 生成的过程,而不是现在这种 autoregressive 生成的过程。
赵智沉:diffusion和 autoregressive互为傅里叶变换,前者的渲染过程是后者在频谱空间的next token prediction
太太家的野男人:这期节目对我来说很烧脑,两位大佬在这的留言就更烧脑了。 diffusion这个我原先的理解是模型通过prompt让next token的trajectory更往框架的方面靠,然后本身上下文是带着框架一起算的, 就慢慢根据prompt和生成的框架,再慢慢填充。 不过赵智沉大神的解释, 我就有点更迷糊了,感觉是另一个更底层抽象的视角, 或者是我压根没理解这个问题。
8条回复
稻荷树
稻荷树
2026.6.05
这期很好
TameSolitude
TameSolitude
2026.6.03
23:54 这段感觉好像对计算机科学祛魅了,传统算法像是数学和理论物理推公式,现在变成黑箱之后就和凝聚态、化学 生物一样,做实验 总结实验规律
kitsch_FoW5
kitsch_FoW5
2026.6.03
这是我能免费听的吗
开荒王
开荒王
2026.6.05
人工智能领域有个“没有免费午餐定理”,就是说没有任何一种算法能解决所有问题。但是现在舆论就是在反对这个定理——人工智能会说话那就一定会开车,会煮咖啡,会做所有事。但是舆论犯的错误和元宇宙时代犯的错误完全一致——有了次世代画面,有了多人在线游戏,有了VR,组合在一起不就是元宇宙么?但是事实上看似唾手可得的东西其实相互之间隔着巨大的鸿沟。
Dwight
Dwight
2026.6.03
我听完就要买Plaud了
RBunnies
RBunnies
3天前
08:53 一个是要你一步步写好,所有步骤你得给它设计好,另一个是端到端吧,是架构的区别,不是输出结果的区别。
Eric666666
Eric666666
2026.6.25
07:35 是的…咱们高中计算机奥赛都是数学竞赛的同学们,我集训了半年就劝退了
干嘛用不在场的音乐啊😭
momo_DCqk
momo_DCqk
2026.6.18
1:40:39 突然和以前看过的一本科幻书内容契合了:以前的婚姻能够维持下去,因为争吵时只凭模糊的记忆。可当人们所有语言及生活都被清晰记录,可随时查找以后,婚姻没法存活了。
是的 我认为简单的弄不好 我认为复杂的弄得好
36:24 那训练的过程是不是reinforce刻板印象的过程呢呢?
伸伸懒腰
伸伸懒腰
2026.6.07
21:37 观察新的人造生物
开荒王
开荒王
2026.6.06
配图不知道为啥有点像西部世界
HD156941k
HD156941k
2026.6.06
1:49:57 虽然自己不是这个专业,听下来但是一知半解,想知道需要补充哪些知识?