No.108 跟 嘉译 聊聊 ChatGPT 是否会导致 NLP 的研究「不存在了」三五环

No.108 跟 嘉译 聊聊 ChatGPT 是否会导致 NLP 的研究「不存在了」

48分钟 ·
播放数10106
·
评论数30

🎙️

嘉宾|嘉译,哈工大 NLP 方向博士,大厂科研&算法

主播 | 刘飞,哈工大 NLP 方向硕士,三五杯联合创始人

本期依然是聊 AI 相关,之前已经有多期,这期可能是最近收尾的一期。

嘉译是哈尔滨工业大学的博士,长期从事自然语言处理方面的工作,尤其是句法分析的研究和应用。他现在的职位是算法工程师,负责开发和优化客服机器人等自然语言处理相关产品。这次我跟学弟嘉译,从自然语言处理技术的「应用」和「研究」的视角,聊聊 ChatGPT 带来的启发。

也希望能给你带来启发。

内容索引

02:50 ChatGPT 的奇与不奇之处

嘉译的体验与感受

语言模型:NLP 书里翻开的第一页就是

ChatGPT 做语言模型的特色:使用真实场景提问,而不是科研场景提问

Transformer 为啥那么厉害

14:51 新的范式

黑盒:GPT 3.5 之前与之后

ChatGPT 通向 AGI 的可能性

AI的驯兽师:Prompt Engineer

小业务生成垂直领域的 GPT 模型

语料可能是问题,或者机会

36:58 Prompt 与未来的可能性

现阶段交互:Prompt

未来的交互:?

动手去创造更多可能性

制作人:严格

片头:Where Are You Going (Live) - 海龟先生

片尾(嘉译推荐):We Like You When You're Awkward - Sleepmakeswaves

相关

欢迎在评论区留言交流。如果喜欢《三五环》,也恳请能在苹果 Podcast 、Spotify 或喜马拉雅留下你的宝贵好评。感谢!

商务合作&嘉宾自荐,请加微信: wocaishiliufei

封面图片由 Midjourney 生成,版权所有©️三五环

展开Show Notes
KyleWuhan
KyleWuhan
2023.4.07
又是一期质量非常高的节目!
我本身也是一个NLP从业者,具体来说是做车载语音助手。最近我们内部也在讨论GPT是否会消灭掉传统的Intent+Slot的语音对话方式,我想肯定是这个发展趋势。但就像科技在短期内被高估,长期内被低估,也许直到2025年左右才会有大面积的生产环境下的取代。这一方面是因为算力的限制,另一方面也是节目中提到的,如何给车载语音助手提供更多维丰富的数据,如何激活这个模型在某个意图下的回答能力,都需要一段时间的工程能力。
这段时间不会花费太久,1~2年内足以
BayJ:看了下楼主定位 感觉可以猜到是哪家公司了😂
黑咖黑咖:现有的语音交互设计工作会被重新定义,我也期待拥抱这个变化。
香放
香放
2023.4.07
内容质量不高。
MilesNanshan
MilesNanshan
2023.4.07
什么什么飞哥居然是做NLP的!听以前飞哥各种节目还以为会是新闻广告相关的
CX_Hci
CX_Hci
2023.4.08
这期节目很棒,以前是做智能客服的PM,做法是做意图domain intent classification,然后再基于价值价值做SOP,也集成了答案生成,人工正负反馈作于强化学习提升模型效果
17:35 Instruct GPT 。最好边看论文边听
契卡0924:好像就是这篇? Training language models to follow instructions with human feedback https://arxiv.org/abs/2203.02155
officexiaoli
officexiaoli
2023.11.30
00:45 刘飞是哈工大毕业的啊…哈尔滨老乡问好~
Harryooo
Harryooo
2023.4.09
好酷啊
我是凯撒
我是凯撒
2023.4.07
听完,比半拿铁的说的浅一点点,好懂。另外,听的期间想到一个叫思维链的东西,补充一个材料吧:论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》https://arxiv.org/abs/2201.11903中提出「思维链(Chain of Though,CoT)」:研究发现通过在 prompts 中增加思维链,也就是关于一系列中间推理步骤的推力是怎么完成和提升空间在哪
付飞飞
付飞飞
2023.4.07
notes 里 刘飞成了 三五杯联合创始人🤣
momomoss01:一直是吧,哈哈
夏雨殇:三五杯是他创立的茶叶名字吧
HUBERTWANG
HUBERTWANG
2023.5.08
27:20 +1 离产品化还是有不少的差距…
HUBERTWANG
HUBERTWANG
2023.5.08
21:45 +1… 做LLM反复被这个点惊到,完全是硅基生命了.. 😨
cosmicccc
cosmicccc
2023.5.07
飞哥关于chatgpt的这一系列播客,我觉得是目前互联网上关于这方面讨论中,最值得对此有兴趣的普通人听的。
flyme
flyme
2023.4.22
虽然做了很多期,但是内容还是很有料的,获得了很多新知。
无聊的猪
无聊的猪
2023.4.11
22:27 也许就是人类的逻辑推理和归纳总结,大脑才能如此低功耗运作。AI当前的高功耗和大量的资源消耗,也许会带来科技的崩溃
18:58 加工一万多条人类指令后,就激发出 chatgpt 理解人类指令的能力。又让我想到乔姆斯基的普遍语法理论了。你说跟小孩儿聊个一万多句有效的对话后,他是否就能理解你大多数情况下的语言意图呢?
Alannister
Alannister
2023.4.09
飞哥已经聊了5期AI和GPT了,真的听不下去了😅
HD133815x
HD133815x
2023.4.07
22:24 这里的想法真棒
Chao9
Chao9
2023.4.07
47:32 非常棒 有收获!
19:35 特别想知道这么多参数难道不会过拟合嘛
我是凯撒
我是凯撒
2023.4.07
26:17 同意,运营过程中人工的部分目前来看确实很难完全被取代