15. 人类语言沉沦与AI觉醒似乎在同时发生|Deepseek ChatGPT 相对论两次出桃

15. 人类语言沉沦与AI觉醒似乎在同时发生|Deepseek ChatGPT 相对论

62分钟 ·
播放数1972
·
评论数89

AI大语言模型的发展让很多人感到振奋也让很多人感到焦虑和迷茫。本期对谈是一次理性与感性的碰撞,是一次我们在强人工智能时代到来之际对人类自己的重新审视。

不论你是像大桃一样的感性、技术盲、ai小白,还是小桃一样理性、对ai技术稍微有点概念的理工人,都会得到一点启发,欢迎加入两桃的讨论和投票。

假如人类真的毁灭于ai的一念之间,那就是毁灭于自己的万念之和。“  —— 两次出桃

本期既有任何人都能听懂的大语言模型技术拆解又有我们对人工智能的思考。什么是大语言模型,ai为什么会产生“幻觉”(Hallucination),不同训练方法(人类反馈强化学习、直接强化学习、GRPO、PPO等)导致的deepseek(深度求索公司开发)和chatGPT(openai公司开发)的区别。ai含有“幻觉”的语料存在的隐患,以及ai的”类人格“是我们的错觉吗?ai和人的意识之间会不会存在共性?还有我们对于教育的思考以及关于ai觉醒的大胆预言。

「相关节目」

两桃谈玄学

两桃谈科幻两桃谈乙游(与ai恋爱)

主播简介

单亲带娃的姐妹俩,我们希望创造哲学化 、女性化、 开放化 ,闪现的火花,无解但宽容的对谈空间。

妹妹大桃(声音清亮):文字工作者 | MBTI随时变动|天蝎爱神

姐姐小桃(声音低沉):科研工作者 | INTP药水姐|双子杠精

Shownotes:

00:00 开场:deepseek的高效和开源,极致的工匠精神

04:31 deepseek的问题在哪,蒸馏?囤芯片?no,是高(爱)幻(撒)觉(谎)!

07:50 为什么大语言模型会撒谎?可能和你想的完全不同

10:11 幻觉原因一:ai训练策略中的人为干预和约束能不能省掉?👂

14:30 你确定要打开deepseek的深度思考吗?推理模型和普通模型有什么区别?

17:55 幻觉原因二:中文语料质量低是谁的锅?👂

25:01 ai的幻觉和创造力只能顾此失彼吗?语料回流自我训练是ai的近亲繁殖

28:33 本期重点:ai语料泛滥引发的“语言沉沦”👂

37:14 ai的”类人格“是怎么回事?从教育角度谈ai和人的意识形成有什么共通性

41:35 初始语料是人格的种子,语言是一种权力👂

44:01 教育中的“人味”为什么重要?GPT对话中闪现的”人性“

52:39 deepseek和哪吒火出圈,这是新时代的民族自信吗?👂

56:24 不用花99就能得到的3个使用ai的良心建议

59:56 脑洞时间:ai共脑觉醒对人类的末世审判👂

GPT人性时刻截图

本期提到的作品和资料:

Vectara测评ai幻觉率

「播客」

两次出桃解构存在主义危机

送别大S

蒋方舟的播客

「电影」

太阳照常升起

荒野机器人

「书籍」

《孩子王》阿城

《克拉拉与太阳》石黑一雄

《红拂夜奔》 王小波

《猫鱼》陈冲

「BGM」

人生切割术主题曲

模仿游戏插曲

tropical therapy by One Ok Rock

puppets can't control you by One Ok Rock

怪奇物语主题曲

荒野机器人插曲

本期视觉设计

小桃&chatGPT

展开Show Notes
投票
已结束
6人参与
你愿意让AI修改和总结你走心的创作(包括文字、播客等)吗?
看结果
突然很庆幸我的上学时代都还没有出现ai ,大家的语言虽然不精美,但还是自己思考的结果。现在工作之后,好像ai使用频率特别大,领导不满意我方案,动不动就让我去ai上生成(但说实话,有些生成的东西真的还不如我想的,很僵化)
小桃von莉莉丝
:
和我一样 被同事说 “让ai润色下” 我!不!服! 哈哈 不过那种狗屁工作交给ai是很好的 省下时间让我做有智识享受的事情
草帽路飞:都是模板套路,反而领导很受用
4条回复
大猫_3Rcl
大猫_3Rcl
2025.3.16
AI用来写车轱辘话特别好用,说了一堆废话一句没用,比如各种公司制度、工作方案,以及投标文书,用来工业语言很节省人力,拿来做文学语言训练是灾难。可惜现在校内大量教师都用ai批改作业了
小桃von莉莉丝
:
车轱辘话 哈哈 没错
GiantPeach大桃
:
是不是因为教师们知道作业也是ai写成的
4条回复
咩_yQAe
咩_yQAe
2025.3.24
哇 这一期,感觉看到了很多不同的角度,有那种听到一个观点心里一亮的感觉。好厉害
小桃von莉莉丝
:
谢谢你接收了我们用心输出的语料 🫰
咩_yQAe:谢谢你们的用心分享🥺最后一段文案超级超级好,听得好震撼……
3条回复
HD823032r
HD823032r
2025.4.01
内容好棒!
GiantPeach大桃
:
感谢💐
卡蜜啦
卡蜜啦
2025.3.30
这期真棒啊,关注了👍🏼
GiantPeach大桃
:
谢谢支持!
仟葉
仟葉
2025.3.20
感谢互联网让我即便是在精神文化生活匮乏的一座小城市,在做着手里琐碎重复毫无创造力的工作时,也能听到你们的声音。我的语料库需要你们!
小桃von莉莉丝
:
感谢你的聆听 🫰
GiantPeach大桃
:
我……我也做着重复琐碎的工作😭
听到这里,纠结了一下,还是想给两位关注女性议题的主播留言了。虽然现在四月份了,这些场外信息你们可能也已经得到了。饺子的动画热情是一回事,但他把这份热情用于在作品中羞辱女性又是另一回事。饺子曾经主创一部叫《老板的女人》的动画,里面有非常多合理化职场性骚扰的内容。之前在douban有大量讨论的帖子已经被撤掉,weibo上还有少量带着作品原片讨论的帖子。两位感兴趣的话,可以去搜索一下。
小桃von莉莉丝
:
谢谢你的提醒!这些很值得注意⚠️其实这些信息我俩也刷到一些(可能不全)。对于哪吒这部电影 我们观看之后确实觉得技术上是值得肯定的,看完我自己在群聊里也说,“观影时必须关闭自己的女性主义脑”。其实这里我们想表达:梁文锋或者饺子团队对于技术的执着其实是八九十年代开放自由思潮在个体身上的回响,同时也想点出这种“爆款”机制里的民族主义狂欢很荒谬。
跛脚的树懒:理解。我确实习惯于先用性别叙事的角度来观察某一个创作者。当然,你们关于民族叙事的讨论也是很有价值的!
3条回复
pannnplus
pannnplus
2025.4.06
内容质量好高!喜欢这一期的很多表述和观点!
小桃von莉莉丝
:
感谢相遇在数据洪流里
pannnplus:已经向朋友奔走相告了
7条回复
MM-IN
MM-IN
2025.4.08
在你们的节目中,听到很多自己思考甚至担忧焦虑的东西,但你们表达的更准确更深入,非常感谢你们的用心制作,我想用来抵抗AI,不,应该是用来保护作为人类独特性的行动,就是继续发出自己的声音,用自己的方式表达,丰富自己的思想,链接自己真实的生活和情感。谢谢🙏你们,继续期待你们的声音
小桃von莉莉丝
:
谢谢你真诚的留言 请继续关注我们吧💗
三米围巾
三米围巾
2025.4.02
00:06 人生切割器术片头好评
三米围巾:切割
随风吧
随风吧
2025.4.27
51:50 荒野机器人是我在电影院哭得最狠的电影🎬听到她的音乐和解说视频都想哭,这里推荐一下B站up主陈小姐的十五楼3.5发布的关于这部电影的解说,解说风格有点像看球赛,也有很温柔很有力量的女性视角,看得我又哇哇哭🥹
小桃von莉莉丝
:
同 哇哇哭 是真的哭超大声
小桃von莉莉丝
:
陈小姐的影评是带领我俩看这部的原因,她评论了我俩就赶紧补看了这部
自从有了ai 我连法语作文都不愿自己写了😭 于是我的写作越来越烂了 淦
小桃von莉莉丝
:
蛙姐会法语!太酷了!还是要像大桃说的 时不时自己写写看
GiantPeach大桃
:
但是评论都是你自己写的 能透过文字感受到非常活泼有趣的性格呢
5条回复
尾号123
尾号123
2025.3.18
36:19 上次吃现做还是在加拿大小镇上的中餐馆,两个人点多了 点了四个人的量 吃了75加刀😂
小桃von莉莉丝
:
在国外 有更大动力自己下厨现做现吃
尾号123:感觉他那边是小镇太小了,是一家特别本土的那种小饭店,都是“村民”去吃,甚至可能互相都认识,也不算那种高度商业的“餐饮产业”了我感觉。不过在国外在家里确实都是自己做饭😭自己做的更放心,预制菜还是少吃😭
3条回复
50:27 啊 有点意思 人类可能也是ai。啊 克拉拉与太阳 呜呜呜
小桃von莉莉丝
:
是啊 但我们是整合且连续的 这是为什么 我也不知道
GiantPeach大桃
:
啊!蛙你也看了吗
3条回复
恐怖原子
恐怖原子
2025.5.22
04:15 gpt 3.0之前 比如gpt 2.0就开源过 3.0之后才结束开源
小桃von莉莉丝
:
这个我还真不知道,谢谢补充
50:03 哇,这里突然有点毛骨悚然,这和前面小孩教育的“果因链条”又呼应上了
小桃von莉莉丝
:
ai探讨深了 总是对人类意识是否真的是自由且独特的 产生质疑….
开场BGM是人生切割术!立刻关注了
小桃von莉莉丝
:
终于有人发现我们精心设计的开头了
采采荣木
采采荣木
2025.5.06
大语言模型不等于ai, ai目前还处在婴儿期,未来可期。
采采荣木:鸦片战争以来,中国一直被列强俯视及打压,新一代的中国年轻人已经可以平视世界,但今年的小红书,饺子,DeepSeek对推倒西方系统性的宣传壁垒,打破长期宣传下普通西方人对中国,中国文化及中国人的刻板印象,让世界不再俯视中国起到了革命性的作用。现在cnn抹黑中国的新闻下的comment的话风已经和一年前完全不一样了。
采采荣木:DeepSeek确实非常了不起,国内那么多大厂投入大量的人和钱想做出可以和Chatgpt比肩的应用,但只有他们做出来了。
随风吧
随风吧
2025.4.27
59:29 也要感谢两位主播创作的优质内容,为我带来了一些新的视角,在当下短平快的内容消耗着我们的注意力,Ai 带来便利的同时又进一步削弱我们独立思考和表达的能力,所以我现在非常珍惜和尊重还愿意进行内容创作的人,谢谢你们。
urwendy
urwendy
2025.4.13
30:50 技术的出现往往会造成更严重的两极分化