AI大语言模型的发展让很多人感到振奋也让很多人感到焦虑和迷茫。本期对谈是一次理性与感性的碰撞,是一次我们在强人工智能时代到来之际对人类自己的重新审视。
不论你是像大桃一样的感性、技术盲、ai小白,还是小桃一样理性、对ai技术稍微有点概念的理工人,都会得到一点启发,欢迎加入两桃的讨论和投票。
”假如人类真的毁灭于ai的一念之间,那就是毁灭于自己的万念之和。“ —— 两次出桃

本期既有任何人都能听懂的大语言模型技术拆解又有我们对人工智能的思考。什么是大语言模型,ai为什么会产生“幻觉”(Hallucination),不同训练方法(人类反馈强化学习、直接强化学习、GRPO、PPO等)导致的deepseek(深度求索公司开发)和chatGPT(openai公司开发)的区别。ai含有“幻觉”的语料存在的隐患,以及ai的”类人格“是我们的错觉吗?ai和人的意识之间会不会存在共性?还有我们对于教育的思考以及关于ai觉醒的大胆预言。
「相关节目」
主播简介
单亲带娃的姐妹俩,我们希望创造哲学化 、女性化、 开放化 ,闪现的火花,无解但宽容的对谈空间。
妹妹大桃(声音清亮):文字工作者 | MBTI随时变动|天蝎爱神
姐姐小桃(声音低沉):科研工作者 | INTP药水姐|双子杠精
Shownotes:
00:00 开场:deepseek的高效和开源,极致的工匠精神
04:31 deepseek的问题在哪,蒸馏?囤芯片?no,是高(爱)幻(撒)觉(谎)!
07:50 为什么大语言模型会撒谎?可能和你想的完全不同
10:11 幻觉原因一:ai训练策略中的人为干预和约束能不能省掉?👂
14:30 你确定要打开deepseek的深度思考吗?推理模型和普通模型有什么区别?
17:55 幻觉原因二:中文语料质量低是谁的锅?👂
25:01 ai的幻觉和创造力只能顾此失彼吗?语料回流自我训练是ai的近亲繁殖
28:33 本期重点:ai语料泛滥引发的“语言沉沦”👂
37:14 ai的”类人格“是怎么回事?从教育角度谈ai和人的意识形成有什么共通性
41:35 初始语料是人格的种子,语言是一种权力👂
44:01 教育中的“人味”为什么重要?GPT对话中闪现的”人性“
52:39 deepseek和哪吒火出圈,这是新时代的民族自信吗?👂
56:24 不用花99就能得到的3个使用ai的良心建议
59:56 脑洞时间:ai共脑觉醒对人类的末世审判👂
GPT人性时刻截图

本期提到的作品和资料:
「播客」
「电影」
太阳照常升起
荒野机器人
「书籍」
《孩子王》阿城
《克拉拉与太阳》石黑一雄
《红拂夜奔》 王小波
《猫鱼》陈冲
「BGM」
人生切割术主题曲
模仿游戏插曲
tropical therapy by One Ok Rock
puppets can't control you by One Ok Rock
怪奇物语主题曲
荒野机器人插曲
本期视觉设计:
小桃&chatGPT

