378-歌德如何看待通用人工智能

378-歌德如何看待通用人工智能

34分钟 ·
播放数8512
·
评论数50

本期节目,我们回到德国文学巨匠歌德的两部作品——1797年的叙事诗《魔法师的学徒》和《浮士德》第二部,思考今天围绕通用人工智能(AGI)的争论。

在《魔法师的学徒》中,一位年轻学徒施展魔法,让扫帚替自己挑水,却忘记了让扫帚停止的咒语。扫帚始终忠实执行命令,最终却酿成灾难。这个故事恰好对应今天人工智能安全研究中的两个核心问题:目标对齐(Alignment)与可纠正性(Corrigibility)。2024年,尤瓦尔·赫拉利与前OpenAI研究员Leopold Aschenbrenner都在讨论人工智能风险时引用了这首诗。

而在《浮士德》第二部中,科学家瓦格纳成功制造出能够思考的人造小人Homunculus。这个刚刚诞生的人工生命立即展现出独立行动的能力,甚至开始追求自身的发展。我们借此讨论人工智能自主性(AI Agency)、再生式人工智能(Regenerative AI)的技术愿景,以及歌德自然哲学中制造与生成之间的区别。

最后,我们来到《浮士德》的填海工程:浮士德为了实现宏大的改造世界计划,最终牺牲了一对老人的家园与生命。他以为自己听见的是未来正在被创造的声音,实际上却是自己的坟墓正在被挖掘。如果人工智能能够完美地实现人类设定的目标,但这些目标本身就存在问题呢?

专题《古典文学中的技术反思》

展开Show Notes
MrJiao
MrJiao
6小时前
笑死,一个整天在用人工智能的话语做播客的人,在聊人讲话越来越像机器
DelphiOracle:不要脸到了极致
云片糕泡着吃:每个播客都该有自己的调性,不喜欢换个频道就好了👌
不逾矩_
不逾矩_
1 天前
16:59 钢之炼金术师
22:07 这人造小人怎么想到了钢之炼金术士
29:47 人工智能最后发现人类破事太多,要增加整个社会的福祉,直接消灭人类是最好的
Q_z8MI:如果取消“人是最终目的”这个前提,一切就不拧巴了。人可以是途径,催化剂,residuals in statistics …
Alexpunk:拧巴之处在于人类是第一种能够产生“自己是最终目的”的想法途径和催化剂,大猩猩也之前的恐龙也不会啊。
共3条回复
07:46 魔法学徒闯的祸可能只是家里一地的水罢了…但是老魔法师可能已经在外面闯了更大的祸😂因为他会更多法术…他需要获得大人物的好印象和任何。功勋魔法师、大国重器魔法师🧙…非遗魔法传承人…遥遥领先魔法师之他们不会的我都会魔法师🪄
RayRayRaaay
RayRayRaaay
1 天前
29:37 强拆是人类的优秀传统(不是
虞山明若:世界上不同的地区都会有强拆的愿望…只是有些地方无法实现,有些地方比较容易
云片糕泡着吃:对待无法解决的问题唯有摧毁👌
己一
己一
3小时前
随着年纪的增加,反而觉得自己劳动整理家务比用扫地机器人之类的更能感受到生活的意义,如果人工智能替代了一切的人类劳动,人类不知道会异化成什么样。
听到这里 感觉现在的企业提高效率的目的也并不是改善人类生活 甚至创造产品的目的也不是改善人类生活 几乎没有什么商业机构真正为改善人类生活而设……
魔法师的学徒看过迪士尼幻想曲的改编动画
su素素
su素素
1 天前
第一
厨房小贼
厨房小贼
6小时前
哎😑 听完这一期突然意识到 战争 疾病 很多毁灭人类的东西不正是人类发明的
缓速运转
缓速运转
16小时前
就是一种先蔑视人、蔑视生命,再塑造一个【创造生命】的主题然后无限拔高的观感,就很荒诞,很疯癫。生命是生长出来的,不是一种【创作产物】,所以我对人工智能进行人格化的描述非常警惕,它很怪异。
燕兔之爱
燕兔之爱
18小时前
22:57 联想起《异形-普罗米修斯》、开场那一段感觉借鉴了这里、智能体也将自己融入到海洋里😂😂😂
03:37 歌德谈话录发生的地方是在魏玛Weimar的歌德旧居。从席勒家走过去3分钟…我第一次去歌德故居的时候,我头脑里的画面和预设是一个精致的书房。但我的体验和印象是一个博物馆和收藏馆。大量的矿物标本…大量的植物、动物标本、大量古典雕塑…不计其数的版画和各种绘画。那个时候我才回忆起来歌德在自己的书里提到的“大量的知识和学问”是怎么来的?甚至他自己说学问和知识是用无数金钱的代价…阿姆斯特丹的伦勃朗故居三楼的收藏室也有惊人数量的古代雕塑…动物、植物、矿物标本收藏。甚至传说伦勃朗就是因为大量的昂贵古董收藏,导致了破产…
己一
己一
4小时前
10:21 PKD的科幻短篇自动工厂也说的同样的事,战争结束后,自动工厂仍然在自动生产人类完全不需要的物品,工厂的生产掠夺人大量自然资源,并且每天按照战前时代的清单送到人类社区。
HD303244z
HD303244z
1 天前
你如何看待人对自己的无知和狂妄自大视而不见
羡羡_5mNI
羡羡_5mNI
1 天前
前排
zjoker
zjoker
1 天前
板凳
“古典文学中的技术反思”系列虽然未完,已经是可以把文稿整理出书的高水平高功德作品了。
c666888a:怕知道她剽窃的人太少吗?
Bluebluesun
Bluebluesun
14小时前
非常喜欢这个系列,先赞赏为敬!