本期节目,我们回到德国文学巨匠歌德的两部作品——1797年的叙事诗《魔法师的学徒》和《浮士德》第二部,思考今天围绕通用人工智能(AGI)的争论。
在《魔法师的学徒》中,一位年轻学徒施展魔法,让扫帚替自己挑水,却忘记了让扫帚停止的咒语。扫帚始终忠实执行命令,最终却酿成灾难。这个故事恰好对应今天人工智能安全研究中的两个核心问题:目标对齐(Alignment)与可纠正性(Corrigibility)。2024年,尤瓦尔·赫拉利与前OpenAI研究员Leopold Aschenbrenner都在讨论人工智能风险时引用了这首诗。
而在《浮士德》第二部中,科学家瓦格纳成功制造出能够思考的人造小人Homunculus。这个刚刚诞生的人工生命立即展现出独立行动的能力,甚至开始追求自身的发展。我们借此讨论人工智能自主性(AI Agency)、再生式人工智能(Regenerative AI)的技术愿景,以及歌德自然哲学中制造与生成之间的区别。
最后,我们来到《浮士德》的填海工程:浮士德为了实现宏大的改造世界计划,最终牺牲了一对老人的家园与生命。他以为自己听见的是未来正在被创造的声音,实际上却是自己的坟墓正在被挖掘。如果人工智能能够完美地实现人类设定的目标,但这些目标本身就存在问题呢?
专题《古典文学中的技术反思》
