12
5在本期播客中，我们深入探讨了人工智能（AI）的机遇和风险。通过分析几位顶尖思想家的观点，包括诺伯特·维纳、朱迪·阿珀尔和斯图尔特·罗素，我们揭示了AI发展的历史与未来挑战。维纳对自动化失业的早期预警、阿珀尔对深度学习黑箱问题的担忧，以及罗素提出的价值对齐问题，均展示了AI技术的复杂性和潜在风险。此外，乔治·戴森提出的模拟计算与数字计算的区别，引发了对AI本质的深刻思考。听众将获得关于AI多维视角的启发，理解其对未来生活的深远影响。
00:02:04:人工智能的思辨之旅：从控制论到认知模型的转变
00:04:06:深度学习的黑箱问题：解释与可解释性的重要性
00:06:09:AI目标设定：从麦达斯国王的困境到人类价值观的诠释
00:08:10:麦达斯困境：AI的不确定性与人类价值观的兼容性
00:10:10:追求人类真实目标：AI的明确不确定性与安全关键性探讨
00:12:25:AI目标学习的挑战：不确定性、自信度与安全性的平衡
00:14:55:数字逻辑与智能的局限：重新思考人工智能的方向
00:17:23:人工智能的未来：从离散逻辑到模拟计算的转变
00:19:54:AI的未来走向：追求无限潜力还是确保可靠可控？
00:22:24:AI的未来命运：掌控还是敬畏？——思考AI技术的终局目标
00:24:55:AI的未来之路：探索价值对齐与人类意图的挑战
00:27:20:AI工具：思考其目标、安全性和信任程度的重要性
