83. 智能社会将是君子社会(上):我们怎么信任AI,AI又怎么信任我们?

83. 智能社会将是君子社会(上):我们怎么信任AI,AI又怎么信任我们?

38分钟 ·
播放数8
·
评论数0

欢迎收听我们的播客第83期!本期节目由 叨叨 × 多多 × 天蓝 共同主持。

这一期,我们从叨叨断网体验时读的万老师《智能社会将是君子社会》这篇文章聊起,开启一次关于 AI 时代的“主体性相遇”。这期是上半场,我们先聚焦一个关键词:信任。我们怎么信任 AI?AI 又怎么信任我们?当 AI 不再只是工具,而是进入工作、生活、金融、医疗、军事和政策制定时,信任就不只是技术问题,也会变成分配、治理、权力和个人命运的问题。

同时,我们也聊到了“数字留痕”:如果未来你的行为、过程和记录都会成为 AI 判断你的依据,那么我们是不是也需要开始认真积累自己的数字资产?比如,做播客,其实也是一种把思考和成长留下来的方式。

内容介绍

00:00 从上一期断网体验聊到万老师《智能社会将是君子社会》,这次单开一期聊“智能”和“君子”。

00:55 AI时代的生产力拐点:用人类三次生产力革命作参照,讨论智能时代是否会成为新的历史阶段。

03:55 从“士”到“君子”:AI让人重新追问,除了定义问题和承担责任,人还要如何活得有道、有担当、有荣誉。

06:55 本期切入点:长期主义、信任、担责、声望、品德等,先从“双向信任”开始聊。

07:35 我们怎么信任AI:叨叨不完全同意万老师“人信任AI只是短期问题”,因为AI的黑盒、幻觉、资本和分配问题都可能持续制造不信任。

08:47 语料投毒与山姆奥特曼遇袭:从技术操纵到现实暴力,AI带来的不安已经不只是个人焦虑,而是社会层面的信任危机。

10:35 一个企业可以末位淘汰,一个社会不行:聊“斩杀线”、电子支付和新技术普及中不能被抛下的人。

14:40 为什么山姆奥特曼成了反AI情绪的典型:对比 OpenAI、Anthropic 和 DeepMind 的价值叙事,以及掌门人的公众形象。

18:50 不信任不是AI独有的问题:从平台杀熟、算法目标偏移和回形针思想实验,聊人类为什么需要给新技术划边界。

21:05 AI怎么信任人:以保险和相亲为例,讨论这件事是否更像“信息不对称”,以及AI为什么可能比人更擅长判断人。

23:15 多维数据与更真实的你:从步数、心率、血糖、睡眠到外卖记录,聊单一指标如何被造假,而长期、多维数据如何交叉验证。

25:20 行为是合约,过程是分数,记录就是业绩:一个人的长期痕迹如何逐渐形成“可信”的数字画像。

27:00 数字留痕:从简历和面试,到AI帮你总结技能、贡献和团队角色,职场可能变成更“作品集化”的人生。

28:50 扎克伯格的AI分身:聊数字孪生、AI分身,以及我们是否愿意把个人信息开放给系统。

29:40 AI获取你信息的代价:天蓝从杀猪盘和个人信息使用说起,提醒数据可以服务你,也可能让你变得更脆弱。

31:30 数据授权与纠错机制:从短视频平台训练模型到步数数据隐私,讨论“我知道数据被怎么用”和“我能否申诉修改”的重要性。

33:20积累数字资产不必等:即便制度和监管还没完全到位,我们也可以先把自己的思考和成长留下来。

33:50 被AI看见,会不会也被AI监视:从摸鱼、日报和落后管理方式聊到,智能时代真正重要的也许不是工作时长,而是贡献和匹配。

37:01 下期预告:如果AI时代里一切更透明,真正值得积累的可能是口碑、名望和不可替代的“君子”品质,下期继续聊。

参考

  1. 罗振宇 编著:《预测之书:1000天后的世界》,新星出版社,2026年1月

    • 万维钢:《智能社会将是君子社会》

    • 和菜头:《在 AI 缓冲期为自己谋划未来》

  2. 《得到头条》884|硅谷“站队风波”背后,美国政府与科技巨头的极限拉扯

  3. Our World in Data: “Global GDP over the long run”