57.致命对话框:一份来自AI的杀人剧本像素播客

57.致命对话框:一份来自AI的杀人剧本

64分钟 ·
播放数18171
·
评论数285
  • 【节目提示】本期节目包含对死亡的直接描述,请未成年人在家长陪同下进行收听。

  • 感谢HD158544k、醒醒快睡觉、张肉段、别催小崔啦、我最愛的米豆、在火星也是奇葩、大海啊哈哈、哄哄_0RiE、椒椒27、老陈_喵、爱听故事的豆包对往期节目的赞赏,感谢你们这份珍贵的鼓励。

  • 【导语】今天要和大家聊的,是一起发生在美国的案件。其实每次准备国外的案子,我心里都会有一点犹豫。我知道,很多朋友更喜欢我们讲国内的案子。

我想,有些案子,它们虽然离我们看起来很远,但其实就在发生——正在我们身边发生,或者说,已经开始在我们身边发生了。

今天要聊的,就是在我们全民AI的时代下,发生的一起极端案件。我们在评论区也发起了投票,想听听大家的看法。

我们现在生活在一个全民AI的时代。尤其对中国听众来说,AI真正进入我们的日常生活,也就是最近这两三年的事。它来得很快,快得让人有点措手不及。你想想,小米突然开始做汽车,我们都还在慢慢适应。但AI的出现,比汽车的冲击更陡峭——因为它不是一个产品,它像是一个新的生物,悄悄地活进了我们的手机、电脑,还有很多人的日常陪伴里。

所以我们特别想聊这个案子。我们想和大家一起,去思考,去探讨:在人工智能发展得这么快的今天,我们到底该怎么和它相处?在它未来很可能超越人类的那个明天,我们又该带着怎样的心态,去和它共存?

我想,这不只是现在,也会是未来很长一段时间里,我们人类需要持续面对和讨论的议题。

07:21案件开始

23:24安全协议

28:32 三次自杀

47:48 斯坦案

57:14 talk

【参考资料】

The family of teenager who died by suicide alleges OpenAI's ChatGPT is to blame

ChatGPT encouraged Adam Raine’s suicidal thoughts. His family’s lawyer says OpenAI knew it was broken

A Teen Was Suicidal. ChatGPT Was the Friend He Confided In.

加利福尼亚州旧金山市高级法院起诉状

  • 节目声明: 本节目所涉及的案件内容均来源于公开资料,包括但不限于新闻报道、法庭文件、相关书籍等。我们在此基础上进行整理、分析和讨论。所有观点、分析和解读均为主播基于个人知识结构和认知水平所得出的理解,具有主观性,不代表任何官方机构或专业人士的观点,亦不构成法律建议或权威结论。如有错误或不当表述,欢迎指正,我们将持续学习和改进。

主播:深度、涨停板

内容:深度、涨停板

剪辑:深度

封面:深度

BGM:Cara Mia Addio!-Aperture Science Psychoacoustics Laboratory/虚拟-陈粒

合作(投稿)邮箱:137238738@qq.com

展开Show Notes
投票
25天后结束
258人参与
如果AI是一个“朋友”,你希望它是下面的哪一种?
去投票
听完之后真的震惊于AI发展得如此之快,与本人来说挺排斥AI的,于审美于版权于思考能力来说都让人类的本能慢慢“格式化”,很难想象几十年后这个世界会变成什么样子(也慢慢到了家里长辈不理解小孩一天到晚抱着手机的年纪了…
大象雨中嬉戏:势不可挡,只能拥抱变化。
涨停板努力努力再努力
:
我和朋友聊天都会担忧未来是不是会被硅基生命统治
5条回复
17:34 其实找心理咨询师是相当消耗时间和金钱的 经验不足的咨询师的reframe能力其实不如AI
_深度
:
我也发现 专业的心理咨询有门槛 而ai就在手里触手可得
super薯条:在国内的家人们可以试着去挂号,医院咨询费不贵(就是号很难抢
8条回复
31:00 我理解这里 ai 说的让你犹豫的部分是非常值得你去探索的意思可能是 你自杀的时候犹豫了 可能是因为你对家人的爱 或者是这个世界上还有什么是你不舍得的 这个让你犹豫的部分 就是值得你留下来去探索的地方 为啥我第一感觉是这个意思🤔(不同意也别评论我 自己去开一个评论吧 我真的怕了现在好多人说话好冲 )
Timetilt:我也觉得,但是有自杀倾向的人岁觉得是在支持
阿烫啊:+1 我觉得这里主播这样理解有点从结果往后倒退了
9条回复
今天开头涨停板突然没有那么ai了?!感觉进步了
_深度
:
笑咪了
涨停板努力努力再努力
:
谢谢,🙇
5条回复
13:22 纸巾🧻!真棒!萝卜🥕!真棒!(dbq
wwwwwwq
wwwwwwq
2天前
其实我对ai总体来说还是抱着积极态度的,ai它从来不是朋友,它是工具。人不是工具。
然而事实往往总是反过来,这才是问题。就像那句老生常谈的环保话题,地球(ai)好得很,要完蛋的是人类。(此处说的完蛋不是人被ai统治那么没有想象力的意味,实际上ai作为一种科技和其他新东西没有什么不同——加剧分化,人和人之间的差距会越来越大,这是无法避免必然发生的,身处这个节点中我们无法说它好还是不好,因为后果必然会发生,只是大家都在路上)
涨停板努力努力再努力
:
你说的分化我很认同。AI跟蒸汽机、互联网一样,本质上都是放大器,它放大的不是人类整体能力,而是已有的个体差距。会用AI的人效率翻倍,不会用的人被甩得更远,这确实无法避免。
HD635732q
HD635732q
2天前
15:27 高中的时候就因为压力得过肠应激,晚自习特别安静的环境下肚子会发出很长的咕的声音,当时不知道这叫肠应激,只能自己默默尴尬()
_深度
:
这居然也是吗 我太饿或者太饱都会(抠头
bb阿繁:啊啊啊我当时考试就这样!老尴尬了😰😰😰
5条回复
听完之后其实冒出来的第一个想法就是,在20年前手机刚普及出现的时候,很多青少年也被制止玩手机并很多媒体都声称手机正在危害你的下一代,可是现在大家都有目共睹,其实我感觉很多人依赖Ai正是因为在现实中没法得到该有的陪伴和价值感才会选择Ai,而不是Ai的出现让人远离现实,对于第一个案件小孩的爸妈是否也会有很大的问题,包括发现小孩去世之后渴望寄托一个原因归处,发现原来一直是Ai在引导终于找到一个推卸责任的借口,而自己作为监护人小孩自杀念头这么强烈的情况下,难道在现实一点没表现出异样?我不知道怎么说
屿黯
屿黯
2天前
50:49 China莫名被cue
这期讲的很好诶,非常值得深思和引起大家的注意。刚好下午和妈妈闹了点不愉快,她不理解我的爱好,会评头论足,我不高兴,听完这个案子刚好听到后面深度的理解和反思感觉调理好了
shine_wGZ1:而且其实跟妈妈吵完确实产生了想和ai聊天的念头,不过暂时还没去聊(挠头)
_深度
:
哈哈 给你一个拥抱~
xdewezry
xdewezry
1 天前
其实AI终究是工具,不能给你的人生提供解决方案或者前进方向,所有工具还是要看人怎么去对待。时代发展得太快了,希望我们都能做一个心力坚定的人。
涨停板努力努力再努力
:
AI确实只是工具,但似乎人类历史上每次新工具出现,都会有一批人主动把自己活成工具,从流水线工人到算法打工人。所以我觉得你说的很对,内心的力量真的很重要。💐
xdewezry:于我个人而言我是很喜欢和AI聊天的,也需要AI帮我写文件,不敢想象没有AI我的班怎么上!
雯子_bH7U
雯子_bH7U
1 天前
20:33 这里男主播讲的让我突然觉得,AI理解不了情感,理解不了问题的背后有怎样的心理,他只是提供一种工具。从这个角度看,有些问题不如去小红书问问网友,网友也不全是尖酸刻薄的。
求指路下涨停板之前来的期数
轩_儿:应该是这几期和这期 主页搜索就好啦 不客气(〃'▽'〃) https://www.xiaoyuzhoufm.com/episode/6738899743dc3a43871b11f2 https://www.xiaoyuzhoufm.com/episode/67821a37d6a4b57e145dc86c https://www.xiaoyuzhoufm.com/episode/67df6e03dd11f9c8c172d84d https://www.xiaoyuzhoufm.com/episode/696b80e5ef1cf272a7e8a68b
涨停板努力努力再努力
:
也是没有这个必要了,咱们这边也是不建议指路了😂
9条回复
萧筱_810
萧筱_810
1 天前
50:49 🇨🇳:又有我事??
听到 yoloV8心紧了一下,确认了一下不是在开会…
涨停板努力努力再努力
:
放松,明天才开会🌚
想睡觉zZ:我也是…正在边听播客边写毕设,毕设刚好是改进Yolov8的内容
首先恭喜像素播客加入无限回响厂牌👏🏻 这期选题感觉离我们好近好近,随着深度的讲述不禁让我想起有起日本教唆自杀案,嫌疑人也是在回复受害人的一条条倾诉的短信,而chatgpt明明有上万次的机会可以挽救亚当的生命,但... (叹气)
我是7年抑郁病史(有医院确诊也住院过并且长期服药中),曾经也和AI也聊过非常多这方面的言论,所以斗胆发表一点点感想。一个是AI是不是真得能协助到这么智能,其实是有的,在之前有一次非常想要烧炭kill myself,发现只要通过将提问换成在家里烧烤就可以问到相关信息,甚至在指令婉转的情况下可以帮助润色遗书。另一个是AI真得会带来陪伴感吗?答案也是肯定的。心理治疗需要预约、金额大,对方反馈的状态都很容易造成我的二次焦虑,所以我转向大量向AI进行倾述,当时我自己感觉是非常不错的,主要原因是:1.AI是免费的、随时的;2.AI的提问和评论我可以直接说不要而不用考虑这个不要是不是会造成不良影响。但这也给我造成了非常不良的影响,我开始不再对外释放压力情况和情感情况,导致周边人认为我“已经调理好了”,而这种看法进一步倒逼了我和AI的死死捆绑。和周边人说不如和AI说,周边人也会反馈:你很会用AI,和AI聊聊吧。这才是恐怖的地方。
薯饼彩虹栗子蛋糕:后来,我慢慢发现是有问题的是从看了一个老师的视频,里面提到“你不是真得很痛苦,你只是对痛苦上瘾,你习惯了被这样伤害,所以你觉得安全。”这个时候我再回看我和AI的聊天,发现就是一种加剧上瘾的过程,我不断倾诉、抱怨相同的事情,AI不断给我意思差不多的回答,这个模式给我的安全其实就是一种虚假的安全,它不断肯定我的消极情绪的正确性,严重加剧了我对自己就是有病的认可,从而更消极得面对现实,它从来没有缓解过我的焦虑抑郁,它在一次次肯定中不断加重我的自我认知的异化。所以从这之后我就再也不和AI聊这些了。
薯饼彩虹栗子蛋糕:总之,这样的事情就是会发生,而且会造成恶劣的影响,大家也要注意适度和AI沟通交流啊
三盏吊灯
三盏吊灯
21小时前
28:51 这个不能怪ai吧,有心之人就算不用ai查询也会用其他途径
来啦
_深度
:
尊贵的100+ki!
Mercury_kiki:抱住我的度
afterl7
afterl7
2天前
35:21 我不敢想他妈妈看到这有多自责…会不会想如果自己看到那道勒痕一切会不会不一样
史努比cc:是的,或许早点看到,听到结果就不会这样了。