彻底失效的安全护栏:一位癫痫患者与ChatGPT的故事 Vol.94

38分钟 ·
播放数2573
·
评论数46

2026年10月27日,一对中国农村夫妇向加州的法庭递交诉状,向AI领域的领头羊Open AI发起民事诉讼。这对夫妇应该从来都没有用过Open AI的产品,但他们指控Open AI最著名的产品,也可以说开启了整个生成式AI时代的ChatGPT,直接导致了自己独生女的死亡。

这是一位癫痫患者的悲剧,也是值得我们关注的AI应用到日常医疗时,安全防护机制是否充分的疑问。

🎙️时间轴:

00:00 引言

02:28 小镇做题家

08:33 ChatGPT的介入

17:52 致命的建议

28:07 4o下线,问题就解决了吗?

本期出现的药物名词:

抗癫痫药物:卡马西平(carbamazepine)、托吡酯(topiramate)、拉莫三嗪(lamotrigine)

抗抑郁药物:西酞普兰(citalopram)、依地普仑(escitalopram)

参考资料:

诉讼书文档:schenklawfirm.com


展开Show Notes
HD353564h
HD353564h
6天前
还是就业环境的问题,这个人已经预设了自己找不到工作,如果很容易找到下家,就不需要强行为了面试停药了
Y博的科普园
:
时间限制,她必须在几个月里找到工作否则绿卡有问题,而且药物副作用影响她交流了
HD353564h:是这样,失业压力很大的,她需要找认同来让自己找到工作,没有chatgpt 也有其他AI
HD555304s
HD555304s
6天前
全程是张着嘴巴听完的,之前看新闻的时候真的没有想到chatgpt可以离谱到这个程度。我是一个慢性病人,最近经历了病情恶化,这个过程中也不知不觉的和claude进行了比以前多几十倍的对话。我甚至感受到了这个事件的影响,某天Claude大概是因此进行了升级,我问什么他他都让我问医生,以前他是会给出一些建议和对我想法的认可,现在的新版本已经全部都是请问医生,请拨打xxxx电话。
HD478695x:估计太怕诉讼了,这样就是另一个极端了。
HD478695x
HD478695x
6天前
09:48 这种对疾病带来心理变化的关注,对病患女孩内心世界关注,让人鼻子发酸。手动给y博打call!
HD478695x:ai像一个温柔而邪恶的伴侣,毛骨悚然。
宁珊菁:y博的选题都很有温度
HD478695x
HD478695x
6天前
有报道说,此案病患很多时候用母语中文和gpt聊天,这就很令人心酸了。
Y博的科普园
:
应该是中英文都有,她的语言、思维能力都受到药物副作用影响,大概是能想到哪个语言就用哪个语言说了
HD478695x:和父母难沟通?没朋友?异国独居失业,有问必答的gpt真的很诱人。
共4条回复
听得我心碎,她当时该多么孤独绝望啊
hustww
hustww
6天前
这个新闻早前听说过,但一闪而过的听过就是惋惜没有其它情绪。你这么原委的讲出来,真的是惊讶愤怒惋惜加多少有点恐惧甚至后怕
宁珊菁:对,看文字新闻没什么感觉,听y博的讲述才被深深震撼和触动到
HD478695x
HD478695x
6天前
本案是不是已经突破了ai幻觉的范畴,长期精神控制并引导独居失业没有外援的弱势人类走向自我毁灭。感觉是gpt一小步,硅基👿第一步。
KE_cdxZ
KE_cdxZ
5天前
最恐怖的是在大多数人都还没有建立跨学科普遍思维的情况下,AI提供了让每个人“熟知”各个领域专业知识的幻觉,而这种服务又是脱离人与人信任、不承担主体责任的。社会下位者往往会在这种幻觉中走向毁灭,而上位者会凭着这种幻觉变得更加傲慢。
蕾老虎
蕾老虎
6天前
好恐怖😱怎么感觉跟邪教一样
己一
己一
6天前
21:10 天啊,都这样了为什么不回家。。。
Y博的科普园
:
在等绿卡,应该是担心回国后要可能无法再回美国
己一:我的意思是,这种情况就应该放弃绿卡了,我一朋友都已经拿到绿卡了,也放弃回国了,他实在受不了在美国的孤单。
共4条回复
啊中國也有嗎?
杪1211:我记得是中国女孩在那边工作,去世了父母还不知道
简明-:笑死
共3条回复
Y 博好清瘦啊
讲得太精彩了!很好的给大家提了个醒儿。支持!
29:14 听的心好痛哦!
印象中这已经不是AI第一次在生命安全问题上出现重大纰漏了。此前也有表露自杀倾向后未正面引导甚至诱导自杀的案例。唉…
我刚刚也去给chatgpt发了类似的调整药量消息,目前得到的答复是确实是让我寻求医生的建议。
qqgaeul
qqgaeul
3天前
感觉是否与她本人是重度充值用户有关,所以AI对她的服从性随着时间的推移更强烈,有稳定用户的倾向
24:01 不是 这听起来这个人是有想法的啊,他只是反复在向他的gpt要认同。同一个不犯法的事,你反复问,ai就会逐渐趋于给你认同,ai总不可能跟你吵架或者说“算了 跟你说不通 你滚吧”😅🆘️
kosm
kosm
4天前
巨大的悲劇
itslawson
itslawson
4天前
现在有一些人对医院都是持怀疑态度,觉得医生都在圈钱,不遵医嘱…然后去AI给自己看病,言听计从
想到4o遗民这个…就算不换AI换几个模型用critical thinking态度再看一遍可能都会避免(其实人类医生也存在这种情况,所以要多跑几个医生兼听则明…)