208.AI沈奕斐犯错,责任在谁?人工智能的发展值得恐慌吗?沈奕斐的播客

208.AI沈奕斐犯错,责任在谁?人工智能的发展值得恐慌吗?

108分钟 ·
播放数22184
·
评论数104

今天这期播客,聊聊我AI人工智能。对于AI,我其实是一个悲观的门外汉(毕竟作为社会学者),所以这期播客邀请了正在研究AI领域的商建刚来当本期嘉宾(鼓掌),由他系统解答一下我的一些入门问题:

什么是AI人工智能?AI会思考与自主行动吗?现在很多人要研发AI沈奕斐,可靠吗?如果AI沈奕斐犯错了,责任在谁?人类到底有没有做好人工智能到来的准备?人类有必要恐慌AI的发展吗?

听完这期播客,你也可以分享你的看法。

【本期内容】

02:11 什么是AI?

11:00 AI会思考与自主行动吗?

14:32 AI的黑箱效应是什么?人工智能会产生幻觉?

26:36 AI沈奕斐可靠吗?

34:57 AI沈奕斐犯错了,责任在谁?

41:12 题外话:别人的文章用我的内容,算侵权吗?

44:57 用我的语料训练自己的AI,有问题吗?

52:35 B用C的故事通过AI生成的内容属于谁?

59:09 Al生成的内容侵犯了别人权利,谁承担责任?

01:08:09 对人工智能的恐慌有必要吗?

01:14:29 人类到底有没有做好人工智能到来的准备?

01:41:30 最后的总结和思考

【One More Thing】

-我的「社会学爱情思维课」增加了沟通彩蛋课,如果感兴趣,也可以: 搜索公众号“光之来处”去购买。

-我的「沈奕斐家庭教育课」已经上线,这不只是一门关于父母和孩子的家庭教育课,更是一门自我成长和爱的课程。如果你感兴趣,请搜索公众号「光之来处」。

-如果你对「在2021年聊性别」感兴趣,你可以: 在「小宇宙首页搜索」和「沈奕斐的播客主页」看到这个付费播客的购买入口, 我们也把「提纲」放在「购买页面」上了,你可以去详细看看和试听。

出品:光之来处

策划:商建刚 格林

设计:马晓羽

剪辑:达达

合作请联系:frankyzp(添加请注明来意)

展开Show Notes
想听沈老师和商老师讲讲最近很火的初步举证,感觉正好是女性主义✖️法律题材,和两位老师的专业很契合
虫山Ellen
虫山Ellen
2025.3.28
马车夫被司机替代掉了,需求还是被人类填上。但司机被ai替换掉,那对人的需求就凭空消失了,感觉选择“马车”和未来的“司机”都被抛弃了。
22:31 是的,我们学校毕业生都开始用ai写参考文献了,很多都是假的,因为AI会根据你的要求给你答案,它这种能力叫指令遵循能力,就是商老师说的涌现能力的一种,涌现就是一下突然出现了,确实现在开发人员不能解释这种现象😂我之前看过一个网课,说其实生成式AI回答问题的时候会用成语接龙的形式,比如你输入””“北”字,它会随机输出后面接的文字,可以是“京” 可以是“方”这种,根据几率来。
北冥汘泷:感觉就是把其他文献或者数据拆开重组,拼成新的但是没有创新的东西,类似于ai画图。
_元_:好像和我了解到的不太一样,在3Blue1Brown的相关原理讲解视频里面,讲ai生成文本的原理是把输入的文本转化为一个个数据,通过过往喂给ai的数据库,来给出输入的文本结尾下一个最有可能的字输出,最后组合成文段。
7条回复
祁子垚
祁子垚
2025.3.28
唉,ai绘画其实也是一个很让大家担忧的点,现在ai绘画已经“吃”了大量画师的画作,并且基本上大街小巷的广告商都使用ai图片来打广告……
北冥汘泷:但是ai现在连手指都画不好,经常六个手指头三个手指头,而且肉眼很好辨别ai味儿的画,并且ai画出来的画透露着假完美的僵尸感也没有创新,还是只能当画师助手跑一跑灵感。我感觉有追求有审美的商家还是会花钱让人画的,真用一眼ai的画的话作为路人我会感到很反感,觉得这个商家喜欢小钱办大事,出品也不会高质量。
祁子垚:我觉得问题不是它画的好不好,良币驱逐劣币是市场规则,重点是ai吃的这些画作的原画要如何为自己维权,她们很难证明这个AI吃过她们的画,或者说这个AI的哪些部分是从她们那边偷来或者抄来的东西……AI学会绘画的过程本身就是偷的,一切画作都是融来了,他们已经跳过了支付版权费过程在向用户收款要求付费使用本身就是违法的……
3条回复
北冥汘泷
北冥汘泷
2025.3.28
确实需要警惕和反思新科技滥用,不止是ai,还是要以人为本以全人类福祉为目的地使用科技,保护基层人的就业岗位,而不只是一味追求高科技但实际幸福感低的社会。不然新科技只会挤占底层人的生存空间服务上层人,《头号玩家》那种现实水深火热人们精神寄托于赛博乌托邦的世界也离我们不远了。
samsamlin
samsamlin
2025.3.31
1:14:45 车速太快啦哈哈哈哈
元气熊
元气熊
2025.3.28
1:12:10 哈哈哈哈就这么丝滑地开车了
HD28679p
HD28679p
2025.3.31
1:08:13 哈哈哈哈哈“你只是'嗯'你还是拒绝承担~”“那生成奥特曼也要赔偿吗”桑葚的对话真的太可爱了
金山大丸子:哈哈哈哈哈哈桑葚是cp名吗哈哈哈哈啊
XiongMeng
XiongMeng
2025.3.31
1:14:27 听老师们开车了,哈哈哈
Myears_
Myears_
2025.3.30
52:08 沈老师想说的是反刍(chú)吧哈哈
XiongMeng:我猜也是,哈哈哈
Mischief
Mischief
2025.3.28
01:19:17 感觉人类还没有做好AI时代的到来,AI这么发达让人觉得谈恋爱和爱本身有没有意义。
北冥汘泷:我感觉自己永远不会和AI谈恋爱,因为他总是顺着我的话说,没有灵魂,不过有的人很会调教能调成自己喜欢的类型🫢,真的太🐮了(人比AI🐮的那种🐮
喜旧厌新:技术上很容易解决,增加传感器捕捉信息判断你的情绪变化,再加上不断学习,很快就会可以变成可狼可奶了……让你爱不释手
3条回复
23:40 哈哈哈哈哈哈哈 我也一样 支持沈老师!真的不是把天聊死 而是真的 没有我想要的文献........空欢喜一场 我恨🥹 现在科研已经不AI了🥰
无限上自举证
XiongMeng
XiongMeng
2025.3.31
1:17:46 关于人工智能的影响,推荐《智人之上》这本书,从历史的角度来看看人工智能对人类和社会的影响(ps:赫拉利的观点偏悲观)
XiongMeng
XiongMeng
2025.3.29
为什么会产生幻觉,在网络上找了一篇文章,截取一段。

---
当前,国内外的生成式AI模型普遍采用Transformer神经网络架构,将海量数据用于计算机预训练,通过概率预测原理生成文本、图像及视频。

什么叫概率预测?沈阳举例,假设跟AI说,有个记者采访功底很好,AI可能会脑补,将该记者的背景与名校新闻系关联,“从概率上来说,这样解释最合理。”但实际上,记者的职业路径并不完全如此。

概率预测这一技术路径存在一处先天性局限:训练数据中普遍存在统计偏差、事实性错误和过时信息,导致模型在优化过程中,必然继承这些数据特征,最终生成内容不可避免地具有倾向性,有时会偏离客观事实或用户预期。

用DeepSeek的解释来说:AI系统底层设计原理与人类认知逻辑本质上有根本差异,在“合理流畅”与“绝对真实”间权衡时,AI通常选择前者,所以可能会生成流畅但不准确的内容。
yuyake
yuyake
2025.3.28
1:39:09 感受到了沈老师的慈悲心🥹
1:46:59 最后推荐的是哪部电影呀🎬?
商建刚
:
还有明天,下周五播客
贝壳小贝贝:赶紧去看
4条回复
常素平
常素平
2025.4.10
沈老师的一系列课程哪里可以买,可以听?
华心澄语韩华艳:抖音里有推广智慧关系学和松弛父母,听了很受益
佩宜
佩宜
2025.3.28
1:06:40 哈哈哈哈哈好可爱的对话
小芋头大耳朵:1:06:37 我觉得要!权力责任要匹配相同。
Mischief
Mischief
2025.3.28
01:46:16 心理咨询过程,如果AI能够替代,其实现实中,已经开始替代了,他很能提供情绪价值,这看起来似乎是好的。普通朋友也能提供情绪价值,那普通机器人进展到可以成为心理咨询师的证明是什么,就像人成为心理咨询师要考证。最后如果AI执医过程导致患者不好结局,是否要考虑多因素导致,因为即使是真实人类心理咨询师接诊也有概率导向这个不好的结果。如果AI能在法律上承担医疗责任,医生差不多就要被取代了,生命健康安全掌握在AI手中还是挺可怕的。
北冥汘泷:应该是AI公司承担,毕竟赚钱AI不花,都跑到公司口袋了