人类终将真假难辨吗?AI 内容会如何“污染”我们?-Vol72

人类终将真假难辨吗?AI 内容会如何“污染”我们?-Vol72

92分钟 ·
播放数6109
·
评论数83

从苏黎世大学在Reddit的“最出格互联网研究”以及真假难辨的 AI播客音色 说起,谈谈AI 如何渗透内容制作,植入隐性价值观,并追溯技术史,揭示“真假”如何被社会建构。最后,为你提供在 AI 时代不内耗、保持清醒的实用指南。

本期节目是Orpheus微见和脑放电波共同制作

03:03 - Part 1:AI 已在身边,真假难辨的日常与隐形“价值观手术刀”

你以为 AI 离你很远?苏黎世大学 Reddit 实验揭秘 AI 惊人说服力,竟是人类 3-6 倍,实验伦理引爆争议。小红书上的“真人”美女、AI 自动标注的“华人女性”关键词、我们差点被骗的“雷军沉默 53 天”播客标题……AI 不仅在生成内容,更在悄无声息地影响你的认知与判断。影视飓风视频切片被曲解,AI baby 播客用孩童声音讲成人段子,甚至 AI 生成的法庭证词,都在挑战我们的底线。

AI 污染的完整步骤:解构语境、加入内容制作流程、提升个性化程度迎合推荐算法、极化循环并植入隐性价值观

39:53 - Part 2:“真实”本是奢侈品?技术如何一步步重塑我们的“真假观”

86 版西游记的“穿墙术”吓坏道士,手机拍月亮从“作弊”到习以为常,这一切都指向一个被忽视的真相:“真假”并非亘古不变,而是技术与社会共同塑造的产物。彼得·博格的“现实社会建构论”与鲍德里亚的“拟像与仿真”理论,为你揭示我们如何活在层层符号与叙事之中。从纸币到比特币,从实体钱到虚拟支付,我们对“真实”的接纳度一直在变化。

1:04:26 - Part 3:AI 时代的生存法则:告别“真假”内耗,重塑信息本能

当 AI 生成内容占据信息主流,与其纠结“真假”,不如反问“它如何影响我?这与我的思考自洽吗?”。培养 Fact Check 习惯,对轻易获得的极端观点保持警惕,理解观点如商品,背后皆有成本。调整你的“信息本能”:少即是多,警惕无法溯源的信息,解构信息背后的语境与动机。拥抱 AI 的积极面,用它提升效率,甚至用 AI 对抗 AI 生成的阴谋论。清华大学沈阳教授提出,AI 正孕育全新学术文明,知识将是涌现的。未来,我们或许不再依赖信任,而是依赖验证。

本期提到的部分概念与案例:

  • 苏黎世大学 Reddit AI 说服力实验
  • 谷歌 Veo 模型与“威尔史密斯吃面条”难题
  • AI Baby Podcast 与价值观植入
  • 彼得·博格《现实的社会建构》
  • 鲍德里亚《拟像与仿真》
  • 华为手机拍月亮事件
  • 清华大学沈阳教授关于 AI 与学术文明的观点

勘误:节目中提到的“什么值得买”平台目前AI内容生成数量占比为44%,暂未超过一半

节目中用到的音乐:来自monkeyman535的90's Rock Style,地址freesound.org;来自kjartan_abel的Berlin Town,地址freesound.org;基于 CC BY 4.0 DEED 使用。

参考:

欢迎订阅脑放电波,2024/25苹果播客周度推荐节目、小宇宙累计10次编辑推荐单集、2024CPA播客中文奖年度科技数码类播客

欢迎在评论区留言发表你对 AI内容 的感受与看法,我们将选取其中三位评论送出脑放电波定制周边:一把酷酷的金属电路板尺子

获取文字稿以及更多未呈现在节目中的扩展阅读,欢迎添加脑放电波小助手微信(BrainAMP01)加群参与讨论

人物:

  • 主播:托马斯白-脑放电波主播,资深科技营销人,前XR创业公司CMO,科技媒体特约作者; Nixon-脑放电波主播,XR产品经理,前科技媒体记者.
  • 嘉宾:秦旷-Orpheus微见主播,播客厂牌回声场联合创始人,哲学与语言爱好者,从事商业传播及品牌咨询近10年,长期关注媒介、技术、商业对社会及个人的的冲击与影响。「媒介研习」、「现代病」系列播客节目曾获「小宇宙播客大赏年度专题策划」
  • 剪辑制作:Zeno

脑放电波往期节目精选(搜索关键词可收听)

脑放电波是一档关注科技前沿、品牌营销和个人成长的谈话类节目。每期带给您一个有趣有据的话题,帮您在信息严重过载的现代世界小幅自我迭代。您可以在小宇宙、苹果播客或者其他泛用型播客客户端搜索“脑放电波”找到并关注我们,如果您对本期节目有任何疑问,欢迎您给我们留言,如果您觉得这期内容对你有所帮助,欢迎您关注点赞收藏转发,这对我们非常重要。

展开Show Notes
Nixon_Hu
Nixon_Hu
2025.6.16
置顶
欢迎评论互动,抽三个,送我们的周边“钢铁直男尺”
Nixon_Hu
:
自荐一期音频节目,从苏黎世大学在Reddit的“最出格互联网研究”以及真假难辨的 AI播客音色 说起,谈谈AI 如何渗透内容制作,植入隐性价值观,并追溯技术史,揭示“真假”如何被社会建构。最后,为你提供在 AI 时代不内耗、保持清醒的实用指南。 03:03 - Part 1:AI 已在身边,真假难辨的日常与隐形“价值观手术刀” 39:53 - Part 2:“真实”本是奢侈品?技术如何一步步重塑我们的“真假观” 1:04:26 - Part 3:AI 时代的生存法则:告别“真假”内耗,重塑信息本能
迷失的贵族:尺子收到了 很漂亮 手感也好。感谢👍
3条回复
唐田Erika
唐田Erika
2025.6.16
开头我真惊了
Nixon_Hu
:
哈哈哈哈哈
段誉_Lr40:开头女声并不是很自然,音调很高
贼宝
贼宝
2025.6.16
主要是reddit在英文社区地位比较神圣不可侵犯,有很强的社群感,是唯一一个人味比较重的平台,默认大家都是花了心血自己写的答案,最关键的是因为现在大部分互联网上的文字内容都已经被拿来训练了,reddit算是唯一一个真实的新内容产出平台,openai和reddit有data agreement,openai拿reddit的数据训练的,然后这群人跑去污染reddit这个数据源🫢
Nixon_Hu
:
Reddit 卖数据业务还赚挺多钱的吧?
贼宝:是的 财报里有说
冰梨雪糖
冰梨雪糖
2025.6.16
01:47 开头听那段男女对话,就在判断到底是不是AI生成的。当你这样想的时候,不管答案如何,都说明未来已来。
Nixon_Hu
:
人类已经输了💔
洛圣都出租车司机:在白左泛滥的世界,也许人类输了也不是坏事。
Bianer
Bianer
2025.6.16
小宇宙听了一个纯Ai的播客,听一会就很奇怪了。订阅度也不高
Nixon_Hu
:
蚂蚁多了也能吃大象
完全没有听出来是 ai 生成的语音,男生甚至还有吞音和模糊的情况。女生的断句多少有一点点可疑,但是不事先指出来我会以为是稿子看串行了……
Nixon_Hu
:
哈哈哈哈哈哈哈哈哈
夏橙Cheng
夏橙Cheng
2025.6.16
精品节目!这一期我听完后有启发,因为我也是每天用 AI,现在已经高度依赖了。除了工作之外,还会跟他聊各种内容,谈天说地。真怕哪一天戒不掉。
Nixon_Hu
:
短短三年之间,大家的习惯都变了
Hendry_
Hendry_
2025.6.16
非常棒的一期,很有收获,感谢!
Nixon_Hu
:
感恩
托马斯白
:
感谢支持!
Mike-Wu
Mike-Wu
2025.6.16
1:32:03 哈哈哈这声音不就是杨大壹老师吗?
Nixon_Hu
:
遠邍
遠邍
2025.6.18
开头吓我一跳我以为串台了然后耳机坏了杂音这么大哈哈
一分白
一分白
2025.7.02
02:14 开头的播客是用的《黑猫侦探社》的主播的训练或者克隆的,之前就觉得像,后来她也在最新播客承认了。其实之前声音克隆还有文转语音(TTS)技术已经不差了,差就差在都是用类似于正式音频训练的,文本也缺少语气词,所以哪怕声音再像,听起来还是假。而播客是一个完美的语音池子,高质量而且语气感很重,所以这次才会这么真实。国外模型英文那边已经模型都很好了,只是中文差,这次字节做完中文的语音等于直接超车了。
Nixon_Hu
:
专业
Avatarer19
Avatarer19
2025.6.30
讲的真好,希望大家多听听这个
Nixon_Hu
:
感谢
HD505959s
HD505959s
2025.6.18
信息密度很高,很喜欢,了解到很多
SUiTHiNK
SUiTHiNK
2025.6.18
1:01:04 前面这段聊得太好了!
1:00:35 新的“现实”会不会让我们对现实产生不满,在现实中得到满足的阈值被拉高,而不断去追逐更新的体验,或者说逃避现实。
HD610501z
HD610501z
2025.6.16
开头男声是大一的吗?
沒毛的貓:我觉得很像,女声特别像黑猫侦探社的咪仔
Nixon_Hu
:
有人说是他,但是我不确定我不是他的粉丝
火火烙丝
火火烙丝
2025.11.24
1:20:05 突然想到一个例子:如果一个人拍了一张照片放进图形处理ai里将镜头畸变的变量修改掉,生成出的图片到底是真实还是虚拟呢?
Nixon_Hu
:
虚实结合结合的领域事实上很难讲。
点典点
点典点
2025.7.04
ai的本质是基于统计概率论进行模式识别,所以生成出来的东西,不能认为是authentic,但能认为是具有统计代表性的。但是当循环引用出现的时候,ai开始影响input原始数据本身的模式分布了,它就改变了我们最初设计ai的基础。这真的很恐怖
点典点:所以我们如果要问一个具体事件,最好不要去问ai而是直接溯源,但如果我们想问询一个本身样本量很大的事件,希望得出一般规律,可以问ai。
南初_BFOR
南初_BFOR
2025.6.27
老师们,该更yu7了!催更
托马斯白
:
这就录。。。
讲到小红书的部分,我认为存在某种人为的 AI 污染行为,从另一种角度可以作为参考。说雷军沉默 53 天,这个其实跟当初说雷军冰冷的 40 亿一样,可能从一开始就是人为故意切的片,隐去中间缓解挑大的时间节点或者数据,选择性诚实的去呈现内容,达成背后人物的意图。
Nixon_Hu
:
我这个素材就是看到你给一片标题是“雷军沉默53天”的文章点赞了(你确实是我身边最懂车的朋友了哈哈哈哈)