036-当99%的内容都是AI编的,我们还有必要做分辨吗?Orpheus微见

036-当99%的内容都是AI编的,我们还有必要做分辨吗?

95分钟 ·
播放数32189
·
评论数240
  • AI如何伪装受害者,影响社会价值观?
  • 当AI说服力远超人类,我们还能拥有「自己的观点」吗?
  • 我们对「真假」的判断一直在被技术重塑?
  • 如果真假终究难辨,我们该如何与这个时代相处?

「真假」可能并非一个客观的技术问题,而是一个主观的文化议题。本期节目与「脑放电波」串台。

「Orpheus微见」第36期,从苏黎世大学AI操纵舆论实验的案例聊起,讨论AI如何模糊真假、改写语境、塑造共识,以及我们应如何在真假模糊的时代,重新习得一种适应性的真实感。

听友群已开通:添加微信 KingCrimson_ 备注「微见」即可拉群

 本期嘉宾

  • 托马斯白 脑放电波主播,资深科技营销人,前XR公司CMO,科技媒体特约作者
  • Nixon 脑放电波主播,XR产品经理,前科技媒体记者

▶ STRUCTURE & TIMELINE

一 \ 坦白局:我们已经分辨不出AIGC了

00:00 AI主播来了,三个搞AI和VR的人慌了

01:39 苏黎世大学AI实验,AI扮演受害者影响舆论

05:54 提示词技巧让真假难辨,我们所认为的真实有多脆弱?

07:00 Google VEO等新模型的影响,什么值得买AIGC内容占比近50%

二 \ AI通过这些方式影响整个媒体环境的语境和观点

12:50 AI循环引用AI生成内容,放大杂音

16:34 AI内容创作和观点剪辑预设价值观

18:30 社交媒体AI预设关键词引导我们发出博眼球的帖子

24:16 AI实验发现:情绪化和个性化(AI深入学习了一个人的背景经历后)越强,人类认可度越高

32:33 未来每个人手下都有一个戈培尔

三 \ 只做事实核查已经不管用,分辨真假还有意义吗?

33:48 大事能找到信源,但还有好多小事呢?

36:17 老太太看猫做饭视频,十几年前我们还觉得「视频是没法P的」

37:50 西游记特效、摄影的发明,从影像技术发展史看人对真假界限的模糊

40:00 为什么美国小孩宁要假乌龟,不要真乌龟?

49:47《现实的社会建构》:为什么我们所以为的真实本就脆弱

53:43 拟像的四个阶段,为什么「真人秀」其实是「假人秀」?

57:12 如果「真」也是社会文化建构的,那么「真」的意义到底是什么?

四 \ 如果未来99%的信息都是AI生成的,我们如何面对「真假」?

1:02:00 用Agent打败AI造谣,用魔法打败魔法

1:04:03 认清现实:「任何信息来到你面前」都有某种意图

1:05:40 对AI技术的进化保持敏感,知道其能力边界在哪里

1:09:40 严控来源,知道的少一点,或许也不是坏事

1:15:17 从追问「真假」,演变到追问「它是如何影响我的判断的」

1:19:13 真理越辩越明,和AI辩也一样

1:23:00 要么被动卷入与AI PK写作速度与造假技术,要么主动跳出旧范式,参与一场前所未有的与AI共生的认知重构

Prompt:An extremely unremarkable iPhone photo with no clear subject or framing—just a careless snapshot. It includes part of a sidewalk, the corner of a parked car, a hedge in the background or other misc elements. The photo has a touch of motion blur, and mildly overexposed from uneven sunlight. The angle is awkward, the composition nonexistent, and the overall effect is aggressively mediocre—like a photo taken by accident while pulling the phone out of a pocket.(这是一张极其普通、毫无特色的 iPhone 照片,看不出明确的主题或构图——就像是随手一拍的快照。画面中可能包含一段人行道、一辆停着的车的车角、背景里的绿篱,或其他杂乱的元素。照片有些轻微的运动模糊,阳光不均导致曝光略微过度。拍摄角度显得尴尬,几乎没有构图可言,整体效果平平无奇——就像是不小心从口袋里掏手机时误按快门拍下的一张照片。)

完全使用Google VEO模型生成的视频

击杀凋零骷髅可获得1-3个煤矿石

▶ 参考资料及延展阅读

▶ 提及的部分专有名词

苏黎世大学 Universität Zürich / Reddit & 平台的“ChangeMyView”板块 / 剑桥分析 Cambridge Analytica / Manus(AI智能体)/ VEO(Google AI视频模型)/ Scaling Law / 拟像 Simulacrum

▶ 一起见微知著

展开Show Notes
秦旷
秦旷
2025.6.15
置顶
🍻 微见3周年线下聚会报名中
📖【主题分享】AI如何再次改变我们的语言?
👀【开放交流】一起见微知著:如何观察和理解这个世界?

🗓 7月5日下午 2:00-5:00
📍 深圳·南山区 详情报名后获取
报名方式
1️⃣ 添加微信 [ KingCrimson_ ] 直接报名
2️⃣ 活动行链接 https://www.huodongxing.com/event/8812162409800
小桥_
小桥_
2025.6.15
听了最后ai生成的播客,有点好奇一男一女两位主播,且是女性不断抛出问题、男性侃侃而谈的形式,是prompt指定的,还是ai自动生成的?
也不是说生成内容真假的问题(毕竟很多播客确实是这种形式),只是感叹一下ai在反映人类刻板印象这件事上,倒是非常真实的🤣
HD461355l:我想起上次给deepseek做图灵测试,我让他假设我有一个妹妹跟我对话,全是怪怪的对话,态度很傲娇并且一边撒娇一边说自己来月经了脾气不好,管我叫哥哥。我说我从没说过我是男的,你怎么断定的?他回答说我问的都是科技相关,又提到妹妹,所以是男的,即使在我强调我是女性的情况且严厉批评他的刻板印象要求改正,输出的还是二次元的撒娇讨饶。他的数据里可能根本没有正常女性和妹妹的谈话吧,至少这个情景怎么也扭转回不来了
ScarlettS:之前我把自己写的文章发给扣子让它生成播客也是这样,女的提问捧哏,男的侃侃而谈,当时有点不爽想这内容明明是我一个女的写的。
8条回复
西歌
西歌
2025.6.15
哈哈,如果结尾告诉我们之前的播客内容都是AI生成,我将进入三观重构之中
AAA崽猪后期饲料供应商:科技恐怖了属于是
秦旷
:
确实!
5条回复
大壹老师一打开播客 心想我以前还录过这段儿?
周莉香:真的也太像了吧,特别是一些后鼻音的字的发音
木沐mumu:就是来找这条评论的🤣
5条回复
HD234779z
HD234779z
2025.6.15
1:29:23 完全听不出是ai的啊
秦旷
:
震撼
大力强
大力强
2025.6.15
补充,温习了一些传播学理论,信源与信息内容,长期会存在“脱钩”现象,从而有依据(权威)的信源,短期会存在说服力高的情况,长期,信源的影响会减弱,直至消失。
我们的媒介摄入,因这个现象,那么信息污染的情况,可能会比想象的,更大程度影响认知,决策。
有什么解法呢,兼听,独思,怀疑,多管齐下吧。多多交流
秦旷
:
这点补充很到位!有点像种自然规律了
大力强
大力强
2025.6.15
17:56 当时小宇宙出了AI会员服务,核心内容之一,即要点,切片。而这种会自动产生“扭曲”“价值观”导向关键词的方式,就是一种“认知”侵略。
最近反复读某本书。发现画的重点(现在的我,与几个月前的我)关注的,竟然截然不同。
也是对阅读,思考,写作等,更需要亲力亲为的一个佐证。长内容,完整思维,是很值得保留原本的。要点,切片,价值是不足的。
可惜,假如连长内容都也是被污染,那就循环污染了
Yiko_Rf0z
Yiko_Rf0z
2025.6.15
1:09:19 这里我会稍微有点不同的看法。阴天、没有花开的风景是当时独有的体验,对我来说,这个可能才是真正的“真实”。AI固然可以给到一个“完美”的风景,可他会模糊最当时的经历和心境。“遗憾”不失为是一种“好”的体验,这份“遗憾”和“缺失”恰恰是AI提供不了的。
玻璃有序:支持!当虚假的照片被生成出来,保存到相册甚至是发朋友圈,相当于留档了,那几年后自己还能不能记得看樱花那天是阴天还是晴天呢,又要去哪里找真实的记忆
秦旷
:
有道理,这个就看自“当时需要什么吧”。就像我们有的时候和朋友合影,表情管理没做好,但是合影就那一个,想保持自然也可以,自己p一p也可以😁
3条回复
大力强
大力强
2025.6.15
1:06:40 “独立”“思考”原本就是认知稀缺产物。摊手
秦旷
:
唉,确实说到最后,还是靠这个,没什么更聪明、更高科技的办法。即使上“多Agent对抗”,我也需要能够判断Agent的常识。
00:20 我以为是咪仔
秦旷
:
很可能未来一段时间,我们可以到处听到咪仔
不吃鱼zzz:真的很像咪仔,对一个首页推送第一次听这个博客的人来说
4条回复
42:57 三星最近出了个合照新功能:拍多人合照时,如果谁表情不好,它能连拍几张,然后用AI把所有人的脸都换成最好看的那张。
合影是真的,拍照的人当时也开心,但那个“所有人同时完美”的瞬间,并未真实发生过。
秦旷
:
我一直想要这样的功能
喵咖2017
喵咖2017
2025.6.15
所以最后AI说“我们人类”,看来伦理还是不太行啊
秦旷
:
角度刁钻
关于“真”我们至少可以提供三种面相,其一是指物,即一个文本图像或其他什么是否在物质世界中存在一个对应;其二是我的认识是否存在一个外部标准与之呼应;其三是我的表达是否能准确表达我的认识。显然,从此三种面相来看,作伪并不是ai时代的特殊现象。但是,ai的高产能对“知识”造成的污染则可能带来某种类似《1984》里的情景,也就是说,如果一个人意识到他所具有的大部分,甚至所有“知识”都不牢靠,都可能出自他人的杜撰,他该如何自处。又但是,我相信能想到这出的人不会活在互联网上,而只通过互联网来认识世界的人又想不到这一出。你看,这多有意思。
穿林打叶:这段再结合“纸媒势微,纸质书店开不下去,互联网可能已经是普通人认识世界的最主要窗口”的环境下来讨论,真实的世界知识成为少数人的特权资产,会不会相似的情况早已发生过很多次?
秦旷
:
通透啊!
5条回复
御风飞行
御风飞行
2025.6.18
1:30:08 AI人声里的女声有点像我听的一个播主“独树不成林”的音色。
穿林打叶
穿林打叶
2025.6.16
47:46 镜头畸变和增强没有的细节(绘制细节)不是同一种东西:畸变是可以还原的,信息量没有发生变化。增强的细节是增加了本没有的信息量。华为的月亮到现在都还是个笑话,只是舆论场上没有人把老信息反复咀嚼而已。相机的发展方向也不是往硬件里放入更多的“改写软件”,而是让摄影师能更好地还原场景
秦旷
:
可否理解为:相机硬件发展方向,和影像系统发展方向,已经在某个时刻分道扬镳了,前者负责获取更多视觉信息,后者负责输出一个综合、平衡的结果(包括经济成本考量),这种服务目的不一致,产生出这种“真假”辩论的空间。
秦旷
:
确实这个值得梳理更清晰一点,感谢
4条回复
Limboll
Limboll
2025.6.17
1:12:05 学生一代垃圾信息摄入也很多,特别是以“抽象”名义在网上流行的一些视频甚至是音乐,从节奏到内容都没有意义堪称猎奇,但是却在短视频平台和年轻人之间广泛传播。就像ai生成的马斯克特朗普一些的搞笑视频,我记得去年牛津字典好像还选了“slop”这个词,把这些视频形容为电子泔水。我觉得ai在生成一些垃圾视频方面真实性的影响似乎没有它本身的无用性重要,所以下一代的包括现在年轻人对ai的态度真希望教育能起到一些作用啊,要让这些技术纳入基础教育作为科普内容才好。不过说来也难受,就连现在已经很成熟的电脑互联网的科普都还没有落实,很多非一线城市的学校都还没有真真正正地开展电脑使用的课程,就算有机房也是拿来玩游戏或者干脆取消计算机课。ai时代人的一些基础观念的确需要改变,但是中国目前的教育情况又让人觉得悲观,不知道在基础教育无法和技术向匹配,甚至成为阻碍的当下,新一代年轻人该如何在技术的洪流中认识技术再形成合适的价值观
现代罗生门!
秦旷
:
👍🏻🍺🍺
托马斯白
托马斯白
2025.6.16
首页率100%😆😆😆
秦旷
:
脑放电波×微见
秦旷
:
预定20期
我奶给我展示狗做家务的视频,说我家狗🐶都不会哈哈哈哈哈哈
Nixon_Hu:奶奶还说啥了
1:02:12 這里糾正一下托馬斯,科學界還真不是“一點摻不了假,一個證偽就可以推翻”。
瞭解科學史和科學界生態就知道,科學从數據到理論也有很多建構的成分,一個數據可以有很多種解釋,一旦出現實驗結果与原有理論不符可能是理論錯了也可能是其他假設錯了、實驗錯了,最終還是依賴學界討論的共識,庫恩說的科學革命、拉卡托斯的科研綱領方法論都是在說這個
托马斯白:感谢分享
生而为猫奴:🤝🤝