93. 离开字节、MiniMax的张前川,发出AGI对人类威胁的预警张小珺Jùn|商业访谈录

93. 离开字节、MiniMax的张前川,发出AGI对人类威胁的预警

127分钟 ·
播放数28304
·
评论数162

今天这集节目是春节前,我和前今日头条用户产品负责人、前MiniMax产品负责人张前川的一次聊天。

张前川从2005年开始入行成为产品经理,经历过百度、360、字节、知乎等公司,最后一次出现在新闻是他从大模型公司MiniMax离职。

这次聊天分成两个部分:第一部分是他作为一位20年的产品经理的思考,特别是他观察到的中国内容产品演变史

第二部分是他最近半年的所思所想。和上一集节目张亚勤对AGI勾勒的乐观前景不同,关于AGI,张前川发出了对人类威胁的预警,并分析人类灭绝的n种可能性。

他告诉我,他接下来会考虑成立一家pro-human的非营利组织。

(本集节目录制于春节前)

我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)
内容产品的20年演变史
  • 02:00 张前川自我介绍:一位产品经理的20年
  • (曾供职过的企业:百度、360、字节、新浪微博、知乎、MiniMax)
  • 03:39 搜索引擎、拉里·佩奇和俞军
  • 17:35 2005-2025,过去20年,内容分发产品的演化历史和内生逻辑
  • 24:28 推荐引擎、今日头条和张一鸣
  • 28:28 小红书在推荐引擎范式的延长线上吗?为什么小红书不是字节做的?
  • 39:29 微信送礼物的功能maybe对于小红书更有意义
  • 42:50 泛化如水流有方向:女生向男生,年轻向年长用户的泛化更容易
  • 52:00 面试时张一鸣问我的问题
离开大模型公司的张前川,发出AGI预警

这里对AGI推演和92集张亚勤的观点截然不同

  • 54:10 AI是人类的最后一个发明,加速度无限大
  • 57:00 把AI当目的 vs 把人当目的(更多公司是在for AI的目的?)
  • 01:09:08 Agent就是“baby阶段的AGI”
  • 01:19:56 人类灭绝的n种可能性(人利用AI灭绝人类/AI有意识的灭绝人类/AI无意识的灭绝人类)
  • 01:24:30 人类如何幸福生存下去?
  • 01:26:03 如果AI产品收费模式是付费制,大部分人类会逐渐失去和AI的连接
  • 01:40:21 AGI公司的承诺和制度安排
  • 01:58:48 人类不要逃避危险本身而逃避思考

【更多信息】

联络我们:微博@张小珺-Benita,小红书@张小珺

更多信息欢迎关注公众号:张小珺

展开Show Notes
Julia_Scott
Julia_Scott
2025.2.21
57:33 “以人类为目的还是以 AI 为目的”——可以理解嘉宾为什么会这么想,其实从头条开始的字节系大多产品,就不再以人为目的了🙂‍↔️用户不是“用户”而是“流量”,内容作者不是“价值提供者”而是“情绪创造者”,字节员工像是“情绪内容-算法-流量-金钱”这套数字系统的构建者🤳嘉宾很早就参与了这场构建,会更容易感到碳基和硅基类似,都只是这套“世界模拟器”里可被数字化的一小部分🫣
小民淳淳:可惜啊,只有少数人这么想,每次有1个人发表对字节系产品的深恶痛绝时,总会有99个人站出来反对。
Julia_Scott:呃,好像也不需要深恶痛绝😂毕竟是否参与各种新诞生的系统,个体其实是有选择的,处于不同位置的人思考坐标系会不同~
3条回复
聂聪Nick
聂聪Nick
2025.2.26
很震撼的对谈 感谢张前川的真诚
作为一个量化交易员
过去几年旁观AI的进步 有种深深的无力感
AI侮辱了人的学习能力
人甚至不配成为AI的工具
生而为人 我很麻木

既然AGI只是时间问题
最近已经开始“享受窗外的景色”了
吃美食 睡好觉 感受自己情绪
甚至坏情绪 都因能让我体会到生而为人的意义感而变得可爱
最后一公里,享受做个人吧
drifoverat:享受做个人,等于回归动物性吗,回归生物本能吗?但是你万万没想到,饮食男女这些需求,都是人化的,而不是单纯的动物需求。什么意思呢,你每天chow down大快朵颐,可不是动物般的果腹,而是无辣不欢 追求刺激,并且有明显的从众心理,和喜新厌旧的追求刺激, 换句话说,人的基本需求从来不是纯粹的生物机制,而是自带了人化的特点(初步理解为社会属性和文化属性 但这其实是似是而非 谬以千里)。 所以这是为什么呢,弄清楚这个根源,才能明白什么是“享受做个人”。
张小珺
张小珺
2025.2.21
“We will not go quietly into the night! We will not vanish without a fight!” from the movie Independence Day
关雅荻:当年我在家对面大学教室里蹭大学生自己组织的录影带观影活动看这部电影,我还是一个中学生,我还得这句台词,当时我记得我还在想这句是不是跟二战有关系🤣🤣🤣
张小珺
:
😅😅
徐徐安
徐徐安
2025.2.23
2:04:15 最后的停顿令人震撼
我更愿认为,一个高敏感共情,高责任感团队意识,又具备深度思考能力的人,在长时间 10-12 这种高强度工作模式下,一定会非常疲惫
希望前川老师能好好休息,打打游戏充充电,也别为这段放松的时间长短设限
但是我始终相信,这样一个怀着对人类共同体强大悲悯之心的人,在又充满“电量”后,依然会有力量地站在那里,面对一切未知和挑战,这也是人类的伟大之处
空气书
空气书
2025.2.21
很好的角度,希望有更多类似讨论,而不是一味盲目乐观
不能抛开社会或政治看科技,这篇可以配合vitalik以太坊那篇配合服用
张小珺
:
确实。我来贴一下链接:https://www.xiaoyuzhoufm.com/episode/6744818a8d1233fb0df4d418
drifoverat:这里面有个更根本,技术本身源自于抽象劳动,所以不存在技术中立,技术这种方式本身就是一种价值取向,它把一切具象的 生动复杂的,用统一冷静的尺子 去衡量和控制。 当然这不是我发明的,去读巴黎手稿和德意志意识形态。读完你会发现 人类简史这样的影响力巨大的书,反而印证了红楼梦脂批的一句话“一天能卖三千假,三天卖不了一个真”。 当然就事论事,尤瓦尔赫拉利的其他书很好,尤其未来简史和智人之上,但人类简史经不起推敲,尤其是几百年前的推敲。
感觉还未到讨论这个问题的必要性时候 听起来没有什么干货
OX0x:到你们认为该讨论的时候,已经晚了
阿巴阿巴_xrhC:反过来想,那什么时候适合开始思考这些问题,且是否那个时候,全球同步认可价这种危机,同时可逆的宏观调整。
4条回复
此次访谈非常及时,关于agi自我意识,关于开源风险。现在对Agi开源的狂热太过度了,一点没意识到分级监管的必要性。
皮特曹
皮特曹
2025.2.21
男嘉宾讲话听得我好吃力呀
SUKIlll
SUKIlll
2025.2.24
这期嘉宾的声音,开车一句话都听不清…
这期最大的痛点是声音不够清晰
2:05:02 这个时间点的空白,让我有点震撼。
Decorals
Decorals
2025.2.21
2:04:55 好家伙这部分大空白我以为手机卡了
living_ROjv
living_ROjv
2025.2.21
2:05:16 很少会在同一个节目下,评论两次,这是第三次了。
叹息一声,握手言和
Hinton和ilya,以及sam,等等先导者,他们都经历过这个时刻,理想曾经交汇,责任曾经共担。
但又分道各自追寻理想
我们也许应该转换思维
如果没有他们的探索发现,没有ai的进步,也许今天ww3就已经开始,没有agi,狭窄的人类相互对砍,未来大概率也会文明自毁。
而他们某种程度上来说,是已经拯救了人类,从悬崖边上拉回来,让更多人类清醒的意识到,自身的缺陷和有限,鼓起勇气否定自我,重新建立更为宽阔的世界观

希望嘉宾也可以很快跨过这个台阶,在自己理性客观思考之后,找到那些目标--对人类整体和新文明演进最重要的事
orangeai
orangeai
2025.2.21
1:59:34 获取信息的成本超过价值就不值得获取了,这句话很有道理。抖音降低了很多信息的很大的成本,但是还有很多信息的获取成本很高。
这期感觉没什么营养,逻辑性不强,偏主观
HD563953o:那是因为你的嵌入模型太弱了,没法很好地在向量空间中安排概念
echobb66:我突然有种崇拜你的感觉。
3条回复
不二法棍
不二法棍
2025.2.21
多少有点儿杞人忧天
viewyan
viewyan
2025.2.28
听不清啊很用力都听不清
六尺湖
六尺湖
2025.2.21
AGI,好看得起人类。
木水酱
木水酱
2025.2.22
嘉宾好真诚,f人狠狠共情了