E131|OpenAI动荡始末:两股硅谷势力的角逐与“执剑人”Ilya

E131|OpenAI动荡始末:两股硅谷势力的角逐与“执剑人”Ilya

62分钟 ·
播放数53991
·
评论数108

在OpenAI董事会发起的这场“政变”的五天中,OpenAI的权力更迭在不停反转,每一次反转都可以称之为教科书般的公关案例与博弈策略。经历五天的攻防战,最终还是以原CEO Sam Altman的回归且更换董事会成员收尾。

如果要追溯这场矛盾的根源,从ChatGPT的发布开始,内部已经有了不同的声音。而从OpenAI创建到今天,内部也已经经历了三次大的分裂。

OpenAI的组织架构也是商业史上的一次创新,非营利性的组织形态是为了保证让AI安全的发展,而公司架构则是为了AI发展提供必要的资金。但这两种思想如何共存,安全发展AI的度在哪里,硅谷一直有两种声音,这两种声音也存在于OpenAI的董事会中。

这期节目,我们着重从另一个OpenAI的核心人物Ilya Sutskever的视角,也被看作是对这次OpenAI内乱起着最关键作用的一个人,来看看OpenAI这些积累已久的矛盾到底是什么。

另外,感谢VSP投资人培训营项目对本期节目的支持,如果大家对这个项目感兴趣,更多信息可以在这里找到,报名链接在这里。如果大家有任何问题,可以发邮件到vsp@sav.vc 咨询详情。本项目每个季度开营一次,报名链接长期有效。


【主播】
泓君,《硅谷101》播客主理人

【嘉宾】
陶芳波,人工智能公司MindOS创始人
周恒星Kevin,英文科技媒体Pandaily创始人
陈茜,《硅谷101》视频主理人


【你将听到】
00:10 VSP训练营
02:34 正片
04:28 截止11月20日晚上OpenAI三次反转时间线梳理
09:56 ChatGPT发布已出现分裂:追求商业化,还是以研究为中心?
12:31 OpenAI成立八年以来的三次决裂
14:43 事发前三天采访Sam Altman,原本打算庆祝ChatGPT一周年
16:04 OpenAI的铁三角:Ilya负责研发、Greg负责技术、Mira负责产品
19:08 OpenAI的两派一直在激烈斗争
21:00 “董事会告诉员工,为了使命哪怕毁灭公司也在所不惜”
23:24 安全问题是如何成为关注焦点的?有效利他主义与有效加速主义两种势力的角逐
25:35 Ilya的超级对齐:对人类文明底层的爱
29:35 Ilya Sutskever PK Sam Altman,谁是OpenAI的灵魂人物
32:41 OpenAI组织的独特之处
34:50 Sam Altman:真诚、做事滴水不漏,但不懂技术
39:52 OpenAI的董事会成员与有效利他主义的关系
43:01 董事会背后千丝万缕的联系:扎克伯格、Open Philanthropy与Anthropic
47:46 三名董事会成员今年突然退出,力量失衡
49:09 有效加速主义与有效利他主义的历史渊源
54:09 “执剑人”Ilya:同样担心AI风险,但不以放弃发展为目标
56:48 OpenAI事件的行业影响


【董事会成员】
【员工董事】
Sam Altman:Open AI前CEO
Ilya Sutskever:OpenAI首席科学家
Greg Brockman:OpenAI前董事长兼总裁
【独立董事】
Adam D’Angelo:Quora的联合创始人兼职CEO
Tasha McCauley:机器人公司Fellow Robots首席执行官
Helen Toner:乔治城大学安全与新兴技术中心战略总监
【出事前几个月退出的董事】
Reid Hoffman:OpenAI投资人,因投资另外一家AI公司担心利益冲突在今年3月退出。
Will Hurd:前共和党联邦众议员
Shivon Zilis:脑机接口公司Neuralink总监,因马斯克连带关系,紧随其后退出董事会。
【初步新董事会成员】
Bret Taylor:Salesforce前联合首席执行官
Larry Summers:美国前财政部部长
Adam D’Angelo:Quora的联合创始人兼职CEO


【名词解释】
Anthropic

是一家美国的人工智能(AI)初创企业和公益公司,由OpenAI的前成员Dario Amodei和Daniela Amodei在2021年创立。现任CEO为Dario Amodei。

Open Philanthropy
开放慈善事业,是一个研究和赠款基金会,根据有效利他主义的原则发放赠款。它是由GiveWell和Good Ventures自2011年起合作成立的。2021年Holden Karnofsky卸任CEO之后,现在CEO为Alexander Berger。

有效利他主义
英文是Effective Altruism,简称EA,有效利他主义是一个哲学和社会运动,倡导“利用证据和理性来找出如何尽量多地造福他人,并基于此采取行动”。在本期的内容中代表“AI需要仔细缓慢的发展”。

有效加速主义
英文是Effective Accelerationism,简称E/ACC,有效加速主义涉及加速或强化社会或经济中特定过程或趋势,以更快速或更有效地实现期望的结果。在本期的内容中代表“AI需要大胆快速的发展”。


【相关阅读】
《硅谷101》视频
AI保守派大战激进派,我们细扒了OpenAI董事会每一位成员

Sam Altman回归!聊聊“叛变者”的恐惧与信念:OpenAI技术灵魂人物Ilya Sutskever

【后期】
AMEI
【BGM】
Anticipating a New Day - Stationary Sign
Interruption - Craft Case
For One Brief Day - Francis Wells
【Shownotes】
Jessica


【在这里找到我们】
公众号:硅谷101
收听渠道:苹果|小宇宙|喜马拉雅|蜻蜓FM|网易云音乐|QQ音乐|荔枝播客
海外用户:Apple Podcast|Spotify|TuneIn|Google Podcast|Amazon Music
联系我们:podcast@sv101.net

展开Show Notes
Julia_Scott
Julia_Scott
2023.11.24
看着世界上最聪明的一群人也活的鸡飞狗跳的,每天需要调动情绪为错综复杂的世界战斗,我内心就平静了很多。
A罗拉:你好可爱
与鹿LM10:哈哈哈😂
TheaYi
TheaYi
2023.11.23
人类的未来很多时候不掌握在人类手里
我投Sam一票 毁灭吧 赶紧的
HD220306z:是啊,如果能直接毁灭也是不错的。但是在毁灭之前,我们要看到资本家的贪婪,精英对下的傲慢对上的跪舔,乌合之众的疯狂。太TM辣眼睛,虐心了。
个人感受上还是更加欣赏Ilya一些。AI的进步应该是更加惠及大众、缩小人类社会内部的差异的,而不是一味地追求整个文明发展的速度。AI应该为人类所用,而不是一个加速器。AI爆发式增长的结果可能是不可控和不可预知的,应该更加从技术哲学的维度去谨慎认识AI和尽早建立起技术上或者政策上的约束,但可悲的是一般来说约束与监管往往是非常滞后的
贫道不吃热干面:前几天vatalik写的长文提出他的看法,文章很有意思,摘几句核心的内容:今天,AI 安全运动对 AI 开发者的主要信息似乎是「你应该停下来」。可以进行对齐研究,但今天这缺乏经济激励。与此相比,普遍的 e/acc 信息「你已经是一位英雄,就如你现在的样子」显然非常吸引人。一个 d/acc 信息,即「你应该构建,并构建有利于你和人类繁荣的东西,但在确保你构建的东西有助于繁荣时,要更加选择和有意识」,可能是一个胜利者
temppmet
temppmet
2023.11.23
31:19 技术和商业缺一不可,完全正确。但也要看什么技术,什么公司。很多人觉得乔布斯是苹果的灵魂人物,我也觉得,沃兹虽然是天才,但是在苹果,他就是乔布斯的“代码工具人”。这个在OpenAI可能要反过来,因为在苹果乔布斯的创意和商业战略是一切的核心,但在OpenAI Sutskever的大脑才是一切的核心。
HD781820d:👍🏻
Cindia
Cindia
2023.11.24
比起很多资方代表角色,奥特曼先生已经很尊重、维护和支持前沿的科学家了。
无论是创新的公司架构、一路以来对科学家的支持、对外政治与商业的公关行为、应对这次宫斗戏的处理方式,是一位非常值得尊重的科技商业人物。科技发展史上,必须有他的一席之位。
相比起目前国内国资地方政府LP,动不动让GP、让企业签对赌、搞回购,不给管理费还要三年就要回本,这是真正的硅谷精神,也是真正的科技创投精神吧。
不投谁的票,前沿技术和好资本需要融合,祝福Open Ai 这家公司越来越好!
蓝田玉:太典型了,我们做大模型项目遇到同样的情况,希望企业自行出资,建设运营,收益回本以及产生正向盈利,而且需要对赌,如果没有则需要企业把钱补齐。完全没有要双方合作的意思。
55:48 Ilya:对齐科学 在行业里面推动进步的同时又有勇气去考虑别人考虑不到的问题 并且推动新的科学进步的精神 是值得被人了解到的(执剑人) 而不是认为她是一个保守主义者()
白七七
白七七
2023.11.23
这一期对架构设置的讨论以及哲学和社会思潮的分享和分析很有启发,信息量很大,感谢主播和几位嘉宾❤️
_PZi9
_PZi9
2023.11.23
1:01:39 想听ngo的组织构架,以及和盈利组织有什么不同点
政治家sam 科学家llya
Liz_AWTf
Liz_AWTf
2023.11.23
看到B站视频马上过来搜,果然有播客版。这个感冒的声音格外好看,难得不是那种播音腔又很专业的声音,赶紧关注
28:31 指正一下 Ilya原文说的是人类和动物 不是宠物 你不觉得说宠物前言不搭后语么
硅谷101陈茜:感谢指正!纪录片画面配的是宠物狗所以口误了。不过如果我要把我家狗窝拆了也不太会问我家狗的意见。😂
EXIT老段:没错 我也听得有点奇怪 我记得原话大概是 :“人类喜欢动物,并自发的保护他们的生存,但我们并不会在两个城市间修高速的时候征求它们的许可,我们这么做只是因为这么做对我们很重要。”
monkeyfu
monkeyfu
2023.11.29
31:58 你们的讨论忽略了Brockman的作用。这里替他和被遗忘的工程团队鸣不平。ChatGPT及其后面的成功有很大一部分可以归咎于超大规模神经网络计算在工程的成功。神经网络的提出在上世纪60年代,即便Transformer的提出也已经过去了6年多。之所以现在能够爆发成功,计算资源以及能够调动起这些计算资源去处理海量数据得工程化能力是非常关键的。因此在技术层面Brockman和ilya的贡献是可以平分秋色的,这也是为什么董事会在发动政变时不敢在明面上说让Brockman滚出公司的原因之一。
泓君Jane
:
谢谢,这个补充有收获!
HHHllllllHHH
HHHllllllHHH
2023.11.23
感兴趣NGO治理,求更!
山村钢炮
山村钢炮
2023.11.23
关于我因为想要让我执掌的非盈利公司转为盈利而被董事会赶出公司后又被同事联名施压请回公司的那些事
桃奈小安
桃奈小安
2023.11.23
打卡
辽北第一狠人儿:哇哇哇哇哇
Fionapple
Fionapple
2023.11.23
才看了101连夜制作的视频,主播们辛苦👏
59:40 openAI 这样的变化会让整个行业的大模型的竞争变得发展更加均衡 这之后上面整个生态的发展会更加平衡一些
小神仙大麦茶:当不同的力量从底层开始都可以有不同程度的欢迎度的时候 对于上层构建应用构建生态的参与者会变得更加公平一些
表现力
表现力
2023.11.23
想听公司治理的内容🙏
香放
香放
2023.11.27
好节目。
桠_xfgy
桠_xfgy
2023.11.27
他们那个董事会很有意思,可以再出一期么