狂飙的 AI 遇到阻力,一封公开信暴露了哪些人工智能发展隐忧?

狂飙的 AI 遇到阻力,一封公开信暴露了哪些人工智能发展隐忧?

16分钟 ·
播放数45289
·
评论数102

上个月底,一封名为《暂停大型人工智能研究》的公开信引发了科技圈的轩然大波 。这封公开信呼吁,所有人工智能实验室应立即暂停训练比 GPT-4 更强大的 AI 系统 ,而且暂停时间至少需要 6 个月。签名者包括特斯拉和推特的 CEO 马斯克、苹果联合创始人史蒂夫·沃兹尼亚克 、《人类简史》的作者尤瓦尔·赫拉利、图灵奖得主约书亚·本吉奥等一千多位来自政界、商业界和学界的重要人物。这封公开信的主要理由有哪些?对信中内容持反对意见的观点都集中在哪些方面?本期轻解读就与之相关 06:24。你怎么看待这封公开信呢?你认为当下的人工智能研发需要放缓脚步吗?在评论区和我们一起聊聊吧。

本期还有关于特斯拉、腾讯与抖音、阿里巴巴和字节跳动的新动态 01:48,欢迎收听!

加入我们
你想加入声动活泼吗?我们正在寻找商业播客内容策划、节目监制和实习生,如果你有兴趣加入我们,欢迎给我们投递简历。
点击这里 了解职位详情与投递方式,期待你的加入!

听众投稿
如果你观察到有趣的日常现象,想要了解背后的原因,可以 点击这里 向我们投稿。你的发现可能会成为节目主题,如果你用音频投稿,你的声音将有可能出现在节目当中。

主播
Mengyi

幕后制作
监制:Zelin、Yifan
实习研究员:Aurora
运营:瑞涵
后期:Jack
封面设计:饭团

关于节目
一个十五分钟的晨间仪式,轻松同步日常生活与商业世界。
这是一档由声动活泼出品的清晨播客节目,在工作日的早晨,为你带来与日常生活息息相关的商业科技轻解读,开启能量满满新一天。

加入声动胡同会员计划
成为声动活泼会员,支持我们独立而无畏地持续创作,并让更多人听到这些声音。

加入方式
支付 ¥365/年 成为声动胡同常住民。加入后,你将会在「声动胡同」里体验到专属内容、参与社群活动,和听友们一起「声动活泼」。
在此之前,也欢迎你成为声动胡同闲逛者 ,免费体验会员内容、感受社群氛围。
了解更多会员计划详情,我们在声动胡同等你。

商务合作
声动活泼商务合作咨询

关于声动活泼
「用声音碰撞世界」,声动活泼致力于为人们提供源源不断的思考养料。

展开Show Notes
Jnana2024
Jnana2024
2023.4.10
10:04 “AI的风险从来不是AI本身太过强大,而是关于权力集中在人们手中,关于压迫的再生产体系,关于咨讯生态系统遭到破坏”
Jnana2024:今天认真读了一下声明:个人认为这篇文章写的不好。文章只说了现在有一些重要的社会问题,然后…就没有然后了,也没有给出一些建议或者替代方案(唉…可能这方面任重道远吧 全文几乎可以被少量原文替代:(不想阅读原文可以看这个简版~ “The letter addresses none of the ongoing harms from these systems, including 1) worker exploitation and massive data theft to create products that profit a handful of entities, 2) the explosion of synthetic media in the world, which both reproduces systems of oppression and endangers our information ecosystem, and 3) the concentration of power in the hands of a few people which exacerbates social inequities.” “We should be building machines that work for us, instead of "adapting" society to be machine readable and writable. The current race towards ever larger "AI experiments" is not a preordained path where our only choice is how fast to run, but rather a set of decisions driven by the profit motive. The actions and choices of corporations must be shaped by regulation which protects the rights and interests of people. It is indeed time to act: but the focus of our concern should not be imaginary "powerful digital minds." Instead, we should focus on the very real and very present exploitative practices of the companies claiming to build them, who are rapidly centralizing power and increasing social inequities.”
Jnana2024:@mengyi,我刚刚搜了一下Timnit Gebru的Twitter,没有找到原文。方便的话,可以发我一个那个twitter原文的链接嘛?
5条回复
HD1042362k
HD1042362k
2023.4.10
想起一句话,人生做出重大选择的时候,其实都是命运的巨变。只是当时站在三岔路口,眼见风云千樯,你作出选择的那一日,在日记上,相当沉闷和平凡,当时还以为是生命中普通的一天。

其实人类文明也是这样吧,不管后来看起来多么波澜壮阔的历史,当下的大多数人仍然只觉得生活平凡而沉闷,希望今天的早高峰不要太堵、思考五一要不要出去玩。
忒乐:想起了瞬息全宇宙
imo_kun
imo_kun
2023.4.10
最新一期的经济学人提到一个概念:data poisoning,给数据下毒。比起一眼就能看穿的 ai 的胡说八道,普通人对中毒的信息很难分辨。这倒是很大的一个风险。最近网上流传的一张通义千问的截图,说马化腾是马云的儿子😅😅😅,如果这个截图是真的,那这个数据从哪来的呢,这个数据明显是有毒的。
gpCigqFeC52
gpCigqFeC52
2023.4.10
OpenAI都开始限制区域使用了,所以可怕的不是ai而是掌握ai技术的人
Jiazhi_Tan
Jiazhi_Tan
2023.4.10
14:51 公开信应该是要呼吁设立一个底线,明确使用的规范;现在没有一个共识的道德基准,在使用上会有太多的不可预测性。
15:25 应该放缓!!美国你得等等我们啊,不用太久,2年半就行!!
carlchan_:hhh国内就不用担心
安妮羊
安妮羊
2023.4.10
03:41 腾讯视频这个操作好迷惑啊,在他平台发布的视频可以直接被抖音拿去做短视频,不用询问创作者意见吗
Grace方思:因为腾讯买了版权
幸运的宝宝巴士:因为腾讯视频的领导想活下来,今年腾讯视频要求盈利和优化内部结构
公开信呼吁暂停ai的主要理由:

一是关于ai产生错误信息

二是关于取代人类方面

是否所有事情信息化?是否开发非人类思维?

三是人工智能目的方面
安妮羊
安妮羊
2023.4.10
01:23 我认为这个暂停是有必要的。AI发展应该在可控范围内,如果连最先进的前端开发者都觉得不可控了,那就是应该约束的时候了
XeLLoEs
XeLLoEs
2023.4.10
汽车还没造出来,就开始制定交规了
09:20 真相是chatGPT是从51区泄露的,而这封反对信的背后是罗斯柴尔德家族(狗头护身)
乌拉呀哈氏乌萨奇:chagpt的boss身上纹了一个眼睛,她是共济会🐶
刘皇叔不留:你太懂了!
这期让整个事件有了股科幻片的味道了哈哈哈
Jnana2024
Jnana2024
2023.4.10
如果进化人文主义或是数据主义成为科技和资本领域的主流,那或许未来真的会出现少部分人实现“进化”…我们回想一下自己的生活,我们是如何看待其他物种的?自尼惊世骇俗的说出“上帝已死”后,人类(或者准确的说,智人)这个物种已经成为“最高”的存在,那么,如果出现更高级的存在,那多数普通的人类又将何去何从?
Jnana2024:typo:尼采,少打了一个“采”字。
阿沈_:严谨👍
4条回复
carlchan_
carlchan_
2023.4.10
15:45 就算有动物保护法,一些动物还是无法避免的死去。
Sueprill-Jin
Sueprill-Jin
2023.4.10
业余听众参与一嘴:首先,AI继续研究是人类智化必然的方向,福祉显而易见,比如脑机互联,教育将是类AI迭代式的;其次,同样的选择其实人类已经面临过不止一次,比如早期核研究也引发过同样的担忧,会不会带来人类世界的毁灭,事实证明现在我们还存在,所以倡导暂停、政府干预中止是不太现实的,重要的是有效的监控,让AI工具化、伙伴化;最后呢,对于普通人何去何存的担忧,举一个略微“中二”的比喻,以后普通人可能就是哈利波特世界中的“麻瓜”。
06:51 科技问题—>社会问题
早早早
其实放了大家都还会偷偷研究的,只是表面上没有研究而已,但是前提是一定要可控
莫蒂_THEe
莫蒂_THEe
2023.4.11
11:13 低于2美元😅