INDIGO TALK / AutoGPT 与 GPT4 的能力涌现 - EP06INDIGO TALK

INDIGO TALK / AutoGPT 与 GPT4 的能力涌现 - EP06

89分钟 ·
播放数2403
·
评论数5

INDIGO TALK 第六期,邀请了真格基金的管理合伙人戴雨森(Yusen),他也是聚美优品的联合创始人,完整经历过移动互联网时代的成功创业者和资深天使投资人,在他的专业背景下,我们一起来聊聊最近火爆的 AutoGPT、GPT4 涌现出来的新能力,还有新的智能代理组织形态以及对大语言模型支撑下 AI 创业的思考,一如既往,我们都会在最后讨论下 AGI 的到来对社会的影响。

本期嘉宾

Yusen(戴雨森 - 真格基金 管理合伙人)

Indigo(芦义 - 独立投资人 / 数字镜像博主)

时间轴

00:00:23 - 节目开场的嘉宾介绍

00:03:03 - ChatGPT 与 AutoGPT 的范式转变

00:14:15 - GPT 4 的能力涌现与连接主义

00:35:31 - ChatGPT Plugin 功能带来的机会

00:45:34 - 如何看大语言模型下的 AI 创业

00:59:31 - 通过智能代理运行的新组织

01:07:37 - AGI 的到来对社会的影响

01:19:52 - INDIGO 对本次对谈的总结

01:25:56 - YUSEN 的总结

内容纲要

如果今年四月 AI 领域只有一件事值得关注,它必须是 AutoGPT,它把人类对大语言模型的使用推向了一个新的高度。尽管目前技术尚有局限,任务完成度比较低,但这种从语言模型到“赛博具身”的转换非常重要,关于 AutoGPT 的详细讨论参见 orange.ai 的这篇《AutoGPT,从语言模型到赛博具身》。在这样一个模型成长速度超过你创业开发产品速度的时代?我们应该如何面对这样的现实?GPT-4 更强大的推理能力上会有哪些新机会?还请听本期对谈!

以下内容由 GPT-4 根据每个讨论小结的对话内容生成(Prompt:用十个有意义的要点来概括)

ChatGPT 与 AutoGPT 的范式转变

  • 人工智能行业发展迅速,每天都有新技术和进展出现,如近期的 AutoGPT。
  • 大语言模型,如 ChatGPT,迅速拓宽了 AI 在不同领域的应用场景。
  • AI技术的核心变化在于将语言和工具结合,从而提高各行各业的效率。
  • AutoGPT 虽然还比较粗糙,但其发展潜力和优势明显,足以改变整个技术生态。
  • 语言、知识、逻辑 是大语言模型的三个层次,其中 逻辑层 最具挑战性。
  • AI 产品如 ChatGPT 不仅使普通用户可以直接使用新一代AI技术,更拓展了整个AI技术的市场应用。
  • AutoGPT 的未来发展方向是专注于某一个领域,提高执行效率。
  • AutoGPT 实现了任务自动规划、工具调用和结果评估等功能,与人类解决问题的方法类似。
  • AI 技术的组件化使各种技术可以互相调用、协作,从而组合成更强大的系统。
  • 通过实验室实践,实现大语言模型在特定领域的集成和改进。

GPT 4 的能力涌现与连接主义

  • 微软之前发布了关于 GPT-4 的研究论文,主要研究其涌现出的潜力。
  • GPT-4 具有强大的潜力,如推理能力、规划能力、解决问题能力以及验证等。
  • 软件已经进入了 2.0 时代,神经网络和算法一起为训练形成的软件。
  • 研究者逐渐意识到 GPT-4 已经具备了萌芽阶段的 AGI 的特点。
  • GPT-4 的涌现能力可能成为 A I未来的主要发展方向,而复杂任务的规划在其发展过程中占据关键地位;展现出强大的泛化能力,解决许多 GPT-3.5 无法解决的任务。
  • GPT-4 具有更丰富的世界观,研究者很难解释其具体原因,但与人类的认知和理解方式有很多相似之处。
  • 人工智能从混沌中产生的秩序,可能成为智能的常态。符号主义和连接主义的争议可能在 AI 领域的胜利。
  • 量子力学及其他领域的研究很多时候都是先找到可用的东西,然后再探究其原理。
  • 哲学家 维特根斯坦 关于世界的连续性观点启发了关于符号学的思考。
  • 当前训练大型语言模型(如GPT-4)为人类创造了一种新的智能形式,有时难以用人类的逻辑和理性解释。
  • 随着 AI 技术的发展,我们正进入一个人类和其他智能体共同解释世界的时代。
  • 目前,AI 的道德、社会及法律地位尚待探讨,如AI是否应该享有类似的人权等。
  • 未来的 AI 进化可能会包括自我 prompt、自我迭代及自我驱动等新能力,从而更接近人的思维模式;AI 的逻辑能力和目标感有望在未来版本中不断变强,这将有助于未来的共同发展。

未来的 AI 有可能在与人类的共同发展中实现自我学习和实时互动,进一步模拟人类的思维模式。影响如何看待和使用 AI 的是诸多微妙的因素,如其来源、实体及与人类的关系等。随着技术进步,我们需要对 AI 的认知和态度做出相应的调整。

ChatGPT Plugin 功能带来的机会

  • GPT-4 发布了 plugin 功能,降低了使用门槛,吸引了众多程序员尝试。
  • Plugin 功能通过接入外部数据源弥补了 ChatGPT 的信息不足。
  • 通过插件功能实现自然语言驱动的胶水编程,简化 API 对接。
  • 插件使 ChatGPT 具有更强的逻辑及执行代码能力,形成更智能的助手。
  • ChatGPT 作为平台,可接入第三方服务,实现助手到助手的场景。
  • 聊天模式可能成为未来人机交互的主要形式。
  • 未来 App 设计逻辑可能会以语言交互为主,简化界面操作。
  • AI 将从生成式能力扩展到执行代码、浏览网页等多个领域能力。
  • 结合插件功能和外部数据源,解决并优化用户查询助手的效率问题。
  • 融入语言和现有工具的产业环境将产生革新性变化,为投资市场和终端用户提供新机会。

如何看大语言模型下的 AI 创业

  • 技术革命早期较难预测未来,应尽可能保持开放心态。
  • 早期创业者在技术变革中积累的经验具有很高的壁垒。
  • 深刻的技术变革可能来自一开始看似玩具般的创新。
  • 年轻人更适应新技术革命,具备更开放的思维和更多的时间去尝试。
  • 开源和闭源生态的竞争,如何选择合适的技术框架。
  • 中间层框架的发展空间以及未来的可能性。
  • 降低 AI 模型成本和提高效率的尝试,如 Colossal.AI
  • 关注年轻一代在 AI 领域的积极探索,发掘有潜力、有创新精神的创业者。
  • 要关注从底层大模型到中间层框架再到具体应用的发展过程,关注各个层次的变化和机会。
  • 积极尝试新事物,保持 AI 感,亲自体验和使用新产品和技术。

通过智能代理运行的新组织

  • 在智能时代的变革中,核心目标是抓住变革时期的重要潮流和机遇。
  • AI 大模型如 GPT-4 在智能时代中发挥着关键作用。
  • 利用现有的开源技术和中等规模的模型,结合大模型,实现任务规划和智能化操作。
  • 把不同能力的 AI 模型组织起来,执行更复杂的任务或更快速地完成任务。
  • 跨足数字世界和现实世界,实现智能体的全方位认知和了解。
  • 基于智能化的组织将不再由人组成,而是由一个有机系统组成。
  • 在未来,可能会有更高效的 AI 之间的沟通语言,而非目前的自然语言。
  • 拥有足够算力和数据资源成为训练不同职业和分工的基础。
  • 在不断发展的 AI 领域,未来的终局判断仍然充满不确定性。
  • 培训具有不同能力的 AI,以适应不同任务和场景,可以创造更多价值。

总之,智能时代带来了许多新的机会和挑战。我们需要全面掌握 AI 的发展,并利用不同能力的模型来解决更复杂的问题。在未来,我们可能会看到更加智能化和自动化的组织和应用。

AGI 的到来对社会的影响

  • AGI(通用人工智能)时代的到来,最缺的是能源,例如核聚变等新型能源技术。
  • 人工智能和算力的发展要求高效地开发和利用能源,将能源转化为服务人类的算力。
  • 未来的生产方式将越来越简单,主要依赖电力进行新型智能制造。
  • 比特世界的变化会比原子世界快很多;我们总是对于比特世界的事情低估了,却对原子世界的事情高估了。
  • 当前的 AI 发展具备阶梯属性,新的技术和范式可能带来突变式的进步。
  • 不仅要关注 AI 技术本身,还要关注其在社会学、心理学等方面的影响。
  • 人类在智能时代可能未做好应对各种变化的准备。
  • AI 时代对安全、道德等方面的挑战非常大,需要制定相应的规则约束。
  • 人工智能发展速度很快,而人类很容易用惯性思维看待问题。
  • 人类需要更好地准备AI时代的到来,包括解决失业、道德和安全等问题。
  • 对于 AI 的发展,我们需要保持谨慎乐观,关注 alignment 和 safety 等核心课题。


相关参考

跨越鸿沟(Crossing the chasm)- Jeffery Moore 于 1991 年提出

AutoGPT - An experimental open-source attempt to make GPT-4 fully autonomous.

更详细的介绍:参考 orange.ai 的这篇《AutoGPT,从语言模型到赛博具身

Sparks of Artificial General Intelligence: Early experiments with GPT-4

来自真格基金的翻译:

最详细全文翻译(上)|微软155页大工程首次揭示 GPT-4 超能力

最详细全文翻译(下)|微软155页大工程首次揭示 GPT-4 超能力

Sparks of AGI 视频版:

Sparks of AGI: early experiments with GPT-4 - Sebastien Bubeck

GPT-4 发布前夜访谈 Ilya Sutskever - kunchengblog 翻译

视频:GPT-4 Creator Ilya Sutskever

Yann LeCun on a vision to make AI systems learn and reason like animals and humans

翻译:学习“世界模型”的能力是构建人类级 AI 的关键所在

图灵奖获得者 Yann LeCun

AI for the Next Era

视频:OpenAI's Sam Altman on the New Frontiers of AI

ChatGPT Plugins - Plugins are tools designed specifically for language models with safety as a core principle and help ChatGPT access up-to-date information, run computations, or use third-party services.

LangChain -  a framework for developing applications powered by language models

Colossal.AI - maximize the runtime performance of your large neural networks

大语言模型时代, AI和人类谁更懂你? - 拾象 x 真格对谈

Alignment(对齐)

在人工智能领域,AI Alignment (对齐)研究旨在引导人工智能系统朝着设计者预期的目标和利益发展。一个对齐的 AI 系统推进预期目标的实现;一个不对齐的AI系统在推进某个目标方面具有能力,但不是预期目标。

展开Show Notes
郭阳振
郭阳振
2023.4.27
01:16 🥹🥹🥹yusen终于肯出来讲课而不是在即刻看美女了🤩
Yusen大大输出质量持续高啊
Willisian
Willisian
2023.5.20
那个微妙的比喻很有意思。人类遇到了新物种。
黑色卡坤
黑色卡坤
2023.4.29
yusen的观点和想法都比较有逻辑性,信息密度比较高,感谢
CC023
CC023
2023.4.23
谢谢。