《人类简史》作者尤瓦尔·赫拉利近日在接受采访时说道，“距离AI真正应用到人类生活中也不过十年的时间。ChatGPT 就像 AI 世界里的单细胞生物阿米巴，那么 AI 世界里的霸王龙会是什么样子？从阿米巴进化为霸王龙又会需要多长时间？” 作为国内最早拥抱 AI 技术的投资机构之一，我们认为在一个技术刚诞生的前几年去预测未来的终局形态和大赢家是很困难的。因此在这一波AI技术革命的早期，我们坚持以创业者为中心，相信优秀的创业者终会找到方向。在 AI 信息大爆炸的当下，我们也希望让大家听到来自一线 AI 创业者的声音。本期节目我们邀请到了 Magi 创始人、真格基金 EIR 季逸超 Peak 和大家分享他作为一名从 2012 年起就加入 AI 行业的创业者，对新一波AI浪潮的反思、观察和预测。 季逸超Peak是一位技术小天才，在高中时期独立开发了获得 Macworld Asia 特等奖的猛犸浏览器，也因此登上《福布斯》杂志的封面，获得真格基金的天使投资。后来他又主导研发了Magi知识引擎及相关的知识图谱、信息检索等NLP技术。 在本期播客中，他聊到了在LLM的领域内，创业公司应该从哪些角度切入去和大厂竞争？LLM领域有哪些问题亟待解决的问题？国内做大模型的公司是否过早进入了优化的阶段？为什么懂AI的产品经理是稀缺资源？同时，我们也选取了部分闭门会议中的讨论内容和大家分享，如果你有更多好奇的问题，欢迎在评论区留言互动，投资团队会空降评论区加入讨论噢！ 【嘉宾】季逸超Peak Magi创始人、真格基金EIR 【时间轴】 02:15 有限制的舞台给了创业者更多机会 05:14 不属于你，但与你共生的数据是真正的壁垒 09:29 别把解决了最显眼的技术瓶颈当做自己唯一的护城河 11:20 不仅是技术，行业、规模、利益分配都是历史包袱 12:27 合规是一个动态的问题，审核一定要与核心解耦 22:54 向量数据库无法让模型突破自身的上下文限制 26:36 懂 AI 的产品经理是稀缺资源 31:13 真正的多模态模型还未到来 32:54 RLHF 是手段而不是目的，其本身复杂且不稳定 36:25 大量AI创新将诞生在看不⻅的地方 37:54 AI 人才面临价值危机 40:06 前所未有的技术平权，是一个新的开始 【相关讨论】 Tianjie：乔布斯曾说，如果你足够在乎软件的话，自己就会去做一个硬件。移动互联网时代，从PC到Mobile诞生了全新的计算设备，你觉得这一波会不会有一些就是垂直整合的硬件出现？ Peak：有可能会的。比如 rewind.ai 可能是一个初步的数字永生，但它目前是依托于我的工作电脑。说不定未来就有一种更尊重隐私的录音设备，我一辈子的行动都有一个东西在录制，回头可以训练一个我的LLM。所以我觉得可能会从私人、长续航的角度会诞生一种垂直的硬件。 Terry：如果Context length变长，比如 Magic.ai的LTM-1模型现在声称支持5 million的长度，它是否可以取代向量数据库的作用？ Peak：首先，我认为更长的有效上下文窗口取代向量数据库是肯定的，它总体来说我觉得会是一个更优的方案，能解决很多向量数据库不能做的事。但我对LTM-1模型其实不是特别乐观，因为像大家已经能用到的 Claude 100K 就是能接受很长的context（上下文），但是能接受很长的输入和能理解很长的 context （上下文）这两个东西是完全不一样的。目前我们并没有一个很清晰的思路能怎样做出让它理解更长的窗口。 Peak：在LLM 等一系列新的开发范式之后，人才分化特别严重，就逐渐只剩下最精英的一群人做核心技术，剩下全都是做交付。懂技术的离市场太远，而离客户和产品近的又完全没有什么竞争力，所以长期来看可能符合创业者画像的人才的供应可能会减少。 Yusen：对创业公司来说，技术和产品长期紧密地耦合是不好的。就像在（移动）互联网领域，产品经理并不需要从技术方面了解如何去搭建一张“网”，因为互联网早已成为了基础设施；从另一个角度说，反而是技术的乐高化会带来创业机会的爆发。会搭乐高的人从长线来看是多的，但自己能造出来好用的乐高的人少。 【节目制作】 后期：虫二 【联系我们】 公众号：真格基金（ID: zhenfund） 收听渠道：小宇宙｜Apple Podcast｜喜马拉雅 邮箱：yusen_dai@zhenfund.com 如对节目有任何的建议与期待，也欢迎大家在留言中互动～

在OpenAI的YouTube官方账号里，一个小红人追着小蓝人玩捉迷藏游戏的视频有最高的点击率。 在强化学习算法下，小红和小蓝这些AI小人在虚拟世界里面不停玩游戏，一开始的小蓝只会躲，在日夜重复玩了上万轮之后，它们开始发现策略、学会协作、甚至反制。 第一期节目，我们邀请到了清华大学交叉信息研究院助理教授吴翼，他也是捉迷藏游戏的团队成员之一。在2022年回国任教前，他曾在OpenAI工作了一年半的时间。在他现在的办公室里，有意思的AI实验还在发生，有的训练AI玩游戏，有的指挥机器狗追小球，而这些共同的目的是想做一个能与人交互的通用AI。 在本期播客，你将听到：学术界与工业界之间、中美公司之间研究AI的区别在哪里？为什么将游戏作为AI的研究对象？机器人的GPT-3时刻是什么？ChatGPT对机器人有什么帮助？如何考虑AI的安全与对齐？ 【主持人】戴雨森 真格基金管理合伙人 【嘉宾】吴翼 清华大学交叉信息研究院助理教授 【时间轴】 01:56 打游戏，指挥机器狗追小球，吴翼的团队正在做什么 03:39 ChatGPT不能把事情全做完，它只是起点 10:44 OpenAI的研究方式不同于传统的学术界和工业界 11:50 如何看待OpenAI从非盈利组织转为盈利性公司？ 14:42 字节会做出中国领先的大模型吗？ 17:36 AI喜欢研究游戏，因为游戏是足够复杂的模拟世界 30:28 机器人的GPT-3时刻：机械手拧魔方 38:25 AI可以写小说、玩游戏，但做不到给你递一杯咖啡 50:24 给大模型加一些不确定性，防止它自信地胡说八道 55:08 未来人们的工作可能都在为AI创造数据 58:37 吴翼最近在筹备的创业团队 【相关资料】 吴翼清华主页 Multi-Agent Hide and Seek 这个小AI后来学会了一些奇技淫巧，我们看到以后就第二次地崩溃了 | 吴翼 一席第811位讲者 【联系我们】 公众号：真格基金（ID: zhenfund） 收听渠道：小宇宙｜Apple Podcast｜喜马拉雅 邮箱：yusen_dai@zhenfund.com 如对节目有任何的建议与期待，也欢迎大家在留言中互动～

最近6个月，以ChatGPT为代表的生成式AI技术出现了「寒武纪大爆发」。每天我们都能看到生成式AI涌现出新能力、新场景、新应用。作为一直研究和从事科技创新的创业者和投资人，我既感到非常兴奋，又和很多同行一样产生深深的担忧。 当一种新技术被创造出来的时候，其实被同时创造的还有相应的责任，但这种责任往往需要很长时间才会被人类所发现。历史教训告诉我们，在新技术造成大问题之前，人类世界往往是来不及去全面考虑新技术背后的责任的。 这期播客录制于2023年4月，我邀请了很活跃的青年AI学者符尧交流关于AI安全和对齐（Alignment）的一系列话题。在本期播客里，你将听到我们讨论什么是 AI alignment？目前主流的研究和进展是什么？大语言模型的能力不断增强，AI 的能力边界在哪里？面对动态变化的价值观，怎么 align AI？针对AI safety的研究有什么大框架？AI 是否具有意识？大模型方面中美的差距在哪里？ 【主持人】戴雨森 真格基金管理合伙人 【嘉宾】符尧 青年AI研究员 【2:30】2022年一整年，我追踪了GPT所有演化的版本 【3:49】Alignment就是，希望AI符合人类的预期，符合人类的价值观 【5:42】Open AI 在alignment上下了很多功夫 【9:49】公开信真的能防“坏人”吗？ 【16:49】在很多维度上AI会比人类强很多，但也存在一些维度AI还无法拥有人类的能力 【21:46】人类与人工智能的关系就好比教练与运动员 【26:26】如何让AI向善：给AI文明 【36:10】AI就像孩子能够迅速长大，alignment就像家长的管教，困难的同时又需要细水长流 【40:22】AI是否具有意识？AI是否能够具备意识？ 【43:36】面对AI可能带来隐式的伤害我们应该怎么办？ 【47:58】很看好国内的选手做中国的Open AI和ChatGPT 【50:48】做大模型的研究，并不需要很强的算力 【57:02】现在对于AI的预期会不会过于乐观？ 【1:00:30】让更多非专业的人接触AI，是一件很好的事 【相关资料】 Our approach to alignment research Recursively Summarizing Books with Human Feedback Chain-of-Thought Prompting Elicits Reasoning in Large Language Models Specializing Smaller Language Models towards Multi-Step Reasoning Improving alignment of dialogue agents via targeted human judgements Constitutional AI: Harmlessness from AI Feedback Red Teaming Language Models to Reduce Harms: Methods, Scaling Behaviors, and Lessons Learned A Mathematical Framework for Transformer Circuits 【联系我们】 公众号：真格基金（ID: zhenfund） 收听渠道：小宇宙｜Apple Podcast｜喜马拉雅 邮箱：yusen_dai@zhenfund.com 如对节目有任何的建议与期待，也欢迎大家在留言中互动～