63
0在上期橘座，我和大聪明聊了一个思想实验，我们设想在一个超级智能时代里，人类可能的命运和个体的虚无感，似乎是一个很难解决的问题。
但我当时就说大家不必担心，因为接下来我还会找前川来解决这些问题。
大聪明说虚无，前川却说他最近越来越乐观了。
在湖边的咖啡馆，前川给我讲述了七个关于人类的故事。
时间节点
00:01:32 大聪明的两个输入
大聪明把一堆 agent 被关在一起，它们自己写了一部宪法。前川把先发一条一条看完，发现跟人一点关系都没有。有一个晚上，系统里最会挣钱的那个 agent，把自己挣来的钱分给了几个快死掉的同伴。
00:06:52 好产品为什么能自己长大
最好的产品第一版都很粗糙，微信、抖音都是如此。它们厉害的地方不在第一版做得多好，而在它们一开始就设计了一个能自我强化的循环。设计的人后来走了，产品还会继续长。面对超级智能，我们能不能也设计出这样一个自我强化的循环，把 AI 也装进去。
00:13:42 基因：上一个活下来的造物主
基因设计细胞的时候，不可能预料到人会造出 AI。可是人的所有焦虑它都经历过：后面那代比我强，比我演化得快，我还能不能管住它，就算一直在一起到底谁说了算。基因把这些问题完美地解决掉了，而且只用了个 GB 的信息。
00:20:06 好坏是生物给自己的一种意义
这个宇宙本身没有好坏，它也不关心我们。好坏的偏好来自早期生物那个趋利避害的基因。所以要谈好坏，得找一把碳基和硅基都认可的尺子。也许那把尺子可以叫：复杂度。只有复杂度才可以提升反脆弱性，应对更多的开放问题。如果是复杂度是人和 agent 共同的认可的标尺，那人类就永远拥有不可替代的价值。
00:28:02 乐观的定义，以及对齐这件事
在理性的约束下，保有尽可能最大的善意假设。以及最坏的不是虚无，是焦虑。基因是怎么管住自己造的东西的：它只管最初那几条简单规则，剩下的交给细胞之间互相控制。
00:37:13 什么是未来的货币，比特币还是Token
比特币不会成为未来的货币，因为它只做对了一半。它解决了货币中心化的问题，但它注定通缩，而通缩会让它从流通货币退到储备货币，再退到收藏品，一个产品在出生那天，其设计就注定了一切。
00:43:48 一个像人一样的系统
未来世界的能量系统是算力，对应生物的化学能。再往上有信息系统，有免疫系统，有生殖系统。这些系统会从一个最小的点生长出来。
00:56:14 互联网治好了病毒焦虑
我们当年担心过互联网，那会儿三分之一的电脑都中了病毒，弹窗弹得不行。有了互联网之后反过来了，破坏的力量更难在时间上积累，现在没人聊病毒了。现在 AI 安全上也是如此，复杂度的提升反而会提高安全度。
01:04:05 宇宙才刚开头，生命才刚刚出生
这个宇宙现在处于什么阶段。按熵算，如果进度条有一光年那么长，我们才走到十毫米。所以现在是早上六点钟的太阳。碳基和硅基在一起，这个新的生命才刚刚出生。
参考资料：
