260321｜AI训练，网络历史，Rust WASM 解析器提速 - Hacker News

Hacker News 今日精选：从 Rust 与 TypeScript 的性能反转，到 Mamba-3 AI 模型对推理效率的革新，我们探讨了软件开发中的速度与沉淀，以及 AI 时代下网络档案的存续危机。

Rust WASM 解析器改用 TypeScript 后，速度反而变快了

意外的性能瓶颈

Thesys Engineering 团队在将其 openui-lang 解析器从 Rust 编译的 WebAssembly (WASM) 迁移到原生 TypeScript 后，发现性能得到显著提升。单次调用速度加快了 2.2 到 4.6 倍，总处理成本降低了 2.6 到 3.3 倍。这个结果颠覆了团队最初认为 Rust 和 WASM 在浏览器端应有性能优势的假设。

该解析器用于将大语言模型 (LLM) 生成的流式文本转换为 React 组件树，对延迟要求极高。

WASM 的“边界税”

性能问题的根源不在于 Rust 代码本身的执行速度，而在于 JavaScript (JS) 与 WASM 之间的“边界开销”。每次调用都涉及多次数据复制和转换：JS 字符串复制到 WASM 内存，Rust 解析后序列化为 JSON 字符串，再将 JSON 字符串复制回 JS 内存，最后由 JS 引擎解析。

团队曾尝试使用 serde-wasm-bindgen 直接传递对象以避免 JSON 序列化，但性能反而下降了 30%。原因是 JS 运行时无法直接读取 Rust 的内存布局，该库在底层需要进行大量细粒度的边界调用来转换数据，其开销比一次性传输和解析 JSON 字符串更高。

算法优化的更大价值

将整个解析器移植到 TypeScript，完全在 V8 引擎的内存中运行，消除了边界开销，带来了第一轮性能提升。但团队发现，更深层的问题在于算法。原始实现每次收到新的数据块时，都会重新解析累积的全部内容，导致 O(N²) 的时间复杂度。

最终的解决方案是引入语句级增量缓存。解析器只重新解析当前未完成的语句，将算法复杂度降至 O(N)，这比语言层面的迁移带来了更大的性能收益。这个案例表明，在进行技术选型前，应准确分析瓶颈所在，并且算法优化通常比底层语言或技术的选择影响更大。

Mamba-3：为高效推理而生的新一代状态空间模型

核心目标：优化推理

Together AI、卡内基梅隆大学和普林斯顿大学的研究人员发布了 Mamba-3，这是一款新型的状态空间模型 (SSM)，其设计重点从 Mamba-2 的训练速度转向了推理效率。随着行业重心从模型预训练转向部署和应用，推理成本和延迟成为关键瓶颈。

Mamba-3 通过采用更具表现力的递归公式、支持复数值状态以及引入多输入多输出 (MIMO) 变体，在不显著增加解码延迟的前提下提升了模型准确性。

架构关键变化

Mamba-3 引入了多项架构改进以提升性能和稳定性。新增的 QKNorm 归一化层增强了训练稳定性。通过新的递归机制，模型移除了 Mamba-1/2 中常见的短因果卷积。

此外，模型引入了旋转位置嵌入 (RoPE) 来实现复数值 SSM，并使用 MIMO 投影扩展了模型的表示能力。整体架构也调整为交错的多层感知器 (MLP) 层，与主流 Transformer 模型保持一致。

性能表现与内核实现

基准测试显示，在 1.5B 模型规模下，Mamba-3 在所有序列长度的预填充和解码延迟方面，均优于 Llama-3.2-1B、Gated DeltaNet 和 Mamba-2。

为了在硬件上实现最佳性能，团队使用了 Triton、TileLang 和 CuTe DSL 等多种工具构建了高度优化的 GPU 内核。这些实现充分利用了 Mamba-3 算法设计简洁的优势，在不同层次的 GPU 抽象上实现了性能最大化。

有些事，只能交给时间

软件开发的速度崇拜

当前软件和创业文化普遍痴迷于速度，强调快速迭代和迅速部署。然而，许多真正有价值的事物本质上需要时间沉淀，比如一棵大树的成长，或是一个品牌的信誉。

这种对时间的尊重体现在人们对瑞士手表或老旧房产的偏爱上，它们因制造时间或年代久远而价值不菲。

“摩擦”的必要性

文章认为，在开发流程中，并非所有“摩擦”都是坏事。以 SOC2 合规性为例，虽然业界热衷于用工具消除其带来的流程阻碍，但这些流程本身提供了思考、完善和建立信任的必要时间，如同重要决策前的“冷静期”。

一味追求速度，反而可能产生有害的结果。

AI 加速的隐忧

AI 代码生成能力进一步加剧了对速度的推崇，鼓励开发者跳过代码审查、设计等关键环节。作者担忧，这种急功近利的心态正在缩短软件的“保质期”，并破坏与客户建立信任所需的基础。

许多短命的初创公司和开源项目都反映了这种缺乏长期承诺的现状。文章最后用树木作比喻，强调信任、质量和社区无法通过一次周末冲刺完成，它们需要多年的投入和承诺。

为防 AI 封禁互联网档案库，将抹去网络历史

出版商阻止网页存档

多家新闻出版商正在采取技术措施，阻止互联网档案 (Internet Archive, IA) 的网络爬虫抓取其网站内容。此举旨在防止 AI 公司在未经许可的情况下，使用其受版权保护的材料来训练大语言模型。

出版商已对部分 AI 公司提起诉讼，寻求对其作品使用方式的控制权。

档案库与 AI 公司的区别

电子前沿基金会 (EFF) 指出，阻止像 IA 这样的非营利性档案机构是一个错误的回应。IA 的使命是保存网络历史，其行为与传统图书馆保存报纸的性质相同，旨在为未来提供可信赖的在线出版记录。

IA 的“回溯机器” (Wayback Machine) 保存的网页，常常是查看文章历史版本或已删除内容的唯一可靠来源，对记者、研究人员和公众至关重要。

存档与搜索的合法性

EFF 强调，存档和搜索是受“合理使用” (fair use) 原则保护的合法行为。法院曾裁定，谷歌为建立可搜索数据库而复制整本书籍的行为具有“变革性目的”，因此属于合理使用。IA 的运作遵循相同原则。

即使未来法院对 AI 训练施加限制，保护网络存档的法律原则也已明确。为了应对 AI 版权争议而牺牲公共历史记录，将是一个深远且不可逆转的错误。

FFmpeg 入门指南（2024）

核心组件

FFmpeg 是一套用于处理多媒体文件、流和设备的工具与库。其核心库包括：

libavformat：负责输入输出和流的封装/解封装 (muxing/demuxing)。

libavcodec：处理媒体数据的编码和解码。

libavfilter：提供基于图的滤镜功能。

libswscale：用于颜色转换和图像缩放。

libswresample：处理音频重采样和格式转换。

媒体处理流程

构建一个简单的多媒体播放器，基本流程是将输入文件解封装成独立的音频和视频流，然后将这些流解码成可供渲染的原始数据。

具体步骤包括：分配并打开格式上下文 (AVFormatContext)，分析流信息，为特定流查找并初始化解码器 (AVCodecContext)，然后在一个循环中读取编码数据包 (AVPacket) 并将其发送给解码器，最后从解码器接收解码后的原始帧 (AVFrame)。

关键数据结构

理解 FFmpeg 的核心在于掌握其关键数据结构：

AVFormatContext：代表整个多媒体文件或流的容器。

AVStream：代表文件中的一个单独的流（如一个视频轨或一个音频轨）。

AVPacket：包含来自流的编码数据块。

AVFrame：包含解码后的数据，如一个原始视频帧或一段音频样本。

Ghostling：一个极简的可嵌入终端项目

项目定位

Ghostling 是一个演示项目，展示了如何基于 libghostty C API 构建一个功能最小化的终端。它并非一个功能齐全的日常工具，而是 libghostty 库的一个最小可行应用示例。

该项目使用 Raylib 库进行窗口管理和 2D 渲染，以突显 libghostty 的灵活性和独立性。

核心能力：libghostty

libghostty 是从 Ghostty 终端核心中提取的可嵌入库，提供 C 和 Zig API。它是一个零依赖库，负责处理 VT 序列解析、终端状态管理和渲染器状态管理，但不包含任何具体的渲染或窗口代码。

它继承了 Ghostty 在精确仿真、SIMD 优化解析、Unicode 支持和内存使用方面的所有优势。

功能与使用

尽管 Ghostling 本身很小，但它继承了 libghostty 的丰富功能，包括支持文本重排的窗口大小调整、24 位真彩色、多种文本样式、鼠标追踪和 Kitty 键盘协议。

标签页、分屏、会话管理等高级 GUI 功能需要由上层应用自行实现。项目选择 C API 是为了保证最广泛的语言兼容性，鼓励社区为其创建不同语言的绑定。

相关链接：