有人没训练任何模型,没喂一条数据,没跑一次梯度下降。他找到一个 8 亿参数的开源模型,只改了里面 0.016% 的数字——像一本几千页的大部头,只在某一页角落改了一个标点——这个模型的数学成绩,涨了六倍。动刀的不是人,是另一个 AI。它干的事叫「权重空间编程」:像程序员读代码那样,直接去读、去改另一个神经网络的权重,全程不训练。正常训练一个模型像教小孩,这种改法是直接打开脑子改神经连接——前者是教育,后者是手术。
适合每一个关心 AI 怎么进化、以及这事会不会失控的人。不用懂机器学习,听不懂的词都用大白话讲。

想听更多 AI 行业深度分析?欢迎在小宇宙搜索「AI下一帧」,每周日早上8点更新。
想聊的欢迎留言,或发邮件给主播:5155280@qq.com
=====================================
时间轴
00:06 0.016% 换来六倍
01:58 他到底干了什么
06:07 看权重猜游戏
11:25 权重能看出"结构",但看不出"行为"
13:44 Astra 手搓一个网络
18:09 0.016% 到底改了什么
23:47 两个重要的限制
27:48 这可能只是个老套路
34:33 那个词是 RSI
40:00 最后一项发明
=====================================
参考链接:
本期主角 · 原文与可验证材料
Weight-Space Programming(Rikiya Takehi 等,MIT CSAIL)
rikiyat.github.io
完整实验日志
github.com
编辑后的 Qwen 模型(可自己跑)
huggingface.co
在线 demo(Hugging Face 社区复现)
huggingface.co
怀疑派 · Sean Goedecke 的反驳
大语言模型在读写神经网络权重上并不超人
www.seangoedecke.com
他讲引导向量(steering vectors)
www.seangoedecke.com
Hacker News 上的完整争论
news.ycombinator.com
免训练改模型的那一大家子技术
Heretic:游戏显卡一下午给模型去审查的开源工具
github.com
Abliteration 学术源头:拒绝是由单一方向决定的(Arditi 等,2024)
arxiv.org
金门大桥 Claude(Anthropic,引导向量的经典演示)
www.anthropic.com
表示工程 Representation Engineering(Zou 等,2023)
arxiv.org
ROME:定位并编辑 GPT 里的事实(Meng 等,2022)
arxiv.org
MEMIT:一次改几千条事实(ROME 批量版)
arxiv.org
任务算术:权重相加减拼出新技能(Ilharco 等,2022)
arxiv.org
TIES-Merging:进阶模型合并
arxiv.org
antirez 的 DS4(把引导向量做成一等公民)
github.com
RSI 与 1.9 倍 · 第一次有人拿尺子去量
METR 对 Anthropic 研发加速的评估报告
metr.org
报告解读(含完整数字与稳健性区间)
theainewsreport.com
延伸 · 手搓权重的先例
AdderBoard(让 coding agent 手搓小 transformer 权重)
github.com
vgel 的手搓 transformer
vgel.me
本期病人:Qwen3.5-0.8B(官方 model card 承认易陷入死循环)
huggingface.co
=====================================
前游戏开发者,现海外云厂商架构师 [反向弯曲] 主理的 [AI×游戏] 播客!
帮助互联网|游戏从业人员
拆解全球游戏 AI 前沿动态,深挖技术落地干货。
让你轻松拿捏行业脉搏,预判 AI + 游戏的 "下一帧"。
对未来好奇?速戳订阅!
小红书b站同名:反向弯曲

