近期,两项围绕大语言模型权重空间的实验引发技术社区关注。据Latent Space旗下AINews栏目报道,研究人员通过编辑Qwen模型的权重来减少推理循环;另据Tom's Hardware报道,一名AI工程师将32位RISC-V CPU直接编译并插入Qwen 3.5 4B模型的权重中,该内置CPU可运行处理器算术运算、代码以及游戏DOOM。两项工作共同指向“权重空间编程”这一前沿方向。
实验细节:从减少推理循环到在权重中嵌入CPU
AINews在11月3日的报道中提及“LLMs can read & write neural network weights”,并将编辑Qwen权重以减少推理循环列为“权重空间编程”的案例之一。该报道标题称,这一方向“将Autoresearch移出RSI循环”。同一报道还提及DeepSeek的超级智能体原型和GDPx基准,但未展开具体细节。
Tom's Hardware在11月2日的报道中介绍,名为Qwenputer的实验将标准Qwen 3.5 4B大语言模型与一个32位RISC-V CPU混合,该CPU被编译并直接插入模型权重。报道称,这个内置CPU能够运行处理器算术运算、代码,当然还有DOOM。
技术意义:权重空间编程的两种路径
两项实验分别从不同角度展示了LLM与底层计算的融合。编辑权重以减少推理循环,意味着模型可以通过权重层面的调整优化自身推理过程;而将CPU编译进权重,则让模型权重本身承载了可执行的计算单元。AINews将前者称为“权重空间编程”,并认为其可能改变AI自我改进(RSI)的研究范式,使Autoresearch不再必需。
“LLMs can read & write neural network weights: ‘Weight Space Programming’ cuts Autoresearch out of the RSI loop”——AINews报道标题
Tom's Hardware则强调,Qwenputer是“标准Qwen 3.5 4B LLM与一个32位RISC-V CPU的实验性混合体”,CPU被编译并直接插入其权重。该报道未提供更多技术细节或性能数据。
后续关注
目前,两项实验均处于早期阶段,相关技术细节和可复现性尚未公开。业界关注点包括:权重编辑方法能否泛化到其他模型,以及权重中嵌入CPU是否会带来安全与可控性挑战。AINews报道中提到的DeepSeek超级智能体原型和GDPx基准,也可能成为后续讨论的焦点。
