近期,兩項圍繞大語言模型權重空間的實驗引發技術社區關注。據Latent Space旗下AINews欄目報道,研究人員通過編輯Qwen模型的權重來減少推理循環;另據Tom's Hardware報道,一名AI工程師將32位RISC-V CPU直接編譯並插入Qwen 3.5 4B模型的權重中,該內置CPU可運行處理器算術運算、代碼以及遊戲DOOM。兩項工作共同指向“權重空間編程”這一前沿方向。
實驗細節:從減少推理循環到在權重中嵌入CPU
AINews在11月3日的報道中提及“LLMs can read & write neural network weights”,並將編輯Qwen權重以減少推理循環列為“權重空間編程”的案例之一。該報道標題稱,這一方向“將Autoresearch移出RSI循環”。同一報道還提及DeepSeek的超級智能體原型和GDPx基準,但未展開具體細節。
Tom's Hardware在11月2日的報道中介紹,名為Qwenputer的實驗將標準Qwen 3.5 4B大語言模型與一個32位RISC-V CPU混合,該CPU被編譯並直接插入模型權重。報道稱,這個內置CPU能夠運行處理器算術運算、代碼,當然還有DOOM。
技術意義:權重空間編程的兩種路徑
兩項實驗分別從不同角度展示了LLM與底層計算的融合。編輯權重以減少推理循環,意味著模型可以通過權重層面的調整優化自身推理過程;而將CPU編譯進權重,則讓模型權重本身承載了可執行的計算單元。AINews將前者稱為“權重空間編程”,並認為其可能改變AI自我改進(RSI)的研究範式,使Autoresearch不再必需。
“LLMs can read & write neural network weights: ‘Weight Space Programming’ cuts Autoresearch out of the RSI loop”——AINews報道標題
Tom's Hardware則強調,Qwenputer是“標準Qwen 3.5 4B LLM與一個32位RISC-V CPU的實驗性混合體”,CPU被編譯並直接插入其權重。該報道未提供更多技術細節或性能數據。
後續關注
目前,兩項實驗均處於早期階段,相關技術細節和可復現性尚未公開。業界關注點包括:權重編輯方法能否泛化到其他模型,以及權重中嵌入CPU是否會帶來安全與可控性挑戰。AINews報道中提到的DeepSeek超級智能體原型和GDPx基準,也可能成為後續討論的焦點。
