首頁
對話
深度研究
資訊
費用
新提問
登錄
註冊
首頁
對話
深度研究
資訊
費用
新提問
提
問資訊
科技、財經與政策監管的每日要聞
首頁
科技
財經
政策與監管
簡體
繁體
EN
提問資訊
標籤: 254k上下文實測
254k上下文實測
標籤「254k上下文實測」下的全部文章
22
2026-11
Inkling-2 Mini本地實測:單卡3090與雙16GB 50系卡跑通254k上下文
約25B參數的Inkling-2 Mini在本地AI社區完成多項實測:Unsloth UD-Q4_K_XL量化版可在單張RTX 3090運行,表現勝過更大MoE模型;capy-flash v0.16新增支持,在2×RTX 5070 Ti 16GB上跑通254k上下文,聊天解碼149 tok/s、代碼解碼194 tok/s,但長上下文衰減明顯。
X · LiTianleli、Reddit · FeydRowan