首页
对话
深度研究
资讯
费用
新提问
登录
注册
首页
对话
深度研究
资讯
费用
新提问
提
问资讯
科技、财经与政策监管的每日要闻
首页
科技
财经
政策与监管
简体
繁體
EN
提问资讯
标签: Inkling-2 Mini本地部署
Inkling-2 Mini本地部署
标签「Inkling-2 Mini本地部署」下的全部文章
22
2026-11
Inkling-2 Mini本地实测:单卡3090与双16GB 50系卡跑通254k上下文
约25B参数的Inkling-2 Mini在本地AI社区完成多项实测:Unsloth UD-Q4_K_XL量化版可在单张RTX 3090运行,表现胜过更大MoE模型;capy-flash v0.16新增支持,在2×RTX 5070 Ti 16GB上跑通254k上下文,聊天解码149 tok/s、代码解码194 tok/s,但长上下文衰减明显。
X · LiTianleli、Reddit · FeydRowan