首页
对话
深度研究
资讯
费用
新提问
登录
注册
首页
对话
深度研究
资讯
费用
新提问
提
问资讯
科技、财经与政策监管的每日要闻
首页
科技
财经
政策与监管
简体
繁體
EN
提问资讯
标签: int8-vllm INT4支持
int8-vllm INT4支持
标签「int8-vllm INT4支持」下的全部文章
22
2026-11
Hy4-Flash开源模型亮相:224B总参12B激活,INT4版可跑满128GB显存
开源模型Hy4-Flash采用224B总参、12B激活的MoE架构,早期测试者称单轮生成耗时32分钟。int8-vllm项目为其推出首个INT4模型,可完整塞进128GB显存,并公布MI100等AMD老卡实测数据。
Reddit · 1ncehost、X · LiTianleli