腾讯混元:295B参数模型Hy3单卡即可部署
快讯摘要
腾讯混元发文表示,Hy3上线并开源后,社区一直在呼吁量化版本,希望单卡跑参数量达295B的Hy3。团队针对开源社区需求,把Hy3的权重量化到1bit与4bit并打包成GGUF,配合llama.cpp生态,让原本只能跑在多卡集群上的模型,最少一张推理显卡、乃至内存充足的本地机器也能跑起来。 (来自华尔街见闻APP)。
快讯信息
- 快讯类型
- 突发事件
- 信息来源
- 华尔街见闻
- 当前状态
- 持续更新
- 更新时间
- 2026-07-14 18:10
来源归属
编辑说明
本文根据公开快讯或相关渠道信息整理,具体进展以官方后续发布或公开信息更新为准。

