#量化

学习笔记 · 2026年3月27日

本地模型与量化：权重估算不等于显存需求

解释本地模型的运行方式、离线边界和量化取舍，用 7B 权重算例区分模型文件、内存与显存预算。