本地部署

大模型本地运行：B、bit 与调用方式详解

7B 是什么？Q4 又是什么？自己电脑能跑多大？本文把 B（参数量）和 bit（精度量化）讲透，给出显存计算公式与各档位对照表，并演示用 Ollama 跑起来后如何通过 HTTP API 和代码调用。