← 返回首页
模型显存估算工具
根据模型参数量、权重精度和使用场景,在浏览器本地粗略估算显存占用。 所有计算在本地完成,不上传任何数据。
计算结果
权重显存:
—
场景估算:
—
计算说明:
—
基本公式
Mweight = Nparam × Bprecision
MGiB = (Nbillion × 109 × B) / 10243
Minference ≈ 1.2 × Mweight
免责声明:本工具提供的是粗略估算,不能替代实际部署前的显存测试。
推理估算未完整计入 KV Cache、激活值、框架开销和显存碎片;
训练估算为经验区间,受优化器、并行策略、序列长度和批量大小等因素影响。
请勿将结果作为精确部署所需的显存值。