这个工具解决什么问题
本地模型现在很便宜：7B、8B、14B 的量化文件免费下载，装个推理软件就能对话。真正卡人的是第一步——到底该下哪个。模型页面上摆着 Q4、Q5、Q8、F16 好几个量化，还有 0.5B 到 70B 一堆规模，每个文件都写着「推荐」。有人按推荐下了 14B 的 Q8（十几 GB），解压完一跑就报显存不足；也有人怕撑不住，只敢下 3B 的 Q4，结果发现自己那块 8 GB 的显卡本来能跑 14B，白白用了一个笨得多的模型。试错的代价不小：一个 14B 的量化包十几 GB，下错一次就是半小时加上几十 GB 的流量。而这件事本来是可以先算出来的——权重占多少、上下文吃掉多少、剩下的能不能落在显存里，都是加减乘除，只是没人替用户算而已。
- 原来的做法：翻别人写的「什么显卡跑什么模型」帖子，那些表格大多按型号举例，跟自己的机器对不上；或者干脆一个个下载试，报错了再退回来换更小的，一次试错十几 GB 流量。也有人装完推理软件看它给的显存提示，但那要先装软件、先下模型，顺序反了。
- 用这个工具：双击打开，它先把 CPU、内存、显卡、显存读出来，立刻给出一张表：从 0.5B 到 70B 每一档，标出权重占多少、含上下文一共要多少、能不能放进显存、大概多少 tok/s、结论是流畅还是勉强。想换条件就在下拉框里改量化档位和上下文长度，表格实时重算。最后一行给一句结论：推荐上限是哪个规模、哪个量化。
- 省下来的：把「下错了再重来」变成「打开看一眼」。改一次条件到出结果不到一秒，不用下载任何模型、不用装推理框架，也不用联网。对准备买机器的人还有一层用处：勾上「手动指定显存与内存」，填上准备买的配置，先算清楚 8 GB 和 12 GB 的差价到底买到了什么。
技术实现
选 C# + .NET Framework 4.8，是因为这个工具九成的工作量在「读硬件」上：WMI 查 CPU 与内存、注册表读显存、nvidia-smi 交叉验证，这些在 .NET Framework 里都是系统自带能力，编译出来是一个几十 KB 的单文件 exe，Windows 10 1803 之后 .NET Framework 4.8 属于系统组件，用户不需要装任何运行时。剩下的部分是纯算术：权重体积、KV 缓存、内存预算、带宽推算速度，全部落在一个不依赖任何控件的计算层里，界面只负责把参数收进来、把结果排成表。整个程序不联网、不写注册表、不装服务，读完硬件就把结论摆在窗口里。
- 显存不能只信 WMI：AdapterRAM 是 32 位，超过 4 GB 就失真：Win32_VideoController 的 AdapterRAM 字段类型是 uint32，上限正好 4 GB。一块 8 GB 的卡在这里可能返回 4096 MB、也可能返回 0，12 GB 以上的卡基本读不到真实值——这是很多人写硬件检测时踩的第一个坑，也是最容易把结论算错的地方。本工具的做法是双路取证：先读注册表 HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Class\{4d36e968-...}\0000 下的 HardwareInformation.qwMemorySize（REG_BINARY，8 字节小端，能表达 16 EB），再调 nvidia-smi --query-gpu=memory.total 做交叉验证，两个值取大的；都对不上时才退回 4 GB 保守估算，并在界面上标注「未能读到，按保守值估算」。比对 DriverDesc 是必须的——多显卡机器上不加这一步会读到另一块卡的显存。
- 虚拟显示适配器必须排除，否则会得出「有显卡、显存 0」：远程桌面、虚拟显示器、基本显示适配器在系统里同样以 Win32_VideoController 出现，名字里常带 IDD、Virtual Display、Basic Display、GameViewer、Parsec、VMware 等特征。不排除的话，程序会认成「有独显」却拿不到显存，继而给出荒谬的建议。工具按名称特征把它们归为虚拟设备并跳过，再按「独显 > 核显」的优先级选一块真正能用来算的显卡；核显被单独标记——它的显存与内存共享，报一个数字反而是误导，所以直接按「无独显、模型全部由 CPU 与内存承担」处理并在界面上写明原因。
- 占用 = 权重 + KV 缓存 + 运行时开销，三项缺一不可：权重体积按「参数量 × 每参数字节数 × 1.05」算，Q4 取 0.55、Q5 取 0.68、Q8 取 1.05、F16 取 2.0——这不是理论位宽，而是照着主流 GGUF 发布物的实际文件体积取的（7B 的 Q4_K_M 约 4 GB）。KV 缓存按每 1K 上下文一个系数线性叠加，7B 约 0.085 GB/1K，上下文从 4K 拉到 32K 就是 0.34 GB 变成 2.7 GB，这也是长上下文明明权重没变却突然爆显存的原因。再加 0.7 GB 固定开销（框架上下文、临时张量、显存碎片），三项相加才是真正要的量。宁可估保守一点，也不要算着能跑、一跑就 OOM。
- 能不能塞进显存：先试全放，再试层卸载，最后才退回 CPU：判定分三级。显存装得下全部占用就是「全部在显卡」，最快。装不下时看显存能不能留下六成以上权重——能，就走层卸载（前若干层在显卡、其余在内存），因为跨 PCIe 搬权重的开销会吃掉一部分收益，装得太少反而不如全放内存。六成都装不下、或者剩余部分超出内存预算，才退回「仅 CPU」。内存预算按可用物理内存的 85% 算，留 15% 给系统，不然模型一加载完整台机器就卡住。
- 速度是带宽除以权重的推算值，所以给区间不给单值：解码阶段每生成一个 token 都要把参与计算的权重读一遍，所以速度上限约等于「有效带宽 ÷ 权重体积」，再乘效率系数（显存 0.55、内存 0.45，剩下的时间被注意力计算、采样和框架开销吃掉）。层卸载时按显卡与内存各承担的权重比例对带宽加权，其中内存那部分不是用内存带宽，而是取「内存带宽与 PCIe 有效带宽 12 GB/s 的较小值」——留在内存里的层要先经总线搬到显卡，PCIe 才是真正的瓶颈，不设这个上限会把层卸载算得过快。同样的硬件换驱动、换推理框架、换上下文，实测能差 30% 以上，所以界面显示的是区间（中点的 0.7 到 1.2 倍），并在底部注明这是推算值——写成一个确定数字反而是不负责。
- 探测放后台线程，界面先出窗口再填数据：WMI 首次查询要 1~2 秒，如果放在窗体构造函数里同步执行，窗口会先白屏卡住一段时间，用户会以为程序没打开。所以界面先搭好、值显示「正在检测…」，探测跑在后台线程里，读完用 BeginInvoke 回 UI 线程填控件并触发第一次测算。检测失败也不弹窗了事：给出一个空规格，同时提示可以勾选「手动指定显存与内存」自己填数继续算——这台机器能不能出结论，不该取决于 WMI 是否配合。
技术栈：C#、.NET 4.8、WinForms 窗体、WMI 硬件查询、注册表读取显存、纯本地离线运行
已知局限：只做估算，不做基准测试：占用与速度都是按公开的量化体积与带宽量级推算，实际值受驱动版本、推理框架、上下文内容影响，可能相差 30% 以上。显存优先读注册表与 nvidia-smi，两者都读不到时按 4 GB 保守估算并在界面标注；核显被当作「无独显」处理，不报共享显存。模型表固定为 0.5B / 1.5B / 3B / 7B / 8B / 14B / 32B / 70B 八个常用档位，不覆盖 MoE 稀疏模型、多模态模型这类参数结构差异较大的情况。工具不下载模型、不启动推理，也不判断某个具体模型文件是否存在。
同类软件对照
下面几款都是公开可查的同类软件，定位各不相同。这里只说明各自的定位，以及本工具在其中的位置，方便你判断哪一类更契合自己的用法。
| 软件 | 它的定位 | 本工具的定位 |
|---|---|---|
| LM Studio | 桌面端本地模型客户端，把模型搜索、下载、对话、服务端接口放在同一个应用里，面向「已经决定要跑模型」的人 | 本工具不下载也不运行模型，只回答「这台机器该下哪个」这一件事，所以是几十 KB 的单文件，不用注册、不用装运行时，先算清楚再去下 |
| Ollama | 以命令与服务形式提供本地模型运行能力，通过命令行拉取和启动模型，适合开发者集成到自己的流程里 | 本工具是窗口程序，鼠标点完就出结论；它不负责跑模型，因此也不占显存、不留后台服务 |
| llm-checker（开源项目） | 命令行形式的硬件评估脚本，检测本机配置后给出能否运行某些模型的报告 | 本工具是图形界面，双击即用，且提供「手动指定显存与内存」模式，可以在买机器之前先把配置填进去算一遍 |
| Can You Run It（网页服务） | 面向 PC 游戏的配置检测，比对游戏的最低与推荐配置 | 本工具面向本地大模型，按权重体积、KV 缓存与带宽推算，结论是「能跑到哪一档规模」而不是「能不能跑某个游戏」 |
以上仅作定位对照，各软件的可用性、授权方式与功能范围请以其官方页面为准。
操作教程
- 打开程序，等它读完硬件
双击 exe，窗口打开后「本机配置」一栏里的 CPU、内存、显卡、显存会先显示「正在检测…」，一两秒后被替换成真实值。这四行是从系统里读出来的，不是让你填的。
预期结果：CPU 后面跟着核心数与线程数，内存显示总量与当前可用量，显卡显示型号；有独显时显存会注明是「驱动报告」还是「保守估算」。 - 看结果表
表格从 0.5B 排到 70B，每行给出权重体积、含上下文的合计占用、运行方式（全部在显卡 / 显卡+内存 / 仅 CPU / 装不下）、推算速度和结论。绿色是流畅，黑色是可用，橙色是勉强，灰色是跑不动。
预期结果：能一眼看出「到哪一档还是绿的」——那一条就是你该下的模型规模。 - 按需改量化档位
左上「量化档位」默认是「自动（画质优先）」：从 Q8 往下试，能用小的画质损失换更小的体积就不放过，第一个跑得动的档位胜出。想固定成某一档就手动选 Q4 / Q5 / Q8 / F16，表格会立刻重算。
预期结果：同一规模下，量化越高压得越狠、速度越快，但画质损失也越大；Q4 与 Q8 的体积差通常在 1.5 到 2 倍之间。 - 按需改上下文长度
「上下文」下拉框给的是 2048 到 32768 五个档。上下文是 KV 缓存的唯一乘数，改大以后原来「全部在显卡」的档位可能变成「显卡+内存」。
预期结果：把 4K 改成 32K，7B 那一行的合计占用会明显变大，速度结论也可能掉一档——这正是长上下文吃显存的实际表现。 - 想先算「要买的机器」就勾手动模式
勾上「手动指定显存与内存」，右边两个数字框变成可编辑，填上准备买的显存与内存（默认已用本机值预填，只改要改的那项）。此时表格按你填的配置算，底部提示会说明「当前按手动填写的显存/内存测算（非本机实测）」。
预期结果：填 8 / 32 与填 12 / 32，推荐上限会差一档甚至两档，可以据此判断加钱买到的是什么。 - 把结论带走
点「复制报告」把整张表加结论复制成纯文本，粘到聊天窗口或文档里；点「保存报告…」存成 txt，用记事本打开不会乱码。报告里连「按什么条件算的」都写进去了，脱离界面也能读懂。
预期结果：文件里包含本机配置、测算条件、八行结果和一句结论，末尾有两行估算说明。
常见问题
技术实现与后续维护
程序分三层：Hardware（读硬件，所有降级路径都在这里）、FitCore（纯算术，不碰任何控件与文件）、MainForm（收参数、排表格、复制保存）。改结论只需要动 FitCore 里的系数与阈值，改探测只需要动 Hardware 里的取值顺序，两层互不影响。维护时最需要盯三件事：一是 Windows 各版本对 AdapterRAM 的处理差异（新卡几乎一律读不到真实值，别把「读不到」当成「没有显卡」）；二是量化系数字典——新量化工种（如 Q4_K_S、IQ4_XS）体积不同，加之前先用真实文件核对；三是速度公式里的效率系数，它决定「流畅 / 可用 / 勉强」的分档手感，改动前建议拿两三台真实机器对一下实测值。
运行环境：
Windows 7 SP1 / 8.1 / 10 / 11（64 位）；需要 .NET Framework 4.8，Windows 10 1803 及以后为系统自带，无需另行安装。程序为单个可执行文件，解压后双击即可运行，不写注册表、不装服务、不需要联网授权。
可扩展方向：
- 把模型表做成可编辑：用户自己加一档（比如 4B、13B、或者某个 MoE 模型的总参数与激活参数），表格跟着重算
- 加「显存占用明细」：把权重、KV、开销三项拆成堆叠条，直观看出长上下文到底吃掉了多少
- 加「多配置对比」：同时填三套候选机器配置，一张表并排看推荐上限，用于选购
- 加「实测校准」：允许用户填入自己在某个模型上实测的 tok/s，按比例修正本机的带宽估计，让后续推算更贴近这台机器
本工具免费提供使用，功能完整、不设限制。如果你需要在本工具基础上做功能调整、对接内部系统或长期维护，可以联系我们做二次开发。
需要其它功能？可以定制
这个工具只做一件事：想在自己电脑上跑本地大模型，却不知道该下多大的模型、选哪个量化档；下完才发现显存不够，白等几十分钟。如果你的场景还需要别的处理，可以联系我们做二次开发，按你的实际数据格式和流程定制。
常见的定制需求：
- 按公司统一采购的机型做定制，把候选配置与推荐上限直接预置进去，做成内部选型工具
- 增加「显存与上下文的反查」：给定模型规模，反推最多能开多长上下文
- 把报告导出成表格文件，纳入采购评审的附件
- 与企业内部的资产系统对接，批量读取多台机器的配置并汇总成一张表
- 联系方式：邮箱/微信见站内「联系我们」页面，或在本文下方留言
- 定制说明：请附上你的数据样例（脱敏即可）和期望结果，方便快速评估工作量
- 交付形式：定制项目交付可执行程序，支持后续版本迭代与长期维护
使用说明与免责声明
- 本工具在本地运行，不联网、不上传任何数据到服务器。
- 涉及文件改写的功能，请在使用前备份原始文件。
- 软件完全免费，可自由使用与转发，请勿用于倒卖。
- 因误操作造成的数据问题请自行承担。
