
这个工具解决什么问题
用大模型处理长文本的人都会遇到同一个问题:这段提示词到底要多少 token?提示词写长了怕超出上下文窗口,写短了又怕信息不够;要按量计费的时候,还得先估个成本才能决定值不值得跑。真正麻烦的是,很多在线 token 计算器要求你把文本粘贴到别人的网站上——如果文本是内部文档、合同、还没发布的代码,这一步就直接卡住了,根本不敢粘。自己装一个分词库又要配 Python 环境、下载词表,对不写代码的人来说门槛太高。
- 原来的做法:把文本粘到在线 token 计算网站(内部资料不敢粘),或者装 Python 环境 + 分词库再写脚本调用,一次两次还行,日常用根本不现实。
- 用这个工具:双击打开网页,文本粘进左边的框,右边立刻显示保守/常规/乐观三档 token 估算、文本构成明细,以及按你填写单价算出的成本。全程零联网、零上传。
- 省下来的:原来要么冒险上传要么放弃估算,现在打开就能算;估算只需一眼,长文本该不该截断、这次调用大概花多少钱,当场就有数。
技术实现
一个 HTML 文件,内联 CSS 与 JavaScript,双击用浏览器打开就能用。选单文件网页而不是桌面程序,是因为这个工具的核心需求是「快」和「放心」:不用安装、不用打包、任何系统都能开;而且网页天然可以把所有计算放在本地浏览器里完成,页面里没有任何网络请求代码,用户可以自己按 F12 查证「它真的没联网」。
- 按字符类别分段的启发式估算:不逐字符算,而是把文本切成「汉字段 / 拉丁单词段 / 连续数字段 / 标点段」四类连续段,每段按不同权重累加:汉字约 1 token/字,拉丁词长度 ≤4 记 1 token、更长按每 4 字符 1 token,数字每 2 位 1 token,标点按 0.6 token 计。这个分段方式更接近 BPE 分词器的实际切分直觉,比简单按字符数除以 4 准得多。
- 三档区间而不是一个假精确数字:输出保守下限(×0.82)、常规估算(×1.0)、乐观上限(×1.20)。真实的 BPE 分词需要几十 MB 词表,塞不进单文件网页;与其给一个看着精确其实偏得离谱的数字,不如给区间并说明来源。
- 用真实分词器校准过,并把实测数据写在页面上:开发时用 tiktoken 的两个真实分词器对同一段 237 字中文样本做了交叉验证:cl100k_base 实际 205 token,o200k_base 实际 158 token,本工具常规估算 188,三档区间 154–226 完整覆盖两个真实值。这个实测结果直接写在了结果区,用户可以自己判断可信度。
- 成本不预置任何价格:各家模型与不同时段的价格随时在变,写死单价等于编造。单价输入框留空由使用者自己填,工具只做 token ÷ 100 万 × 单价 这一步算术。
- 输入即算,没有「开始」按钮:绑定 input 事件实时重算,边打字边看数字变化。对于提示词调优这种反复改反复看价的场景,少一次点击就是少一次打断。
- 零网络请求:整个页面没有 fetch / XMLHttpRequest / 外部 CDN 引用,字体用系统字体,样式全部内联。断网状态下功能完全正常,也方便用户自行审计。
技术栈:单 HTML 文件、原生 JavaScript、零依赖 / 零安装
已知局限:是启发式估算而非精确分词,对主流分词器约有 -20% ~ +10% 的偏差(区间已覆盖);对代码、Base64、多语言混排等特殊文本偏差会更大;不区分具体模型的词表差异。
操作教程
- 打开工具
双击 tool.html(或拖进浏览器窗口)。页面打开时已经填好一段示例文本,右边直接显示出估算结果,方便先看清长什么样。
预期结果:页面显示标题、左侧输入框(含示例文本)、右侧三档 token 估算与文本构成明细。 - 换成自己的文本
点「清空」清掉示例,把要估算的文本粘贴进左侧文本框;也可以点「从剪贴板粘贴」直接读取剪贴板内容。
预期结果:输入框里是自己的文本,右侧数字随之实时变化。 - 看三档估算
右上角显示保守下限 / 常规估算 / 乐观上限三个数字。常规估算适合用来判断是否超出上下文窗口;要算预算建议看乐观上限。
预期结果:三个数字随输入内容同步刷新。 - 填单价算成本
在「成本测算」里把单价改成你所用模型的价格(单位:元 / 百万 token),下方三行立刻给出对应成本。
预期结果:三行成本数字按 单价 × token ÷ 100 万 计算并刷新。 - 查看文本构成
右下角明细表列出总字符数、汉字数、拉丁单词数、数字串数、标点数、行数与段落数,用来判断文本为什么估出这个量。
预期结果:各项统计与文本内容一致。 - 复制统计结果
点「复制统计结果」把一份纯文本报告写入剪贴板,可以直接粘到需求文档或聊天窗口里。
预期结果:提示已复制;粘贴出来是带标题的文本报告。
全程在浏览器本地完成,不需要联网,不需要安装任何软件。
常见问题
技术实现与后续维护
本工具由我们自行开发并持续维护,每次迭代都经过本地自测。全部逻辑集中在一个 HTML 文件里,估算算法是独立的 estimate() 函数,输入文本返回统计对象,与界面渲染完全解耦——想调整估算规则只改这一个函数,想改界面只改 render()。
技术构成:
src/tool.html—— 唯一源码文件:内联样式、字符分类与估算算法、渲染逻辑、按钮行为DOCS/开发文档.md—— 工程结构、估算规则推导、实测校准数据与扩展点
运行环境:
单 HTML 文件工具,无需编译。用任意现代浏览器(Chrome / Edge / Firefox / Safari)直接打开 src\tool.html 即可运行。
可扩展方向:
- 在 estimate() 里增加模型选择项,按不同词表调整权重系数
- 增加批量文件统计(用 FileReader 读取本地文件,仍然零上传)
- 增加「按段落逐段估算」表格,定位超长段落
- 把结果导出为 CSV 或复制为 Markdown 表格
本工具免费提供使用,但不对外分发源码。如果你需要在本工具基础上做功能调整、对接内部系统或长期维护,可以联系我们做二次开发,源码与工程文档可在定制合作中一并交付。
需要其它功能?可以定制
这个工具只做一件事:不知道一段文本要花多少 token,成本算不准,超长还得截断。如果你的场景还需要别的处理,可以联系我们做二次开发,按你的实际数据格式和流程定制。
常见的定制需求:
- 批量导入多个 txt / docx 文件,统计整个语料库的 token 总量并导出报表
- 内置常见模型的窗口上限,自动判断文本是否需要分段
- 增加「按段落切分并逐段估算」,方便定位是哪个段落撑爆了窗口
- 做成浏览器书签小工具(bookmarklet),在任意网页上直接估算选中文本
- 联系方式:邮箱/微信见站内「联系我们」页面,或在本文下方留言
- 定制说明:请附上你的数据样例(脱敏即可)和期望结果,方便快速评估工作量
- 交付形式:定制项目可交付可执行程序,按需一并交付源码与工程文档,支持长期维护
使用说明与免责声明
- 本工具在本地运行,不联网、不上传任何数据到服务器。
- 涉及文件改写的功能,请在使用前备份原始文件。
- 软件完全免费,可自由使用与转发,请勿用于倒卖。
- 因误操作造成的数据问题请自行承担。

