跳到主内容

文本 Token 数估算器 - 免费粘贴文本即知要花多少 token 和成本(AI工具)

免费下载文本 Token 数估算器 v1.0.0
平台:Windows / macOS / Linux(浏览器打开即用)大小:8 KB版本:v1.0.0更新:
提取码:g7cm(如提示需要,请输入)
下载地址 ▾
解压后双击即可运行,无需安装任何运行环境,不联网、不上传数据。
不知道一段文本要花多少 token,成本算不准,超长还得截断

文本 Token 数估算器 运行界面

软件名称文本 Token 数估算器
版本v1.0.0
授权免费(可自由使用与转发)
运行方式本地运行,不上传数据
所属分类AI工具

这个工具解决什么问题

用大模型处理长文本的人都会遇到同一个问题:这段提示词到底要多少 token?提示词写长了怕超出上下文窗口,写短了又怕信息不够;要按量计费的时候,还得先估个成本才能决定值不值得跑。真正麻烦的是,很多在线 token 计算器要求你把文本粘贴到别人的网站上——如果文本是内部文档、合同、还没发布的代码,这一步就直接卡住了,根本不敢粘。自己装一个分词库又要配 Python 环境、下载词表,对不写代码的人来说门槛太高。

  • 原来的做法:把文本粘到在线 token 计算网站(内部资料不敢粘),或者装 Python 环境 + 分词库再写脚本调用,一次两次还行,日常用根本不现实。
  • 用这个工具:双击打开网页,文本粘进左边的框,右边立刻显示保守/常规/乐观三档 token 估算、文本构成明细,以及按你填写单价算出的成本。全程零联网、零上传。
  • 省下来的:原来要么冒险上传要么放弃估算,现在打开就能算;估算只需一眼,长文本该不该截断、这次调用大概花多少钱,当场就有数。

技术实现

一个 HTML 文件,内联 CSS 与 JavaScript,双击用浏览器打开就能用。选单文件网页而不是桌面程序,是因为这个工具的核心需求是「快」和「放心」:不用安装、不用打包、任何系统都能开;而且网页天然可以把所有计算放在本地浏览器里完成,页面里没有任何网络请求代码,用户可以自己按 F12 查证「它真的没联网」。

  • 按字符类别分段的启发式估算:不逐字符算,而是把文本切成「汉字段 / 拉丁单词段 / 连续数字段 / 标点段」四类连续段,每段按不同权重累加:汉字约 1 token/字,拉丁词长度 ≤4 记 1 token、更长按每 4 字符 1 token,数字每 2 位 1 token,标点按 0.6 token 计。这个分段方式更接近 BPE 分词器的实际切分直觉,比简单按字符数除以 4 准得多。
  • 三档区间而不是一个假精确数字:输出保守下限(×0.82)、常规估算(×1.0)、乐观上限(×1.20)。真实的 BPE 分词需要几十 MB 词表,塞不进单文件网页;与其给一个看着精确其实偏得离谱的数字,不如给区间并说明来源。
  • 用真实分词器校准过,并把实测数据写在页面上:开发时用 tiktoken 的两个真实分词器对同一段 237 字中文样本做了交叉验证:cl100k_base 实际 205 token,o200k_base 实际 158 token,本工具常规估算 188,三档区间 154–226 完整覆盖两个真实值。这个实测结果直接写在了结果区,用户可以自己判断可信度。
  • 成本不预置任何价格:各家模型与不同时段的价格随时在变,写死单价等于编造。单价输入框留空由使用者自己填,工具只做 token ÷ 100 万 × 单价 这一步算术。
  • 输入即算,没有「开始」按钮:绑定 input 事件实时重算,边打字边看数字变化。对于提示词调优这种反复改反复看价的场景,少一次点击就是少一次打断。
  • 零网络请求:整个页面没有 fetch / XMLHttpRequest / 外部 CDN 引用,字体用系统字体,样式全部内联。断网状态下功能完全正常,也方便用户自行审计。

技术栈:单 HTML 文件、原生 JavaScript、零依赖 / 零安装

已知局限:是启发式估算而非精确分词,对主流分词器约有 -20% ~ +10% 的偏差(区间已覆盖);对代码、Base64、多语言混排等特殊文本偏差会更大;不区分具体模型的词表差异。

操作教程

  1. 打开工具
    双击 tool.html(或拖进浏览器窗口)。页面打开时已经填好一段示例文本,右边直接显示出估算结果,方便先看清长什么样。
    预期结果:页面显示标题、左侧输入框(含示例文本)、右侧三档 token 估算与文本构成明细。
  2. 换成自己的文本
    点「清空」清掉示例,把要估算的文本粘贴进左侧文本框;也可以点「从剪贴板粘贴」直接读取剪贴板内容。
    预期结果:输入框里是自己的文本,右侧数字随之实时变化。
  3. 看三档估算
    右上角显示保守下限 / 常规估算 / 乐观上限三个数字。常规估算适合用来判断是否超出上下文窗口;要算预算建议看乐观上限。
    预期结果:三个数字随输入内容同步刷新。
  4. 填单价算成本
    在「成本测算」里把单价改成你所用模型的价格(单位:元 / 百万 token),下方三行立刻给出对应成本。
    预期结果:三行成本数字按 单价 × token ÷ 100 万 计算并刷新。
  5. 查看文本构成
    右下角明细表列出总字符数、汉字数、拉丁单词数、数字串数、标点数、行数与段落数,用来判断文本为什么估出这个量。
    预期结果:各项统计与文本内容一致。
  6. 复制统计结果
    点「复制统计结果」把一份纯文本报告写入剪贴板,可以直接粘到需求文档或聊天窗口里。
    预期结果:提示已复制;粘贴出来是带标题的文本报告。

全程在浏览器本地完成,不需要联网,不需要安装任何软件。

常见问题

Q:估算结果和实际扣费差多少?A:实测下来,对中文为主的文本,常规估算与真实分词器的偏差大致在 -20% 到 +10% 之间(区间已覆盖)。开发时用同一段 237 字样本做过交叉验证:cl100k_base 实际 205,o200k_base 实际 158,本工具常规估算 188。要精确到个位数,只能用对应模型自带的分词器。
Q:为什么不同模型的 token 数差这么多?A:因为每个模型的词表不同。o200k_base 的词表更大,对中文的合并能力更强,同样的中文文本它切出的 token 更少。所以「一段文本多少 token」这个问题本身必须带上模型名字才有意义。
Q:我的文本会被上传吗?A:不会。页面里没有任何网络请求代码(没有 fetch、没有 XMLHttpRequest、没有外部 CDN),你可以按 F12 打开开发者工具,在 Network 面板里看到整个使用过程没有任何请求。
Q:为什么不内置各家模型的价格?A:价格随时在变,写死在页面里的价格很快就会变成误导。单价留给你自己填,工具只负责算术,这样无论价格怎么调都不会过期。
Q:代码、JSON、Base64 这类文本估得准吗?A:偏差会比普通中文大。这类文本的字符分布特殊(大量符号、无空格长串),启发式规则会偏保守。如果你主要处理这类文本,建议把估算结果当作「量级参考」而不是精确值。
Q:能不能直接判断会不会超出上下文窗口?A:可以。把窗口上限(例如 128K)换算成 token 数,和「乐观上限」对比:乐观上限都小于窗口,基本就不会被截断;常规估算已经接近窗口,就建议先精简。
Q:支持批量估算多个文件吗?A:当前版本是单文本估算。如果你需要批量统计一批文件(比如评估整个语料库的 token 总量),可以通过定制开发加上这个能力。
Q:为什么打开页面就有一段示例文本?A:为了让第一次使用的人立刻看到效果,不用先想「我该填什么」。点「清空」即可清掉。
Q:数字串为什么按 2 位一个 token 算?A:主流 BPE 词表里,1~3 位的数字组合通常是独立 token,更长的数字会被拆开。取 2 位作为中间值是折中:对短数字略保守,对长数字略乐观,整体偏差最小。

技术实现与后续维护

本工具由我们自行开发并持续维护,每次迭代都经过本地自测。全部逻辑集中在一个 HTML 文件里,估算算法是独立的 estimate() 函数,输入文本返回统计对象,与界面渲染完全解耦——想调整估算规则只改这一个函数,想改界面只改 render()。

技术构成:

  • src/tool.html —— 唯一源码文件:内联样式、字符分类与估算算法、渲染逻辑、按钮行为
  • DOCS/开发文档.md —— 工程结构、估算规则推导、实测校准数据与扩展点

运行环境:

单 HTML 文件工具,无需编译。用任意现代浏览器(Chrome / Edge / Firefox / Safari)直接打开 src\tool.html 即可运行。

可扩展方向:

  • 在 estimate() 里增加模型选择项,按不同词表调整权重系数
  • 增加批量文件统计(用 FileReader 读取本地文件,仍然零上传)
  • 增加「按段落逐段估算」表格,定位超长段落
  • 把结果导出为 CSV 或复制为 Markdown 表格

本工具免费提供使用,但不对外分发源码。如果你需要在本工具基础上做功能调整、对接内部系统或长期维护,可以联系我们做二次开发,源码与工程文档可在定制合作中一并交付。

需要其它功能?可以定制

这个工具只做一件事:不知道一段文本要花多少 token,成本算不准,超长还得截断。如果你的场景还需要别的处理,可以联系我们做二次开发,按你的实际数据格式和流程定制。

常见的定制需求:

  • 批量导入多个 txt / docx 文件,统计整个语料库的 token 总量并导出报表
  • 内置常见模型的窗口上限,自动判断文本是否需要分段
  • 增加「按段落切分并逐段估算」,方便定位是哪个段落撑爆了窗口
  • 做成浏览器书签小工具(bookmarklet),在任意网页上直接估算选中文本
  • 联系方式:邮箱/微信见站内「联系我们」页面,或在本文下方留言
  • 定制说明:请附上你的数据样例(脱敏即可)和期望结果,方便快速评估工作量
  • 交付形式:定制项目可交付可执行程序,按需一并交付源码与工程文档,支持长期维护

使用说明与免责声明

  • 本工具在本地运行,不联网、不上传任何数据到服务器。
  • 涉及文件改写的功能,请在使用前备份原始文件。
  • 软件完全免费,可自由使用与转发,请勿用于倒卖。
  • 因误操作造成的数据问题请自行承担。
免费下载文本 Token 数估算器 v1.0.0
平台:Windows / macOS / Linux(浏览器打开即用)大小:8 KB版本:v1.0.0更新:
提取码:g7cm(如提示需要,请输入)
下载地址 ▾
解压后双击即可运行,无需安装任何运行环境,不联网、不上传数据。
分享到:

本文链接:https://www.biyeyuanma.cn/post/276.html

服务热线

加我微信

加我微信