
GitHub 收藏11.3K近 7 天 +8
代码最近更新2026 年 11 月 19 日
许可证开源 · Apache-2.0
要不要花钱免费
主要用于将文本快速切分成模型词元编号,支持文本编码、解码及训练分词模型。适合需要处理模型底层的算法与开发人员。需要写代码调用,支持在多种编程项目中引入。
能做什么
- 把文本快速编码为词元编号
- 把词元编号快速解码还原为文字
- 训练专属的文本分词模型
- 修改和调整分词处理流程
怎么开始
- 需要会写代码,先准备好对应的编程开发环境。
- 通过包管理器将分词工具库安装到你的项目中。
- 写代码加载模型配置并执行文本的分词编码解码。
选它,如果你……
- 你要写代码处理大语言模型的文本切分与分词。
- 你需要极快地对海量文本进行词元编码和解码。
- 你想为自己的大模型训练一套专属的分词工具。
别选,如果你……
- 你完全不会写代码,只想直接在图形界面中使用。
- 你想要找一个开箱即用的完整对话应用。
怎么用
代码开源,可以免费下载使用。
多少钱、在哪买
免费使用。
看看它的样子
综合评价
不错还在更新,问题处理一般
- 更新很活跃近 90 天改代码 149 次;最近一次发版是 41 天前(v0.23.3)
- 问题处理一般近 90 天新开 45 个问题,解决了 90 个,一般 401.8 天解决;外部提交的修改合进 126 个,待处理 111 个
- 用的人多GitHub 收藏 1.1 万,近 7 天新增 8;147 人参与开发
- 用户口碑暂不计用户评价满 5 条后才算进来
数字取自 GitHub 的公开记录(2026/11/19), 用户评价来自本页口碑。自己核对:项目主页、问题、外部提交的修改、发版记录。
怎么评的
只看公开、能核对的数据,不打分数,只给四档结论,每一项的依据都写在旁边。
- 更新:近 90 天改了多少次代码、最近一次发版是哪天。7 天内有改动并且改得多或常发版,算「很活跃」;30 天内有改动算「活跃」;半年内算「放缓」;半年以上没动或者已经归档,算「停更」。
- 问题处理:近 90 天新开的问题解决了几成、一般几天解决、外部提交的修改积压了多少。解决八成以上、一般一周内解决、积压不比合进去的多,算「好」;解决不到一半算「差」;其余算「一般」。新问题不到 10 个的不评。
- 用的人:GitHub 收藏 5 万以上算很多,1 万以上算多,1 千以上算一般。旁边写近 7 天新增多少、多少人参与开发。
- 用户口碑:用户评价满 5 条才算进来(注册不满 7 天的账号不算);平均分在 2.5 分及以下,总评降一档。
- 总评四档:还在更新、问题处理好、用的人多 → 推荐;还在更新 → 不错;更新放缓或问题处理差 → 一般;半年以上没更新 → 谨慎。许可证有附加条件、商用受限的,单独提醒,不影响总评。
- 收费软件(ChatGPT、Cursor 这类)没有公开的问题记录,就看 App Store:最近一次更新在 30 天内算「活跃」,半年内算「放缓」,半年以上算「停更」;打分人数 10 万以上算很多,1 万以上算多,1 千以上算一般;评分 4 分以上算好,2.5 分及以下算差,打分不到 100 人不评。再加上用户评价。
收藏数能刷,所以只占一项;更新和问题处理很难刷。数据每天更新,超过两周没更新的不评。
最近更新和热度
- v0.23.3
支持 huggingface_hub v2,并修复截断溢出与类型提示错误
- v0.23.2
支持奇偶感知 BPE,并减少了词表获取与调用时的开销
- v0.23.1
加载新增词表速度大幅提升,支持 Python 3.14 且补全了类型提示
GitHub 收藏
11,258 次净增 +702026/10/21—2026/11/192026/11/19 · 11,258 次
查看每日记录
| 日期 | GitHub 收藏(次) |
|---|---|
| 2026/10/21 | 11,188 |
| 2026/10/22 | 11,190 |
| 2026/10/23 | 11,192 |
| 2026/10/24 | 11,193 |
| 2026/10/25 | 11,196 |
| 2026/10/26 | 11,202 |
| 2026/10/27 | 11,203 |
| 2026/10/28 | 11,205 |
| 2026/10/29 | 11,208 |
| 2026/10/30 | 11,213 |
| 2026/10/31 | 11,216 |
| 2026/11/01 | 11,217 |
| 2026/11/02 | 11,217 |
| 2026/11/03 | 11,217 |
| 2026/11/04 | 11,217 |
| 2026/11/05 | 11,221 |
| 2026/11/06 | 11,224 |
| 2026/11/07 | 11,226 |
| 2026/11/08 | 11,227 |
| 2026/11/09 | 11,230 |
| 2026/11/10 | 11,230 |
| 2026/11/11 | 11,236 |
| 2026/11/12 | 11,250 |
| 2026/11/13 | 11,258 |
| 2026/11/14 | 11,244 |
| 2026/11/15 | 11,245 |
| 2026/11/16 | 11,248 |
| 2026/11/17 | 11,249 |
| 2026/11/18 | 11,253 |
| 2026/11/19 | 11,258 |
用户口碑
还没有人点评。用过的话,写下第一条真实体验,帮后来的人少踩坑。
数据来源:GitHub,每天更新,更新时间 2026 年 11 月 19 日。 信息有误?告诉我们。
发布软件评论