Ktransformers
kvcache-ai
大语言模型（LLM/MoE）异构推理与微调加速框架，实现并提供了CPU-GPU异构推理和SFT微调完整工作流。
免费开源 · Apache-2.0GitHub 收藏19.6K近 7 天 +16
代码最近更新2026 年 10 月 1 日
最新版本v0.7.12026 年 9 月 15 日
许可证开源 · Apache-2.0
要不要花钱免费
怎么用
代码开源，可以免费下载使用；用到 AI 模型时一般要另外准备模型的 Key。
多少钱、在哪买
免费使用。
用户口碑
还没有人点评。用过的话，写下第一条真实体验，帮后来的人少踩坑。
用户评价
还没有评价还没有用过的人来评价。下面的「优点、缺点」只算用过的人勾的。
用户提问
还没有提问还没有人提问。可以问装在哪、要不要花钱、能不能接自己的 Key、中文好不好用。
数据来源：GitHub，每天更新，更新时间 2026 年 10 月 5 日。 信息有误？告诉我们。