AI 软件
3,883 款,每天更新。先看大家在用什么、口碑怎么样,再决定装哪个。
在自己的电脑或服务器上运行、训练模型的工具。
ⓘ 怎么排
常用在前:我们整理的常用软件在前,按分类排,同一类里评分人数多的在前;其余按 GitHub 收藏数从多到少。
综合评价看更新、问题处理、用的人和用过的人的评价,只给推荐、不错、一般、谨慎四档,不打分数;每款的依据写在它自己的页面上。
Cosmo Edgecosmo-wander-ai综合评价:不错边缘设备视频分析引擎,帮你在盒子上运行视觉大模型与检测报警。免费开源 · Apache-2.0GitHub 收藏 1.3K近 7 天 +10
1Cat vLLM1CatAI综合评价:不错专门让老旧 V100 显卡高速运行现代大模型的推理部署工具。免费开源 · Apache-2.0GitHub 收藏 1.2K近 7 天 +51
LLaVA-OneVision-2EvolvingLMMs-Lab综合评价:不错多模态大模型框架,用来理解图片、长视频和空间关系。免费开源 · Apache-2.0GitHub 收藏 1.2K近 7 天 +2
Speech Swiftsoniqo综合评价:不错给苹果芯片设备用的本地语音工具包,能做听写、配音和对话。免费开源 · Apache-2.0GitHub 收藏 1.2K近 7 天 +14
Ollayaollaya-dev综合评价:不错本地运行决策模型的工具,专门毫秒级输出概率与分类判断。免费开源 · Apache-2.0GitHub 收藏 1.2K近 7 天 +284
Verl Omniverl-project综合评价:一般面向多模态与图像视频生成模型的强化学习训练工具。免费开源 · Apache-2.0GitHub 收藏 1.2K近 7 天 +39
Hpc OpsTencent综合评价:一般面向大模型推理的高性能计算算子库,帮服务提速降延迟。许可证需自行查看GitHub 收藏 1.2K近 7 天 +2
Labs MoltNVIDIA-NeMo综合评价:一般针对大模型强化学习与会办事 AI 研究的训练框架。免费开源 · Apache-2.0GitHub 收藏 1.2K
THRMLextropic-ai综合评价:一般基于 JAX 的概率图模型构建与高效采样代码库。免费开源 · Apache-2.0GitHub 收藏 1.2K近 7 天 +3
Tiny Vllmjmaczan综合评价:不错教你用底层代码从零写出一个精简版大模型推理引擎。免费开源 · Apache-2.0GitHub 收藏 1.1K近 7 天 +7
Rtx6kprolocal-inference-lab综合评价:一般一份在专用显卡上跑前沿大模型的部署指南与实测知识库。代码公开,未声明开源许可证GitHub 收藏 1.1K近 7 天 +11
TurboOCRaiptimizer综合评价:不错帮人在显卡上高速从文档和图片里认字排版的服务。免费开源 · MITGitHub 收藏 1.1K近 7 天 +9
vLLM 2080Ti Definitiveweicj综合评价:不错针对双卡 2080Ti 优化的 vLLM 推理运行时。免费开源 · Apache-2.0GitHub 收藏 1.1K近 7 天 +55
DeciderMapika综合评价:不错不生成废话的大模型,直接单次计算给出选择题概率与决策。免费开源 · Apache-2.0GitHub 收藏 1.1K近 7 天 +197
Mosaicomosaico-labs综合评价:不错面向机器人与物理 AI 的数据平台,用于管理和检索传感器数据。免费开源 · Apache-2.0GitHub 收藏 1.1K近 7 天 +11
AnyJevnokia-applied-research综合评价:不错把大模型转成直接输出真实概率的决策模型,无需重新训练。免费开源 · Apache-2.0GitHub 收藏 1.1K近 7 天 +133
TRACERadrida综合评价:不错把大模型的判断记录蒸馏成轻量模型,在本地快速处理重复请求。免费开源 · MITGitHub 收藏 1K
TensorFoldashhart综合评价:不错在苹果电脑和英伟达显卡上快速运行大模型的推理服务工具。免费开源 · Apache-2.0GitHub 收藏 1K近 7 天 +450
Fast GenNVlabs综合评价:一般英伟达的扩散模型加速框架,用来蒸馏和训练图像与视频生成模型。免费开源 · Apache-2.0GitHub 收藏 1K近 7 天 +2
Checkpoint-engineMoonshotAI综合评价:不错在大模型推理集群中快速热更新模型权重的中间件工具。免费开源 · MITGitHub 收藏 1K
UniRLTencent-Hunyuan综合评价:不错多模态强化学习框架,用来训练大语言模型和扩散生图生视频模型。许可证需自行查看GitHub 收藏 1K近 7 天 +5
AxrlXYZ-AI-Lab综合评价:一般帮多轮任务大模型做强化学习训练的后端框架。免费开源 · Apache-2.0GitHub 收藏 983
MLX Studiojjang-ai综合评价:不错苹果电脑上的本地模型工具,支持对话生图与本地接口服务。代码公开,未声明开源许可证GitHub 收藏 981近 7 天 +4
OpenWAMOpenWAM-Official综合评价:不错面向机器人的世界动作模型研究平台,用于预训练、微调与部署。免费开源 · Apache-2.0GitHub 收藏 953近 7 天 +33
已显示 24 / 共 526 款
数据来自 GitHub 和 App Store,每天更新,更新时间 2026 年 10 月 6 日。