AI 软件
买软件、装软件之前先查:要不要花钱、能不能填自己的 Key、开源还是收费、用的人多不多。
收录 3,606 款 · 数据来自 GitHub 和 App Store,每天更新 · 更新时间 2026 年 10 月 5 日
在自己的电脑或服务器上运行、训练模型的工具。
怎么排的:我们整理的常用软件在前,按分类排,同一类里评分人数多的在前;其余按 GitHub 收藏数从多到少。
Super GradientsDeci-AI计算机视觉深度学习模型的训练、微调与部署库,属于直接的 AI 模型训练与推理框架。免费开源 · Apache-2.0GitHub 收藏 5.1K近 7 天 +1
MACEXiaoMiMACE 是面向移动端异构计算平台优化的深度学习推理框架。免费开源 · Apache-2.0GitHub 收藏 5.1K近 7 天 +3
Gaianet NodeGaiaNet-AI部署并运行去中心化AI Agent节点,内置LLM和Qdrant向量检索RAG服务。免费开源 · GPL-3.0GitHub 收藏 5K近 7 天 +1
Pytorch Forecastingsktime基于PyTorch的深度学习时间序列预测库,包含TFT、N-BEATS等神经网络模型训练与预测全流程。免费开源 · MITGitHub 收藏 5K
GigatokenmarcelroedGigatoken是专为大语言模型(LLM)预训练与推理数据处理打造的高性能分词库(Tokenizer)。免费开源 · MITGitHub 收藏 4.1K近 7 天 +2
Rapid-MLXraullenchai基于 MLX 的 Apple Silicon 本地大模型推理服务与应用,原生支持 LLM/多模态推理及 Coding Agent 工具调用工作流。许可证需自行查看GitHub 收藏 3.9K近 7 天 +39
StarVLAstarVLAStarVLA 是用于开发视觉-语言-动作 (VLA) 具身多模态模型的核心训练与评估框架。许可证需自行查看GitHub 收藏 3.8K近 7 天 +25
Mesh LLMMesh-LLMMesh LLM 是专注于分布式 GPU 算力池化和模型推理的系统,提供兼容 OpenAI 的本地与集群大模型推理接口。免费开源 · Apache-2.0GitHub 收藏 3.5K近 7 天 +16
Bonsai DemoPrismML-EngBonsai 2 27B 三元量化大模型的本地推理、视觉与工具调用完整运行 Demo 与启动套件。免费开源 · Apache-2.0GitHub 收藏 3.3K近 7 天 +98
Audio.cpp0xShug0audio.cpp 是基于 ggml 的纯 C++ 本地音频 AI 推理框架,核心功能全面覆盖 TTS、ASR、语音克隆及音乐生成等 AI 模型推理与部署工作流。许可证需自行查看GitHub 收藏 3.3K近 7 天 +138
DexboticdexmalDexbotic 是面向具身智能的 VLA(视觉-语言-动作)模型开发工具箱,能 VLA 模型的预训练、微调、推理与评测。免费开源 · MITGitHub 收藏 3K近 7 天 +70
LuceboxLuce-Org面向异构硬件与消费级GPU的LLM投机推理服务器与优化引擎。免费开源 · Apache-2.0GitHub 收藏 2.9K近 7 天 +10
OpenLakeopenlake-projectOpenLake 是专门针对 LLM 推理与 GPU 训练的高性能存储引擎。免费开源 · Apache-2.0GitHub 收藏 2.7K近 7 天 +-5
Minimind Ojingyaogong从零实现并开源 0.1B 轻量端到端多模态 Omni 模型(文/音/图输入与流式语音输出)及全套训练、推理与数据链路。免费开源 · Apache-2.0GitHub 收藏 2.6K近 7 天 +18
MTPLXyoussofal在Apple Silicon上通过MTP推测解码加速运行本地LLM模型(如Qwen 3.8/Flash Next等),并提供本地OpenAI/Anthropic兼容API服务。免费开源 · Apache-2.0GitHub 收藏 2.5K近 7 天 +46
Club 3090noonghunna在RTX 3090/4090/5090等消费级GPU上部署和推理LLM大模型,提供多推理后端及OpenAI兼容API部署配方与工具链。免费开源 · Apache-2.0GitHub 收藏 2.4K近 7 天 +39
Opendmdexmal具身智能通用基础模型(DM0.5 VLA)。免费开源 · Apache-2.0GitHub 收藏 2.2K近 7 天 +24
TokenSpeedlightseekorgTokenSpeed是专为Agent负载设计的开源高性能LLM推理引擎。免费开源 · MITGitHub 收藏 2.2K近 7 天 +7
NemotronNVIDIA-NeMo NVIDIA Nemotron 模型的训练菜谱、数据与部署枢纽,全生命周期聚焦模型训练、微调与智能体推理。免费开源 · Apache-2.0GitHub 收藏 2.1K近 7 天 +31
AlpamayoNVlabs英伟达开源的10B级自动驾驶VLA多模态推理模型,直接实现因果推理与驾驶轨迹预测工作流。免费开源 · Apache-2.0GitHub 收藏 2K近 7 天 +3
Transcribe.cpphandy-computertranscribe.cpp 是基于 ggml/GGUF 的 C/C++ 语音转文本 (STT) 本地推理框架,支持 Whisper、Canary 等 16 个模型家族的推理与量化。免费开源 · MITGitHub 收藏 2K近 7 天 +17
FlashVSROpenImagingLabFlashVSR是基于单步扩散模型的流式视频超分辨率AI推理框架。免费开源 · Apache-2.0GitHub 收藏 1.9K近 7 天 +8
MiniOneRecAkaliKong基于大语言模型与强化学习的生成式推荐开源框架。免费开源 · Apache-2.0GitHub 收藏 1.9K近 7 天 +20
HyperQwensyv-ai针对 Qwen 大模型与 vLLM 的本地消费级显卡推理加速、量化 pipeline 与投机采样方案。免费开源 · Apache-2.0GitHub 收藏 1.9K近 7 天 +109