AI 软件
买软件、装软件之前先查:要不要花钱、能不能填自己的 Key、开源还是收费、用的人多不多。
收录 3,606 款 · 数据来自 GitHub 和 App Store,每天更新 · 更新时间 2026 年 10 月 5 日
在自己的电脑或服务器上运行、训练模型的工具。
怎么排的:我们整理的常用软件在前,按分类排,同一类里评分人数多的在前;其余按 GitHub 收藏数从多到少。
- Model OptimizerNVIDIA深度学习与大语言模型的量化、蒸馏、剪枝等模型优化与推理加速技术,AI是项目的主体产品价值。免费开源 · Apache-2.0GitHub 收藏 5.2K
- Transformerlab Apptransformerlab面向AI研究者的开源平台,核心功能涵盖大语言模型与扩散模型的本地/集群训练、微调、推理、评测与生成。免费开源 · AGPL-3.0GitHub 收藏 5.2K近 7 天 +-1
- Sqlflowsql-machine-learning通过扩展 SQL 语法编译并执行机器学习训练、预测、评估和解释工作流(支持 TensorFlow、XGBoost 等)。免费开源 · Apache-2.0GitHub 收藏 5.2K近 7 天 +1
- H2O LLM Studioh2oai大语言模型微调框架和无代码GUI。免费开源 · Apache-2.0GitHub 收藏 5.2K
- CodeGensalesforceCodeGen 是 Salesforce 开源的代码生成大模型家族,核心价值即为程序合成与大语言模型推理研究。免费开源 · Apache-2.0GitHub 收藏 5.2K
- EasyR1hiyougaEasyR1 是基于 veRL 构建的高效多模态大模型强化学习(RL)训练框架。免费开源 · Apache-2.0GitHub 收藏 5.2K近 7 天 +8
- Mmaction2open-mmlab基于 PyTorch 的开源视频理解与动作识别算法工具箱及基准,核心功能完全围绕计算机视觉与深度学习模型训练及推理展开。免费开源 · Apache-2.0GitHub 收藏 5.2K近 7 天 +4
- Augmentormdbloice项目专门用于机器学习与深度学习图像数据增强Pipeline及Keras/PyTorch生成器训练集成。免费开源 · MITGitHub 收藏 5.1K
- Semantic Segmentation PytorchCSAILVision基于PyTorch在ADE20K数据集上训练与推理场景解析/语义分割深度学习模型。免费开源 · BSD-3-ClauseGitHub 收藏 5.1K近 7 天 +2
- Text Embeddings Inferencehuggingface核心功能即为文本向量嵌入、重排序与序列分类等开源AI模型提供高性能推理与部署服务。免费开源 · Apache-2.0GitHub 收藏 5.1K近 7 天 +6
- Super GradientsDeci-AI计算机视觉深度学习模型的训练、微调与部署库,属于直接的 AI 模型训练与推理框架。免费开源 · Apache-2.0GitHub 收藏 5.1K近 7 天 +1
- MACEXiaoMiMACE 是面向移动端异构计算平台优化的深度学习推理框架。免费开源 · Apache-2.0GitHub 收藏 5.1K近 7 天 +3
- Gaianet NodeGaiaNet-AI部署并运行去中心化AI Agent节点,内置LLM和Qdrant向量检索RAG服务。免费开源 · GPL-3.0GitHub 收藏 5K近 7 天 +1
- Pytorch Forecastingsktime基于PyTorch的深度学习时间序列预测库,包含TFT、N-BEATS等神经网络模型训练与预测全流程。免费开源 · MITGitHub 收藏 5K
- GigatokenmarcelroedGigatoken是专为大语言模型(LLM)预训练与推理数据处理打造的高性能分词库(Tokenizer)。免费开源 · MITGitHub 收藏 4.1K近 7 天 +2
- Mesh LLMMesh-LLMMesh LLM 是专注于分布式 GPU 算力池化和模型推理的系统,提供兼容 OpenAI 的本地与集群大模型推理接口。免费开源 · Apache-2.0GitHub 收藏 3.5K近 7 天 +16
- Bonsai DemoPrismML-EngBonsai 2 27B 三元量化大模型的本地推理、视觉与工具调用完整运行 Demo 与启动套件。免费开源 · Apache-2.0GitHub 收藏 3.3K近 7 天 +98
- DexboticdexmalDexbotic 是面向具身智能的 VLA(视觉-语言-动作)模型开发工具箱,能 VLA 模型的预训练、微调、推理与评测。免费开源 · MITGitHub 收藏 3K近 7 天 +70
- LuceboxLuce-Org面向异构硬件与消费级GPU的LLM投机推理服务器与优化引擎。免费开源 · Apache-2.0GitHub 收藏 2.9K近 7 天 +10
- OpenLakeopenlake-projectOpenLake 是专门针对 LLM 推理与 GPU 训练的高性能存储引擎。免费开源 · Apache-2.0GitHub 收藏 2.7K近 7 天 +-5
- Minimind Ojingyaogong从零实现并开源 0.1B 轻量端到端多模态 Omni 模型(文/音/图输入与流式语音输出)及全套训练、推理与数据链路。免费开源 · Apache-2.0GitHub 收藏 2.6K近 7 天 +18
- MTPLXyoussofal在Apple Silicon上通过MTP推测解码加速运行本地LLM模型(如Qwen 3.8/Flash Next等),并提供本地OpenAI/Anthropic兼容API服务。免费开源 · Apache-2.0GitHub 收藏 2.5K近 7 天 +46
- Club 3090noonghunna在RTX 3090/4090/5090等消费级GPU上部署和推理LLM大模型,提供多推理后端及OpenAI兼容API部署配方与工具链。免费开源 · Apache-2.0GitHub 收藏 2.4K近 7 天 +39
- Opendmdexmal具身智能通用基础模型(DM0.5 VLA)。免费开源 · Apache-2.0GitHub 收藏 2.2K近 7 天 +24