AI 软件
买软件、装软件之前先查:要不要花钱、能不能填自己的 Key、开源还是收费、用的人多不多。
收录 3,606 款 · 数据来自 GitHub 和 App Store,每天更新 · 更新时间 2026 年 10 月 5 日
在自己的电脑或服务器上运行、训练模型的工具。
怎么排的:我们整理的常用软件在前,按分类排,同一类里评分人数多的在前;其余按 GitHub 收藏数从多到少。
- OllamaOllama在自己电脑上下载和运行开源大模型的工具。免费开源 · MITGitHub 收藏 182.2K近 7 天 +336
- TensorFlowtensorflowTensorFlow是端到端开源机器学习与深度学习平台,核心价值与工作流完全围绕模型构建与训练展开。免费开源 · Apache-2.0GitHub 收藏 200.7K近 7 天 +118
- TransformershuggingfaceTransformers 是主流深度学习与多模态模型定义、推理及训练框架。免费开源 · Apache-2.0GitHub 收藏 166.9K近 7 天 +194
- Llama.cppggml-org核心定位与功能为 C/C++ 实现的大语言模型与多模态模型本地/云端高效推理引擎与 API 服务端。免费开源 · MITGitHub 收藏 130.3K近 7 天 +530
- vLLMvllm-projectvLLM 是面向大语言模型的高吞吐、低内存推理与服务引擎。免费开源 · Apache-2.0GitHub 收藏 93.2K近 7 天 +315
- Unslothunslothai本地运行与微调LLM/扩散模型的桌面应用及训练框架。免费开源 · Apache-2.0GitHub 收藏 77.2K近 7 天 +303
- LlamaFactoryhiyouga统一高效的大语言模型与多模态模型微调与训练框架。免费开源 · Apache-2.0GitHub 收藏 75.3K近 7 天 +170
- Scikit Learnscikit-learnscikit-learn 是知名的 Python 经典机器学习算法库,核心功能完全围绕机器学习与数据科学工作流展开。免费开源 · BSD-3-ClauseGitHub 收藏 67.5K近 7 天 +64
- Keraskeras-teamKeras 3 是支持 JAX、TensorFlow 与 PyTorch 等后端的多框架深度学习建模与训练核心库。免费开源 · Apache-2.0GitHub 收藏 64.4K近 7 天 +6
- Minimindjingyaogong核心价值在于从零构建超轻量大语言模型全链路,包含预训练、微调、强化学习与推理服务。免费开源 · Apache-2.0GitHub 收藏 63.2K近 7 天 +360
- Ultralyticsultralytics核心产品为 YOLO 计算机视觉深度学习模型套件,涵盖目标检测、分割、分类与姿态估计等完整 AI 训练与推理工作流。免费开源 · AGPL-3.0GitHub 收藏 62.2K近 7 天 +142
- YOLOv5ultralytics计算机视觉模型 YOLOv5,提供目标检测、实例分割和图像分类的训练、推理与导出工作流。免费开源 · AGPL-3.0GitHub 收藏 58.1K近 7 天 +18
- Whisper.cppggml-orgOpenAI Whisper 语音识别模型的 C/C++ 高性能本地推理实现。免费开源 · MITGitHub 收藏 54.1K近 7 天 +147
- LocalAImudlerLocalAI 是开源本地 AI 引擎,提供 LLM、视觉、语音等多模态模型推理与 OpenAI 兼容接口。免费开源 · MITGitHub 收藏 49.4K近 7 天 +80
- Rayray-projectRay 是专为 AI 与机器学习工作负载设计的分布式计算引擎,核心功能涵盖分布式训练、超参数调优、强化学习与模型推理服务。免费开源 · Apache-2.0GitHub 收藏 44K近 7 天 +30
- DeepSpeeddeepspeedaiDeepSpeed 是深度学习优化核心库,专注于大模型分布式训练与推理加速(ZeRO等技术)。免费开源 · Apache-2.0GitHub 收藏 43.2K近 7 天 +24
- Colossal-AIhpcaitechColossal-AI核心为大模型分布式训练与推理加速框架。免费开源 · Apache-2.0GitHub 收藏 41.4K近 7 天 +-2
- BitNetmicrosoft微软官方针对 1-bit LLM(如 BitNet b1.58)的模型推理框架与算子实现。免费开源 · MITGitHub 收藏 40.4K近 7 天 +16
- FastChatlm-sys大语言模型的训练、多模型分布式 Serving 推理以及评测(如 Chatbot Arena、Vicuna)的核心开源平台。免费开源 · Apache-2.0GitHub 收藏 39.6K近 7 天 +5
- OpenAssistantLAION-AI项目旨在开发开源对话大语言模型及助手系统,提供数据收集、RLHF训练与对话推理的核心工作流。免费开源 · Apache-2.0GitHub 收藏 37.4K近 7 天 +-3
- Pytorch Image ModelshuggingfacePyTorch计算机视觉骨干网络与预训练模型库,提供完整的模型训练、评估、推理与预训练权重工作流。免费开源 · Apache-2.0GitHub 收藏 37.2K近 7 天 +18
- MediaPipegoogle-ai-edgeMediaPipe 是 Google 开源的跨平台端侧机器学习与视觉流水线框架,核心价值完全基于 ML 模型与推理管道。免费开源 · Apache-2.0GitHub 收藏 37.2K近 7 天 +58
- SGLangsgl-projectSGLang 是专门用于大语言模型和多模态模型的高性能推理与部署服务框架。免费开源 · Apache-2.0GitHub 收藏 36.8K近 7 天 +257
- AirLLMlyogavin通过分层加载机制在消费级单显卡上运行与微调超大参数量 LLM 本地推理与训练。免费开源 · Apache-2.0GitHub 收藏 35.4K近 7 天 +222