AI 软件
买软件、装软件之前先查:要不要花钱、能不能填自己的 Key、开源还是收费、用的人多不多。
收录 3,606 款 · 数据来自 GitHub 和 App Store,每天更新 · 更新时间 2026 年 10 月 5 日
在自己的电脑或服务器上运行、训练模型的工具。
怎么排的:我们整理的常用软件在前,按分类排,同一类里评分人数多的在前;其余按 GitHub 收藏数从多到少。
- TensorRTNVIDIATensorRT 是专用于 NVIDIA GPU 深度学习推理加速的 SDK 及开源组件。免费开源 · Apache-2.0GitHub 收藏 13.4K近 7 天 +16
- Needlecactus-compute核心产品为面向轻量设备的端侧自动化基础模型,提供工具调用、结构化提取及文本向量化功能。免费开源 · Apache-2.0GitHub 收藏 13.2K近 7 天 +401
- PaddleNLPPaddlePaddle飞桨大语言模型与自然语言处理开发套件。免费开源 · Apache-2.0GitHub 收藏 13K
- Time Series Librarythuml深度学习时间序列分析库,核心功能与工作流直接实现并评测深度学习模型(涵盖预测、填补、异常检测等核心任务)。免费开源 · MITGitHub 收藏 12.9K近 7 天 +18
- HRMsapientinc仓库开源了层级推理模型(HRM)架构与训练评估代码。免费开源 · Apache-2.0GitHub 收藏 12.6K近 7 天 +5
- GymnasiumFarama-FoundationGymnasium 是用于单智能体强化学习(RL)的标准环境与算法接口库。免费开源 · MITGitHub 收藏 12.6K近 7 天 +28
- Nsfw Data Scraperalex000kim项目专门用于抓取聚合图像数据集以训练NSFW图像分类器CNN模型,具备完整的模型训练与评估工作流。免费开源 · MITGitHub 收藏 12.6K
- OpenLLMbentoml开源大语言模型(LLM)的本地与云端推理部署,提供兼容 OpenAI 的 API 端点。免费开源 · Apache-2.0GitHub 收藏 12.6K近 7 天 +4
- Axolotlaxolotl-ai-cloudAxolotl是专门用于大语言模型与多模态模型微调、后训练及RL对齐的开源训练框架。免费开源 · Apache-2.0GitHub 收藏 12.5K近 7 天 +4
- MOSSOpenMOSS复旦大学开源的中英双语对话与工具调用大语言模型,包含模型权重、SFT微调代码及插件推理工作流。免费开源 · Apache-2.0GitHub 收藏 12.3K近 7 天 +4
- SentencePiecegoogleSentencePiece 是专门针对神经网络文本生成与大语言模型的无监督分词/解词系统。免费开源 · Apache-2.0GitHub 收藏 12.1K近 7 天 +10
- LMCacheLMCacheLMCache 是专为大模型推理设计的 KV Cache 管理层,核心功能在于通过 KV Cache 复用与分层卸载优化 LLM 推理延迟和吞吐。免费开源 · Apache-2.0GitHub 收藏 12K近 7 天 +28
- Ludwigludwig-ai基于声明式配置的深度学习、LLM微调与多模态AI模型训练框架。免费开源 · Apache-2.0GitHub 收藏 11.8K近 7 天 +3
- Segmentation Models.pytorchqubvel-org基于PyTorch的图像语义分割神经网络库,核心价值即为深度学习/CV模型架构与预训练模型实现。免费开源 · MITGitHub 收藏 11.8K近 7 天 +4
- Pytorch UNetmilesial基于PyTorch实现的U-Net图像语义分割深度学习模型,提供完整训练与推理代码及预训练权重。免费开源 · GPL-3.0GitHub 收藏 11.7K近 7 天 +9
- Tokenizershuggingface针对NLP与LLM大模型的SOTA高性能分词/编码基础设施库。免费开源 · Apache-2.0GitHub 收藏 11.2K近 7 天 +20
- WhisperLiveKitQuentinFuxa核心产品为超低延迟流式语音转文字、说话人日志与实时翻译流水线,深度集成Whisper、Voxtral、Qwen3-ASR等AI模型推理。免费开源 · Apache-2.0GitHub 收藏 11.1K近 7 天 +17
- Servertriton-inference-serverTriton Inference Server 是专门用于部署和加速各类深度学习/机器学习模型推理的服务端基础设施。免费开源 · BSD-3-ClauseGitHub 收藏 11K近 7 天 +24
- Tianshouthu-ml基于PyTorch的深度强化学习算法库与训练框架。免费开源 · MITGitHub 收藏 11K近 7 天 +8
- OpenVINOopenvinotoolkitOpenVINO核心功能为优化并部署各类深度学习模型与AI推理任务。免费开源 · Apache-2.0GitHub 收藏 10.9K近 7 天 +18
- DopaminegoogleDopamine 是用于强化学习算法快速原型研究的框架,核心提供 DQN、Rainbow、SAC、PPO 等强化学习算法实现及基准测试工作流。免费开源 · Apache-2.0GitHub 收藏 10.9K近 7 天 +1
- WasmEdgeWasmEdge项目作为Wasm运行时,核心支持通过LlamaEdge运行大语言模型、语音及图像等生成式AI推理,具备具体且重要的AI工作流。免费开源 · Apache-2.0GitHub 收藏 10.8K近 7 天 +9
- ARTOpenPipe基于 GRPO 的智能体强化学习微调框架。免费开源 · Apache-2.0GitHub 收藏 10.8K近 7 天 +2
- Autogluonautogluon核心产品为自动化机器学习框架(AutoML),涵盖表格数据、时间序列与多模态模型训练预测工作流。免费开源 · Apache-2.0GitHub 收藏 10.8K近 7 天 +12