AI 软件
买软件、装软件之前先查:要不要花钱、能不能填自己的 Key、开源还是收费、用的人多不多。
收录 3,606 款 · 数据来自 GitHub 和 App Store,每天更新 · 更新时间 2026 年 10 月 5 日
检验模型效果、记录和排查 AI 调用的工具。
怎么排的:我们整理的常用软件在前,按分类排,同一类里评分人数多的在前;其余按 GitHub 收藏数从多到少。
- tensorboardXlanpaPyTorch等深度学习框架提供TensorBoard事件写入与可视化工具。免费开源 · MITGitHub 收藏 8K
- Evidentlyevidentlyai机器学习与大语言模型的可观测、评估和监控框架,提供LLM-as-a-judge与数据评估能力。免费开源 · Apache-2.0GitHub 收藏 8K近 7 天 +28
- OpenCompassopen-compass核心产品是大模型评测平台,专用于评估各大开源与商业模型能力并提供榜单。免费开源 · Apache-2.0GitHub 收藏 7.5K近 7 天 +11
- Guardrailsguardrails-ai核心定位即针对LLM的输入输出防护框架,提供针对模型调用的校验与结构化生成工作流。免费开源 · Apache-2.0GitHub 收藏 7.5K近 7 天 +24
- OpenLLMetrytraceloopOpenLLMetry 是基于 OpenTelemetry 的大语言模型与 GenAI 应用可观测性与追踪框架。免费开源 · Apache-2.0GitHub 收藏 7.5K近 7 天 +13
- Interpretinterpretml可解释机器学习(XAI/EBM)框架,提供训练可解释模型与黑盒模型解释的核心工作流。免费开源 · MITGitHub 收藏 7K近 7 天 +4
- ClearMLclearmlMLOps与LLMOps套件。免费开源 · Apache-2.0GitHub 收藏 6.9K近 7 天 +7
- Superagentsuperagent-ai核心产品为针对AI应用及Agent的安全护栏SDK。免费开源 · MITGitHub 收藏 6.8K近 7 天 +8
- AI Infra GuardTencent全栈AI红队安全测试平台,提供Agent/MCP扫描、LLM越狱评估及AI中继/模型检查等AI安全工作流。免费开源 · Apache-2.0GitHub 收藏 6.7K近 7 天 +124
- Cleverhanscleverhans-lab机器学习模型的对抗样本攻击、防御与基准评测核心研究工具,核心价值即为机器学习安全与模型评估。免费开源 · MITGitHub 收藏 6.5K近 7 天 +4
- Agent Governance Toolkitmicrosoft自主 AI Agent 的策略执行、零信任身份、执行沙箱及合规治理工具集。免费开源 · MITGitHub 收藏 6.4K近 7 天 +39
- Mission Controlbuilderz-labs核心产品为针对 AI Agent 运行时的自托管控制面板。免费开源 · MITGitHub 收藏 6.3K近 7 天 +21
- AimaimhubioAim 是专门针对机器学习/AI 训练实验的追踪与元数据可视化工具。免费开源 · Apache-2.0GitHub 收藏 6.3K近 7 天 +7
- Adversarial Robustness ToolboxTrusted-AIART专注于机器学习安全防御与对抗性评估,能针对各类ML模型进行逃避、投毒等威胁攻防评测。免费开源 · MITGitHub 收藏 6.3K近 7 天 +13
- HeliconeHeliconeHelicone 是开源 LLMOps 与 AI 网关/可观测性平台。免费开源 · Apache-2.0GitHub 收藏 6.2K近 7 天 +16
- Agentsviewkenn-io面向多款 AI Coding Agent(如 Claude Code、Codex 等)提供本地会话搜索、语义检索与 Token/成本统计分析。免费开源 · MITGitHub 收藏 6K近 7 天 +41
- AgentOpsAgentOps-AIAgentOps是专注于AI智能体监控、LLM成本追踪与评估调试的开发者可观测性平台SDK。免费开源 · MITGitHub 收藏 5.9K近 7 天 +34
- Giskard OssGiskard-AI针对LLM智能体系统的评测、红队对抗测试与脆弱性扫描。免费开源 · Apache-2.0GitHub 收藏 5.9K近 7 天 +20
- Cozeloopcoze-devCoze Loop 是面向 AI Agent 的全生命周期管理平台,核心功能包含 Prompt 调试对比、多维度模型评估与 Trace 观测,直接围绕 LLM 开发与优化展开。免费开源 · Apache-2.0GitHub 收藏 5.8K近 7 天 +10
- ToolBenchOpenBMB构建大模型工具学习平台,提供指令微调数据集、ToolLLaMA训练微调代码及ToolEval评估系统。免费开源 · Apache-2.0GitHub 收藏 5.8K近 7 天 +2
- Tokscalejunhoyeo该工具专注于追踪、统计与分析数十种 AI Coding Agent 和大模型的 Token 消耗与成本,AI Token 可视化与核算是其核心价值。免费开源 · MITGitHub 收藏 5.6K近 7 天 +54
- ZenMLzenml-ioZenML 核心功能是为传统机器学习、LLM 与 Agent 工作流提供编排与 MLOps 全生命周期平台。免费开源 · Apache-2.0GitHub 收藏 5.6K近 7 天 +10
- Tensorspacetensorspace-team神经网络3D可视化,支持TensorFlow/Keras/TFJS等深度学习模型的层级结构、中间特征及推理过程可视化。免费开源 · Apache-2.0GitHub 收藏 5.2K近 7 天 +3
- CLIentireio核心工作流用于捕获与索引 AI 编程智能体(如 Claude Code、Cursor、Codex 等)的交互会话与 Checkpoint。免费开源 · MITGitHub 收藏 5.2K近 7 天 +25