AI 软件
买软件、装软件之前先查:要不要花钱、能不能填自己的 Key、开源还是收费、用的人多不多。
收录 3,606 款 · 数据来自 GitHub 和 App Store,每天更新 · 更新时间 2026 年 10 月 5 日
检验模型效果、记录和排查 AI 调用的工具。
怎么排的:我们整理的常用软件在前,按分类排,同一类里评分人数多的在前;其余按 GitHub 收藏数从多到少。
- Codeburngetagentseal核心功能即跟踪分析 Claude Code、Cursor 等41种 AI 编程工具/Agent 的 Token 消耗、模型成本与上下文浪费。免费开源 · MITGitHub 收藏 11.3K近 7 天 +67
- WandbwandbW&B 专注于机器学习实验追踪、可视化、超参数调优及模型全生命周期管理。免费开源 · MITGitHub 收藏 11.3K近 7 天 +4
- FiftyOnevoxel51FiftyOne 是专为视觉 AI 和计算机视觉模型构建、评估及数据集精炼设计的核心工具。免费开源 · Apache-2.0GitHub 收藏 11.1K近 7 天 +18
- Claude Code Usage MonitorMaciek-roboblog该项目专门用于监控 Claude Code AI 编程工具的实时 Token 用量、费用及速率限制预测。免费开源 · MITGitHub 收藏 8.7K近 7 天 +5
- BertVizjessevigBertViz 是专门针对 Transformer/BERT 等深度学习语言模型注意力机制的交互式可视化与可解释性分析工具。免费开源 · Apache-2.0GitHub 收藏 8.2K近 7 天 +8
- tensorboardXlanpaPyTorch等深度学习框架提供TensorBoard事件写入与可视化工具。免费开源 · MITGitHub 收藏 8K
- Evidentlyevidentlyai机器学习与大语言模型的可观测、评估和监控框架,提供LLM-as-a-judge与数据评估能力。免费开源 · Apache-2.0GitHub 收藏 8K近 7 天 +28
- Star Office UIringhyacinth专为 AI Agent(如 OpenClaw)设计的状态可视化看板,并内置 Gemini AI 生图装修等功能。许可证需自行查看GitHub 收藏 7.5K近 7 天 +6
- OpenCompassopen-compass核心产品是大模型评测平台,专用于评估各大开源与商业模型能力并提供榜单。免费开源 · Apache-2.0GitHub 收藏 7.5K近 7 天 +11
- Guardrailsguardrails-ai核心定位即针对LLM的输入输出防护框架,提供针对模型调用的校验与结构化生成工作流。免费开源 · Apache-2.0GitHub 收藏 7.5K近 7 天 +24
- OpenLLMetrytraceloopOpenLLMetry 是基于 OpenTelemetry 的大语言模型与 GenAI 应用可观测性与追踪框架。免费开源 · Apache-2.0GitHub 收藏 7.5K近 7 天 +13
- GuardrailsNVIDIA-NeMo为大语言模型对话系统提供可编程防护栏(Guardrails)的核心AI安全与控制工具包。许可证需自行查看GitHub 收藏 7.2K近 7 天 +35
- Interpretinterpretml可解释机器学习(XAI/EBM)框架,提供训练可解释模型与黑盒模型解释的核心工作流。免费开源 · MITGitHub 收藏 7K近 7 天 +4
- ClearMLclearmlMLOps与LLMOps套件。免费开源 · Apache-2.0GitHub 收藏 6.9K近 7 天 +7
- Superagentsuperagent-ai核心产品为针对AI应用及Agent的安全护栏SDK。免费开源 · MITGitHub 收藏 6.8K近 7 天 +8
- AI Infra GuardTencent全栈AI红队安全测试平台,提供Agent/MCP扫描、LLM越狱评估及AI中继/模型检查等AI安全工作流。免费开源 · Apache-2.0GitHub 收藏 6.7K近 7 天 +124
- Chinese LLM Benchmarkjeinlee1991核心定位即为大规模中文大模型综合能力评测、缺陷库及大模型选型网关。代码公开,未声明开源许可证GitHub 收藏 6.5K近 7 天 +7
- Cleverhanscleverhans-lab机器学习模型的对抗样本攻击、防御与基准评测核心研究工具,核心价值即为机器学习安全与模型评估。免费开源 · MITGitHub 收藏 6.5K近 7 天 +4
- Agent Governance Toolkitmicrosoft自主 AI Agent 的策略执行、零信任身份、执行沙箱及合规治理工具集。免费开源 · MITGitHub 收藏 6.4K近 7 天 +39
- Mission Controlbuilderz-labs核心产品为针对 AI Agent 运行时的自托管控制面板。免费开源 · MITGitHub 收藏 6.3K近 7 天 +21
- AimaimhubioAim 是专门针对机器学习/AI 训练实验的追踪与元数据可视化工具。免费开源 · Apache-2.0GitHub 收藏 6.3K近 7 天 +7
- Adversarial Robustness ToolboxTrusted-AIART专注于机器学习安全防御与对抗性评估,能针对各类ML模型进行逃避、投毒等威胁攻防评测。免费开源 · MITGitHub 收藏 6.3K近 7 天 +13
- HeliconeHeliconeHelicone 是开源 LLMOps 与 AI 网关/可观测性平台。免费开源 · Apache-2.0GitHub 收藏 6.2K近 7 天 +16
- Agentsviewkenn-io面向多款 AI Coding Agent(如 Claude Code、Codex 等)提供本地会话搜索、语义检索与 Token/成本统计分析。免费开源 · MITGitHub 收藏 6K近 7 天 +41