AI 软件
买软件、装软件之前先查:要不要花钱、能不能填自己的 Key、开源还是收费、用的人多不多。
收录 3,606 款 · 数据来自 GitHub 和 App Store,每天更新 · 更新时间 2026 年 10 月 5 日
检验模型效果、记录和排查 AI 调用的工具。
怎么排的:我们整理的常用软件在前,按分类排,同一类里评分人数多的在前;其余按 GitHub 收藏数从多到少。
- NetdatanetdataNetdata 在其核心监控管道中内置实现了边缘端无监督机器学习模型训练与实时异常检测(ML-Powered anomaly detection)工作流。免费开源 · GPL-3.0GitHub 收藏 80.8K近 7 天 +114
- LlmfitAlexsJones检测硬件并评估、推荐适合本地运行的大语言模型与量化格式,AI模型匹配与基准测试为首要产品价值。免费开源 · MITGitHub 收藏 37.6K近 7 天 +357
- NetronlutzroederNetron 是专用于神经网络、深度学习和机器学习模型的可视化工具。免费开源 · MITGitHub 收藏 33.5K近 7 天 +16
- MLflowmlflowMLflow是开源AI工程与LLM/ML全生命周期平台。免费开源 · Apache-2.0GitHub 收藏 28.3K近 7 天 +93
- Shapshap基于博弈论 Shapley 值为机器学习与深度学习模型提供可解释性分析与特征归因。免费开源 · MITGitHub 收藏 25.8K近 7 天 +12
- Promptfoopromptfoo针对大模型与AI Agent的评估、红队测试及多模型对比,AI模型测评即为产品主体价值。免费开源 · MITGitHub 收藏 25.7K近 7 天 +177
- Opikcomet-mlOpik专为LLM应用、RAG和Agent提供追踪、LLM-as-a-Judge评估与监控。免费开源 · Apache-2.0GitHub 收藏 22.4K近 7 天 +102
- CodexBarsteipeteCodexBar 核心功能是为开发者监控与追踪多款 AI Coding/LLM 供应商的 Token 额度、用量重置窗口与花费,属于 AI 开发者生态强相关工具应用。免费开源 · MITGitHub 收藏 22.2K近 7 天 +169
- iFixAiifixai-ai独立审计与评测 AI Agent(包括调用多模型作为评测裁判 Judge 进行对抗性与合规性检查)。免费开源 · Apache-2.0GitHub 收藏 20.1K近 7 天 +3.8K
- SkillSpectorNVIDIA该项目专门用于检测 AI agent skills 及 MCP 工具中的安全漏洞与提示词注入,内置 LLM 语义分析与 MCP Server 运行工作流。免费开源 · Apache-2.0GitHub 收藏 19.4K近 7 天 +878
- RagaAI Catalystraga-ai-hubAgent 和大语言模型提供可观测性、追踪、评测、红队测试及护栏管理。免费开源 · Apache-2.0GitHub 收藏 16.2K
- RagasvibrantlabsaiRagas 是专用于大语言模型(LLM)与 RAG 应用评测及测试数据生成的评估框架。免费开源 · Apache-2.0GitHub 收藏 15.9K近 7 天 +60
- DVCtreeverseDVC 面向机器学习与数据科学工作流,核心功能包括数据与模型版本控制、轻量级流水线与 ML 实验追踪,属于 MLOps 基础设施。免费开源 · Apache-2.0GitHub 收藏 15.9K近 7 天 +12
- Lm Evaluation HarnessEleutherAI大语言模型评测框架(Language Model Evaluation Harness)。免费开源 · MITGitHub 收藏 14.1K近 7 天 +33
- GorillaShishirPatilGorilla专注于让大语言模型调用海量API(Tool/Function Calling),并提供BFCL评测榜单、RAFT微调与OpenFunctions模型。免费开源 · Apache-2.0GitHub 收藏 13K近 7 天 +-1
- Pytorch Grad Camjacobgil面向计算机视觉和深度学习模型(CNN、ViT等)的可解释性分析(XAI/Grad-CAM等)。免费开源 · MITGitHub 收藏 13K近 7 天 +11
- KubesharkkubesharkKubeshark 实现了基于 MCP 协议与开源 AI Skills(Network RCA、KFL)的 SRE/运维排障与网络分析工作流。免费开源 · Apache-2.0GitHub 收藏 12.1K近 7 天 +10
- CleanlabcleanlabCleanlab 是以数据为中心的 AI/ML 开源库,核心工作流使用机器学习模型自动检测数据集中的标签错误与数据质量问题。免费开源 · Apache-2.0GitHub 收藏 11.7K近 7 天 +8
- Rerunrerun-ioRerun 是专用于实体 AI、机器人与计算机视觉的多模态数据可视化、记录和训练流式输入平台。免费开源 · Apache-2.0GitHub 收藏 11.5K近 7 天 +40
- Codeburngetagentseal核心功能即跟踪分析 Claude Code、Cursor 等41种 AI 编程工具/Agent 的 Token 消耗、模型成本与上下文浪费。免费开源 · MITGitHub 收藏 11.3K近 7 天 +67
- WandbwandbW&B 专注于机器学习实验追踪、可视化、超参数调优及模型全生命周期管理。免费开源 · MITGitHub 收藏 11.3K近 7 天 +4
- FiftyOnevoxel51FiftyOne 是专为视觉 AI 和计算机视觉模型构建、评估及数据集精炼设计的核心工具。免费开源 · Apache-2.0GitHub 收藏 11.1K近 7 天 +18
- Claude Code Usage MonitorMaciek-roboblog该项目专门用于监控 Claude Code AI 编程工具的实时 Token 用量、费用及速率限制预测。免费开源 · MITGitHub 收藏 8.7K近 7 天 +5
- BertVizjessevigBertViz 是专门针对 Transformer/BERT 等深度学习语言模型注意力机制的交互式可视化与可解释性分析工具。免费开源 · Apache-2.0GitHub 收藏 8.2K近 7 天 +8