最好的 模型可解释性 AI工具

dmodel.ai是一家人工智能研究和部署公司，提供模型可解释性、监控和控制工具。它帮助企业理解、引导和重新训练其AI模型，确保企业级部署的可靠性、安全性和一致性。

Captum 是一个用于 PyTorch 的开源模型可解释性库。它提供最先进的算法，帮助开发者和研究人员理解哪些特征影响了模型的预测。Captum 支持文本、视觉等多模态数据，可以轻松地在 PyTorch 生态系统中调试模型、提高透明度并对新的可解释性技术进行基准测试。

Transluce 是一个独立的科研实验室，致力于开发开放、可扩展的技术来理解AI系统。他们构建了如 Docent 和 Monitor 等工具，用于分析、评估和干预AI智能体的行为，通过增强可解释性和安全性来推动负责任的AI发展。