最好的 模型可解釋性 AI 工具

dmodel.ai是一家人工智能研究和部署公司，提供模型可解釋性、監控和控制工具。它幫助企業理解、引導和重新訓練其AI模型，確保企業級部署的可靠性、安全性和一致性。

Captum 是一個用於 PyTorch 的開源模型可解釋性函式庫。它提供最先進的演算法，幫助開發者和研究人員理解哪些特徵影響了模型的預測。Captum 支援文字、視覺等多模態數據，可以輕鬆地在 PyTorch 生態系統中偵錯模型、提高透明度並對新的可解釋性技術進行基準測試。

Transluce 是一個獨立的科研實驗室，致力於開發開放、可擴展的技術來理解 AI 系統。他們建構了如 Docent 和 Monitor 等工具，用於分析、評估和干預 AI 智能體的行為，透過增強可解釋性和安全性來推動負責任的 AI 發展。