Captum은 PyTorch를 위한 오픈 소스 모델 해석 가능성 라이브러리입니다. 최첨단 알고리즘을 제공하여 개발자와 연구자가 모델의 예측에 어떤 기능이 영향을 미치는지 이해하도록 돕습니다. 텍스트, 비전 등 다중 모드 데이터를 지원하는 Captum은 PyTorch 생태계 내에서 모델 디버깅, 투명성 향상, 새로운 해석 가능성 기술의 벤치마킹을 용이하게 합니다.
Transluce는 AI 시스템을 이해하기 위한 개방적이고 확장 가능한 기술을 개발하는 독립적인 연구소입니다. Docent 및 Monitor와 같은 도구를 구축하여 AI 에이전트의 행동을 분석, 평가 및 개입하며, 향상된 해석 가능성과 안전성을 통해 책임감 있는 AI 개발을 촉진합니다.
