Athina

Athina는 대규모 언어 모델(LLM) 애플리케이션의 전체 수명 주기를 가속화하기 위해 설계된 엔드투엔드 협업 AI 개발 플랫폼입니다. 이 플랫폼은 팀이 전례 없는 속도와 신뢰성으로 AI 기능을 구축, 테스트 및 모니터링할 수 있도록 지원하며, 프로토타입에서 프로덕션까지의 경로를 10배 단축하는 것을 목표로 합니다. 데이터 과학자, 제품 관리자, QA 팀 및 엔지니어가 효과적으로 협업할 수 있는 통합 작업 공간으로 설계되어 AI 시스템이 강력할 뿐만 아니라 안전하고 신뢰할 수 있도록 보장합니다.

Athina 사용 방법

Athina 사용은 전체 AI 개발 프로세스를 포괄하는 구조화된 워크플로우를 따릅니다:

1. 프로토타입 및 실험: 실험 스위트를 사용하여 프롬프트를 관리, 테스트 및 버전 관리하는 것으로 시작합니다. Azure OpenAI 및 AWS Bedrock과 같은 사용자 지정 모델을 포함한 모든 모델로 실험을 실행할 수 있습니다. 'Flows' 기능을 사용하면 광범위한 코딩 없이 아이디어를 복잡한 AI 파이프라인으로 신속하게 전환할 수 있습니다.
2. 평가 및 주석: 모델을 테스트하기 위해 고품질 평가 데이터 세트를 만듭니다. 이 플랫폼은 협업 주석을 용이하게 하여 주석자 간 일치도 확인을 통해 데이터 세트를 큐레이팅할 수 있습니다. 데이터 세트를 나란히 비교하고 SQL을 사용하여 심층 분석을 위해 상호 작용할 수 있습니다.
3. 통합 및 배포: Athina의 로깅 및 모니터링 SDK를 애플리케이션에 원활하게 통합합니다. 이 통합은 기존 관찰 가능성 스택과 호환되도록 설계되었으며 대기 시간에 미치는 영향이 최소화됩니다.
4. 모니터링 및 추적: 프로덕션에 배포되면 AI의 성능에 대한 완전한 가시성을 확보합니다. Athina는 AI를 위해 특별히 설계된 모니터링을 제공하여 상세한 LLM 추적을 캡처하고, 온라인 평가를 실행하며, 비용, 대기 시간 및 사용자 피드백에 대한 분석을 제공합니다.
5. 협업 및 보안: 세분화된 액세스 제어로 팀을 관리합니다. 최대의 데이터 프라이버시를 위해 Athina는 자체 VPC 내에서 자체 호스팅 배포 옵션을 제공하며, 이 플랫폼은 SOC-2 Type 2를 준수합니다.

Athina의 핵심 기능

• 프롬프트 관리 및 실험: 다양한 LLM 제공업체 및 사용자 지정 모델에서 프롬프트를 관리, 버전 관리 및 테스트하기 위한 중앙 허브입니다.
• LLM 평가 프레임워크: 사용자 지정 평가('evals')를 구축하거나 사전 구축된 평가를 사용하여 데이터 세트에 대해 모델 성능, 품질 및 안전성을 엄격하게 평가합니다.
• 협업 주석: 데이터 세트 큐레이션 및 주석 프로세스를 간소화하여 Google Sheets와 같은 수동 방법에 비해 상당한 시간을 절약합니다.
• 프로덕션 모니터링 및 관찰 가능성: LLM 네이티브 추적, 로깅, 실시간 분석 및 온라인 평가 기능을 통해 프로덕션 환경의 비용, 대기 시간 및 성능을 모니터링합니다.
• AI Flows: 몇 분 만에 복잡한 AI 파이프라인과 에이전트 워크플로우를 시각적으로 구축, 테스트 및 배포할 수 있는 강력한 도구입니다.
• 엔터프라이즈급 보안: SOC-2 Type 2 준수, 자체 클라우드에서의 자체 호스팅 옵션 및 세분화된 액세스 제어로 데이터 프라이버시를 보장합니다.
• 모델 독립성: Azure OpenAI, AWS Bedrock 및 사용자 지정 호스팅 모델을 포함한 광범위한 모델과 제공업체를 지원하여 유연성을 제공합니다.

Athina의 사용 사례

Athina는 세계적인 AI 팀들로부터 다양한 애플리케이션에 대해 신뢰를 받고 있습니다:

• 고객 지원 AI 에이전트: Richpanel과 같은 팀은 Athina를 사용하여 고객 지원을 위한 신뢰할 수 있는 AI 에이전트를 구축하고 평가하여 고품질 상호 작용을 보장합니다.
• 검색 및 추천 시스템: You.com과 같은 회사는 Athina를 활용하여 주석을 간소화하고 고품질 평가 데이터 세트를 생성하여 핵심 검색 제품을 개선합니다.
• 법률 기술 자동화: CourtCorrect와 같은 회사는 유연한 실험 스위트와 강력한 관찰 가능성을 위해 이 플랫폼을 사용하여 법률 AI 애플리케이션을 개발하고 모니터링합니다.
• 교육 기술 플랫폼: PhysicsWallah는 교육 제품의 LLM 기능에 대한 강력한 관찰 가능성과 원활한 프로토타이핑을 위해 Athina를 활용합니다.

Athina의 장점

Athina는 AI로 구축하는 팀에게 뚜렷한 경쟁 우위를 제공합니다:

• 개발 가속화: AI 기능을 프로덕션에 출시하는 시간을 대폭 단축합니다.
• 협업 강화: 기술 및 비기술 이해 관계자 간의 격차를 해소하는 통합 환경을 만듭니다.
• 신뢰성 및 안전성 향상: 포괄적인 테스트 및 모니터링을 통해 안전하고 신뢰할 수 있는 AI 시스템 개발을 보장합니다.
• 통합 및 포괄적인 도구 세트: 초기 아이디어 및 프로토타이핑에서 프로덕션 모니터링 및 반복에 이르기까지 전체 LLM 수명 주기를 포괄합니다.
• 데이터 프라이버시 및 제어: 자체 호스팅 옵션과 SOC-2 준수를 통해 엔터프라이즈 수준의 보안을 제공하여 데이터를 완전히 제어할 수 있습니다.

가격 및 플랜

Athina는 모든 규모의 팀에 맞는 유연한 가격을 제공합니다:

• Starter: 무료. 월 10,000개 로그, 고급 분석, 무제한 프롬프트, 프롬프트 및 모델 비교 기능이 포함됩니다. 개인 및 소규모 팀이 시작하기에 이상적입니다.
• Pro: 데모를 위해 문의하십시오. Starter 플랜의 모든 기능과 무제한 로그, 평가, 데이터 세트 및 팀 좌석이 포함됩니다. 또한 화이트 글러브 지원 및 GraphQL API 액세스를 제공합니다.
• Enterprise: 맞춤형 가격. 모든 Pro 기능과 자체 호스팅 배포, SOC-2 Type 2 인증, 고급 액세스 제어 및 사용자 지정 모델에 대한 전용 지원이 포함됩니다.