Vellum AI

Vellum AI는 생성형 AI 애플리케이션 개발의 전체 수명 주기를 간소화하도록 설계된 포괄적인 엔터프라이즈급 플랫폼입니다. AI 제품의 백엔드 역할을 하여 엔지니어, 제품 관리자, 도메인 전문가 팀이 효과적으로 협업하고 미션 크리티컬 AI 에이전트를 자신 있게 구축할 수 있도록 지원합니다. Vellum의 올인원 솔루션은 초기 실험부터 프로덕션 모니터링에 이르기까지 AI 개발의 핵심 과제를 해결하여 신뢰성, 품질 및 속도를 보장합니다.

이 플랫폼은 AI 개발에 엄격함과 구조를 도입한다는 핵심 철학을 바탕으로 구축되었습니다. 정량적 측정, 재현 가능한 워크플로, 프로덕션 시스템에 대한 완전한 가시성을 위한 도구를 제공하여 팀이 AI의 '블랙박스' 특성을 뛰어넘을 수 있도록 합니다. 선도적인 제품 주도 기업 및 글로벌 기업의 신뢰를 받는 Vellum은 개발 주기를 크게 단축하고 AI 기반 기능의 품질을 향상시키는 것으로 입증되었습니다.

Vellum AI 사용 방법

Vellum에서의 개발 프로세스는 구조화된 반복적 수명 주기를 따릅니다.

1. 실험 및 오케스트레이션: Vellum의 시각적 워크플로 빌더 또는 강력한 SDK(Python/TypeScript)를 사용하여 AI의 비즈니스 로직을 구축하는 것으로 시작합니다. 프롬프트, 도구 호출, 문서에서 검색 증강 생성(RAG), 심지어 Python 또는 Docker 컨테이너에서 실행되는 사용자 지정 코드 등 다양한 노드를 함께 연결할 수 있습니다. 이를 통해 루프, 재귀, 병렬 분기가 있는 복잡한 에이전트 시스템을 만들 수 있습니다.
2. 평가: 워크플로가 설계되면 엄격하게 테스트해야 합니다. Vellum은 포괄적인 평가 제품군을 제공합니다. 테스트 케이스를 생성(또는 합성 테스트 케이스 생성기 사용)하여 품질, 비용, 지연 시간 및 신뢰성과 같은 주요 메트릭에 대한 AI의 성능을 측정합니다. 다양한 프롬프트 버전이나 워크플로 구조를 나란히 비교하여 최적의 구성을 찾습니다.
3. 배포: 원하는 성능 임계값에 도달한 후 AI 워크플로를 자신 있게 배포합니다. Vellum의 기본 릴리스 관리 및 환경 시스템(예: 개발, 스테이징, 프로덕션)은 AI 업데이트를 기본 애플리케이션 릴리스 주기에서 분리합니다. 즉, 전체 코드 배포 없이 AI에 대한 수정 및 개선 사항을 즉시 푸시할 수 있습니다.
4. 모니터링: 배포 후 프로덕션에서 AI 성능에 대한 완전한 가시성을 유지합니다. Vellum의 추적 및 그래프 뷰를 사용하여 실행의 모든 단계를 이해합니다. 모니터링 대시보드는 주요 메트릭을 추적하고, 엣지 케이스를 식별하며, 다음 반복을 위한 데이터를 수집하여 AI가 시간이 지나도 신뢰할 수 있고 효과적으로 유지되도록 보장합니다.

Vellum AI의 핵심 기능

• 워크플로 오케스트레이션: 복잡한 AI 로직을 정의하기 위한 시각적, 노코드/로우코드 빌더 및 모든 기능을 갖춘 SDK. 사용자 지정 Python/TypeScript 노드, 사용자 지정 Docker 이미지 및 내장된 도구 호출을 지원합니다.
• 프롬프트 엔지니어링 제품군: 이미지 및 함수 호출 지원을 포함하여 프롬프트를 생성하고 관리하기 위한 고급 편집기. 버전 기록, 비교 모드 및 프롬프트 최적화 기능이 포함됩니다.
• 검색 증강 생성(RAG): 관리형 문서 수집, 청킹, 임베딩 및 하이브리드 검색(시맨틱, 키워드, 규칙 기반)을 포함한 엔드투엔드 RAG 시스템.
• 포괄적인 평가: 기본 제공 메트릭, 사용자 지정 Python 정의 메트릭 및 LLM 기반 평가로 성능을 측정합니다. 초안 버전과 배포된 버전을 쉽게 비교합니다.
• 배포 및 릴리스 관리: 다양한 환경(개발, 스테이징, 프로덕션)을 통해 AI 워크플로를 안전하게 승격합니다. AI 로직 업데이트를 애플리케이션 릴리스에서 분리합니다.
• 프로덕션 모니터링: 추적-스팬 및 그래프 뷰, 온라인 평가 대시보드, Datadog과 같은 도구와의 통합을 통한 완전한 관찰 가능성.
• 엔터프라이즈급 보안: SOC 2 Type II 준수, HIPAA BAA 지원, VPC 배포, 단일 로그인(SSO) 및 역할 기반 액세스 제어(RBAC) 제공.
• 팀 협업: 엔지니어, PM, 도메인 전문가가 협업할 수 있는 통합 플랫폼으로, UI와 SDK 간에 변경 사항이 동기화됩니다.

Vellum AI의 사용 사례

Vellum은 다재다능하며 다양한 정교한 AI 애플리케이션을 지원합니다.

• 자동화된 문서 분석: GravityStack이 보여주듯이, Vellum은 신용 계약과 같은 복잡한 법률 문서를 검토하는 에이전트 AI를 구동하여 검토 시간을 크게 단축할 수 있습니다.
• 엔터프라이즈급 가상 비서: Redfin과 같은 회사는 Vellum을 사용하여 여러 시장에서 고객 대면 가상 비서를 구축, 평가하고 자신 있게 출시합니다.
• 의료 AI 솔루션: DeepScribe 및 RelyHealth는 Vellum을 활용하여 의료 기록 및 의료 솔루션 배포와 같은 작업을 위해 임상의가 신뢰하는 HIPAA 준수 AI 도구를 구축하여 반복 및 배포를 가속화합니다.
• 내부 규정 준수 및 자동화: Drata는 Vellum에 엔터프라이즈급 내부 AI 솔루션을 구축하여 강력하고 안전한 내부 도구를 만드는 능력을 보여주었습니다.
• 대규모 프로덕션 워크플로: Revamp는 Vellum을 통해 프로덕션에서 1,500만 건 이상의 LLM 실행을 실행하여 높은 처리량 사용 사례에 대한 확장성과 신뢰성을 입증합니다.
• 개인화된 고객 경험: Glowing은 Vellum을 사용하여 호텔 업계에서 개인화된 AI 기반 경험을 만듭니다.

Vellum AI의 장점

Vellum은 AI로 구축하는 팀에게 뚜렷한 경쟁 우위를 제공합니다.

• 개발 가속화: 통합 플랫폼과 협업 도구는 AI 개발 속도를 최대 10배까지 높일 수 있습니다.
• 신뢰성 향상: 엄격하고 정량적인 평가와 강력한 모니터링은 AI 애플리케이션이 기능적일 뿐만 아니라 미션 크리티컬하고 신뢰할 수 있도록 보장합니다.
• 원활한 협업: 기술 및 비기술 이해 관계자 간의 격차를 해소하여 더 빠른 반복과 더 나은 제품 결과를 가능하게 합니다.
• 민첩한 배포: AI 업데이트를 코드 릴리스에서 분리하면 팀이 다음 배포 주기를 기다리지 않고 문제나 기회에 즉시 대응할 수 있습니다.
• 확장성 및 보안: 처음부터 엔터프라이즈 요구 사항에 맞게 구축되어 대규모의 민감한 애플리케이션에 필요한 보안, 규정 준수 및 확장성을 제공합니다.

가격 및 플랜

Vellum은 다양한 팀 규모와 요구에 맞는 맞춤형 플랜을 제공합니다.

• 스타트업 플랜: 강력한 AI 애플리케이션을 구축하려는 팀을 위해 설계되었습니다. 이 플랜은 무료로 시작할 수 있으며 프롬프트 엔지니어링, 워크플로(UI 및 SDK), 문서 검색, 평가, 배포 및 모니터링과 같은 핵심 기능을 최대 5명의 사용자에게 제공합니다.
• 엔터프라이즈 플랜: 맞춤형 요구 사항과 상위 수준의 지원이 필요한 대기업을 대상으로 합니다. 이 플랜에는 스타트업 플랜의 모든 기능과 역할 기반 액세스 제어(RBAC), 다중 작업 공간, VPC 설치 옵션, 외부 모니터링 통합, 단일 로그인(SSO), 맞춤형 계약(BAA/DPA 포함) 및 SLA가 포함된 전용 엔터프라이즈 지원이 포함됩니다. 가격은 맞춤형이며 데모 예약 시 제공됩니다.