Backmesh

Backmesh는 차세대 AI 기반 애플리케이션을 위해 특별히 설계된 강력한 오픈 소스 BaaS(Backend as a Service)입니다. 이는 개발자에게 중요한 보안 및 아키텍처 과제, 즉 민감한 개인 API 키를 노출하지 않고 클라이언트 측 애플리케이션(웹 또는 모바일)에서 대규모 언어 모델(LLM) API를 안전하게 호출하는 방법을 해결합니다. Backmesh는 앱과 LLM 제공업체 사이에 위치하는 지능적이고 안전한 LLM API 게이트키퍼 역할을 하여 모든 통신이 인증, 승인 및 모니터링되도록 보장합니다.

Backmesh의 핵심 철학은 보안을 저해하지 않으면서 개발을 단순화하는 것입니다. Backmesh를 통합함으로써 개발자는 API 키 관리 및 요청 프록시만을 위한 전용 백엔드 서버를 구축하고 유지하는 시간 소모적인 프로세스를 피할 수 있습니다. 이를 통해 더 빠른 반복, 더 빠른 기능 출시가 가능하며 AI 애플리케이션 자체 내에서 훌륭한 사용자 경험을 만드는 데 집중할 수 있습니다.

Backmesh 사용 방법

Backmesh를 애플리케이션에 통합하는 것은 최소한의 코드 변경으로 간단하게 설계되었습니다. 이 프로세스는 기본적으로 두 가지 주요 단계로 구성됩니다.

1. API 호출 리디렉션: LLM 제공업체의 URL(예: `api.openai.com`)로 직접 요청을 보내는 대신, 고유한 Backmesh 게이트키퍼 URL을 가리키도록 LLM SDK를 구성합니다.
2. API 키를 JWT로 교체: 클라이언트 측 코드의 정적, 개인 LLM API 키를 사용자가 로그인한 후 애플리케이션의 인증 제공업체(예: Supabase 또는 Firebase)에서 얻은 동적 JSON 웹 토큰(JWT)으로 교체합니다. 이 JWT는 Backmesh에 사용자의 신원을 증명합니다.

예를 들어, OpenAI SDK와 Supabase를 인증에 사용하는 JavaScript 애플리케이션에서는 Backmesh URL과 사용자의 세션 액세스 토큰을 `apiKey`로 전달하여 클라이언트를 초기화합니다. 그러면 Backmesh가 요청을 수신하고 JWT를 검증하며 구성된 규칙(예: 속도 제한)을 확인한 다음 자체 저장된 개인 키를 사용하여 LLM API로 요청을 안전하게 전달합니다. 이 전체 프로세스는 최종 사용자 및 LLM 제공업체에 투명합니다.

Backmesh의 핵심 기능

• LLM API 게이트키퍼: 앱에서 LLM API로 요청을 안전하게 프록시하여 클라이언트로부터 개인 키를 완전히 숨기는 핵심 기능입니다.
• JWT 인증: Supabase 및 Firebase와 같은 인기 있는 인증 제공업체와 통합됩니다. 사용자의 JWT를 사용하여 각 요청을 확인하여 인증된 사용자만 LLM에 액세스할 수 있도록 합니다.
• 사용자별 속도 제한: 각 사용자에 대해 구성 가능한 속도 제한(예: 사용자당 분당 10회 이하 요청)을 설정하여 API 남용을 방지하고 비용을 효과적으로 관리합니다.
• 리소스 접근 제어: 민감한 API 리소스를 보호합니다. 예를 들어, OpenAI의 API를 사용하면 특정 파일이나 스레드를 생성한 사용자만 계속해서 액세스할 수 있도록 하여 데이터 프라이버시를 강화합니다.
• SDK 없는 LLM 분석: 모든 프록시된 LLM API 호출을 자동으로 계측하여 귀중한 통찰력을 제공합니다. 개발자는 앱에 분석 패키지를 추가하지 않고도 대시보드에 액세스하여 사용 패턴을 모니터링하고, 비용을 추적하고, 오류율을 분석하고, 여러 사용자에 걸쳐 모델 성능을 비교할 수 있습니다.
• 오픈 소스 및 자체 호스팅 가능: Backmesh는 완전한 오픈 소스로 개발자에게 완전한 투명성과 제어권을 제공합니다. 개인 Cloudflare 계정에서 자체 호스팅할 수 있으며 Cloudflare의 관대한 무료 티어를 활용할 수 있습니다.
• 다중 제공업체 지원: OpenAI, Google Gemini, Anthropic 및 Cloudflare Workers AI를 포함한 주요 LLM API를 기본적으로 지원하여 필요에 가장 적합한 모델을 선택할 수 있는 유연성을 제공합니다.

Backmesh의 사용 사례

Backmesh는 다양한 개발 시나리오에 이상적입니다.

• 신속한 프로토타이핑: 전체 백엔드 인프라의 오버헤드 없이 웹 및 모바일 앱에서 AI 기반 기능을 신속하게 구축하고 테스트합니다.
• 서버리스 AI 애플리케이션: Flutter 또는 React와 같은 프레임워크로 구축된 ChatGPT와 유사한 클라이언트와 같이 LLM과 직접적이고 안전하게 통신하는 완전한 기능의 서버리스 AI 앱을 만듭니다.
• 안전한 엔터프라이즈 애플리케이션: 내부 또는 고객 대면 애플리케이션이 엄격한 사용자 기반 접근 제어 및 모니터링을 시행하면서 LLM을 사용할 수 있도록 합니다.
• 인디 개발자 및 스타트업: AI 제품을 더 빠르고 안전하게 출시하여 소규모 팀이 백엔드 유지보수보다는 혁신에 집중하여 경쟁할 수 있도록 합니다.

Backmesh의 장점

Backmesh를 사용하면 몇 가지 주요 이점이 있습니다.

• 획기적으로 향상된 보안: 주요 보안 취약점인 클라이언트 측 코드에 개인 LLM API 키를 노출할 위험을 제거합니다.
• 단순화된 아키텍처: API 프록시를 위한 전용 백엔드가 필요 없어져 애플리케E이션 인프라의 복잡성과 비용을 줄입니다.
• 가속화된 개발: 개발 수명 주기를 단축하여 새로운 AI 기능 및 애플리케이션의 시장 출시 시간을 단축합니다.
• 비용 및 남용 제어: 세분화된 사용자별 속도 제한은 예기치 않은 비용 급증을 방지하고 악의적인 사용자의 남용으로부터 서비스를 보호합니다.
• 실행 가능한 통찰력: 내장된 분석 대시보드는 사용자 행동을 이해하고, 비용을 최적화하며, 전반적인 애플리케이션을 개선하는 데 필요한 데이터를 제공합니다.
• 유연성 및 공급업체 종속 없음: 오픈 소스 특성과 자체 호스팅 옵션은 궁극적인 유연성을 제공하며 단일 SaaS 제공업체에 종속되지 않도록 보장합니다.

가격 및 플랜

Backmesh는 다양한 요구에 맞는 유연한 가격 모델을 제공하며, 유료 플랜에는 15일 무료 평가판이 포함됩니다.

• 오픈 소스(자체 호스팅): 오픈 소스 프로젝트로서 Backmesh는 항상 자신의 Cloudflare 계정에서 무료로 자체 호스팅할 수 있습니다. 이는 최대의 제어권을 원하는 개발자에게 훌륭한 옵션입니다.
• 스타터 플랜: 월 $10의 가격으로, 이 플랜에는 500,000건의 요청과 50,000명의 월간 활성 사용자(MAU)가 포함됩니다. 소규모 프로젝트 및 스타트업에 적합합니다.
• 프로 플랜: 트래픽이 증가하는 애플리케이션을 위해 설계되었습니다. 가격은 맞춤형이며, 영업팀에 문의해야 합니다('채팅하기'). 여기에는 2,000,000건의 요청과 100,000명의 MAU라는 더 높은 기준선이 포함되며, 추가 사용량에 대해 비용을 지불할 수 있는 옵션이 있습니다.
• 엔터프라이즈 플랜: 지원, 보안 및 무제한 사용에 대한 특정 요구 사항이 있는 대규모 애플리케이션을 위한 완전 맞춤형 플랜입니다. 견적은 영업팀에 문의하십시오.