Backmesh

Backmesh là một Dịch vụ Backend dưới dạng Dịch vụ (BaaS) mã nguồn mở mạnh mẽ, được thiết kế đặc biệt cho thế hệ ứng dụng mới được hỗ trợ bởi AI. Nó giải quyết một thách thức quan trọng về bảo mật và kiến trúc cho các nhà phát triển: làm thế nào để gọi các API Mô hình Ngôn ngữ Lớn (LLM) một cách an toàn từ các ứng dụng phía máy khách (web hoặc di động) mà không để lộ các khóa API riêng tư nhạy cảm. Backmesh hoạt động như một Cổng API LLM thông minh và an toàn, nằm giữa ứng dụng của bạn và nhà cung cấp LLM, đảm bảo rằng tất cả các giao tiếp đều được xác thực, ủy quyền và giám sát.

Triết lý cốt lõi của Backmesh là đơn giản hóa việc phát triển mà không ảnh hưởng đến bảo mật. Bằng cách tích hợp Backmesh, các nhà phát triển có thể tránh được quá trình tốn thời gian xây dựng và duy trì một máy chủ backend chuyên dụng chỉ để quản lý khóa API và ủy quyền yêu cầu. Điều này cho phép lặp lại nhanh hơn, phát hành tính năng nhanh hơn và tập trung vào việc tạo ra trải nghiệm người dùng tuyệt vời trong chính ứng dụng AI.

Cách sử dụng Backmesh

Việc tích hợp Backmesh vào ứng dụng của bạn được thiết kế để đơn giản với những thay đổi mã tối thiểu. Quá trình này về cơ bản bao gồm hai bước chính:

1. Chuyển hướng cuộc gọi API: Thay vì gửi yêu cầu trực tiếp đến URL của nhà cung cấp LLM (ví dụ: `api.openai.com`), bạn cấu hình SDK LLM của mình để trỏ đến URL Cổng Backmesh duy nhất của bạn.
2. Thay thế Khóa API bằng JWT: Bạn thay thế khóa API LLM tĩnh, riêng tư trong mã phía máy khách của mình bằng một JSON Web Token (JWT) động được lấy từ nhà cung cấp xác thực của ứng dụng (như Supabase hoặc Firebase) sau khi người dùng đăng nhập. JWT này chứng minh danh tính của người dùng với Backmesh.

Ví dụ, trong một ứng dụng JavaScript sử dụng SDK OpenAI và Supabase để xác thực, bạn sẽ khởi tạo máy khách bằng cách chuyển URL Backmesh và mã thông báo truy cập phiên của người dùng làm `apiKey`. Backmesh sau đó nhận yêu cầu, xác thực JWT, kiểm tra các quy tắc đã định cấu hình (như giới hạn tốc độ) và chuyển tiếp yêu cầu một cách an toàn đến API LLM bằng khóa riêng tư được lưu trữ của chính nó. Toàn bộ quá trình này là minh bạch đối với người dùng cuối và nhà cung cấp LLM.

Tính năng chính của Backmesh

• Cổng API LLM: Tính năng trung tâm giúp ủy quyền các yêu cầu từ ứng dụng của bạn đến các API LLM một cách an toàn, che giấu hoàn toàn các khóa riêng tư của bạn khỏi máy khách.
• Xác thực JWT: Tích hợp với các nhà cung cấp xác thực phổ biến như Supabase và Firebase. Nó xác minh mỗi yêu cầu bằng JWT của người dùng, đảm bảo chỉ những người dùng đã được xác thực mới có thể truy cập LLM.
• Giới hạn tốc độ cho mỗi người dùng: Ngăn chặn lạm dụng API và quản lý chi phí hiệu quả bằng cách đặt giới hạn tốc độ có thể định cấu hình cho mỗi người dùng (ví dụ: không quá 10 yêu cầu mỗi phút cho mỗi người dùng).
• Kiểm soát truy cập tài nguyên: Bảo vệ các tài nguyên API nhạy cảm. Ví dụ, với API của OpenAI, nó đảm bảo rằng chỉ người dùng đã tạo một Tệp hoặc Luồng cụ thể mới có thể tiếp tục truy cập nó, tăng cường quyền riêng tư dữ liệu.
• Phân tích LLM không cần SDK: Tự động đo lường tất cả các cuộc gọi API LLM được ủy quyền để cung cấp những hiểu biết có giá trị. Các nhà phát triển có thể truy cập bảng điều khiển để theo dõi các mẫu sử dụng, theo dõi chi phí, phân tích tỷ lệ lỗi và so sánh hiệu suất mô hình giữa các người dùng mà không cần thêm bất kỳ gói phân tích nào vào ứng dụng của họ.
• Mã nguồn mở & Tự lưu trữ: Backmesh hoàn toàn là mã nguồn mở, mang lại cho các nhà phát triển sự minh bạch và kiểm soát hoàn toàn. Nó có thể được tự lưu trữ trên tài khoản Cloudflare cá nhân, tận dụng gói miễn phí hào phóng của Cloudflare.
• Hỗ trợ nhiều nhà cung cấp: Hỗ trợ nguyên bản các API LLM lớn bao gồm OpenAI, Google Gemini, Anthropic và Cloudflare Workers AI, mang lại sự linh hoạt trong việc chọn mô hình tốt nhất cho nhu cầu của bạn.

Các trường hợp sử dụng Backmesh

Backmesh lý tưởng cho một loạt các kịch bản phát triển:

• Tạo mẫu nhanh: Nhanh chóng xây dựng và thử nghiệm các tính năng do AI điều khiển trong các ứng dụng web và di động mà không cần đến cơ sở hạ tầng backend đầy đủ.
• Ứng dụng AI không máy chủ: Tạo các ứng dụng AI không máy chủ đầy đủ chức năng, chẳng hạn như một máy khách giống ChatGPT được xây dựng bằng các framework như Flutter hoặc React, giao tiếp trực tiếp và an toàn với các LLM.
• Ứng dụng doanh nghiệp an toàn: Cho phép các ứng dụng nội bộ hoặc hướng tới khách hàng sử dụng LLM trong khi thực thi các kiểm soát truy cập nghiêm ngặt dựa trên người dùng và giám sát.
• Nhà phát triển độc lập & Startup: Ra mắt các sản phẩm AI nhanh hơn và an toàn hơn, cho phép các nhóm nhỏ cạnh tranh bằng cách tập trung vào sự đổi mới thay vì bảo trì backend.

Ưu điểm của Backmesh

Sử dụng Backmesh mang lại một số lợi thế chính:

• Bảo mật được cải thiện đáng kể: Loại bỏ nguy cơ để lộ khóa API LLM riêng tư trong mã phía máy khách, đây là một lỗ hổng bảo mật lớn.
• Kiến trúc đơn giản hóa: Giảm độ phức tạp và chi phí của cơ sở hạ tầng ứng dụng của bạn bằng cách loại bỏ nhu cầu về một backend chuyên dụng để ủy quyền API.
• Phát triển được tăng tốc: Tăng tốc vòng đời phát triển, cho phép thời gian đưa ra thị trường nhanh hơn cho các tính năng và ứng dụng AI mới.
• Kiểm soát chi phí và lạm dụng: Giới hạn tốc độ chi tiết cho mỗi người dùng ngăn chặn các đợt tăng chi phí bất ngờ và bảo vệ dịch vụ của bạn khỏi sự lạm dụng của người dùng độc hại.
• Thông tin chi tiết có thể hành động: Bảng điều khiển phân tích tích hợp cung cấp dữ liệu cần thiết để hiểu hành vi của người dùng, tối ưu hóa chi phí và cải thiện ứng dụng tổng thể.
• Linh hoạt và không bị khóa nhà cung cấp: Bản chất mã nguồn mở và tùy chọn tự lưu trữ cung cấp sự linh hoạt tối đa và đảm bảo bạn không bao giờ bị khóa vào một nhà cung cấp SaaS duy nhất.

Giá cả và gói dịch vụ

Backmesh cung cấp một mô hình định giá linh hoạt để phù hợp với các nhu cầu khác nhau, bao gồm bản dùng thử miễn phí 15 ngày cho các gói trả phí của mình.

• Mã nguồn mở (Tự lưu trữ): Là một dự án mã nguồn mở, Backmesh luôn có thể được tự lưu trữ miễn phí trên tài khoản Cloudflare của riêng bạn. Đây là một lựa chọn tuyệt vời cho các nhà phát triển muốn có sự kiểm soát tối đa.
• Gói Starter: Có giá $10 mỗi tháng, gói này bao gồm 500.000 yêu cầu và 50.000 Người dùng hoạt động hàng tháng (MAU). Nó hoàn hảo cho các dự án nhỏ và các startup.
• Gói Pro: Được thiết kế cho các ứng dụng đang phát triển với lưu lượng truy cập cao hơn. Giá cả được tùy chỉnh; bạn cần liên hệ với đội ngũ bán hàng ('Trò chuyện với chúng tôi'). Nó bao gồm một mức cơ bản cao hơn là 2.000.000 yêu cầu và 100.000 MAU, với các tùy chọn trả tiền cho việc sử dụng bổ sung.
• Gói Enterprise: Một gói hoàn toàn tùy chỉnh cho các ứng dụng quy mô lớn với các nhu cầu cụ thể về hỗ trợ, bảo mật và sử dụng không giới hạn. Liên hệ với bộ phận bán hàng để nhận báo giá.