Gmi Cloud

Gmi Cloud là một nhà cung cấp đám mây chuyên dụng dựa trên GPU, cung cấp cơ sở hạ tầng toàn diện để phát triển, đào tạo và triển khai các mô hình trí tuệ nhân tạo. Với tư cách là Nhà cung cấp Nền tảng Đám mây Tham chiếu của NVIDIA, nó cung cấp một bộ công cụ được thiết kế để tăng tốc toàn bộ vòng đời AI, từ thử nghiệm đến sản xuất. Nền tảng này được xây dựng để cung cấp các giải pháp hiệu suất cao, có thể mở rộng và tiết kiệm chi phí, đáp ứng nhu cầu của các công ty khởi nghiệp AI và các doanh nghiệp lớn bằng cách loại bỏ sự phức tạp và chậm trễ liên quan đến các nhà cung cấp đám mây truyền thống.

Cách sử dụng Gmi Cloud

Người dùng có thể tận dụng Gmi Cloud bằng cách xác định nhu cầu khối lượng công việc AI cụ thể của họ trước. Đối với dịch vụ mô hình thời gian thực, Inference Engine cung cấp một môi trường được tối ưu hóa với khả năng mở rộng tự động. Để quản lý các quy trình đào tạo và triển khai phức tạp, Cluster Engine cung cấp một nền tảng dựa trên Kubernetes để điều phối container. Đối với sức mạnh tính toán trực tiếp, người dùng có thể truy cập các phiên bản GPU Compute chuyên dụng. Quá trình này bao gồm việc chọn phần cứng GPU cần thiết (như NVIDIA H100/H200), cấu hình môi trường thông qua bảng điều khiển hoặc API, triển khai các mô hình hoặc ứng dụng AI và mở rộng tài nguyên theo yêu cầu về hiệu suất.

Tính năng chính của Gmi Cloud

• Inference Engine: Một công cụ hiệu suất cao được tối ưu hóa cho độ trễ cực thấp và hiệu quả tối đa trong suy luận AI thời gian thực, có tính năng triển khai mô hình tức thì và mở rộng khối lượng công việc tự động.
• Cluster Engine: Một môi trường AI/ML Ops được xây dựng có mục đích dựa trên Kubernetes để quản lý các khối lượng công việc GPU có thể mở rộng. Nó đơn giản hóa việc quản lý container, điều phối và cung cấp bảng điều khiển giám sát thời gian thực.
• GPU Compute hiệu suất cao: Truy cập theo yêu cầu vào các GPU NVIDIA hàng đầu, bao gồm H100 và H200, với sự hỗ trợ cho dòng Blackwell sắp tới.
• Mạng InfiniBand: Kết nối có độ trễ cực thấp, thông lượng cao để loại bỏ các điểm nghẽn về hiệu suất trong đào tạo phân tán và các khối lượng công việc quy mô lớn.
• Bảo mật cấp doanh nghiệp: Được triển khai tại các trung tâm dữ liệu Tier-4 với chứng nhận SOC 2 Type 1 và ISO27001:2022, đảm bảo thời gian hoạt động, bảo mật và tuân thủ cao.
• Triển khai linh hoạt: Hỗ trợ triển khai trên cả môi trường đám mây riêng và công cộng, cho phép người dùng toàn quyền kiểm soát hiệu suất, khả năng mở rộng và chi phí.

Các trường hợp sử dụng Gmi Cloud

Gmi Cloud lý tưởng cho các nhà phát triển, nhà nghiên cứu và doanh nghiệp tham gia vào các tác vụ AI đòi hỏi tính toán cao. Điều này bao gồm đào tạo các mô hình ngôn ngữ lớn (LLM), triển khai các dịch vụ suy luận thời gian thực cho các ứng dụng như chatbot và video tạo sinh, chạy các mô phỏng tính toán hiệu năng cao (HPC) và mở rộng quy mô các công ty khởi nghiệp dựa trên AI. Các câu chuyện thành công cho thấy việc sử dụng nó trong việc tăng tốc phát triển mô hình cho sản xuất điện ảnh, giảm chi phí tính toán cho các nền tảng video tạo sinh và tăng độ chính xác suy luận cho quản lý cơ sở hạ tầng AI.

Ưu điểm của Gmi Cloud

Ưu điểm chính của Gmi Cloud là sự tập trung chuyên biệt vào các khối lượng công việc AI, cung cấp một giải pháp thay thế hiệu quả về chi phí và hiệu suất cao hơn so với các nhà cung cấp đám mây đa dụng. Các lợi ích chính bao gồm quyền truy cập tức thì vào các GPU chuyên dụng, hàng đầu, giúp tăng tốc thời gian đưa sản phẩm ra thị trường. Cơ sở hạ tầng của nó, với mạng InfiniBand, đảm bảo độ trễ cực thấp. Mô hình định giá linh hoạt trả theo mức sử dụng và khả năng mở rộng tự động của nền tảng giúp tối ưu hóa chi phí, trong khi các tiêu chuẩn bảo mật và tuân thủ mạnh mẽ của nó cung cấp một môi trường đáng tin cậy cho dữ liệu nhạy cảm.

Giá cả và gói dịch vụ

Gmi Cloud cung cấp một mô hình định giá linh hoạt, trả theo mức sử dụng mà không có cam kết dài hạn. Giá cả cụ thể bao gồm:

• GPU theo yêu cầu (8 x NVIDIA H100): Bắt đầu từ $4.39 mỗi GPU-giờ.
• Đám mây riêng (8 x NVIDIA H100): Thấp nhất là $2.50 mỗi GPU-giờ.
• GPU NVIDIA H200 (Theo yêu cầu): Có sẵn với giá niêm yết là $3.50 mỗi GPU-giờ cho bare-metal và $3.35 mỗi GPU-giờ cho các phiên bản container.