OpenLIT

Helicone là một nền tảng mã nguồn mở cung cấp Cổng AI và Khả năng quan sát LLM cho các nhà phát triển. Nó giúp xây dựng các ứng dụng AI đáng tin cậy bằng cách cung cấp các công cụ để định tuyến, giám sát, gỡ lỗi và phân tích việc sử dụng LLM. Các tính năng chính bao gồm API hợp nhất cho hơn 100 mô hình, bộ nhớ đệm thông minh, giới hạn tốc độ, quản lý prompt và phân tích hiệu suất chi tiết.

Pydantic là một nền tảng toàn diện dành cho nhà phát triển, cung cấp khả năng xác thực dữ liệu mạnh mẽ, công cụ phát triển AI và giải pháp quan sát toàn diện (full-stack observability). Nó cho phép phát triển ứng dụng nhanh hơn, mạnh mẽ hơn bằng Python và các ngôn ngữ khác bằng cách tận dụng gợi ý kiểu (type hints) để xác thực dữ liệu thời gian chạy và cung cấp thông tin chi tiết sâu sắc từ môi trường phát triển cục bộ đến sản xuất.

Valyr (trước đây là Helicone) là một nền tảng quan sát LLM mã nguồn mở và cổng AI. Nó giúp các nhà phát triển giám sát, gỡ lỗi và phân tích các ứng dụng AI của họ, cung cấp một tích hợp duy nhất để truy cập hơn 100 mô hình, quản lý chi phí và cải thiện độ tin cậy với các tính năng như bộ nhớ đệm và giới hạn tốc độ.

Pezzo là một nền tảng AI mã nguồn mở, ưu tiên nhà phát triển, được thiết kế để hợp lý hóa toàn bộ vòng đời phát triển tính năng AI. Nó cho phép các nhóm xây dựng, thử nghiệm, giám sát và phát hành các tính năng do AI cung cấp nhanh hơn tới 10 lần thông qua quản lý prompt tập trung, khả năng quan sát thời gian thực và các công cụ cộng tác.

ParsePrompt là một nền tảng kỹ thuật prompt tiên tiến, được thiết kế cho các nhà phát triển và đội ngũ AI. Nó cho phép bạn phân tích cú pháp, phân tích, quản lý và tối ưu hóa các prompt LLM của mình. Chuyển đổi các prompt văn bản phi cấu trúc thành các mẫu có cấu trúc, có thể tái sử dụng, theo dõi phiên bản và cộng tác hiệu quả để xây dựng các ứng dụng AI đáng tin cậy và tiết kiệm chi phí hơn.

Helicone là một nền tảng mã nguồn mở cung cấp Cổng AI và Khả năng quan sát LLM cho các nhà phát triển. Nó giúp xây dựng các ứng dụng AI đáng tin cậy bằng cách cung cấp các công cụ để định tuyến, giám sát, gỡ lỗi và phân tích việc sử dụng LLM. Các tính năng chính bao gồm API hợp nhất cho hơn 100 mô hình, bộ nhớ đệm thông minh, giới hạn tốc độ, quản lý prompt và phân tích hiệu suất chi tiết.

Pydantic là một nền tảng toàn diện dành cho nhà phát triển, cung cấp khả năng xác thực dữ liệu mạnh mẽ, công cụ phát triển AI và giải pháp quan sát toàn diện (full-stack observability). Nó cho phép phát triển ứng dụng nhanh hơn, mạnh mẽ hơn bằng Python và các ngôn ngữ khác bằng cách tận dụng gợi ý kiểu (type hints) để xác thực dữ liệu thời gian chạy và cung cấp thông tin chi tiết sâu sắc từ môi trường phát triển cục bộ đến sản xuất.

Valyr (trước đây là Helicone) là một nền tảng quan sát LLM mã nguồn mở và cổng AI. Nó giúp các nhà phát triển giám sát, gỡ lỗi và phân tích các ứng dụng AI của họ, cung cấp một tích hợp duy nhất để truy cập hơn 100 mô hình, quản lý chi phí và cải thiện độ tin cậy với các tính năng như bộ nhớ đệm và giới hạn tốc độ.

Langfuse là một nền tảng kỹ thuật LLM mã nguồn mở cung cấp các công cụ toàn diện để gỡ lỗi, đánh giá và cải thiện các ứng dụng LLM. Nó cung cấp các tính năng như theo dõi, quản lý prompt, khung đánh giá và số liệu để hợp lý hóa toàn bộ vòng đời phát triển cho các nhóm xây dựng với các mô hình ngôn ngữ lớn.

HoneyHive là một nền tảng quan sát và đánh giá AI tất cả trong một dành cho các nhà phát triển xây dựng bằng LLM và các tác nhân AI. Nó cung cấp một giải pháp thống nhất để xây dựng, kiểm tra, gỡ lỗi và giám sát các ứng dụng AI, từ các thử nghiệm ban đầu đến triển khai quy mô doanh nghiệp. Nền tảng này giúp các nhóm đo lường chất lượng AI một cách có hệ thống, có được khả năng hiển thị sâu về các tương tác của tác nhân, giám sát các chỉ số hiệu suất như chi phí và độ trễ, và cộng tác trên các tài sản thiết yếu như lời nhắc và bộ dữ liệu, đảm bảo việc vận chuyển các sản phẩm AI đáng tin cậy một cách tự tin.

AI SDK của Vercel là một bộ công cụ TypeScript miễn phí, mã nguồn mở để xây dựng các ứng dụng dựa trên AI. Nó cung cấp một API thống nhất để tích hợp liền mạch các mô hình ngôn ngữ lớn (LLM) khác nhau như OpenAI, Google và Anthropic. Nó đơn giản hóa việc phát triển với các tính năng như phản hồi trực tuyến, các thành phần giao diện người dùng tạo sinh và gọi công cụ, cho phép các nhà phát triển xây dựng và phát hành các tính năng AI nhanh hơn trên các framework như Next.js, React và Svelte.

Higress.AI là một Cổng AI (AI Gateway) mã nguồn mở tiên tiến được thiết kế cho các nhà phát triển và doanh nghiệp. Nó đơn giản hóa việc tích hợp và quản lý các Mô hình Ngôn ngữ Lớn (LLM) và Tác tử AI bằng cách cung cấp một proxy API thống nhất cho hơn 100 mô hình. Các tính năng chính bao gồm chuyển đổi REST sang MCP, bộ nhớ đệm ngữ nghĩa, giới hạn tốc độ dựa trên token và một hệ thống plugin mạnh mẽ, cho phép xây dựng cơ sở hạ tầng ứng dụng AI an toàn, có khả năng mở rộng và quan sát được.

APIPark là một cổng AI mã nguồn mở và cổng thông tin dành cho nhà phát triển được thiết kế để giúp các doanh nghiệp quản lý, tích hợp và triển khai các dịch vụ AI một cách hiệu quả. Nó tập trung hóa các lệnh gọi LLM, giảm chi phí và cung cấp các công cụ để chia sẻ, giám sát và bảo mật API.

Chatbot UI là một giao diện chatbot mã nguồn mở cho phép bạn kết nối với hơn 80 mô hình AI, bao gồm cả các mô hình từ OpenAI, Google và Anthropic. Nó cung cấp một giải pháp thay thế có thể tự lưu trữ, tùy chỉnh cho các nền tảng trò chuyện độc quyền, cho phép người dùng toàn quyền kiểm soát dữ liệu và cuộc trò chuyện của họ. Sắp xếp các cuộc trò chuyện, tạo lời nhắc và chuyển đổi liền mạch giữa các mô hình trong một không gian làm việc thống nhất duy nhất.

Falcon LLM là một họ các mô hình ngôn ngữ lớn mạnh mẽ, mã nguồn mở và truy cập mở do Viện Đổi mới Công nghệ (TII) phát triển. Nổi tiếng với hiệu suất hàng đầu, khả năng mở rộng và đa phương thức, các mô hình Falcon bao gồm từ các phiên bản hiệu quả có thể triển khai tại biên cho đến các mô hình khổng lồ 180 tỷ tham số, nhằm mục đích dân chủ hóa quyền truy cập vào AI tiên tiến cho các nhà phát triển, nhà nghiên cứu và doanh nghiệp trên toàn thế giới.

Metorial là một nền tảng tích hợp cho các tác nhân AI, cho phép các nhà phát triển nhanh chóng xây dựng, triển khai và giám sát các ứng dụng AI tác nhân mạnh mẽ. Nó cung cấp các kết nối liền mạch đến hàng trăm công cụ, nguồn dữ liệu và API thông qua nền tảng Model Context Protocol (MCP) không máy chủ, cung cấp SDK mạnh mẽ, khả năng quan sát và bảo mật cấp doanh nghiệp cho các giải pháp AI có thể mở rộng.

Inferable là một nền tảng nhà phát triển mã nguồn mở, có thể tự lưu trữ để xây dựng các agent và quy trình làm việc AI đáng tin cậy, bền bỉ và có phiên bản. Nó cho phép tạo ra các quy trình phức tạp, chạy dài với khả năng có sự tham gia của con người (human-in-the-loop), đầu ra có cấu trúc và thực thi tại chỗ để đảm bảo an ninh và kiểm soát tối đa.

Atla AI là một nền tảng quan sát và đánh giá được thiết kế cho các tác nhân AI (AI agent). Nó giúp các nhà phát triển tìm, hiểu và khắc phục các lỗi của tác nhân bằng cách cung cấp thông tin chi tiết sâu sắc về hành vi của chúng. Nền tảng tự động phát hiện lỗi, xác định các mẫu lặp lại và đưa ra các đề xuất có thể hành động để liên tục cải thiện hiệu suất và tỷ lệ hoàn thành của tác nhân.

Hexabot là một nền tảng mã nguồn mở để xây dựng, tùy chỉnh và triển khai các chatbot và tác nhân AI mạnh mẽ. Nó cung cấp một môi trường thân thiện với nhà phát triển với trình chỉnh sửa trực quan low-code, thư viện tiện ích mở rộng phong phú và tích hợp đa kênh, cho phép tự lưu trữ để đảm bảo quyền riêng tư và kiểm soát dữ liệu hoàn toàn.