Bolt Foundry

promptfoo là một khung kiểm thử và đánh giá toàn diện cho các Mô hình Ngôn ngữ Lớn (LLM). Nó giúp các nhà phát triển và doanh nghiệp so sánh chất lượng prompt, đánh giá hiệu suất mô hình và tăng cường bảo mật AI thông qua kiểm thử hệ thống, đo lường hiệu năng và tấn công giả lập (red teaming) do AI hỗ trợ. Nó hỗ trợ hơn 50 nhà cung cấp LLM, bao gồm cả các mô hình cục bộ, và cung cấp một CLI thân thiện với nhà phát triển để tích hợp liền mạch vào quy trình phát triển.

Prompto là một giao diện miễn phí, mã nguồn mở, dựa trên trình duyệt để tương tác với nhiều Mô hình Ngôn ngữ Lớn (LLM). Nó tận dụng LangChain.js để kết nối trực tiếp với các nhà cung cấp như OpenAI, Anthropic và các mô hình cục bộ qua Ollama, cung cấp các tính năng nâng cao như Đấu trường so sánh mô hình, mẫu prompt và thảo luận đa AI, đồng thời ưu tiên quyền riêng tư của người dùng bằng cách lưu trữ dữ liệu cục bộ.

Một nền tảng kỹ thuật prompt được hỗ trợ bởi AI, được thiết kế để giúp người dùng tạo, tinh chỉnh và tối ưu hóa các prompt cho các mô hình ngôn ngữ lớn (LLM). Nó tăng cường sự rõ ràng, ngữ cảnh và cấu trúc của prompt để tạo ra các kết quả AI vượt trội, chính xác và nhất quán hơn cho các tác vụ khác nhau.

MLflow là một nền tảng mã nguồn mở để quản lý vòng đời học máy từ đầu đến cuối. Nó cho phép các nhà phát triển và nhà khoa học dữ liệu theo dõi các thử nghiệm, đóng gói mã thành các lần chạy có thể tái tạo, phiên bản và chia sẻ mô hình, và triển khai chúng vào sản xuất, hỗ trợ cả ML truyền thống và các ứng dụng GenAI hiện đại.

CrayEye là một công cụ AI đa phương thức, miễn phí và mã nguồn mở, cho phép bạn tạo và chia sẻ các lời nhắc hình ảnh được làm phong phú với bối cảnh thực tế từ cảm biến của thiết bị (như máy ảnh, GPS) và API (như thời tiết). Thử nghiệm với các mô hình thị giác để diễn giải môi trường của bạn theo những cách mới, có nhận thức về bối cảnh.

Latitude là một nền tảng phát triển mã nguồn mở được thiết kế để xây dựng, đánh giá và triển khai các ứng dụng dựa trên Mô hình Ngôn ngữ Lớn (LLM), với sự tập trung đặc biệt vào việc tạo ra các tác nhân AI tự trị. Nó cung cấp một bộ công cụ toàn diện cho các nhà phát triển để thử nghiệm, tinh chỉnh và mở rộng quy mô các giải pháp AI của họ.

Prompto là một giao diện miễn phí, mã nguồn mở, dựa trên trình duyệt để tương tác với nhiều Mô hình Ngôn ngữ Lớn (LLM). Nó tận dụng LangChain.js để kết nối trực tiếp với các nhà cung cấp như OpenAI, Anthropic và các mô hình cục bộ qua Ollama, cung cấp các tính năng nâng cao như Đấu trường so sánh mô hình, mẫu prompt và thảo luận đa AI, đồng thời ưu tiên quyền riêng tư của người dùng bằng cách lưu trữ dữ liệu cục bộ.

APIPark là một cổng AI mã nguồn mở và cổng thông tin dành cho nhà phát triển được thiết kế để giúp các doanh nghiệp quản lý, tích hợp và triển khai các dịch vụ AI một cách hiệu quả. Nó tập trung hóa các lệnh gọi LLM, giảm chi phí và cung cấp các công cụ để chia sẻ, giám sát và bảo mật API.

boundaryml (BAML) là một ngôn ngữ lập trình và bộ công cụ chuyên dụng dành cho các nhà phát triển để trích xuất dữ liệu có cấu trúc một cách đáng tin cậy từ các Mô hình Ngôn ngữ Lớn (LLM). Nó biến đổi kỹ thuật prompt phức tạp thành một quy trình hợp lý, giống như mã lệnh, đảm bảo kết quả đầu ra an toàn về kiểu và đã được sửa lỗi trên nhiều LLM và ngôn ngữ lập trình khác nhau như Python và TypeScript. Nó được thiết kế để nâng cao độ tin cậy, giảm chi phí và tăng tốc chu kỳ phát triển cho các ứng dụng AI.

Sylph AI là một nền tảng phát triển được thiết kế để tối đa hóa tiềm năng của các ứng dụng LLM. Nền tảng này có AdalFlow, một thư viện mã nguồn mở hàng đầu để xây dựng và tự động tối ưu hóa các quy trình tác vụ LLM, và một AI Teammate cung cấp hướng dẫn chuyên môn trong suốt quy trình phát triển, từ ý tưởng đến sản xuất.

Parea AI là một nền tảng toàn diện để phát triển, thử nghiệm và giám sát các ứng dụng LLM. Nó cung cấp các công cụ để theo dõi thử nghiệm, khả năng quan sát, đánh giá và chú thích của con người để giúp các nhóm tự tin đưa hệ thống AI vào sản xuất.

ModelFusion là một bộ công cụ LLM tất cả trong một dành cho các nhà phát triển và nhà nghiên cứu. Nó cung cấp một bộ công cụ miễn phí, bao gồm máy tính chi phí, thư viện prompt và công cụ so sánh mô hình cho hơn 30 mô hình AI như GPT-4, Claude và Gemini. Nó cũng cung cấp một API thống nhất và hướng dẫn chạy mô hình cục bộ để hợp lý hóa việc phát triển AI và tối ưu hóa chi phí.

Prompt Mixer là một công cụ mã nguồn mở mạnh mẽ cho kỹ thuật prompt, cung cấp một không gian làm việc cộng tác cho các nhóm. Nó cho phép người dùng tạo, kiểm tra, đánh giá và triển khai các giải pháp dựa trên AI bằng cách quản lý chuỗi prompt, so sánh các LLM khác nhau và sử dụng các chỉ số đánh giá nâng cao.

6b là một giao diện web miễn phí của EleutherAI để thử nghiệm mô hình ngôn ngữ lớn GPT-J-6B. Người dùng có thể nhập câu lệnh, điều chỉnh các tham số như nhiệt độ và top-p, và tạo văn bản ngay lập tức. Đây là một công cụ dễ tiếp cận cho các nhà phát triển, nhà nghiên cứu và nhà văn để thử nghiệm một AI mã nguồn mở mạnh mẽ với 6 tỷ tham số mà không cần cài đặt, khám phá khả năng của nó trong viết lách sáng tạo, lập trình và tạo nội dung.

promptfoo là một khung kiểm thử và đánh giá toàn diện cho các Mô hình Ngôn ngữ Lớn (LLM). Nó giúp các nhà phát triển và doanh nghiệp so sánh chất lượng prompt, đánh giá hiệu suất mô hình và tăng cường bảo mật AI thông qua kiểm thử hệ thống, đo lường hiệu năng và tấn công giả lập (red teaming) do AI hỗ trợ. Nó hỗ trợ hơn 50 nhà cung cấp LLM, bao gồm cả các mô hình cục bộ, và cung cấp một CLI thân thiện với nhà phát triển để tích hợp liền mạch vào quy trình phát triển.

Một nền tảng kỹ thuật prompt được hỗ trợ bởi AI, được thiết kế để giúp người dùng tạo, tinh chỉnh và tối ưu hóa các prompt cho các mô hình ngôn ngữ lớn (LLM). Nó tăng cường sự rõ ràng, ngữ cảnh và cấu trúc của prompt để tạo ra các kết quả AI vượt trội, chính xác và nhất quán hơn cho các tác vụ khác nhau.

MLflow là một nền tảng mã nguồn mở để quản lý vòng đời học máy từ đầu đến cuối. Nó cho phép các nhà phát triển và nhà khoa học dữ liệu theo dõi các thử nghiệm, đóng gói mã thành các lần chạy có thể tái tạo, phiên bản và chia sẻ mô hình, và triển khai chúng vào sản xuất, hỗ trợ cả ML truyền thống và các ứng dụng GenAI hiện đại.

CrayEye là một công cụ AI đa phương thức, miễn phí và mã nguồn mở, cho phép bạn tạo và chia sẻ các lời nhắc hình ảnh được làm phong phú với bối cảnh thực tế từ cảm biến của thiết bị (như máy ảnh, GPS) và API (như thời tiết). Thử nghiệm với các mô hình thị giác để diễn giải môi trường của bạn theo những cách mới, có nhận thức về bối cảnh.

Redmo là một nền tảng kỹ thuật prompt mạnh mẽ cho phép người dùng tạo, quản lý và thực thi các mẫu prompt động với các biến số. Nó cung cấp hỗ trợ API để tích hợp liền mạch và có khả năng tương thích với nhiều LLM, bao gồm cả GPT-4, nhằm hợp lý hóa và mở rộng quy mô tạo nội dung và quy trình làm việc tự động.