promptfoo

Bolt Foundry cung cấp công cụ mã nguồn mở cho nhà phát triển để thực hiện kiểm thử đơn vị trên các Mô hình Ngôn ngữ Lớn (LLM). Nó biến kỹ thuật prompt thành một quy trình khoa học, dựa trên dữ liệu bằng cách sử dụng các prompt có cấu trúc, có thể kiểm thử được gọi là 'grader'. Điều này đảm bảo đầu ra AI đáng tin cậy, nhất quán và có thể đo lường được, lý tưởng cho việc xây dựng các ứng dụng cấp sản xuất.

Prompto là một giao diện miễn phí, mã nguồn mở, dựa trên trình duyệt để tương tác với nhiều Mô hình Ngôn ngữ Lớn (LLM). Nó tận dụng LangChain.js để kết nối trực tiếp với các nhà cung cấp như OpenAI, Anthropic và các mô hình cục bộ qua Ollama, cung cấp các tính năng nâng cao như Đấu trường so sánh mô hình, mẫu prompt và thảo luận đa AI, đồng thời ưu tiên quyền riêng tư của người dùng bằng cách lưu trữ dữ liệu cục bộ.

Lakera là một nền tảng bảo mật gốc AI được thiết kế để bảo vệ các ứng dụng AI Tạo sinh khỏi các mối đe dọa như tấn công prompt injection, rò rỉ dữ liệu và vi phạm tuân thủ. Nền tảng này cung cấp bảo vệ thời gian chạy theo thời gian thực, thông tin tình báo về mối đe dọa liên tục được cung cấp bởi đội ngũ red team AI lớn nhất thế giới, và tích hợp dễ dàng chỉ với một dòng mã. Được các doanh nghiệp như Dropbox tin cậy, Lakera bảo vệ các tác nhân và ứng dụng AI trên tất cả các mô hình và ngôn ngữ chính với độ trễ cực thấp.

ArtisMind là một nền tảng kỹ thuật prompt AI cấp doanh nghiệp được thiết kế để xây dựng, chấm điểm và hoàn thiện các prompt AI bằng cách sử dụng trí tuệ đa mô hình, dựa trên dữ liệu. Nó cung cấp quy trình làm việc khoa học 5 giai đoạn để tạo ra các prompt sẵn sàng sản xuất, an toàn và tối ưu hóa cho các mô hình AI khác nhau, giải quyết các thách thức như tấn công prompt injection, ảo giác và chất lượng không nhất quán.

promptstart là một nền tảng kỹ thuật prompt AI tiên tiến được thiết kế để giúp người dùng tạo, quản lý và tối ưu hóa các prompt cho nhiều mô hình AI khác nhau. Nền tảng này có thư viện prompt dựng sẵn khổng lồ, trình tạo prompt thông minh và trình tối ưu hóa do AI cung cấp để nâng cao chất lượng và hiệu quả của nội dung và mã do AI tạo ra.

Prompto là một giao diện miễn phí, mã nguồn mở, dựa trên trình duyệt để tương tác với nhiều Mô hình Ngôn ngữ Lớn (LLM). Nó tận dụng LangChain.js để kết nối trực tiếp với các nhà cung cấp như OpenAI, Anthropic và các mô hình cục bộ qua Ollama, cung cấp các tính năng nâng cao như Đấu trường so sánh mô hình, mẫu prompt và thảo luận đa AI, đồng thời ưu tiên quyền riêng tư của người dùng bằng cách lưu trữ dữ liệu cục bộ.

ModelFusion là một bộ công cụ LLM tất cả trong một dành cho các nhà phát triển và nhà nghiên cứu. Nó cung cấp một bộ công cụ miễn phí, bao gồm máy tính chi phí, thư viện prompt và công cụ so sánh mô hình cho hơn 30 mô hình AI như GPT-4, Claude và Gemini. Nó cũng cung cấp một API thống nhất và hướng dẫn chạy mô hình cục bộ để hợp lý hóa việc phát triển AI và tối ưu hóa chi phí.

Prompt Mixer là một công cụ mã nguồn mở mạnh mẽ cho kỹ thuật prompt, cung cấp một không gian làm việc cộng tác cho các nhóm. Nó cho phép người dùng tạo, kiểm tra, đánh giá và triển khai các giải pháp dựa trên AI bằng cách quản lý chuỗi prompt, so sánh các LLM khác nhau và sử dụng các chỉ số đánh giá nâng cao.

EvalsOne là một nền tảng đánh giá tất cả trong một được thiết kế cho các ứng dụng AI tạo sinh. Nó cho phép các nhóm dễ dàng đánh giá, lặp lại và tối ưu hóa các câu lệnh LLM, quy trình RAG và các tác nhân AI thông qua một giao diện mạnh mẽ, trực quan, đảm bảo các sản phẩm AI mạnh mẽ và cạnh tranh.

Một sân chơi trực tuyến dựa trên web để thử nghiệm và so sánh các mô hình ngôn ngữ lớn khác nhau. Tinh chỉnh thông số, kiểm tra prompt và phân tích kết quả từ các mô hình như GPT, Claude và Gemini trong một giao diện thân thiện với người dùng. Lý tưởng cho các kỹ sư prompt, nhà phát triển và người tạo nội dung.

AirPrompt là một nền tảng kỹ thuật và kiểm thử prompt mạnh mẽ. Nó cho phép người dùng đồng thời kiểm thử, so sánh và tối ưu hóa các prompt AI trên nhiều mô hình như GPT-4, Claude và các lựa chọn mã nguồn mở. Với các biến động, tải lên dữ liệu hàng loạt và so sánh kết quả song song, nó hợp lý hóa quy trình làm việc cho các nhà phát triển và người tạo nội dung để xây dựng các ứng dụng AI chất lượng cao và tiết kiệm chi phí.

Bolt Foundry cung cấp công cụ mã nguồn mở cho nhà phát triển để thực hiện kiểm thử đơn vị trên các Mô hình Ngôn ngữ Lớn (LLM). Nó biến kỹ thuật prompt thành một quy trình khoa học, dựa trên dữ liệu bằng cách sử dụng các prompt có cấu trúc, có thể kiểm thử được gọi là 'grader'. Điều này đảm bảo đầu ra AI đáng tin cậy, nhất quán và có thể đo lường được, lý tưởng cho việc xây dựng các ứng dụng cấp sản xuất.

Lakera là một nền tảng bảo mật gốc AI được thiết kế để bảo vệ các ứng dụng AI Tạo sinh khỏi các mối đe dọa như tấn công prompt injection, rò rỉ dữ liệu và vi phạm tuân thủ. Nền tảng này cung cấp bảo vệ thời gian chạy theo thời gian thực, thông tin tình báo về mối đe dọa liên tục được cung cấp bởi đội ngũ red team AI lớn nhất thế giới, và tích hợp dễ dàng chỉ với một dòng mã. Được các doanh nghiệp như Dropbox tin cậy, Lakera bảo vệ các tác nhân và ứng dụng AI trên tất cả các mô hình và ngôn ngữ chính với độ trễ cực thấp.

ArtisMind là một nền tảng kỹ thuật prompt AI cấp doanh nghiệp được thiết kế để xây dựng, chấm điểm và hoàn thiện các prompt AI bằng cách sử dụng trí tuệ đa mô hình, dựa trên dữ liệu. Nó cung cấp quy trình làm việc khoa học 5 giai đoạn để tạo ra các prompt sẵn sàng sản xuất, an toàn và tối ưu hóa cho các mô hình AI khác nhau, giải quyết các thách thức như tấn công prompt injection, ảo giác và chất lượng không nhất quán.

Codegate là một cổng bảo mật mã nguồn mở và khung ghép kênh cho các hệ thống tác tử AI. Được phát triển bởi Stacklok, nó cung cấp không gian làm việc an toàn và kiểm soát truy cập dựa trên chính sách, cho phép các nhà phát triển xây dựng và quản lý các ứng dụng đa tác tử phức tạp một cách an toàn và hiệu quả.

Learn Prompting là một nền tảng giáo dục hàng đầu cung cấp các khóa học toàn diện, dựa trên nghiên cứu về kỹ thuật prompt và giao tiếp AI. Được tin cậy bởi hơn 3 triệu người dùng và các tập đoàn lớn, nền tảng này cung cấp đào tạo miễn phí và trả phí cho mọi cấp độ kỹ năng, từ người mới bắt đầu đến chuyên gia cao cấp, bao gồm các chủ đề chuyên sâu như an ninh AI và red-teaming.

Ragas là một framework Python mã nguồn mở để đánh giá và kiểm thử các pipeline Sinh Tăng cường Truy xuất (RAG). Nó cung cấp một bộ số liệu để đo lường hiệu suất của các ứng dụng LLM của bạn, từ truy xuất ngữ cảnh đến tạo câu trả lời. Được tin cậy bởi các nhà lãnh đạo ngành như LangChain và LlamaIndex, Ragas giúp các nhà phát triển xây dựng các hệ thống AI mạnh mẽ, đáng tin cậy và chính xác hơn bằng cách xác định và giảm thiểu các vấn đề như ảo giác và phản hồi không liên quan.

getmaxim là một nền tảng đánh giá và quan sát GenAI toàn diện được thiết kế cho các nhóm phát triển AI. Nó cho phép người dùng kiểm tra, giám sát và cải thiện các ứng dụng AI bằng cách chạy các đánh giá sâu rộng trên LLM và các pipeline RAG, tự động hóa kiểm thử và cung cấp giám sát sản xuất thời gian thực để đảm bảo AI chất lượng cao, đáng tin cậy và có trách nhiệm.

Charm là một hệ sinh thái gồm các công cụ và thư viện mã nguồn mở được thiết kế để làm cho giao diện dòng lệnh (CLI) trở nên hào nhoáng và mạnh mẽ. Nó cung cấp cho các nhà phát triển các ứng dụng cho lập trình được hỗ trợ bởi AI (Crush, Mods), giao diện người dùng đầu cuối đẹp mắt (Bubble Tea), kết xuất markdown (Glow) và máy chủ Git tự lưu trữ (Soft Serve). Charm trao quyền cho các nhà phát triển xây dựng, tạo kiểu và nâng cao quy trình làm việc trên terminal của họ bằng các công cụ hiện đại, thanh lịch và có chức năng cao.