最好的 185 個 AI基礎設施 AI 工具

OpenLIT 是一個專為生成式 AI 和 LLM 應用程式設計的開源、OpenTelemetry 原生可觀測性平台。它透過請求追蹤、成本追蹤、異常監控和效能分析等工具簡化了開發流程。OpenLIT 擁有集中的提示詞儲存庫、用於儲存密鑰的安全保管庫以及用於比較 LLM 的實驗場，為高效監控和擴展 AI 應用程式提供了全面的解決方案。

EvalsOne 是一個專為生成式AI應用設計的一站式評估平台。它使團隊能夠透過一個強大直觀的介面，輕鬆地評估、迭代和優化LLM提示語、RAG流程和AI智能體，確保AI產品既健壯又具競爭力。

Nous Research 是一家致力於開發開源、以人為本的語言模型的 AI 研究機構。他們專注於透過去中心化訓練基礎設施、先進的模型架構和強大的推理 API 來實現 AI 的民主化，挑戰傳統的閉源模型方法。

Anyscale 是一個用於擴展 AI 和 Python 工作負載的全託管計算平台。它由開源 Ray 框架的原始創建者構建，使開發人員能夠以優化的性能和成本效益，在任何雲上構建、運行和擴展從 LLM 訓練到數據處理的各種分佈式應用程式。

Wavify 是一個面向開發者的裝置端語音AI平台。它提供高效能、注重隱私和跨平台的SDK，可將語音轉文字、喚醒詞偵測和語音意圖識別等功能整合到任何應用程式中。它確保了雲端級的準確性，同時在使用者裝置本機處理所有資料，保障隱私和離線功能。

David AI 提供高品質、研究級的音訊資料集，用於訓練先進的語音和對話式AI模型。它提供多樣化、大規模的資料集，包括多語言對話、多說話者音訊和專家對話，並可選擇創建自訂資料集以解鎖新的AI功能。

Oosto（前身為 AnyVision）是領先的視覺 AI 平台，專注於為企業安全提供即時臉部辨識和影像分析。它透過識別相關人員、自動化門禁控制以及從現有影像流中提供可操作的營運情報來增強實體安全。

一個專業的平台，為大型語言模型（LLM）代理提供逼真的強化學習（RL）環境。它使開發人員和研究人員能夠建構、測試和部署能夠執行複雜電腦任務（從網頁瀏覽到軟體操作）的自主代理。

SurrealDB 是一款專為現代應用程式設計的次世代多模型雲端資料庫。它透過統一文件、關聯式、圖形和時間序列模型，並內建全文檢索、向量搜尋和資料庫內機器學習功能，簡化了後端開發。它為可擴展性和即時數據而生，使開發人員能夠以前所未有的輕鬆和速度建構複雜的、由 AI 驅動的應用程式。

Hailo是一家領先的高效能邊緣裝置AI處理器晶片製造商。其解決方案，包括Hailo-8和Hailo-10H加速器，可直接在邊緣裝置上實現資料中心級AI效能和生成式AI功能。他們專注於為汽車、智慧城市、零售和工業自動化等行業提供卓越的能效、低延遲和成本效益。

Gooey.AI 是一個功能強大的AI工作流程平台，使開發人員和組織能夠建構、部署和管理複雜的AI解決方案。它提供對最優秀的私有和開源AI模型的統一存取，支援快速創建多語言聊天機器人、基於RAG的Copilot以及其他整合WhatsApp、Slack和API的生成式AI應用。

Atla AI 是一個專為 AI 代理（Agent）設計的可觀測性與評估平台。它透過深入洞察代理行為，幫助開發者發現、理解和修復代理的故障。該平台能自動偵測錯誤、識別重複出現的模式，並提供可行的改進建議，以持續提升代理的性能和任務完成率。

一個協作式、無程式碼的平台，供團隊設計、測試、部署和監控LLM提示詞。它提供自動化測試、版本控制和多LLM支援，以確保高品質、可預測的AI輸出。

Juice 是一個純軟體平台，可實現 GPU-over-IP（IP網路上GPU），允許您透過任何標準網路存取、共享和池化 GPU 資源。它將 GPU 與實體機器解耦，按需將任何 CPU 節點轉變為 GPU 加速系統，從而在無需變更程式碼的情況下優化利用率並顯著降低 AI 和圖形工作負載的成本。

Innovatiana 是一項專業服務，為 AI 模型提供高品質、符合道德規範的訓練數據。他們為電腦視覺、自然語言處理、生成式 AI 和文件處理提供客製化的資料集建立和資料標註服務。透過僱用經過培訓的專業團隊而非眾包，Innovatiana 確保了卓越的資料準確性、安全性及負責任的 AI 開發，幫助企業建構更強大、無偏見的模型。

一個已停運的電腦視覺API生成式測試平台，允許開發者創建自訂合成圖像和API請求以簡化測試工作流程。請注意：此工具已不再可用。

Labellerr 是一個由人工智慧驅動的資料標註和註釋平台，旨在加速視覺、自然語言處理（NLP）和大型語言模型（LLM）的開發。它提供自動化標註、智慧品質保證和無縫的 MLOps 整合，以高達 99 倍的速度提供 99% 準確的標籤，顯著減少了人工智慧團隊的資料準備時間和開發成本。

Rerun 是一個專為「實體AI」設計的開源資料堆疊，為多模態、時間序列資料提供強大的日誌記錄和視覺化工具。它專為機器人、電腦視覺和空間計算而設計，透過提供 Python、Rust 和 C++ 的 SDK，幫助開發人員理解和偵錯複雜系統。

Firecrawl 是一個開源的、開發者優先的 API，可將任何網站轉化為乾淨的、適用於大型語言模型（LLM）的資料。它能處理網頁抓取的所有複雜問題，包括 JavaScript 渲染、代理輪換和速率限制，讓您能夠使用可靠的網頁內容來驅動 AI 應用、智慧體和 RAG 系統。它透過一個簡單的 API 提供抓取、爬取和搜尋功能。

LanceDB 是一個開源的、AI 原生多模態資料湖倉，專為建構和擴展 AI 應用而設計。它提供了一個統一的平台，用於儲存、搜尋和管理文本、圖像、語音和向量等複雜資料。LanceDB 是 RAG、語意搜尋和模型訓練的理想選擇，提供極速的混合搜尋、高達 PB 級的海量可擴展性以及顯著的成本節約，是企業級 AI 的強大基礎。

TUGADOT 是一家客製化軟體開發和人工智慧整合機構。他們與企業合作，將創意轉化為強大的、量身訂製的技術解決方案，包括網站/行動應用程式、MVP 開發和先進的人工智慧系統。

LambdaTest 是一個由 AI 驅動的雲端測試平台，使開發和 QA 團隊能夠大規模執行跨瀏覽器、真實設備和自動化測試。它為 Web 和行動應用測試提供了一個統一的環境，以加速發布週期並確保高品質的軟體交付。

LakeSail 提供名為 Sail 的高效能開源框架，可作為 Apache Spark 的直接替代品。它採用 Rust 建構，統一了批次處理、流處理和 AI 工作負載，可實現高達 8 倍的執行速度提升和 94% 的雲端成本降低，且無需任何程式碼變更。它消除了 JVM 的開銷，為現代數據和 AI 基礎設施提供了卓越的效率和可擴展性。

Agents-Flex 是一個開源的 Java 框架，專為建構由 LLM 驅動的應用程式而設計。作為 LangChain 的輕量級和優雅替代品，它以高度可擴展的架構簡化了開發。它支援廣泛的 LLM、向量資料庫以及函數調用、RAG 和代理程式編排等進階功能。其框架無關的特性和對 JDK 8+ 的低要求，使其成為任何 Java 開發者的多功能選擇。