mancer

mancer 是一項專業的大型語言模型 (LLM) 推理服務，透過一個簡單而強大的 API，為開發者和 AI 愛好者提供一系列精選的高效能 LLM。該服務在頂級硬體上運行這些模型，確保為各種應用提供快速可靠的文本生成。與那些將模型與使用者介面捆綁在一起的平台不同，mancer 是一項 API 優先的服務，讓使用者能夠完全控制他們如何整合和利用 AI 的能力。

該平台建立在一個靈活的積分系統之上。使用者可以從一個慷慨的免費方案開始，測試服務並免費使用功能強大的模型。對於要求更高的任務或希望使用更進階、更強大的模型（被描述為「更硬/更好/更快/更強」），使用者可以購買積分包。這種按需付費的模式為各種規模的專案提供了高性價比的解決方案。

如何使用 mancer

mancer 專為程式化使用而設計，不提供自己的使用者介面。要使用該服務，您需要一個能夠與其 API 互動的應用程式。過程非常簡單：

1. 註冊：在 mancer 網站上建立一個帳戶以取得您的 API 金鑰。
2. 選擇模型：瀏覽平台上的可用模型，如 MythoMax、Goliath 120b 或 NoroMaid-20b。每個模型都有詳細的規格，包括上下文長度、每 token 的定價和建議的提示格式。
3. 整合 API：使用提供的 API 文件將 mancer 整合到您自己的應用程式中。該 API 設計與 OpenAI API 標準相容，這意味著您通常只需在現有程式碼中更改 API 端點 URL，即可將 mancer 作為直接替代品使用。
4. 使用第三方客戶端：對於非開發人員或為了快速測試，您可以使用支援自訂 LLM API 的現有應用程式，例如 SillyTavern。您需要使用您的 mancer API 金鑰和所需的模型端點來設定客戶端。

mancer 的核心功能

• 多樣化的模型選擇：可存取廣泛的 LLM，包括流行的微調模型如 MythoMax 和大型模型如 Goliath 120b，每個模型在創意寫作、角色扮演等方面都有獨特的優勢。
• 高效能推理：模型在頂級機器上運行，為輸入處理和輸出生成提供高速的 token 生成。
• 相容 OpenAI API：為熟悉 OpenAI 生態系統的開發人員簡化了整合過程，允許輕鬆遷移並與現有工具一起使用。
• 基於積分的系統：透明的定價模型，使用者購買積分，並根據所用模型和處理的 token 數量進行消耗。這提供了清晰的成本控制。
• 免費方案存取：提供免費使用的方案，允許使用者在沒有任何財務承諾的情況下試驗多種模型。
• 以開發者為中心：API 優先的方法為開發者提供了最大的靈活性，以建構自訂應用程式、聊天機器人和創意工具。
• 企業帳戶：為企業提供特殊帳戶，功能包括多個 API 金鑰和每週自動按使用量計費的選項。

mancer 的使用案例

mancer 非常適合各種應用，特別是那些受益於專業化或無過濾語言模型的應用：

• 創意寫作和故事敘述：利用像 MythoMax 這樣的模型創作內容豐富、描述性強且無過濾的敘事。
• 進階聊天機器人和伴侶：在像 SillyTavern 這樣的應用程式中為複雜的對話式 AI 提供動力，用於角色扮演和互動體驗。
• 應用程式開發：作為需要生成文本功能的新工具和服務的 AI 後端。
• 研究與實驗：允許研究人員和愛好者輕鬆比較不同 LLM 在特定任務上的效能和輸出。

mancer 的優勢特點

mancer 透過提供模型多樣性、效能和靈活性的獨特組合而脫穎而出。使用者可以存取在更主流的大型平台上通常無法獲得的利基、功能強大的模型。其按需付費的積分系統是透明的，對於可變工作負載而言，可能比基於訂閱的服務更具成本效益。其與 OpenAI API 的相容性顯著降低了開發人員的入門門檻，使其成為建構下一代 AI 應用程式的強大而易於使用的工具。

定價和計劃

mancer 採用免費增值、按需付費的模式，使用積分。部分模型可免費使用。對於付費模型，費用會從使用者的積分餘額中扣除。積分包可按需購買：

• 基礎積分包：1,250,000 積分，售價 4.99 美元
• 更優積分包：5,500,000 積分，售價 19.99 美元
• 最佳積分包：15,000,000 積分，售價 49.99 美元
• GIVE ME THE TOKENS 包：100,000,000 積分，售價 249.99 美元（限時優惠）

企業帳戶可以選擇每週自動按使用量計費，而不是購買積分包。所有價格均為美元，不含稅。