AIM: AI Instant Messenger

AIM: AI Instant Messenger 是一款革命性的AI聊天工具，它透過在使用者瀏覽器內部直接運行強大的大型語言模型，將使用者隱私放在首位。其設計靈感來自於經典的AOL即時通訊軟體介面，提供了既懷舊又高度先進的體驗。其核心技術利用WebGPU在客戶端運行Vicuna-13B模型，這意味著所有的處理都在您的本機電腦上完成。這種開創性的方法確保您的任何對話數據都不會被發送到或儲存在任何伺服器上，提供了無與倫比的隱私和數據控制。對話會直接快取在您瀏覽器的本機儲存空間中，讓您可以在一個安全的環境中隨時繼續之前的交流。

AIM由Matt Rickard開發，作為`react-llm`函式庫的一個示範專案，展示了瀏覽器內AI的巨大潛力。它是一個開源專案，基於Apache TVM和MLC Relax Runtime等技術建構，對於那些對去中心化和私有化AI未來感興趣的開發者和技術愛好者來說，是一個寶貴的資源。該工具需要支援WebGPU的現代桌面瀏覽器，例如Google Chrome（113或更高版本），以及相容的GPU才能正常運作。

如何使用AIM: AI Instant Messenger

如果您擁有合適的硬體和軟體，使用AIM非常簡單。請遵循以下步驟：

1. 檢查瀏覽器相容性：確保您使用的是相容的桌面瀏覽器。主要支援的瀏覽器是Google Chrome 113或更高版本。您的電腦還必須配備支援WebGPU的GPU。
2. 訪問網站：導航至官方網址 chat.matt-rickard.com。首次訪問時，AI模型（Vicuna-13B）將開始載入到您的瀏覽器中。此初始載入過程可能需要一些時間，具體取決於您的網路連線和電腦性能。
3. 自訂AI角色（可選）：在主介面上，您會找到一個「System Prompt」（系統提示）部分。您可以編輯此文本來定義AI的個性、語氣和回應風格。例如，您可以指示它扮演特定角色、技術專家或創意夥伴。
4. 開始聊天：模型載入完成後，只需在輸入框中輸入您的訊息並按Enter鍵即可。AI將在本機處理您的請求，並直接在聊天視窗中生成回應。
5. 管理對話：您可以隨時開始新的對話。您所有的聊天記錄都會自動儲存在瀏覽器的本機儲存空間中，因此您可以關閉分頁，稍後返回時仍能找到您的歷史記錄。

AIM: AI Instant Messenger的核心功能

• 客戶端AI處理：整個大型語言模型在您的瀏覽器中運行，由WebGPU驅動。沒有外部伺服器參與處理您的提示。
• 絕對隱私：由於沒有數據離開您的設備，您的對話是100%私密和安全的。這對於討論敏感話題、構思專有創意或僅僅是重視隱私的使用者來說是理想選擇。
• 本機儲存：對話自動快取在瀏覽器的本機儲存空間中，確保數據持久性而無需依賴雲端。
• 可自訂的AI個性：使用者可以修改「系統提示」來客製化聊天機器人的行為，使其成為適用於各種任務（從創意寫作到技術支援）的多功能工具。
• 開源技術：基於開源的`react-llm`函式庫（MIT授權條款）建構，促進了透明度和社群驅動的開發。
• 懷舊的使用者介面：設計刻意模仿經典的AOL即時通訊軟體，提供熟悉而有趣的用戶體驗。

AIM: AI Instant Messenger的使用案例

AIM適用於廣泛的使用者和應用場景，特別是那些將隱私作為首要考量的場景：

• 注重隱私的個人：希望探索LLM功能但不想與大型科技公司分享個人數據的使用者。
• 開發者和研究人員：一個完美的瀏覽器內AI、WebGPU應用和客戶端模型推論的示範和測試平台。
• 作家和內容創作者：一個安全的空間，用於與可自訂的AI夥伴一起進行腦力激盪、起草內容或克服寫作障礙。
• 學生和教育工作者：一個私密的工具，用於學習、提問和了解AI技術，沒有數據隱私風險。
• 離線使用：一旦模型被載入和快取，該工具可以在沒有網路連線的情況下運作，使其成為一個可靠的本機助理。

AIM: AI Instant Messenger的優勢特點

AIM的主要優勢在於其架構。透過在本機處理數據，它提供了基於伺服器的AI工具無法比擬的好處：

• 無與倫比的數據安全：您的數據永遠不會離開您的電腦，消除了伺服器端數據洩露或未經授權存取的風險。
• 零成本：作為一個開源專案，該工具完全免費使用。
• 無速率限制或審查：由於您在自己的硬體上運行模型，您不受伺服器端使用限制、內容過濾器或審查的約束。
• 潛在的更低延遲：在初始模型載入後，回應時間可能比基於雲端的服務更快，因為沒有網路延遲。
• 完全的使用者控制：您可以透過系統提示完全控制您的對話和AI的配置。

定價和計劃

AIM: AI Instant Messenger 是一個完全免費的開源專案，基於MIT授權條款提供。沒有任何訂閱費、使用費或隱藏費用。任何人都可免費使用、研究和在此基礎上進行建構。