最好的 端侧AI AI 工具

NotchLive 是一款原生 macOS 应用，可在 MacBook 的刘海屏内直接提供实时、设备端的实时字幕和翻译。它使用 OpenAI 的 Whisper AI 进行语音转文字，并使用 Apple 翻译进行即时语言转换，所有处理均在 Mac 本地完成，确保 100% 隐私。

PersonaXYZ 是一款私密的、设备端人工智能聊天工具，允许用户创建并与自定义 AI 角色互动。它强调隐私保护，完全在您的浏览器中运行，不涉及云服务器或数据共享。用户可以为他们的 AI 伙伴定义独特的个性、声音和记忆设置，提供真正个性化和安全的对话体验。

LLMRTC 是一个 TypeScript SDK，专为构建实时语音和视觉 AI 应用程序而设计。它将 WebRTC 的低延迟音视频流与大型语言模型 (LLM)、语音转文本 (STT) 和文本转语音 (TTS) 技术通过统一的、与提供商无关的 API 无缝集成。开发人员可以专注于应用程序逻辑，而 LLMRTC 则负责处理复杂的对话式 AI 基础设施。

The Mind Studio 提供一套创新的AI工具，专为本地运行而设计，确保隐私和卓越性能。它包括用于强大本地LLM的Ollamind（即将推出）、用于设备上视觉创作的MindCraft，以及用于心理健康体验的MindScape。它使用户能够在自己的机器上直接获得先进的AI能力。

Nexa SDK 是一个强大的工具包，使开发者能够在几分钟内将任何 AI 模型（包括前沿和最先进的模型）部署到任何设备（移动、PC、物联网、汽车）。它提供生产就绪的设备端推理，支持 NPU、GPU 和 CPU 硬件加速，并针对速度和能效进行了优化。

Altalt 是一款免费的 macOS 本地 AI 讲座笔记工具，可实时转录和整理您的讲座内容。它通过完全在您的设备上运行来确保严格的数据隐私，支持 100 种语言和实时翻译，是寻求高效、安全笔记的学生和专业人士的理想选择。

Locally AI 允许用户直接在 iPhone、iPad 和 Mac 设备上运行强大的 AI 模型。它优先考虑隐私，提供离线语音模式、Siri 集成和可定制提示等功能，用于文本和图像处理，所有这些都无缝集成到 Apple 生态系统中。

Kaipsul 是一款创新的 macOS 应用程序，利用 Apple Intelligence 预处理大型文本数据集，在保留语义的同时将其压缩高达 90%。它使 AI 模型能够处理更多上下文，克服“上下文窗口超出”错误，并通过 100% 本地设备处理实现更清晰的推理。

Hummingbird 是一款隐私优先的 iOS 应用程序，专为即时捕捉想法和 AI 驱动的组织而设计。用户可以通过文本或语音快速记录想法、待办事项和提醒，并在设备上自动分类，无需云同步或数据跟踪。专注于您的想法，而非组织它们。

Hyperlink 是一款完全在设备上运行的私有 AI 代理，专为文档搜索和理解而设计。它使知识工作者能够即时查找、分析和总结其本地文件、笔记和文档中的信息，同时不损害隐私。凭借实时文件索引、内联引用和图像文本搜索等功能，Hyperlink 将您的个人数据转化为智能、可搜索的知识库，所有处理均在您的设备上离线完成。

TicNote是一款AI驱动的会议记录工具，可实时转录、总结和整理120多种语言的对话。它利用设备端AI生成智能摘要、思维导图和行动项，无需会议机器人，提升专业人士的生产力和知识管理。

Privacy AI 是一款适用于 iPhone、iPad 和 Mac 的原生应用程序，可让您完全离线运行强大的开源大型语言模型 (LLM)。它通过在您的设备上处理所有数据来确保绝对的隐私，无需数据收集或互联网连接。您可以安全地访问 LLaMA、Mistral 和 Phi3 等模型，并利用高级自定义选项获得量身定制的 AI 体验。

Eternal AI 是一个去中心化的点对点AI网络，使用户能够创建、托管主权AI代理并与之互动。它通过设备端处理，专注于隐私、抗审查和用户控制，没有中心化的监管者。

Zyphra是一家开源AI研究公司，致力于开发高性能、高效率的基础模型。他们为开发者和研究人员提供最先进的小型语言模型（SLM）、文本转语音（TTS）系统和专门的推理模型，专注于为设备端和企业级应用普及先进AI技术。

Sentiance是运动洞察领域的领导者，利用设备端人工智能分析智能手机传感器数据。它提供对驾驶行为、移动模式和生活方式的深入理解，以增强道路安全、支持基于使用情况的保险，并为各行业提供更智能的移动解决方案。

Zetic.ai 是一个帮助开发者将AI模型直接部署在边缘设备上的平台，无需昂贵的GPU服务器。其自动化流程 ZETIC.MLange 能够优化和转换模型以在设备上执行，通过NPU加速实现高达60倍的性能提升，同时确保数据隐私并降低延迟。

Google推出的综合性平台，为开发者提供通过API访问Gemini、Imagen和Veo等尖端AI模型的服务，以及Gemma开源模型。平台包括用于原型设计的Google AI Studio、用于设备端部署的AI Edge和集成式代码辅助工具，旨在帮助开发者负责任地构建创新应用并简化开发工作流程。

Nexa AI 提供了一个强大的平台，可直接在任何设备上运行最先进的 AI 模型。其解决方案包括面向开发者的 Nexa SDK 和面向消费者的 Hyperlink 应用，通过在 CPU、GPU 和 NPU 上实现本地 AI 推理，优先考虑隐私、离线可靠性和成本效益，无需云处理。

Liquid AI 提供了一个边缘原生的AI技术栈，用于构建可直接在设备上运行的高效通用人工智能。它以Liquid基础模型（LFM）、一个平台（LEAP）和一个应用程序（Apollo）为特色，提供快速、私密和可定制的AI解决方案，无需云依赖，并针对物联网、汽车和移动设备等低功耗环境进行了优化。

Wavify 是一个面向开发者的设备端语音AI平台。它提供高性能、注重隐私和跨平台的SDK，可将语音转文本、唤醒词检测和语音意图识别等功能集成到任何应用程序中。它确保了云级别的准确性，同时在用户设备本地处理所有数据，保障隐私和离线功能。

llmware 是一个面向企业的AI平台，用于构建和部署私有化AI工作流。其旗舰产品Model HQ使用户能够在AI PC上安全、本地地运行超过100种小型语言模型（最高32B参数），无需互联网连接。它提供设备端RAG、SQL查询等自动化任务，强调数据隐私、硬件优化和零推理成本。

Apple在其生态系统中集成了“Apple Intelligence”个人智能系统。它通过强大的AI功能，如先进的写作工具、图像游乐场和更强大的Siri，增强了iPhone、iPad和Mac上的用户体验，所有设计都以隐私和无缝集成作为首要重点。

RecoFeed 是一款面向开发者的工具，用于创建个性化推荐信息流。它利用设备端向量数据库 CloseVector，在用户设备上本地生成实时建议，从而确保最高的数据隐私和低延迟。它专为电子商务、内容平台和社交媒体等领域的应用程序和网站而设计。

Private LLM 是一款适用于 iPhone、iPad 和 Mac 的安全、离线的 AI 聊天机器人。它在您的设备上本地运行强大的开源大语言模型，确保 100% 的隐私，无数据跟踪或云服务器。其特点是一次性购买模式，通过 Siri 和快捷指令与苹果生态系统深度集成，并通过先进的模型量化技术提供卓越性能。