LocalMode

LocalMode 是一款开源（MIT 协议）工具包，让你直接在浏览器中运行 AI，无需任何服务器或 API 密钥。它支持超过 76 种模型的 LLM 对话、RAG 检索增强生成、语音识别与合成，以及视觉识别。所有数据均在本地设备处理，绝不外泄。基于 WebGPU 加速，并提供 WebAssembly 降级方案，即使离线也能正常工作。

核心功能

• 本地 LLM 聊天：支持 76+ 模型，包括 Llama、Mistral、Gemma 等主流开源模型，直接在浏览器中运行，无需云端调用。
• RAG 检索增强生成：结合本地文档或知识库，实现基于上下文的精准问答，数据始终保留在设备上。
• 语音与视觉：内置语音识别（ASR）、语音合成（TTS）和图像识别能力，打造多模态交互体验。
• 完全离线可用：模型和资源下载后，无需网络连接即可使用，适合隐私敏感或网络受限场景。

主要特性

• 隐私至上：所有计算在本地完成，数据不出设备，杜绝隐私泄露风险。
• 零配置启动：无需注册、无需 API 密钥，打开浏览器即可使用。
• 硬件加速：优先使用 WebGPU 获得高性能，兼容性不足时自动回退到 WebAssembly。
• 开源可定制：基于 MIT 许可证，开发者可自由修改、集成或扩展功能。
• 跨平台兼容：支持 Chrome、Edge、Firefox 等主流浏览器，桌面和移动端均可运行。

适用场景

• 隐私敏感用户：处理敏感信息时，无需担心数据上传至云端。
• 离线环境：在无网络或网络受限的场合（如飞机、偏远地区）使用 AI 助手。
• 开发者与研究者：快速测试不同模型，或构建本地优先的 AI 应用。
• 教育演示：无需复杂部署，即可向学生展示 AI 模型的实际运行效果。