Kelvane

Kelvane 是一个专为运行不可信神经网络策略而构建的 WebAssembly 沙箱运行时。与通用的 WebAssembly 运行时不同，Kelvane 专注于单一任务：安全地执行您不完全信任的 AI 模型。

核心功能

每次调用都在一个全新的沙箱中运行，具有硬性内存上限、每次调用的 CPU 预算以及零环境权限（无文件、网络或 I/O 访问）。模型由宿主拥有——模块请求推理但从不接触权重。您还可以实时热切换模块。

主要特性

• 强隔离性：每次推理都在独立的沙箱中执行，避免模型间的相互干扰。
• 资源限制：严格的内存和 CPU 预算，防止恶意模型消耗过多资源。
• 零权限：沙箱内无文件、网络或 I/O 访问，确保模型无法泄露数据。
• 模型所有权：权重由宿主持有，模块仅请求推理，无法窃取模型。
• 热切换：无需重启即可实时更换模型模块，提升部署灵活性。

适用场景

• 运行来自第三方或未经验证的 AI 模型。
• 多租户环境中安全部署多个模型。
• 需要严格资源控制和隔离的 AI 推理服务。

Kelvane 是一个小巧、经过充分测试的集成方案，结合了 Wasmtime 和 ONNX 等成熟组件，而非全新的技术。它为您提供了一种简单有效的方式来安全地运行不可信的 AI 模型。