Vidai

Vidai 是一款主权级 AI 控制平面，用 Rust 编写，仅 25 MB 大小，位于每个 AI 请求的热路径上。它扩展了传统 AI 网关的边界，在您的网络边界内实现成本归属、内联策略和审计，而无需将提示内容传出网络即可做出决策。性能卓越，达到 21,803 RPS，中位延迟仅 1.95 毫秒（启用治理时）。符合 ISO/IEC 42001 SoA、EU AI Act Art. 12、DORA、GDPR Art. 44 等标准。提供免费社区版，甚至可在树莓派上运行。

核心功能

Vidai 的核心是 内联治理：在 AI 请求的实时路径中执行策略，确保合规与安全。它支持 成本归属，精确追踪每个请求的资源消耗；策略执行 动态拦截违规请求；审计日志 记录所有操作，满足监管要求。所有决策均在本地完成，数据不出网，保障数据主权。

主要特性

• 极致性能：基于 Rust 实现，21,803 RPS 吞吐量，1.95 ms 中位延迟，几乎不增加额外开销。
• 主权级安全：提示内容不离开网络，内联决策，符合 GDPR、EU AI Act 等法规。
• 轻量部署：25 MB 大小，支持树莓派，社区版免费，易于集成。
• 供应商与框架无关：兼容任何 AI 提供商和框架，无回传依赖。
• 全面合规：映射 ISO/IEC 42001、EU AI Act、DORA、GDPR 等标准，降低法律风险。

适用场景

Vidai 适用于需要 严格数据主权 和 AI 治理 的企业，如金融、医疗、政府等受监管行业。它可作为 AI 网关的增强层，确保成本透明、策略合规，并满足审计要求。开发团队也可利用其轻量特性，在边缘设备或小型服务器上快速部署 AI 治理。