SheepNav
精选今天0 投票

OpenAgentFlow:为异构AI智能体舰队构建全系统安全边界

随着大语言模型驱动的AI智能体从孤立的助手演变为异构系统,多个智能体、规划器、控制器和执行后端在同一用户或企业环境中协同运作,安全性已升级为系统级的行动治理问题。arXiv最新论文《OpenAgentFlow》提出了一种控制面/行动面架构,在行动提交边界强制执行安全策略,为异构AI智能体舰队提供了统一的可治理行动流。

从“提示安全”到“行动安全”

传统安全机制多聚焦于提示词过滤、工具调用限制、GUI操作约束等单一层面,导致防护碎片化,难以察觉跨多步行动流程中的风险,且审计和政策更新支持不足。OpenAgentFlow的核心理念在于,将安全决策从“生成时”前移到“提交时”,在行动真正修改共享状态之前进行统一拦截与裁决。

统一事件流与策略执行点

OpenAgentFlow采用控制面与行动面分离的架构。行动面将待执行的GUI操作、API调用、工具调用及LLM生成调用统一规范为AgentEvent流,每个事件都经过共享的预执行策略执行点(PEP)。控制面则维护来源信息、会话状态、审计记录和可更新策略,实现全流程可追溯。这种设计允许新规则即时生效,无需修改智能体、提示词、模型或执行路径,极大提升了安全策略的灵活性和响应速度。

实证表现:高准确率与强拦截率

研究团队在Android平台上进行了验证。在300个行动事件基准测试中,系统达到94.0%的准确率和95.3%的攻击拦截率;在30个动态策略测试中,安装新规则后27个案例符合预期行为;在100个Android模拟器案例中,98个可追踪案例原始准确率为90.8%,追踪调整后通过率达92.9%。这些数据表明,OpenAgentFlow为异构AI智能体舰队提供了实用的共享强制边界。

行业意义与展望

随着AI智能体在企业环境中承担更多关键任务,系统级安全治理将成为落地的前提。OpenAgentFlow的架构思路为行业提供了重要参考:安全不应是各组件孤立的补丁,而应是贯穿整个行动流的统一防线。未来,跨平台支持、更细粒度的策略表达以及与监管框架的融合,将是该方向持续演进的关键。

延伸阅读

  1. UI-Venus-2:跨越移动、网页与桌面的通用GUI智能体
  2. SCAFFOLD:大规模计算机科学论文图表理解数据集,助力视觉语言模型
  3. LLM长程状态追踪能力新测试:通过196次工具调用执行MD5哈希
查看原文