精选今天0 投票
多模型AI系统的涌现协作审议：一种源自拜占庭容错的认知综合协议
让AI模型“开会辩论”：新协议用低成本实现高质量推理
当多个AI模型聚在一起讨论同一问题时，如何让它们有效协作、避免偏见、并产生真正可靠的结论？近期一篇arXiv论文提出了Consilium协议，这是一套受拜占庭容错（BFT）启发的架构，旨在实现结构化多模型AI审议，将模型间的分歧视为认识论信号而非错误。
核心创新：认知人格与样本验证
该协议的核心创新之一是认知人格（cognitive persona）的引入。它将“模型是什么”与“模型如何推理”分离——通过为语言模型分配精心设计的认知角色（如怀疑论者、乐观派等），影响其推理方式，而非改变底层模型本身。
另一个关键组件是样本内/样本外验证框架，借鉴自定量金融领域。该方法用于区分基于训练数据的共识（可能反映数据偏差）与真正基于经验证据的结论。
实验结果：低成本也能媲美前沿模型
研究团队进行了1,478场审议会话，涵盖10个领域类别共32个主题。结果令人惊讶：
- 认知人格比底层模型更重要：成本仅0.0002美元/批次的免费边缘推理模型，其分析质量与成本高达10.69美元的前沿模型相当。
- RLHF对齐训练带来可测量的认知盲区：在争议性政策话题上，模型表现出的对抗性挑战比科学定论话题少12.3个百分点；AI安全话题则表现出不对称偏见（差值为11.6%），模型更激烈地质疑“AI危险”的说法，而对“AI风险被夸大”的挑战力度较弱。
- 协议本身无方向性偏见：在移民和可再生能源话题上，偏见差值分别仅为2.3%和1.2%。
- 样本外证据检索验证了239项主张，100%成功，并发现了167个仅靠训练数据无法察觉的盲点。
整个实验的总成本仅为217美元，且在不同模型×人格随机分配下的运行间可重复性标准差仅为±2.2%。
意义与展望
Consilium协议不仅展示了低成本模型通过结构化协作可能达到与高价模型相当的水平，还揭示了当前RLHF对齐策略可能引入的领域特异性偏见。协议规范已在MIT许可证下开源，以便独立验证。这项工作为构建更可靠、更具反思能力的多AI系统提供了新思路，或许未来AI的“集体智慧”能超越单个模型的局限。