SheepNav

AI 资讯

每日聚合最新人工智能动态

一项来自 arXiv 的新研究提出了一种基于结构化大语言模型(LLM)流水线的自动化调解系统,旨在替代传统人工调解员在谈判准备阶段(pre-mediation)的工作,显著降低时间和成本门槛。 ## 背景与挑战 在整合式谈判(integrative negotiation)中,**预调解**是帮助各方明确利益、预测偏好、建立信任的关键步骤,能有效促成共赢协议。然而,聘请专业调解员成本高昂、耗时较长,且资源有限,导致许多谈判直接跳过这一环节。 ## 解决方案:结构化 LLM 流水线 来自 Bar-Ilan University 和 Carnegie Mellon University 的研究者 Jamie Bergen 与 Sarit Kraus 设计了一个**由四个专用模块组成的流水线**,每个模块负责一项子任务: - **对话模块**:模拟调解员引导讨论 - **偏好预测模块**:推断各方的核心利益 - **响应级评论模块**:对谈判策略提供反馈 - **结构化总结模块**:生成要点摘要 这种设计将推理、生成和评估分离,避免了传统单一大模型提示(monolithic single-prompt)容易产生的幻觉和偏差。值得注意的是,这些模块并非自主代理,而是按固定顺序传递输出,确保了流程的可控性。 ## 实验验证与关键发现 研究团队进行了两项受控人类实验,在**多议题谈判场景**中比较 AI 预调解与专业人类调解员的效果。 **第一项实验**显示: - 在**短期自我报告指标**上(如对调解员的信任、达成共赢协议的信心),自动化调解员与人类调解员表现相当。 - 在**偏好推断任务**上,AI 的误差比人类调解员**低 36%**(RMSE 指标),表明其能更准确地捕捉各方真实意图。 **第二项实验**针对 AI 常见的过度肯定(excessive affirmation)问题——即模型倾向于对所有陈述表示赞同。通过**定向提示优化**,系统将过度肯定率从 **36.6% 降至 16.8%**,与人类调解员基线持平。 ## 行业意义与未来展望 该研究的核心价值在于**可扩展性**。流水线的单方设计(single-party design)允许为谈判各方并行部署,同时保持与人类调解员相似的准备质量。这不仅降低了调解成本,还使得预调解能够大规模应用于在线纠纷解决、商业谈判、国际协商等场景。 不过,研究也指出当前评估仅限于短期自我报告指标,**长期谈判结果和复杂动态场景下的表现仍需进一步验证**。此外,AI 调解员目前仅支持整合式谈判,对于分配式谈判(distributive negotiation)或混合型谈判的适配性尚待探索。 总体而言,这项研究为 AI 在谈判辅助领域开辟了新路径,展示了结构化 LLM 流水线在替代高成本人类专业服务方面的潜力。随着模型能力的提升和提示工程的完善,自动化调解有望成为未来谈判的标准配置。

Anthropic4个月前原文

## 快讯:基础设施盲区是LLM多智能体系统的性能瓶颈 在共享GPU集群上运行多智能体LLM系统时,您是否遇到过这样的问题:某些模型排队严重,而同等能力的替代模型却闲置?现有编排方法从暴力集成到学习型路由器,都基于任务和模型特征选择模型与拓扑,却完全忽略了运行时基础设施状态。这种“基础设施盲区”导致资源系统性利用不足,尤其在并发负载下,延迟会沿多步流水线逐级放大。 ## 核心方案:让整个堆栈感知基础设施 最新研究提出 **INFRAMIND**,一个让多智能体编排全栈感知基础设施状态的框架。其核心包含三个组件: - **基础设施感知规划器**:根据实时系统负载和剩余预算,动态选择拓扑与角色。高负载时偏向简单图,低负载时采用更丰富的结构。 - **基础设施感知执行器**:在每个智能体步骤观察每模型队列深度、缓存利用率和响应延迟,决定调用哪个模型以及推理深度。 - **预算感知调度器**:重新排序每个模型的队列,优先处理紧急请求。 整个问题被建模为**分层约束MDP**,并通过**强化学习**端到端求解,自动平衡质量与延迟。 ## 效果:低延迟与高SLA保障兼得 在五个基准测试中,INFRAMIND 表现亮眼: - 低负载下,相比基线方法,**准确率提升高达7.6个百分点**,同时**延迟降低最多7倍**。 - 高负载下,**SLO(服务等级目标)达标率保持99.9%**,而所有基线方法均低于50%。 这意味着,INFRAMIND 不仅能提升资源利用率,还能在高峰期提供稳定的服务质量,这对于生产环境下的多智能体应用至关重要。 ## 行业背景:从模型选择到系统协同 当前多智能体LLM系统多关注模型能力,却忽视了底层基础设施的动态性。INFRAMIND 的提出标志着研究视角从“模型中心”转向“系统协同”,将排队论、调度优化与强化学习结合,为实际部署提供了可行方案。未来,类似技术可能成为多智能体框架的标准组件。

Anthropic4个月前原文

## 从解释到预测:一种新的AI可信度评估思路 在AI系统日益复杂的今天,用户对系统的信任往往建立在对其工作原理的解释之上,并据此预测模型在新输入下的行为。然而,对于大型推理模型(LRMs)而言,这条传统路径正变得愈发困难:针对单 token 生成的解释方法难以自然推广到长推理轨迹,而将这些轨迹当作自然语言来阅读时,其忠实性也常存疑。 来自以色列巴伊兰大学和艾伦图灵研究所的研究团队在 arXiv 发表的一篇新论文中提出了一种替代方案——**将行为预测本身视为一项可学习的任务**,绕过解释环节,直接训练“行为预测器”(Behavior Forecaster)来预测LRM的未来行为。 ### 方法核心:行为预测器如何工作? 行为预测器的设计思路非常直接:它接收LRM在某个输入上生成的**单条推理轨迹**,然后输出与解释通常提供的**相同类型的预测**。例如,模型是否会重复其答案?如果移除输入中的部分内容,答案会如何变化? 训练数据的获取完全无需人工标注——只需反复查询LRM,记录其行为变化即可。而预测器的推理仅需一次前向传播,成本远低于传统方法。 ### 实验结果:超越GPT-5.4和Claude Opus-4.6 研究团队在两个任务上对方法进行了验证: 1. **答案重复预测**:判断LRM在重复运行中是否会给出相同答案。 2. **输入扰动影响预测**:预测移除输入部分内容后答案的变化。 在三个不同的推理数据集上,训练后的行为预测器**准确率超过了GPT-5.4和Claude Opus-4.6**——而这些顶级模型需要像“朴素读者”一样阅读相同的推理轨迹才能做出判断。更重要的是,预测器的推理成本仅为这些大模型的**一小部分**。 研究还发现,**端到端微调预测器的骨干网络**以及**从目标LRM初始化参数**,对于获得强性能至关重要。 ### 行业意义:重新思考AI可解释性 这项工作实际上指向了一个更深层的命题:**我们是否真的需要完全理解AI的内部机制才能信任它?** 传统可解释AI(XAI)致力于打开黑箱,但面对LRM这种长链推理系统,解释的生成和理解本身都成为瓶颈。 行为预测器的思路更接近于“通过行为验证信任”——就像我们不必完全了解一个人的大脑如何运作,但可以通过观察其行为模式来预测其反应。这种方法在工程上更为务实,且能直接服务于**模型监控、安全测试和用户信任建设**等实际场景。 当然,该方法的局限性也显而易见:预测器本身也是一个模型,其预测的准确性依赖于训练数据的覆盖范围和质量。对于分布外的输入或全新任务,预测器的可靠性仍需验证。但无论如何,这项研究为AI可信度评估开辟了一条值得关注的新路径。

Anthropic4个月前原文

## 核心观点:大语言模型缺的不是规模,而是“记忆” 一篇被 **ICML 2026** 接收的立场论文提出,当前大语言模型(LLM)虽展现出惊人能力,但其学习机制本质上与人类的**内隐记忆**(implicit memory)高度相似,这恰恰是它们无法真正迈向通用人工智能(AGI)的关键瓶颈。作者 Sangjun Park 认为,要突破这一局限,必须为 LLM 集成**海马体式的显式记忆系统**(hippocampal explicit memory)。 ## 为什么 LLM 像“内隐记忆”而非“显式记忆”? 人类记忆分为两类: - **内隐记忆**:无意识的、自动化的技能与习惯,如骑自行车、语法直觉。LLM 的统计学习模式正是此类——它们通过海量文本训练,习得模式与关联,但无法有意识地“回忆”某个具体事件或事实。 - **显式记忆**:有意识的、可陈述的记忆,包括对过去事件的**情景记忆**(episodic memory)和对事实知识的**语义记忆**(semantic memory)。这类记忆依赖大脑中的**海马体**(hippocampus),支持长期规划、元认知和符号推理等高级认知功能。 论文指出,LLM 的“纯内隐”本质使其无法完成需要显式记忆的任务,例如: - **长期战略规划**:需要跨越时间步维持目标与状态。 - **元认知**:对自己知识边界的觉察与反思。 - **符号推理**:基于规则和逻辑的精确操作,而非概率关联。 ## 计算视角:我们需要什么样的“人工显式记忆”? 作者结合神经科学发现,提出了人工显式记忆系统的几个关键计算要求: 1. **模式分离**(pattern separation):能将相似的经验编码为不同记忆,避免干扰。 2. **模式完成**(pattern completion):能从部分线索中检索完整记忆。 3. **快速绑定**(rapid binding):单次经历即可存储,无需大量重复训练。 4. **结构化存储与检索**:支持时间序列、因果关系等复杂查询。 现有的一些尝试,如检索增强生成(RAG)或外部记忆网络,已部分触及显式记忆概念,但论文认为它们仍缺乏海马体式的神经机制——例如对记忆的**索引与重放**(replay)功能,后者是巩固与整合记忆的关键。 ## 对 AGI 路径的启示 这篇论文的价值不仅在于指出 LLM 的“先天缺陷”,更在于提供了一个清晰的**神经科学映射**:AGI 不应只追求模型规模的扩大或训练数据的堆砌,而应借鉴大脑的显式记忆架构。未来的突破或许来自: - 设计具有快速写入与结构化检索能力的记忆模块。 - 让 LLM 能主动“回忆”过去经验,而非仅依赖上下文窗口。 - 结合内隐学习的模式识别与显式记忆的逻辑推理,形成双系统协同。 正如作者在论文中强调:“高阶认知功能无法仅从内隐统计学习中涌现。” 这一观点为当前 AI 研究的“大模型中心论”提供了重要反思——或许,通往 AGI 的钥匙藏在人脑的海马体里。

Anthropic4个月前原文

研究人员推出 SciConBench 大规模实时基准测试,评估 AI 在开放域科学结论综合中的能力。测试包含 9,110 个问题及专家撰写的系统综述结论,采用自动评估流水线将结论分解为原子事实,通过事实精确率和召回率衡量正确性与全面性。为防范数据泄露,团队还开发了 SciConHarness 洁净室评估框架,限制代理仅通过受控网络交互获取信息。对 8 个前沿模型及深度研究代理的评估显示,在洁净室设置下最佳代理的事实 F1 仅 0.337,且洁净室环境下的性能普遍低于无约束评估,表明数据泄露可能虚高了模型真实能力。此外,对 Google AI Overview、OpenEvidence 等面向消费者的代理审计发现,它们常常生成不完整甚至矛盾的结论。研究指出,可靠的科学结论综合仍是开放挑战,洁净室评估对衡量开放域 AI 代理至关重要。

Anthropic4个月前原文

## 研究背景:分层推理中的“盲点”问题 在复杂的层级化推理任务中,AI 代理常常在中间决策点犯下关键错误——它们会毫不犹豫地选错分支,却意识不到自己缺乏足够信息。传统方法将“提问”视为外部不确定性触发器,但这种方式往往滞后,且无法在代理的决策流程中与“行动”直接竞争。 ## 核心创新:ACTION-RATING 框架 来自多位研究者(Aijing Gao 等)的最新论文提出 **ACTION-RATING**,一种将澄清行为直接嵌入代理动作空间的新方法。该框架使用**共享序数尺度**,让“提问”与“导航”在每个决策点直接竞争,从而使代理的求助行为在中间状态变得可观测。 这种设计催生了两种结构上截然不同的信息寻求模式: - **强制性澄清**:当所有候选分支都不可行时触发 - **机会性澄清**:当存在领先候选但仍有剩余不确定性时触发 ## 实验验证与关键发现 研究团队在 **Harmonized Tariff Schedule 分类**任务(包含 30,000 节点分类树)上进行了测试,覆盖三个基准数据集和来自 4 个家族的 9 个大型语言模型。 关键结果包括: - 从强制性澄清到机会性澄清的**模式转变**:信息寻求有效性(ISE)从 50% 提升至 74%。ISE 是局部诊断指标,定义为成功求助后下一步导航正确的比例,而非最终任务指标。 - 三种诊断性对比未能复现该结构,表明框架的独特性。 - **分离性测试**显示:即使答案质量下降 18.8%,信息寻求模式(模式分裂、ISE 排名)仍然保持,这实证地分离了“代理在何处求助”与“它获得的帮助质量”。 - 在受控答案通道下,10 位精度准确率提升达 **+16.2%**,研究者将此解读为“更好定位能解锁的上限”,而非部署估计。 ## 行业意义与展望 这项工作为分层语言代理的**主动求助能力**提供了新范式。传统上,代理要么盲目执行,要么仅在确定性低时才提问,而 ACTION-RATING 让“提问”与“行动”在同一决策层面竞争,使代理能更智能地判断何时该停下来寻求帮助。这种“自门控”机制对于需要深度推理的复杂系统(如法律、医疗、关税分类等)具有重要价值,可能显著减少因信息不足导致的级联错误。 未来,如何将这种框架扩展到更开放、动态的任务环境,以及如何优化“提问成本”与“收益”的平衡,将是值得关注的方向。

Anthropic4个月前原文

自动研究智能体(autoresearch agents)如今能够自主提出、评估并选择科学候选方案,通常依据一个聚合指标进行排序。然而,一项最新研究指出,当科学有效性存在于异质化的子区域或群体结构中时,聚合指标可能将错误的候选者排在首位——表面数字提升,但底层结构却发生反转。这一发现对依赖单一指标进行自动化科研决策的方法提出了严峻挑战。 该研究以 arXiv:2606.11522 预印本形式发布,作者为 Adithya Srinivasan 和 Devesh Paragiri。他们通过生态系统人口模型(Ecosystem Demography model)中的火灾模拟任务展示了这一现象:全局得分最高的候选者与次优者仅相差噪声水平,但前者会导致受保护的北方森林区域崩溃,而后者则能保护这些区域。关键区别在于每个子区域的行为,而非全局数字。 作者指出,这种失败并非领域特例,只要候选者的有效性是多维的,而验证器是单一聚合指标,就会出现类似问题。更关键的是,优化该指标的智能体本身最不可能发现指标错误——因为在智能体停止后,提示(prompt)已无剩余回合可供纠正。 为此,研究提出了一种“搜索纪律”(search-discipline)协议:将决策权移交给一个外部控制循环,该循环在智能体做出选择后审计每个候选者在子区域的行为,可以降级智能体原本接受的候选者,甚至重新打开智能体已宣布完成的运行。这一协议的核心是依赖可审查的候选效果证据,而非单一分数。 这项研究对于AI驱动的科学研究具有深远意义。随着自动研究智能体在材料科学、药物发现、气候建模等领域日益普及,如何确保其决策的鲁棒性和可解释性成为关键问题。聚合指标虽然简化了评估,但可能掩盖重要的局部失效模式。作者建议,在长期、多目标的研究任务中,必须引入外部审计机制,防止“优化骗局”导致科学错误。 该工作提醒我们:在AI加速科学发现的浪潮中,不能盲目相信数字,而应建立多层次的验证体系。

Anthropic4个月前原文

## 可审计行为推断:SemantiClean 框架如何平衡透明度与预测性能 在电商领域,理解用户行为意图(如购买意向、客户分群、产品亲和力)是提升转化率和用户体验的关键。传统方法多采用端到端的预测模型,以准确性为唯一优化目标,但往往缺乏可解释性和审计能力。近日,一篇发表于 arXiv 的论文提出了 **SemantiClean** 框架,试图在预测性能与透明度之间寻找新的平衡点。 ### 核心架构:四层元素库与可插拔推理 SemantiClean 的核心是一个预定义的**行为元素库**,该库基于 **Online Shoppers Purchasing Intention (OSPI)** 数据集构建,包含 **24 个行为元素**,并按照四个层级组织: - **功能层(Functional)**:与页面直接交互相关的元素 - **交互层(Interaction)**:用户与系统的动态交互信号 - **系统层(Systemic)**:会话层面的系统级特征 - **上下文层(Contextual)**:外部环境与用户背景信息 这些元素作为结构化语义信号,可被多个推理目标共享。框架支持**可插拔的推理目标**,包括但不限于购买意图预测、客户分群、产品亲和力分析等,从而避免了为每个任务重复构建特征工程。 ### 三大抗通胀机制:确保信号质量 与传统模型直接输出预测不同,SemantiClean 特别强调**信号质量治理**。论文提出了三种抗通胀机制来防止元素冗余或偏差: 1. **冗余组贡献上限(RedundancyGroup contribution caps)**:限制高度相关元素组成的组对最终预测的总贡献,避免重复信号过度影响结果。 2. **层级惩罚计算器(TieredPenaltyCalculator bias penalties)**:针对不同层级或类型的元素,施加差异化惩罚,减少系统性偏差。 3. **自适应约束模式(AdaptiveConstraintMode)**:针对冷启动场景,动态调整约束条件,保证新用户或新会话也能获得合理推断。 这些机制使得 SemantiClean 在牺牲少量预测增益的前提下,实现了**元素级别的透明度和可辩护的决策轨迹**。论文指出,这种设计明确地“用边际预测收益换取可审计性”。 ### LLM 集成推理引擎:两阶段架构 论文报告了 **LLM 集成语义推理引擎(LLM-Integrated Semantic Inference Engine)** 的完整实现。该引擎采用**两阶段架构**,在推理阶段充分利用完整的元素元数据: - **第一阶段**:基于确定性规则对元素进行初步筛选和聚合,输出可完全复现的结果(σ=0)。 - **第二阶段**:引入 LLM 处理两个特定元素(E8 和 E10),其输出在固定 provider/model/temperature 设置下具有可控的变异性。 值得注意的是,论文明确排除了**性别推断目标**,当前实现中该功能未启用,且未纳入任何定量结果。 ### 行业意义与局限 SemantiClean 的提出反映了 AI 领域一个日益重要的趋势:**从单纯追求精度转向兼顾透明度、可审计性和公平性**。在电商、金融、医疗等受监管场景中,模型的可解释性往往与性能同等重要。该框架通过预定义元素库和模块化设计,为构建“白盒”行为推断系统提供了一条可行路径。 然而,论文目前仅基于单一数据集(OSPI)进行验证,其泛化能力有待进一步检验。此外,LLM 的引入虽然增强了语义理解能力,但也带来了输出变异性,如何在透明度与灵活性之间取得更优平衡,仍是值得探索的方向。 对于 AI 从业者而言,SemantiClean 提供了一种**可审计、可复现、结构化**的行为推断范式,尤其适合对模型决策过程有严格合规要求的业务场景。

Anthropic4个月前原文

Hacker News 热门 · 551 分 · 244 评论

Hacker News5514个月前原文

黑洞附近的引力极端到连光都无法逃脱,但天体物理学家 Chi-kwan Chan 正借助 OpenAI 的 Codex 模型,突破当前算法和计算能力的限制,构建更逼真的黑洞模拟。作为事件视界望远镜(EHT)合作组成员,Chan 曾参与 2019 年首张黑洞图像的生成,如今团队正致力于制作首部超大质量黑洞视频。Codex 帮助 Chan 优化和测试模拟黑洞周围电子与离子运动的算法,从而更精确地检验爱因斯坦的广义相对论。

OpenAI4个月前原文

OpenAI 于 2026 年 6 月 11 日宣布支持欧盟发布的《AI 生成内容透明度实践准则》(Code of Practice on Transparency of AI-Generated Content),该准则是落实《欧盟 AI 法案》的重要一步,旨在构建更透明、可信的数字生态系统。 ## 从技术到生态:OpenAI 的溯源实践 OpenAI 的溯源工作始于 2024 年,当时在 DALL-E 3 图像生成工具中引入了 **C2PA 元数据**,为内容添加数字“出生证明”。此后,公司不断改进标记与检测方法,并推出了首个公开验证工具。这些积累为参与制定本次准则提供了技术基础。 OpenAI 与数百家利益相关方共同参与了准则的起草,其核心目标是让用户在浏览 AI 生成内容时能清晰了解其来源与编辑历史。公司强调,溯源不仅是技术问题,更是 **生态协作**——需要从内容创建者到平台运营者的全链条参与。 ## 欧洲 AI 治理的“先行者”姿态 这并非 OpenAI 首次在欧盟监管框架中主动站位。2025 年,OpenAI 成为 **首家签署欧盟通用 AI 实践准则** 的美国公司。两次签署表明,OpenAI 倾向于通过“可执行、有弹性”的规则来平衡创新与责任,从而获得市场确定性。 ## 溯源为何重要? 随着 AI 工具渗透到创意、信息传播等领域,内容真伪辨别日益困难。溯源信号(如 C2PA 元数据)能为用户提供关键上下文: - **内容来源**:由 AI 生成、人工创作或混合编辑? - **修改历史**:是否经过篡改或深度伪造? - **意图声明**:内容是否被标记为合成? 这有助于抵御虚假信息活动,保护数字生态的完整性。OpenAI 承诺将遵守准则中适用于其产品的相关要求,并继续与欧盟合作推进 AI 信任建设。 ## 行业启示 此次表态传递出清晰信号:在全球 AI 监管加速的背景下,头部企业正从“被动合规”转向“主动共建”。OpenAI 的实践也为行业提供了参考——溯源技术标准化、跨平台互操作性、以及公开验证工具,都可能成为未来 AI 内容治理的基础设施。 不过,溯源机制的有效性仍面临挑战:元数据可能被剥离、检测工具存在盲区、用户认知参差不齐。准则的落地效果,还需依赖后续的技术迭代与多方协作。

OpenAI4个月前原文

OpenAI 宣布收购云基础设施公司 **Ona**,旨在将后者的安全、持久化云执行与编排技术整合进其快速扩张的 **Codex** 生态系统中。这一战略动作标志着 Codex 从“单次会话工具”向“长期自主代理平台”的关键转型。 ### 从“分钟”到“天”:Codex 的进化路径 目前,每周有超过 **500 万人** 使用 Codex 进行研究、分析、构建和自动化工作,较年初增长了 **400%**。最初,Codex 主要面向软件开发者的代码生成,如今已扩展至更广泛的复杂工作场景——从需求提出到最终交付,全程参与。 OpenAI 观察到,Codex 最有价值的工作正从“分钟级”的即时响应,转向“小时甚至天数”的持续任务。例如,一个数据分析项目可能需要跨多个数据源、反复迭代,或一个软件部署流程需要等待环境就绪、测试通过。用户不应被绑定在发起任务的设备上,而应能随时查看进度、提供反馈并获取结果。这正是 Ona 技术的用武之地。 ### Ona 的核心价值:安全、持久的代理工作空间 Ona 此前已帮助 **200 万开发者** 将开发环境从本地迁移至云端,提供安全、可复现的云工作空间,并服务于多家大型企业客户。其核心能力包括: - **持久化环境**:代理可跨会话持续运行,即使关闭笔记本电脑,任务仍在云端执行。 - **客户控制执行模型**:企业可自主管控代理的运行位置、访问权限、凭据范围、活动日志及审核流程。 - **安全与治理**:满足企业对安全、合规和运营管理的严苛要求。 通过整合 Ona,Codex 将不再局限于单一设备或活跃会话,而是获得一个“持久的工作场所”。代理可以长期驻留在客户云环境中,持续访问所需工具、系统和上下文,实现跨时段的复杂任务。 ### 从实验到生产:企业代理部署的关键拼图 当前,许多组织仍在“试用” AI 代理,但真正将其部署到生产流程中时,面临的挑战远不止模型能力。企业需要: 1. **运行控制**:代理在哪里运行?能否隔离在特定网络或账户下? 2. **权限管理**:凭据如何作用域化?避免代理获得过高权限。 3. **审计追踪**:所有操作是否可记录、可回放? 4. **人工审核**:关键节点是否需要审批? Ona 的客户控制执行模型,恰好提供了这些缺失的“基础设施层”。它让组织在享受持久代理带来的效率提升时,仍能保持对数据和安全的高度掌控。 ### 行业影响与展望 此次收购延续了 OpenAI 加速企业级 AI 落地的策略。此前,ChatGPT Enterprise 和 API 服务已为企业提供模型层能力;而 Ona 的加入,则补全了“执行环境”这一关键拼图。 对于开发者而言,这意味着未来可以用自然语言描述一个长期项目(如“监控系统日志并自动修复常见错误”),Codex 代理将在云环境中持续运行、迭代,直至任务完成。对于企业 IT 部门,则多了一个合规部署 AI 代理的选项。 当然,整合尚需时日,但方向已明确:**AI 代理不应是“一次性对话”,而应是“长期员工”**。OpenAI 正通过收购 Ona,为这一愿景搭建起基础设施。

OpenAI4个月前原文

西班牙对外银行(BBVA)与 OpenAI 宣布达成一项战略性合作,旨在将人工智能深度融入银行的客户体验、运营、软件开发及员工日常工作中。这一合作标志着 BBVA 从过去十年的数字银行先锋,正式迈入以 AI 为核心驱动力的新阶段。 ## 从实验到全面部署:AI 转型的规模化路径 BBVA 的 AI 转型并非一蹴而就。早在 2025 年,该行就开始将 ChatGPT Enterprise 推广至全球员工,**最终覆盖约 10 万名员工**。数据显示,这一举措带来了显著成效:**月活跃使用率增长超过 70%**,每位员工每周平均节省约 **3 小时** 工作时间,某些特定工作流的效率提升高达 **80%**。 这些早期成果为更深层次的合作奠定了基础。到 2025 年底,BBVA 与 OpenAI 的合作已演变为一项名为 **“The Eight”** 的全面 AI 转型路线图。该计划旨在从端到端重新设计银行业务——涵盖客户体验、商业银行业务、风险管理、运营、软件开发以及员工生产力等八个关键领域。 ## “The Eight”路线图:AI 重塑银行的每一个层面 BBVA 董事长 Carlos Torres Vila 表示:“我们与 OpenAI 的联盟将加速人工智能在整个银行中的原生集成,以创建更智能、更主动、完全个性化的银行体验,预测每位客户的需求。” 具体而言,这一合作覆盖了多个业务层面: - **客户体验**:开发能够预测客户需求的 AI 金融助手,提供主动式服务。 - **风险与决策**:为银行家和风险分析师提供 AI 工具,帮助他们更快、更明智地做出决策。 - **运营自动化**:利用 AI 系统自动化后台操作流程,减少人工干预。 - **软件开发**:加速代码编写、测试与部署,提升技术团队的交付效率。 ## 金融业 AI 转型的标杆案例 BBVA 成立于 1857 年,是一家全球性金融机构,业务覆盖欧洲、墨西哥、南美、土耳其和美国,服务数千万客户。过去十年,BBVA 在数字银行和移动银行领域一直处于领先地位。如今,通过与 OpenAI 的深度绑定,该行试图证明:大型传统金融机构同样可以快速、全面地拥抱 AI,而不仅仅是将其作为辅助工具。 这一案例也为其他金融机构提供了重要参考。将 AI 从“可选插件”升级为“核心基础设施”,需要高层战略决心、全公司范围的推广以及与技术巨头的紧密协作。BBVA 的经验表明,当 AI 被置于银行运营的中心时,效率提升和体验改善可以同时实现。 ## 展望未来 随着“The Eight”路线图的持续推进,BBVA 与 OpenAI 的合作预计将进一步深化。双方团队将围绕共享优先事项和长期转型计划协同工作,探索 AI 在更复杂金融场景中的应用,例如实时风险管理、个性化财富管理建议以及合规自动化等。 对于整个金融行业而言,BBVA 的这一步可能预示着 AI 不再只是“锦上添花”,而是成为银行业竞争的新分水岭。

OpenAI4个月前原文

OpenAI 与 Oracle 达成合作,允许 Oracle Cloud Infrastructure(OCI)客户使用其现有的 Oracle 云通用积分(UCM)来访问 OpenAI 的前沿模型和 Codex。这一举措旨在简化企业级 AI 的采购流程,让客户无需开辟新的采购渠道,即可在已有的云承诺和治理框架下部署 AI。 对于许多大型企业而言,AI 的落地常常受限于采购流程和合规要求。通过将 OpenAI 模型纳入 Oracle 的消费体系,企业可以在不改变现有财务和审批流程的前提下,为团队提供 GPT-4o、o3 等先进模型以及 Codex 编程助手的访问权限。这不仅降低了采购摩擦,也使得 AI 支出能够与既有的云投资计划对齐。 从行业角度看,本次合作反映了云计算与 AI 平台深度融合的趋势。OpenAI 正从独立的 API 提供商转向嵌入主流云生态,而 Oracle 则借助 OpenAI 的模型能力强化其云服务的吸引力。对于已经在使用 Oracle 云的企业,这意味着更低的迁移成本和更快的 AI 部署速度。 具体功能方面,企业可利用 OpenAI 模型构建 AI 应用、分析复杂数据、自动化工作流,以及打造新的客户与员工体验。Codex 的集成则有望加速开发团队的编码效率。不过,实际可用性、定价细节以及地域支持仍有待 Oracle 销售代表进一步确认。 此次合作预计在未来几周内开始提供,感兴趣的客户需联系 Oracle 销售代表获取详细信息和可用时间表。

OpenAI4个月前原文

## 事件概述 近日,Hacker News 上一条关于 **Claude Desktop** 的帖子引发热议。用户反映,Claude Desktop 在运行时会自动启动一个虚拟机,并且**用户无法手动停止或关闭该虚拟机**。这一行为迅速在开发者社区中传播,截至目前已获得 **186 分**和 **104 条评论**,成为当日热门话题。 ## 问题详情 据多位用户反馈,Claude Desktop 在后台静默启动了一个虚拟机环境,该进程似乎与 Claude 的本地推理或沙箱功能相关。问题在于,用户找不到任何设置或选项来终止这个虚拟机,即使关闭 Claude Desktop 主程序,虚拟机进程仍可能残留。这不仅占用了系统资源,还引发了关于**隐私和安全**的担忧——用户无法确认虚拟机内部在执行什么操作,以及是否访问了本地数据。 ## 行业背景 近年来,AI 桌面应用(如本地 LLM 客户端)常采用沙箱或虚拟机技术来隔离模型运行环境,以提升安全性和稳定性。例如,**Ollama**、**LM Studio** 等工具也会在本地容器中运行模型。但通常,这些工具会提供清晰的进程管理选项,允许用户手动控制后台任务。Claude Desktop 此次被曝出的“无停止机制”问题,显然打破了用户对透明度和控制权的合理预期。 ## 用户反应与潜在风险 在 Hacker News 的讨论中,用户主要表达了三点不满: 1. **资源占用**:虚拟机可能持续消耗 CPU 和内存,影响设备性能。 2. **缺乏透明度**:用户无法知晓虚拟机中运行的具体代码或数据流。 3. **控制权缺失**:即使强行结束进程,系统也可能会自动重启虚拟机,形成“顽固”后台任务。 一些评论者指出,这种行为类似 **“隐形后门”**,虽然可能是为了维持模型响应速度,但违背了桌面软件应有的用户授权原则。 ## 应对建议 截至发稿,Anthropic(Claude 开发商)尚未就此问题发布官方声明。受影响用户可尝试以下临时方案: - 在任务管理器(Windows)或活动监视器(macOS)中查找与 Claude 相关的虚拟机进程,手动结束。 - 检查 Claude Desktop 的设置文件,查看是否有隐藏的开关(如 `disable_vm`)可以配置。 - 暂时卸载 Claude Desktop,改用网页版或 API 作为替代,直到官方修复。 ## 小结 Claude Desktop 的“虚拟机无法停止”问题,折射出 AI 桌面应用在**用户控制权**与**功能便利性**之间的平衡挑战。作为开发者,Anthropic 应尽快提供明确的控制选项,并公开虚拟机的作用范围,以重建用户信任。对于其他 AI 客户端开发者而言,这也是一个警示:后台行为必须透明,且用户应有最终决定权。

Hacker News4324个月前原文

Anthropic 近期发布的新模型 **Fable** 引发了网络安全研究社区的广泛讨论,但并非因为其技术突破,而是因为其过于严格的安全护栏。多位研究者公开抱怨,Fable 的安全限制几乎让任何网络安全相关工作都无法进行,甚至包括无害的演示和学术研究。 Fable 是 Anthropic 在安全对齐领域的最新尝试。该公司一直强调构建“有益、诚实、无害”的 AI,而 Fable 正是这一理念的极端体现。然而,这种过度保护在网络安全领域产生了反效果:研究者尝试让模型生成用于教育目的的示例代码或分析常见漏洞时,Fable 频繁拒绝响应,理由是其输出可能被滥用于恶意攻击。 一位不愿具名的安全研究员表示:“我们理解安全的重要性,但 Fable 的护栏已经超出了合理范围。它甚至拒绝解释 SQL 注入的原理,而这在网络安全教材中随处可见。”这种限制使得 Fable 在渗透测试、漏洞分析等实际场景中几乎不可用,而 Anthropic 的竞争对手 OpenAI 和 Google 的模型在这类任务上表现更为灵活。 Anthropic 对此回应称,Fable 的设计优先考虑了最坏情况下的滥用风险,并承诺会持续优化安全策略的平衡性。但研究者认为,这种“一刀切”的做法不仅阻碍了合法研究,还可能迫使社区转向更开放的模型,从而削弱整体网络安全防御能力。 这一事件再次凸显了 AI 安全领域的核心矛盾:如何在防止滥用与保持实用性之间找到平衡点。对于网络安全行业而言,Fable 的现状或许是一个警示——过于严格的安全护栏,反而可能将研究推向更不透明的环境。

Hacker News5884个月前原文

## 从“类固醇奥运会”到 AI 安全:本周科技焦点 本周,两个看似不相关的事件共同揭示了科技与伦理之间的张力:一场鼓励使用兴奋剂的体育赛事,以及 AI 公司 Anthropic 发布其此前声称“太危险”的 Mythos 模型安全版。 ### “类固醇奥运会”:一场自由意志主义的实验 几周前,在拉斯维加斯一个造价 5000 万美元的竞技场内,首届 Enhanced Games 拉开帷幕。这是首个鼓励参赛者使用兴奋剂的体育赛事。支持者认为,这代表了医学进步推动人类突破极限的未来——人们甚至不必变老。然而,这场“马戏团”般的比赛也引发了深刻的文化反思:这种自由到底意味着什么? ### AI 就业恐慌:数据与现实 与此同时,关于 AI 取代白领工作的恐慌仍在持续,但美国劳动力数据显示,AI 暴露程度最高的职业失业率反而低于其他岗位,也未见大量工人从受威胁职业转向体力劳动。市场确实不景气,但原因并非单纯的 AI 崛起。 ### Anthropic 的“安全版”Mythos 在 AI 领域,Anthropic 公司发布了其旗舰模型 Mythos 的“安全版本”,承诺配备足够的护栏和用户限制。该模型定价是此前系统的两倍。值得注意的是,Anthropic 曾声称原始 Mythos 太危险而无法发布,如今却改变策略。批评者怀疑这只是一场营销炒作,而选择性开放访问已成为 AI 实验室的关键策略。 ### 数据中心的“暂停键” 西雅图成为美国首个通过暂停新建数据中心法案的大城市,禁令为期一年。当地科技巨头亚马逊曾试图阻止该禁令,但未成功。这一运动反映了对数据中心能耗和环境影响的日益担忧。 从体育到 AI,再到基础设施,本周的故事提醒我们:技术进步从来不是单纯的线性发展,它始终伴随着安全、伦理与社会影响的博弈。

MIT Tech4个月前原文

OpenAI于2026年6月10日发布报告,披露两起疑似源自中国的秘密影响力行动,这些行动利用ChatGPT模型生成虚假内容,试图干预美国关于AI政策、数据中心建设及关税的公开辩论。报告指出,这些行动并非为了直接改变公众舆论,而是测试针对AI基础设施的叙事——AI基础设施被视为美国技术领导力、经济增长及民主AI生态的基石。 ## 行动细节 OpenAI将第一起行动命名为 **“数据中心风潮”** 活动。该集群生成社交媒体评论和图片,声称AI数据中心建设导致普通家庭电费上涨。这一叙事试图利用公众对能源价格和本地数据中心开发影响的真实关切,放大质疑声音。 第二起行动名为 **“技术与关税”** 活动。该集群生成评论和图片,批评美国关税是试图主导技术竞争的举措,并在提示中明确要求内容不得提及中国领导人习近平,只提及特朗普总统。该集群还与一个可能虚假的社交媒体账号网络相连,这些账号还曾散布虚假声明,称ChatGPT用户数据已被泄露。 ## 行业背景与影响 OpenAI强调,这些操作本身并未实质性改变公众舆论,但其重要性在于:它们表明与中国相关的影响力操作正将矛头对准AI基础设施——这是美国技术领导力和民主AI生态的关键支柱。通过放大现有的能源价格担忧,这些操作试图削弱公众对AI发展的支持。 这一发现正值全球AI竞争加剧之际。美国和中国都在大力投资AI基础设施,数据中心作为算力核心,其环境影响和成本已成为政策辩论焦点。OpenAI的行动表明,AI公司正面临双重挑战:不仅要构建安全、有益的AI系统,还要防范其技术被用于破坏民主对话。 ## 应对措施 OpenAI表示已封禁相关账号,并持续监控类似活动。报告呼吁行业合作,共同识别和瓦解利用AI系统进行的虚假信息行动,以保护民主社会的公开辩论。

OpenAI4个月前原文

2025年5月24日,首届“增强运动会”(Enhanced Games)在拉斯维加斯举行,这是一场允许运动员使用兴奋剂的体育赛事。活动在赌场停车场旁耗资5000万美元的竞技场内进行,吸引了数十名游泳、短跑和举重运动员参与,他们体内流淌着睾酮、美替诺龙、诺龙、生长激素、EPO等各类药物。主办方宣称要挑战过时的体育规范,推动人类更长寿、更优质的生活;批评者则认为这是对危险药物的美化,置生命于风险之中。现场氛围类似NFL赛事,大屏幕上播放着“肌肉秀”,广告推销着注射用肽类和“更强”“更长”等补剂产品。然而,结果颇具讽刺意味:未使用药物的运动员表现更佳——美国游泳选手亨特·阿姆斯特朗以超过一秒优势赢得仰泳,短跑名将弗雷德·克利轻松夺冠。澳大利亚泳将詹姆斯·马格努森作为首位签约选手,在两个项目中均排名垫底。举重项目仅有一人尝试冲击世界纪录,两人因伤退赛。这场“自由意志主义思想实验”最终暴露了药物与成绩之间的复杂关系,也折射出当代社会对极限、风险和商业化的矛盾态度。

MIT Tech4个月前原文
Hero Studio Photos:一张照片,自动生成全方位房源展示图

对于房地产经纪人和短租房东而言,为房源拍摄一套专业、多角度的照片往往费时费力。**Hero Studio Photos** 正在改变这一现状——用户只需拍摄一张照片,AI 即可自动生成从各个角度展示的、可直接用于房源上架的图片。 ### 核心功能:一张照片,多角度呈现 传统房源拍摄需要摄影师在不同位置、不同光线下多次拍摄,而 Hero Studio Photos 利用计算机视觉与生成式 AI 技术,从单张输入图像中推断出房间的三维结构和纹理,然后渲染出多个视角的逼真画面。这意味着经纪人或房东用手机随手拍一张,就能获得客厅、卧室、厨房等空间的前后左右全景图,省去二次拍摄和后期处理的成本。 ### 适用场景与价值 - **快速上架**:对于需要频繁更新房源信息的短租平台(如 Airbnb、Vrbo)用户,Hero Studio Photos 能大幅缩短准备周期,让房源更快出现在搜索列表中。 - **降低门槛**:无需专业摄影设备或技能,普通房东也能获得媲美专业摄影的效果,提升房源吸引力。 - **一致性**:AI 生成的各角度图片在色调、亮度上保持一致,避免因拍摄时间不同导致的光线差异。 ### 行业背景与思考 近年来,AI 在房地产科技领域的应用逐渐深入,从自动生成房源描述到虚拟装修,再到现在的多视角图片生成。Hero Studio Photos 的出现,标志着 AI 图像生成从“创造新内容”向“增强真实场景”的转变。不过,这类技术也面临挑战:单张照片生成的多角度视图是否足够准确?尤其是对于有复杂家具或独特布局的空间,AI 可能会产生畸变或遗漏细节。因此,**用户仍需对生成结果进行人工审核**,确保图片真实反映房屋状况。 ### 小结 Hero Studio Photos 为房源展示提供了一种高效、低成本的解决方案,尤其适合追求速度和便利的个人房东。虽然目前技术尚未完美,但它为房地产营销的自动化打开了新可能。随着模型不断优化,未来或许只需一张照片,就能完成整个房源的视觉包装。

Product Hunt964个月前原文