AI 资讯

深度均衡模型（Deep Equilibrium Models, DEQs）通过隐式微分训练，其梯度计算依赖于求解残差雅可比矩阵的伴随系统。当该矩阵在损失敏感方向上接近奇异时，微小扰动会被强烈放大，导致梯度爆炸，使优化过程不稳定。近期，研究者提出一种名为**响应重整化**（Response Renormalization）的框架，旨在无需全局抑制条件良好的灵敏度即可控制临界伴随放大，从而提升训练的可靠性。 ### 背景与挑战 DEQs 的核心在于寻找一个固定点，使得隐藏表示在模型更新后保持不变。训练时，通过隐式微分计算梯度，需要求解一个基于残差雅可比矩阵的伴随系统。如果该雅可比矩阵在损失敏感方向上接近奇异（即临界状态），伴随响应会对扰动异常敏感，产生巨大且高度不稳定的梯度，导致优化过程不可靠。 ### 响应重整化框架 论文引入**响应重整化**，这是一种后向传播框架，它选择性地提升（lift）接近极点的分母，同时保持未提升的响应通道不变。具体包括两种变体： - **集体模式响应重整化（CMR）**：在低维临界子空间中应用校正，只修正关键方向的响应。 - **Phi-自适应 CMR（Phi-CMR）**：基于正磁化率规则计算有界的响应质量，进一步自适应调整校正程度。 研究者推导了密集和矩阵自由的集体公式，区分了修改后的冻结锚残差的精确梯度与后向响应替代项，并将该构造扩展到结构化隐式层和矢量吸引子（SILVA）。 ### 实验验证 在涵盖偏微分方程、三维场、算子映射、复杂几何和粒子系统的 23 个多物理场族中，CMR 和 Phi-CMR 在超过 **98% 的静态** 和 **95% 的瞬态** 族-种子比较中，测试误差比使用精确隐式微分训练的模型高出不超过 **5%**。求解器索引实验显示其收敛于静态伴随，而物理时间滚动在评估条件下保持了预测保真度。 ### 意义与展望 选择性响应重整化能够在不大幅损失有效梯度信息的前提下，控制临界伴随放大，使参数更新更加可靠。这一方法为训练深度均衡模型提供了一种实用且稳健的替代方案，尤其适用于涉及复杂物理系统的任务。尽管实验效果显著，但该方法在更广泛模型（如大规模语言模型）上的适用性仍有待探索。

在机器学习模型部署中，模型压缩与可靠性往往被视为一对矛盾。近日，一篇题为《Calibration-Preserving Pruning: Compression as a Reliability Contract》的论文提出了一种名为“保校准剪枝”（CPP）的新方法，旨在通过剪枝技术同时实现模型压缩和维持预测可靠性。该研究来自Ibne Farabi Shihab等人，已在arXiv上预印发布（arXiv:2608.23744）。 **核心思想：剪枝不影响覆盖率保证** 论文指出，分割共形预测（Split Conformal Prediction）提供了有限样本下的边际覆盖率保证，只要剪枝后的模型独立于共形校准分割固定下来，覆盖率就不受剪枝规则影响。因此，研究的重点转向了效率问题：剪枝能否保留足够的分数几何结构，从而在保证覆盖率的同时，得到更小的有效预测集？ 为此，CPP方法在基础剪枝分数上增加了非一致性梯度显著性（nonconformity-gradient saliency），并采用分离的数据分割策略：剪枝、验证选择、共形校准和测试集各自独立。理论上，有界的分数扰动意味着有界的共形分位数偏移和受控的集合膨胀，但这一性质并不依赖于具体的剪枝规则。 **实验结果：在多个数据集上取得增益** 实验基于Qwen2.5-1.5B模型，在50%稀疏度下进行了五次运行。结果显示，CPP在标签数量多的任务上增益最大。例如，在DBpedia-14数据集上，CPP-SparseGPT将平均预测集大小从10.1降至8.6，同时准确率从0.347提升至0.366；CPP-Wanda则将集合大小从11.2降至9.0，但准确率略有下降（从0.310降至0.295）。在15个数据集-稀疏度组合中，CPP-SparseGPT在13个组合中实现了更小的预测集，在11个组合中获得了更高的准确率。 **对比分析：监督梯度贡献显著** 进一步分析显示，通用的监督梯度解释了许多增益：在匹配的对照实验中，真正的标签CPP与Wanda+SNIP的差异在统计上并不显著，而阈值感知的候选标签CPP在显式准确率和离线计算成本下，实现了7.8的平均集合大小。此外，RoBERTa-base和Llama-3-8B的诊断实验支持了方法的可迁移性，但作者强调，研究结论仅限于对可靠性敏感的分类任务。 **总结与展望** 这项研究为模型压缩提供了一个新视角：剪枝不仅是为了减少计算量，更可以作为一种“可靠性契约”，在压缩过程中保持预测的可靠性。尽管仍存在一些未解决的问题，如统计显著性等，但CPP展示了在保持覆盖率的同时提高效率的潜力。未来，该方法有望在更多模型和任务上得到验证和推广。

在低秩恢复问题中，核范数最小化是一种常用的凸松弛技术，而迭代重加权最小二乘（IRLS）方法因其简洁和高效而广受关注。然而，IRLS算法的收敛速率以及权重算子的作用此前并未得到充分理解。一篇新近发布的论文（arXiv:2608.23765）对此进行了深入分析，为核范数最小化的IRLS方法建立了精确的收敛速率理论，并揭示了调和均值权重算子的最优性。 ### 核心贡献：调和均值权重的理论证明 该研究的关键创新在于对平滑核范数提出了一种新的主导分析（majorization analysis）。作者证明了调和均值权重算子能够定义有效的全局二次主导函数，并且在该权重算子族（power-mean权重）中，调和均值权重是最优的。这一结果解释了为何调和均值权重优于仅利用行空间或列空间信息的经典单侧重加权方案。 ### 收敛速率的突破性结论 在Schatten-1零空间性质下，作者证明了使用多种权重算子的IRLS算法具有全局线性收敛性。特别地，对于调和均值权重的IRLS，他们进一步证明了**维度无关的局部线性收敛速率**。这一结论具有重要意义，因为作者同时构造了一个反例，表明使用单侧权重算子的IRLS算法（在文献中占主导地位）通常无法获得这种维度无关的局部速率。换句话说，调和均值权重在理论上提供了更优的收敛保证。 ### 实验验证与实际意义 论文通过数值实验验证了理论结果，并展示了调和均值重加权在方形、矩形以及对抗性初始化恢复问题中的实际优势。这些发现不仅弥补了IRLS方法理论分析的空白，也为实际应用中选择权重算子提供了明确的指导。对于从事低秩矩阵恢复、压缩感知或机器学习优化研究的学者和工程师而言，该研究提供了一种更可靠且高效的算法选择。 ### 总结与展望 这项研究深化了我们对IRLS方法内在机制的理解，特别是权重算子在收敛性中的核心作用。未来，基于调和均值权重的IRLS有望在更多实际问题中得到应用，并可能启发新的算法设计。不过，该研究主要聚焦于理论收敛速率的刻画，其在实际大规模问题中的计算效率仍有待进一步探索。

在人工智能与人类协作日益紧密的今天，如何让AI准确理解人类的技能水平，成为提升协作效率的关键。传统方法往往依赖单次观察来估计潜在变量，但技能并非如此——它是一种持久、组合且基于行为的构建，需要从时间模式中推断。为此，研究人员提出了**SAIL**（Skill Abstraction with Interpretable Latents），一种将人类技能建模为可解释多维结构的新方法。 ## 技能：从单点观测到时间模式 技能与情绪、疲劳等瞬时状态不同，它是个体长期稳定的属性，且由多个子技能组合而成。例如，赛车手的技能不仅包括过弯技巧，还涵盖刹车控制、路线选择等。SAIL的核心在于，通过观察个体在一段时间内的自然行为，提取出稳健的技能嵌入，从而抵御瞬时波动的影响。 ## SAIL的工作原理 SAIL为每个个体分配一个持久的技能嵌入向量，该向量控制着专家与新手基线的混合比例。训练过程中，模型采用**反事实子技能交换**（counterfactual subskill swaps）来促进解耦，即通过交换不同个体的子技能特征，迫使模型学习到独立、可解释的表征。这种设计既保证了表征对性能波动的鲁棒性，又增强了其可解释性。 ## 实验验证：赛车与棒球 研究团队在赛车和棒球两个领域进行了验证。结果表明，SAIL在行为预测上表现出色，且相较于基线方法，在基于行为的解耦指标上持续提升。更重要的是，SAIL还改进了下游AI教练系统的性能，这意味着它不仅能理解技能，还能为个性化指导提供支持。 ## 应用前景 SAIL的提出为AI系统在协作、辅导和辅助场景中的应用开辟了新路径。例如，在体育训练中，AI教练可根据运动员的技能嵌入提供针对性建议；在人机协作中，机器人可调整自身行为以适应用户的技能水平。尽管SAIL目前仅在特定领域测试，但其框架具有通用性，未来有望扩展到更多复杂场景。 不过，SAIL仍面临挑战，如如何定义和获取专家与新手基线，以及如何在不同任务间迁移技能表征。这些问题将是未来研究的方向。 总体而言，SAIL通过解耦技能表征，让AI对人类的认知迈出了一步，也为更自然的人机交互奠定了基础。

在线旅游公司 loveholidays 正在利用 OpenAI 的 Codex 工具，将软件开发能力普及到全公司各个团队，让产品经理、设计师和商业团队能够直接参与代码修改和部署，而工程师则可以专注于更复杂的问题。在过去一年中，AI 辅助的代码变更比例从 7% 增长到 79%，部署频率提升了 73%，数据平台变更成功率也从 58% 提升到 93%。CTO Mike Jones 表示，这一举措是公司构建“旅游通用智能”愿景的一部分，旨在通过 AI 民主化技术能力，让每个人都能成为创造者。 ## 从想法到上线：Search Playground 的实践 在引入 Codex 之前，非工程团队的想法需要排队等待工程资源，每个实验都伴随着机会成本。如今，借助 Codex，产品经理、设计师和商业团队可以直接在代码库中构建原型，快速测试新的客户体验。例如，**Search Playground** 就是一个典型的例子，它让团队能够快速迭代搜索功能，而无需依赖工程团队。 ## 数据平台的成功率跃升 除了应用开发，Codex 还显著改善了数据平台的操作。数据显示，**数据平台变更成功率从 58% 提升到 93%**，每个支持请求对应的变更次数也增加了 4 倍。这意味着团队可以更高效地处理数据相关任务，减少故障和返工。 ## 工程团队的转型：聚焦高难度问题 随着 AI 接管了日常的代码修改和部署，工程师的角色也在发生转变。他们不再被琐碎的请求淹没，而是可以专注于更复杂、更具战略性的问题。正如工程主管 Dmitri Lerko 所说：“每个人都是建设者。”这种转变不仅提高了生产力，也提升了员工的工作满意度。 ## 未来：构建旅游通用智能 loveholidays 的长期愿景是构建“旅游通用智能”，将公司的技术与员工的 expertise 结合，并通过 AI 使其更易于访问。Codex 正是这一战略的关键组成部分，它不仅赋能了非技术团队，还为公司未来的创新奠定了基础。 对于其他企业而言，loveholidays 的经验表明，AI 工具不仅能够提升效率，还能重塑组织的工作方式，让创新不再受限于技术门槛。

作为一名硕士工程学生，我对 LaTeX 情有独钟，毕业论文和研究论文都离不开它。Overleaf 用起来不错，但 git 同步功能需要付费，这让我很不满。我不愿意为那些本应免费的功能付费，于是决定自己动手，开发了 TeXbrain——一个完全在浏览器中运行的开源 LaTeX 编辑器。 TeXbrain 的核心亮点在于，它利用 WebAssembly 将 pdfTeX 编译为 WASM 并在浏览器端运行，实现了真正的本地编译。无需安装、无需注册、无需服务器，打开浏览器即可写作并生成 PDF。所有操作，包括编辑、编译、git 操作，都在客户端完成，文件不会离开你的设备。 它支持按需加载 CTAN 包，首次编译时仅下载所需宏包，之后缓存本地，离线也能用。实时预览基于 pdf.js，支持多页缩放和文本选择。git 集成由 isomorphic-git 驱动，可直接克隆仓库、分支、提交、推送，无需命令行。本地文件系统访问则依赖 File System Access API，支持 Chrome/Edge 浏览器。 编辑器基于 CodeMirror 6，提供语法高亮、自动补全、代码折叠、片段等功能。命令面板和片段选择器让操作更高效。整体设计强调离线可用，一旦加载完成，无需网络即可正常使用。 TeXbrain 的出现，为 LaTeX 用户提供了一个免费、开源且尊重隐私的替代方案，尤其适合那些希望完全掌控工作流、又不想被订阅费用束缚的人。它展示了 WebAssembly 在复杂应用中的巨大潜力，让专业工具平民化。

Gohar Khan，一位来自康涅狄格州小镇的第一代大学生，凭借自己的努力考入麻省理工学院，如今已成为拥有超过千万粉丝的社交媒体教育者。他创立的YouTube频道“Gohar’s Guide”致力于为年轻人提供大学申请建议、学习技巧和生活妙招，同时他还联合创办了咨询公司Next Admit，为全球学生提供专业指导。 ## 从个人经历出发 Khan在巴基斯坦出生，六个月大时移居美国，在康涅狄格州长大。他就读的公立高中很少输送学生到顶尖大学，而他的父母也从未经历过大学申请过程，这使得他在申请大学时感到孤立无援。正是这种亲身经历，让他萌生了帮助其他类似处境学生的想法。他说：“我想为那些曾经和我一样处境的人揭开大学申请过程的神秘面纱。” ## 从YouTube到创业 2019年，Khan在MIT就读期间开始制作YouTube视频，分享他的学习方法和申请经验。他的频道迅速积累了大量订阅者，如今他在各大社交平台上的粉丝总数已超过1000万。2021年毕业后，他联合创办了Next Admit，提供大学论文指导、申请咨询和考试准备等服务。Khan表示：“我的使命是帮助全球学生在校内和校外都取得成功。” ## 教育公平的倡导者 Khan的成功不仅是个人的胜利，更是对教育公平的推动。他的内容覆盖了从SAT备考到个人陈述撰写的方方面面，为那些缺乏资源的学生提供了宝贵的信息。他的故事也反映了社交媒体在教育领域的巨大潜力，打破了地域和阶层的限制。 ## 结语 Gohar Khan的故事激励着无数年轻人，证明了只要有决心和正确的指导，任何人都有机会进入理想的大学。他的努力不仅改变了自己的命运，也为更多学生打开了通往高等教育的大门。

在日常生活中，石油基粘合剂几乎无处不在：它们用于粘合建筑中的木材和石膏板，固定家具的接缝，甚至将标签粘贴在可回收容器上。然而，正是这些标签上的石油基胶水，导致许多看似可回收的容器最终无法被回收。Patty Ferreira（MBA '97），Silvis Materials 的 CEO 兼联合创始人，正致力于解决这一难题。她创立的公司开发出完全可生物降解的纤维素粘合剂，有望替代传统的石油基产品。 Ferreira 早在 2014 年就开始探索生物基粘合剂的可能性。她最初的想法是改进纤维素在粘合剂乳液中的稳定剂作用，并模仿更昂贵的纳米纤维素所具备的粘合性能。如今，Silvis 的配方几乎可以利用所有类型的植物纤维素来制造粘合剂。通过 MIT 创业交流计划（STEX），Silvis 正在与包装和建筑公司合作，测试这些新粘合剂的性能。Ferreira 预计，这种粘合剂能将生产过程中的碳排放降低高达 80%，并比化石基胶水节省一半的能源消耗。 这一创新不仅有助于解决回收难题，还为可持续材料领域提供了新的思路。随着环保法规的日益严格和消费者对绿色产品的需求增加，生物基粘合剂有望在包装、建筑和家具等行业获得广泛应用。尽管目前仍处于测试阶段，但 Silvis 的技术展示出巨大的潜力，可能成为推动循环经济的关键一环。

**青少年创业教育项目 LaunchX 的创始人 Laurie Stach '06 表示，传统教育并未为有科学和数学天赋的年轻人提供足够的实践机会。** 自 2012 年成立以来，LaunchX 已帮助约 500 名高中生通过高强度暑期项目，将创意转化为真实产品，甚至获得预售或收入。 ## 从“有朝一日”到“现在就做” Laurie Stach 在青少年时期就怀有“改变世界的疯狂雄心”，但直到进入 MIT，她才发现自己并不孤单。她观察到，成年人常对擅长数学和科学的年轻人说“你将来会做大事”，但传统教育并未为此做好准备。这种认知促使她在 2012 年创立了 LaunchX，一个面向高中生的营利性创业项目。 ## 四星期，从零到一 LaunchX 的核心是一个为期四周的暑期强化项目，学生在其中组成团队，识别问题，构建实际产品或服务，并将其推向市场。Stach 强调，许多团队在项目结束前就能获得预售订单或实际收入。这种“做中学”的模式，旨在培养年轻人在真实世界中的问题解决能力。 ## 从 MIT 校园起步，逐步扩展 Stach 本人是 MIT 机械工程系校友，并于 2011 年从哈佛商学院获得 MBA。2013 年，她在 MIT 校园举办了首届暑期项目，仅有 30 名学生，但项目“像滚雪球一样发展”。如今，LaunchX 每年通过线下和线上课程服务约 500 名学生。 ## 行业背景与意义 在 AI 和科技快速迭代的当下，创业教育被视为培养未来创新者的关键。LaunchX 的模式不仅传授商业知识，更强调实践和风险承担，这与 MIT 的“手脑并用”理念一脉相承。尽管项目本身并非直接聚焦 AI，但其培养的解决问题能力，正是 AI 时代最需要的核心素养之一。 ## 小结 LaunchX 的成功表明，青少年创业教育具有巨大潜力。通过真实的创业体验，年轻人不仅能提前掌握商业技能，更能建立自信和韧性。随着类似项目的增多，未来教育或将更加注重实践导向，而 LaunchX 无疑是一个值得关注的范例。

上周，世界人形机器人运动会在中国举行，展示了人形机器人领域的最新进展。比赛中，机器人竞速项目打破了纪录，但也有机器人在演示过程中起火，场面一度惊险。然而，业内人士指出，这些破纪录的机器人竞赛虽然吸引眼球，但实际价值远不如日常家务挑战。 ## 机器人运动会：速度与激情的背后 本次运动会最引人注目的项目是机器人竞速。参赛的人形机器人以惊人的速度奔跑，突破了以往的速度极限。然而，速度并非一切。在另一个演示环节，一台机器人在运行时突然起火，虽然火势很快被扑灭，但这一幕提醒我们，人形机器人在稳定性和安全性方面仍有很长的路要走。 ## 家务挑战：更贴近实际应用的考验 与竞速项目相比，家务挑战赛看似平淡，却更贴近机器人的实际应用场景。家务挑战要求机器人完成叠衣服、整理物品、清洁桌面等任务，这些看似简单的动作，实则对机器人的感知、决策和精细操作能力提出了极高要求。专家认为，能够稳定完成家务任务的机器人，才更有可能进入家庭和办公环境，成为人类的得力助手。 ## 行业趋势：从炫技到实用 近年来，人形机器人领域的热度持续攀升，各大科技公司纷纷布局。但运动会的对比也反映出行业的一个趋势：**从追求炫技到注重实用**。竞速表演固然能吸引公众目光，但真正决定机器人能否落地的，是其能否在复杂环境中可靠地完成日常任务。 业内分析指出，家务挑战中的表现更能体现机器人的综合能力，包括视觉识别、路径规划、力控制等。这些能力正是机器人从实验室走向现实世界的关键。 ## 结语 世界人形机器人运动会不仅是一场技术的较量，更是一次行业风向的展示。破纪录的竞速令人兴奋，而起火事件则敲响了安全的警钟。或许，下一次运动会，我们更应关注那些看似平凡的家务挑战，因为它们更可能预示着机器人技术的未来方向。

The company's new fundraising total now stands at $232 million.

Amazon OpenSearch Service now supports MCP Apps, which return interactive visualizations alongside your AI agent's text responses. Learn how a single, locally run MCP server lets your agent move from alert to trace to logs to root cause in one conversation, and how you can verify every step inline without leaving your IDE.

Will moving dots cure your car nausea? History says yes.

Do fine art and high tech ever converge? At Sotheby’s they do, thanks to Kelly Shen ’17. Shen works in the growing field of art intelligence for the New York auction house. Shen builds algorithms to predict prices, using factors like buying trends and artists’ popularity. She has also worked on such efforts as cataloguing…

The offer is open to subscribers on any tier, but it is location-based.

Anthropic is giving Claude a shared memory across chat and Cowork, so users no longer have to repeatedly brief the AI on projects, preferences, and other context.

Anthropic is merging Claude chat and Cowork memory, raising privacy questions about what AI remembers and if it's worth the tradeoff.

Build a governed weekly reporting workflow with Amazon Quick Desktop and Amazon FSx for NetApp ONTAP. An Amazon S3 access point exposes an approved folder to a Quick knowledge base, and a custom skill drafts cited weekly reports and Slack summaries with human review before anything is shared.

I had seven years' worth of points I didn't know about, and now I have a Starbucks card to show for them.

Downsizing from a 'big three' carrier can save you big money, but it has its downsides. Here's how I'm adapting to them.