深度神经网络（DNN）通常包含大量隐藏状态冗余，但现有压缩方法（如权重剪枝、量化、低秩分解）大多直接作用于权重、神经元或量化表示，并未显式刻画内部状态的动态角色。来自爱丁堡纳皮尔大学的研究者提出了一种基于可控性-可观测性测试的经验最小实现压缩框架，将训练后的网络视为深度索引的非线性动态系统，通过数据驱动的可达性、可观测性及平衡Gramian矩阵，从隐藏状态快照和输出雅可比矩阵中估计逐层的可达秩、可观测秩以及联合可达-可观测秩。这些秩不仅作为隐藏状态冗余的诊断指标，还直接用作压缩后网络的实际层宽。 在MNIST和CIFAR-10上的实验表明，该方法在保持准确率几乎不变的前提下实现了显著压缩。以MNIST为例，一个四层SiLU网络的状态阶从1024降至277（压缩72.95%），参数压缩73.48%，准确率从96.60%略降至95.45%。在CIFAR-10上，一个更大规模的SiLU网络从状态阶4608压缩至1339（压缩70.94%），参数压缩83.09%，准确率几乎不变（54.45%→54.44%），CUDA推理延迟降低约3倍。 研究结果证明，平衡可达-可观测秩为设计紧凑神经网络架构提供了一种原则性的经验最小实现准则，能够在几乎不损失精度的前提下实现高效压缩。该工作为动态系统理论在深度学习压缩中的应用开辟了新路径，尤其适用于对模型体积和推理效率有严格要求的边缘计算场景。
## 核心发现：可学习的执行“缰绳” 大型语言模型（LLM）Agent 的能力通常通过调整提示词、更换模型或编写工作流来提升，而模型外部的执行框架（harness）却被视为固定不变的基础设施。然而，最新研究《Learning to Control LLM Agent Harnesses with Offline Reinforcement Learning》提出了一种颠覆性观点：这个“缰绳”本身就是一个可学习的控制层。 ## 方法：Harness MDP 与离线训练 研究者将执行框架的操作形式化为一个有限时域的 **Harness MDP**。在这个框架中，一个轻量级控制器负责选择结构化的执行动作（如是否调用工具、如何验证中间结果），而底层的 LLM 执行器保持冻结。控制器通过离线强化学习（Offline RL）训练——具体使用 **优势加权回归**（Advantage-Weighted Regression），仅依赖最终任务评分（terminal task-rubric rewards）作为奖励信号。 为了更精细地评估学习效果，论文还引入了 **Harness Maturity Score**（HMS），该指标衡量执行框架是否遵循可靠的执行模式，而不仅仅是最终答案是否正确。这种分离揭示了有趣的现象：最终任务质量的提升需要离线数据缓冲区中存在高回报样本的支持，而过程行为（如检查步骤）只要与优势加权动作对齐，就可以发生转变。 ## 实验结果：验证行为显著改善 在六个受控领域和两个公开基准适配器上，学习到的控制器一致地改善了验证行为，并选择性提升了最终任务质量。最大增益出现在 **tau-bench retail 适配版本**、**AgentBench DB-Bench 适配版本** 以及 **带有结构化验证器的编码任务** 中。 消融实验进一步排除了模仿学习（behavior cloning）或简单添加检查（Forced CHECK）的干扰——增益并非来自模仿或机械增加检查步骤。 ## 行业意义：解锁冻结LLM的潜力 这项研究的关键启示是：对于冻结的 LLM Agent，执行框架的控制层可以独立学习优化，从而在不修改模型本身的情况下提升 Agent 的可靠性和任务表现。同时，离线支持的限制决定了更好的过程控制何时能转化为更好的最终答案。 这一思路为 AI Agent 的工程化落地提供了新方向——与其反复调教大模型，不如训练一个轻量级的“缰绳控制器”，让执行过程更智能、更可靠。
## 背景：DNN测试中的预算困境 在深度神经网络（DNN）测试中，现有方法通常假设一个固定的标注预算，并在此预算下优先选择最有可能揭示模型错误的测试输入。然而，实际应用中如何确定这个预算是一个难题：预算过少会遗漏关键故障，预算过多则导致不必要的标注成本。 ## 核心创新：将测试视为成本-收益决策 针对这一痛点，来自**Bonan Shen**等人的最新研究提出了一种名为**AdaStop**的成本感知早停框架。该框架将DNN测试过程建模为一个成本-收益决策过程：每次标注一个测试输入需要付出成本 \(c\)，而发现一个故障则产生价值 \(v\)。基于此，AdaStop动态估计测试过程中的边际故障发现率，并在该比率低于阈值 \(\tau = c/v\) 时自动停止标注。 ## 实验结果：高效发现故障 实验覆盖了多个数据集、网络架构和测试选择策略。结果显示，AdaStop能够在仅使用 **9% 至 31%** 的标注预算的情况下，发现 **65% 至 84%** 的故障。这一数据表明，AdaStop在显著降低测试成本的同时，仍能保持较高的故障覆盖率。 ## 行业意义与未来方向 该研究为DNN测试中的预算分配提供了一种数据驱动的解决方案，尤其适用于标注成本高昂的工业场景。未来工作可能进一步探索自适应阈值设定、多任务测试等扩展方向。 论文发表于arXiv，编号 **2607.05461**，来自机器学习（cs.LG）与人工智能（cs.AI）领域。
## 背景与挑战 在智能交通系统中，准确感知施工区的几何结构对保障安全与效率至关重要。超宽带（UWB）传感凭借低成本、低功耗的优势，成为基础设施辅助重建的理想选择。然而，户外环境中的**非视距传播、突发噪声和长尾误差**严重干扰UWB测距，导致下游空间重建产生畸变。 ## GAIA框架的核心思路 针对上述问题，来自威斯康星大学麦迪逊分校等机构的研究者提出了**GAIA**（Geometry-Aware Infrastructure-Anchored Denoiser），一种**几何感知、基础设施锚定的学习框架**。GAIA的核心创新在于将**时间序列测距建模**与**潜在锚点布局估计**相结合，并引入**确定性距离投影**，使得距离去噪任务能够引导模型学习边界一致的几何重建。 具体而言，GAIA将距离去噪作为监督任务，同时通过几何约束使学习到的距离更符合真实空间边界。这种设计避免了传统方法中“先滤波后重建”的两阶段误差累积，实现了端到端的几何一致性优化。 ## 实验验证与性能提升 研究团队在真实户外UWB数据集上进行了评估，该数据集同步采集了UWB、GNSS和IMU数据。此外，他们还利用真实数据校准的**应力测试模拟器**检验了模型的鲁棒性。实验结果显示： - **GAIA在所有评估基线中取得了最低的距离均方误差（MSE）**，相比表现最佳的基线方法PoseMLP降低了**18.4%**。 - **多边形交并比（IoU）提升了15.5%**，表明重建的施工区边界与真实几何高度吻合。 这些结果充分验证了几何感知距离去噪在空间一致重建中的有效性。 ## 行业意义与未来展望 GAIA为低成本、高精度的施工区感知提供了新路径。其**基础设施锚定**的设计天然适合车路协同场景，有望在智能路侧单元中部署，实时感知施工区动态变化。未来，该方法可进一步扩展到更复杂的动态场景，如交叉口或临时施工区域，为自动驾驶和交通管理提供可靠的几何先验。
随着AI治理框架要求提供者和审计师提供可记录的评价证据，基于扰动的构念有效性审计成为常见形式。但一项最新研究指出，这些审计本身存在脆弱性——其结论可能被实现细节悄然操控，而读者仅凭报告数字难以察觉。 来自研究者Yanhang Li、Zhichao Fan和Zexin Zhuang的论文《Auditing the Audit: Five Failure Modes in Benchmark-Validity Audits》提出了五种管道失败模式（F1–F5），并在安全基准和开放权重指令微调模型上进行了自我审计验证。研究采用统一的六点尽职调查门控，结果显示所有测试单元均落入非确认性区间，无一达到确认性标准。 ## 五种失败模式 - **F1: 扰动选择偏差**：扰动类型或强度的选择可能无意中偏向特定结果，导致审计结论不具代表性。 - **F2: 基准污染**：模型可能已在训练或微调中接触过基准数据，使审计结果虚高。 - **F3: 度量不匹配**：使用的评价指标与构念定义不一致，例如用准确率衡量稳健性。 - **F4: 统计效力不足**：样本量或重复次数过少，无法可靠检测真实差异。 - **F5: 报告选择性**：仅报告有利结果，忽略失败或边缘案例。 ## 关键发现 在案例分析中，研究团队对两个模型、五个基准进行了审计，所有单元格均被六点门控判定为“非确认性”。这表明，即使看似严谨的审计，也可能因实现细节而失效。研究者强调，该分类是启发性的、非穷尽的，旨在作为保证级证据的扣留与披露协议，而非替代传统构念有效性证据。 ## 行业意义 这项研究对当前AI审计实践提出警示：仅依赖基准数字可能产生虚假信心。随着监管机构要求更多审计证据，确保审计本身的可信度至关重要。六点门控协议可帮助识别审计中的潜在缺陷，但研究者明确表示，它并非通往基准有效性判决的路径，而是对现有证据体系的补充。 该论文已被ICML 2026的TAIGR Workshop接收，全文可在arXiv获取。对于AI安全与治理领域而言，这项工作是重要的自我反思——审计者也需要被审计。
近日，一篇来自Rutgers大学研究团队的论文《Evaluating Time Series Foundation Models for Electricity Price Forecasting: Contamination Risk, Distributional Shifts, and Covariate Dependence》被ICML 2026结构化数据基础模型研讨会接收。该研究系统评估了时间序列基础模型（TSFM）在电价预测（EPF）这一高挑战场景下的表现，揭示了其优势与局限，并指出混合模型或为最优解。 ## 研究背景与核心问题 时间序列基础模型（如Lag-Llama、TimesNet等）在零样本预测中展现了不俗的潜力，但其在**协变量驱动、非平稳场景**下的泛化能力尚不明确。电价预测恰好是这类场景的典型代表：电价受天气、需求、发电组合等外部因素影响，且存在频繁的分布偏移和极端尖峰。论文特别关注了**数据污染风险**——即预训练数据可能包含测试集信息，导致评估结果虚高。为此，研究者设计了一个“双数据集基准框架”，从源头上控制污染，确保公平比较。 ## 关键发现：TSFM的“能”与“不能” 实验覆盖了点预测、概率预测、尾部行为以及尖峰捕捉等多个维度。结果如下： - **TSFM vs. 通用基线**：TSFM在多数指标上显著优于传统统计模型（如ARIMA、ETS）和通用深度学习模型（如LSTM），尤其在概率预测和尖峰预测中表现突出。 - **TSFM vs. 领域专用方法**：当与专门为EPF设计的模型（如基于专家特征的稀疏模型）对比时，TSFM并未稳定胜出。领域专用方法在特定数据集上仍有优势，尤其是在处理结构性突变时。 - **协变量依赖是关键瓶颈**：TSFM的性能高度依赖于是否提供充足的协变量（如气温、负荷、燃料价格）。在协变量缺失时，其预测误差显著上升，而领域方法对此更具鲁棒性。 - **混合模型的潜力**：最简单但最有趣的发现是，**将TSFM与领域专用模型进行集成（如简单平均）**，其效果往往超过任何单一模型。这表明两类模型捕捉了互补的预测信号——TSFM擅长模式识别，领域模型擅长结构因果。 ## 行业启示：基础模型不是万能药 该研究对AI+能源领域具有明确的实践意义： 1. **谨慎看待零样本能力**：TSFM在电价预测中并非“开箱即用”。从业者需要根据具体场景评估其协变量依赖程度，并警惕数据污染带来的虚高信心。 2. **混合策略更可靠**：与其在TSFM和领域方法之间二选一，不如构建集成系统。这与近期AI工程化的“基础模型+领域微调”趋势一致，但本文强调即使不微调，简单的后集成也能带来收益。 3. **评估框架的价值**：论文提出的双数据集基准框架可推广至其他时间序列任务（如负荷预测、金融时序），为社区提供了更可靠的评估标准。 ## 结语 随着基础模型向结构化数据领域渗透，类似电价预测这样的“硬核”场景正在成为试金石。这篇论文提醒我们：**基础模型虽强，但领域知识仍是不可或缺的“另一半”**。未来，如何设计更高效的融合机制，将是研究的重要方向。
## 概述 零样本文本转语音（TTS）技术近年来取得了显著进步，在自然度和可懂度上表现优异。然而，现有系统在处理罕见专有名词、外来词和技术术语时，常因文本本身的歧义性而导致发音错误。即使是基于音素（phoneme）条件控制的模型，也无法对每个单词的发音进行精细的声学调控。 针对这一痛点，来自多家机构的研究者联合提出了一种名为 **GRAFT** 的全新方法。相关论文已提交至 arXiv 预印本平台。GRAFT 全称为“Grafted Reference Audio for Fine-grained Pronunciation”，其核心思想是利用一个简短的语音样本作为“提示”，精准控制目标单词在合成语音中的发音，同时保持目标说话人的音色不变。 ## 技术原理 GRAFT 的工作流程可以概括为“嫁接”： 1. **提示音编码**：用户提供某个单词的简短发音片段（可来自任意说话人），该片段经过模型自身的语音分词器（speech tokenizer）编码，形成声学表示。 2. **位置绑定**：将编码后的提示音信息与目标单词在输入文本中的位置进行绑定，确保模型在合成时将该声学特征“植入”到对应位置。 3. **说话人解耦**：在训练阶段，通过语音转换（voice conversion）技术构建数据对，将提示音中的说话人特征与目标说话人特征分离。这样，无论提示音来自谁，模型都能在输出中保持目标说话人的音色，实现“用别人的发音说自己的话”。 整个机制基于神经编解码语言模型（neural codec language modeling），在保持原有文本到语音生成框架的基础上，额外引入了单词级别的发音控制流。 ## 实验结果 研究者在英语和五种语言的客观基准上对 GRAFT 进行了全面评估： - **主观听感测试**：在盲听实验中，人类评分员一致将 GRAFT 排在首位，认为其对困难单词的发音最接近真实参考录音。 - **客观指标**：在五语言基准测试中，GRAFT 将目标单词的音素错误率（PER）降低了 **22% 至 39%**，显著优于仅使用文本的基线模型以及当前主流的开源零样本 TTS 系统（包括基于音素和基于文本的条件模型）。 - **保真度**：在提升发音准确性的同时，GRAFT 在说话人相似度和整体自然度方面与现有系统持平，未出现明显的性能折损。 ## 行业意义 GRAFT 的出现为 TTS 在专业领域的落地扫清了一个关键障碍。例如，在语音助手、有声书朗读、多语言内容生成等场景中，准确发音人名、地名和行业术语是用户体验的核心。GRAFT 提供了一种轻量级、可插拔的解决方案，无需重新训练整个模型，仅需一段简短的参考音频即可修正特定单词的发音。 未来，研究者可进一步探索如何将 GRAFT 扩展到更细粒度的韵律控制（如重音、语调），以及如何在低资源语言上保持效果。总体而言，这项工作为精细化的语音合成控制开辟了新的方向。
**联邦学习（Federated Learning, FL）正为无人机群的目标检测任务带来隐私与性能的双赢。** 最新研究《Federated Learning for Object Detection: Enabling Collaborative Drone Learning Without Centralizing Data》表明，通过联邦学习，多架无人机可以在不共享原始航拍图像的前提下协同训练高性能目标检测模型，其表现接近集中式训练，而远超单机训练。 ### 背景：集中式数据的困境 在灾害响应、基础设施监控、国防等安全攸关场景中，无人机搭载的AI视觉系统需要持续更新目标检测模型。传统做法是将所有航拍数据集中到中央服务器进行训练。然而，这面临多重挑战： - **隐私与合规**：航拍图像可能包含敏感信息，集中存储违反数据最小化原则。 - **带宽与存储**：高分辨率图像传输占用大量带宽，边缘设备存储容量有限。 - **实时性**：数据上传延迟影响模型快速迭代。 ### 联邦学习方案：本地训练，全局共享 研究团队基于**Flower联邦学习框架**，在**KIIT-MiTA无人机数据集**上实现了目标检测的联邦学习管道。核心流程如下： 1. 每架无人机在本地保存图像数据，使用本地数据训练模型（如YOLO）。 2. 仅将模型参数（梯度或权重）上传至中央服务器。 3. 服务器聚合参数，生成全局模型，再分发回各无人机。 4. 重复迭代，直至模型收敛。 对比基线包括： - **单机训练**：仅用单架无人机数据训练。 - **集中式训练**：所有数据集中到一处训练。 ### 关键结果：轻量模型表现突出 实验采用**mAP@0.50**和**mAP@0.50:0.95**作为评估指标。最轻量的模型**YOLO26 nano**——专为边缘设备设计——在联邦学习设置下取得了： - **mAP@0.50提升52.89%**（相对单机训练） - **mAP@0.50:0.95提升67.80%** 联邦学习模型的性能与集中式训练非常接近，同时完全避免了数据集中化。这意味着无人机群可以在不牺牲检测精度的前提下，保护数据隐私并降低通信开销。 ### 行业意义与展望 这项研究对AI与边缘计算领域具有重要意义： - **赋能分布式系统**：联邦学习让无人机、IoT设备等边缘节点能够协作学习，突破数据孤岛。 - **推动隐私保护AI**：在监管趋严的背景下（如GDPR），联邦学习提供了一条合规的技术路径。 - **降低部署成本**：轻量模型（如YOLO26 nano）可直接运行在有限算力的边缘设备上，无需昂贵硬件。 未来，研究可进一步探索异构无人机群（不同传感器、算力）下的联邦学习优化，以及应对通信中断、非独立同分布数据等实际挑战。 **一句话总结**：联邦学习让无人机群“数据不动模型动”，在保护隐私的同时实现接近集中式训练的目标检测性能，为分布式AI落地提供了有力方案。
## 摘要 近期，生成式模型在合成高质量图像方面取得了显著进展，为数据饥渴型模型提供了可扩展的训练数据。然而，现有方法往往需要训练或微调生成器，或依赖提示工程等后处理技巧，这不仅要求专业知识，还限制了通用性。针对这一问题，一篇发表于 arXiv 的新研究提出了一种生成器无关的**后生成筛选**方法：通过将真实类别划分为**同质（Homogeneous, HO）** 和**异质（Heterogeneous, HE）** 子集，并基于保真度-多样性准则对合成图像评分，从而在不重新训练的前提下有效提升下游任务性能。 ## 核心思路：对抗生成器的结构偏差 研究团队观察到，现代生成器存在一种结构性偏差：它们倾向于过度生成每个类别的**典型模式**（即同质样本），而低估类内变异（即异质样本）。这种偏差导致合成数据集在分布上过于集中，缺乏多样性，进而影响下游模型的泛化能力。 为了解决这一问题，作者提出将每个真实类别拆分为两个子集： - **同质子集**：包含该类别的典型、重复度高的样本； - **异质子集**：包含非冗余、能体现类内差异的样本。 随后，对合成图像采用**保真度-多样性准则**进行评分：奖励与真实类别语义对齐的样本，同时惩罚与同质子集过于相似的冗余样本。这样，筛选出的子集既能保持语义真实性，又能最大化类内多样性。 ## 方法优势：生成器无关且无需重训 该方法的突出优势在于**生成器无关性**：它无需访问生成器的内部参数，也无需针对特定生成器进行微调或提示工程。只需给定一个固定的合成图像池，即可通过纯后处理方式筛选出信息量最大的子集。这意味着该方法可以无缝应用于任何现有生成模型生成的图像集合，大大降低了应用门槛。 此外，该方法**不需要重新训练**任何模型，计算成本极低，适合大规模部署。 ## 实验结果：性能提升显著，数据效率更高 在多个基准测试上，该方法一致优于现有的最先进数据筛选方法。更令人印象深刻的是，它仅使用**比真实数据少 40% 的合成样本**，即可达到与真实数据训练相当的性能。 进一步实验表明，即使将该方法应用于更强的**任务微调生成器**（即专门为特定任务优化的生成器），它依然能在分类和分割任务上带来性能提升。这表明后生成筛选并非替代更优生成器的方案，而是一种**互补机制**——无论生成器多强，合理的筛选都能进一步释放合成数据的潜力。 ## 总结与展望 这项研究为合成数据的利用提供了新视角：与其投入资源改进生成器或设计复杂的后处理策略，不如直接在生成的图像池中进行智能筛选。通过简单的同质-异质分裂和保真度-多样性评分，即可显著提升下游任务性能，且不依赖特定生成器。这为数据匮乏场景（如医疗影像、自动驾驶）提供了一种低成本、高效率的解决方案。未来，该方法有望扩展到视频、3D 数据等其他模态。
脑电图（EEG）作为一种非侵入性技术，被广泛用于探索精神病理的神经生理学基础。然而，不同EEG范式与特征粒度之间的系统证据仍然匮乏。近期，一篇发表在arXiv上的研究提出了一种**粒度感知的EEG特征管道**，将多尺度描述符组织为全局、区域和通道三个层次，并基于健康大脑网络（HBN）队列评估了对四种精神病理维度（p因子、内化、外化、注意问题）的预测能力。 该研究涵盖了四种EEG范式，包括静息态和任务态数据。考虑到儿童精神病理的异质性以及问卷评分的有限可靠性，研究者将这一设定定位为**可行性测试**而非临床筛查。结果显示，基于树的模型与粒度平衡的特征选择在部分条件下优于传统方法，但效应量仍然较小。所选标志物的可视化揭示了维度特异性的空间和频谱模式，与现有神经生理学知识大体一致。 在独立的PEARL队列上进行的跨数据集验证表明，所提出的选择原则在协议变化下仍具有技术可行性，但**不宣称跨数据集泛化能力**。整体而言，多尺度EEG特征包含与维度精神病理相关的微弱但可检测的信号，粒度感知选择有望成为未来基于EEG的表型研究中有效的特征降维策略。 ### 方法亮点 该框架的核心在于**粒度层次化设计**： - **全局特征**：捕捉整个大脑的整体活动模式； - **区域特征**：反映特定脑区（如前额叶、颞叶）的活动； - **通道特征**：保留单个电极的精细信息。 通过**粒度平衡的特征选择**，研究者避免了传统方法中偏向某一尺度的问题，从而更全面地挖掘EEG信号中的病理信息。 ### 结果与意义 尽管预测效果有限，但研究证实了多尺度EEG特征在精神病理维度预测中的潜力。这一方法为未来EEG研究提供了可参考的框架，尤其是在处理高维、低信噪比的生物信号时。研究者强调，该工作更侧重于**方法学验证**，而非直接临床应用。 ### 局限与展望 研究指出，当前模型的效应量较小，可能受到样本量、数据质量以及精神病理维度复杂性的影响。未来研究可结合深度学习或更大规模数据集进一步提升预测性能。此外，跨数据集验证的初步成功为方法的通用性提供了初步证据，但仍需更多独立验证。 总之，这项研究为利用EEG进行精神病理评估提供了新的分析视角，**粒度感知特征框架**的提出有望推动精准精神医学的发展。
近日，一篇发表在 arXiv 上的论文提出了一种名为 **LiNO（Lifting Neural Operator）** 的新型神经算子架构，旨在解决现有神经算子难以同时捕捉全局动力学与精细尺度结构的痛点。该研究由 Himanshu Pandey 等人完成，核心创新在于将**第二代小波提升方案**引入神经算子设计，实现了数据驱动的自适应多分辨率分解。 ## 背景：神经算子的机遇与挑战 神经算子是一类学习函数空间之间映射的深度学习模型，能够直接从数据中学习微分方程的解算子，从而预测整个参数族对应的解，而非单个实例。然而，现有神经算子（如 FNO、DeepONet）在处理包含多尺度特征的物理问题时往往力不从心——要么过度平滑丢失细节，要么计算成本过高。 ## LiNO 的核心设计：提升变换与多分辨率空间 LiNO 的关键在于将**提升方案（lifting scheme）**参数化，使其成为可学习的变换。提升方案是一种构造小波的方法，其特点是计算高效且保证**精确可逆**。LiNO 通过学习数据中的自适应提升变换，将输入函数分解为**粗尺度系数**和**方向细节系数**，并在该多分辨率空间中分别演化这两类系数。这种“尺度感知”的建模方式使得算子能够同时处理全局趋势和局部振荡。 与传统的固定小波基不同，LiNO 的变换是**数据驱动**的，能够根据底层解函数的特性自动调整分解方式。同时，由于变换可逆，信息在分解和重构过程中无损，确保了多尺度学习的保真度。 ## 性能评估：覆盖多类物理现象 研究者在五个经典基准上对 LiNO 进行了测试，涵盖了不同物理行为： - **Darcy 流**（多孔介质流动） - **Poisson 方程**（椭圆型问题） - **Allen-Cahn 方程**（相场模型） - **可压缩 Navier-Stokes 方程**（流体动力学） - **Gray-Scott 反应-扩散系统**（图灵斑图） 这些基准涉及多尺度现象、输运主导动力学和混沌系统。实验结果表明，LiNO 在所有任务上均取得了**与最先进神经算子相当或更优**的表现，尤其在捕捉精细结构和长时间演化方面展现出明显优势。 ## 意义与展望 LiNO 为科学机器学习提供了一条有前景的路径：通过自适应多分辨率算子，有望在气候模拟、材料设计、流体力学等需要同时关注大尺度演化与小尺度细节的领域发挥重要作用。未来，该方向可能进一步结合物理信息约束或无监督学习，提升泛化能力与数据效率。
时间序列预测在金融、能源、交通、公共卫生和工业监测等领域支撑着关键决策。近期涌现的基础模型虽提升了跨任务迁移能力，但大多依赖中心化数据和Transformer注意力机制，在处理长序列、高维度和隐私敏感信号时捉襟见肘。来自多所机构的研究团队提出了一种名为 **QuantFlow** 的概率预测框架，巧妙融合了倒置序列嵌入、双向Mamba状态空间解码器、分位数回归与联邦学习，为时序预测领域带来了新的解题思路。 ## 核心设计：倒置嵌入 + 双向Mamba QuantFlow 的架构设计颇具巧思。首先，它采用 **倒置序列嵌入** 策略：将每个变量在整个观测窗口上的时间步进行嵌入，而非将同一时间步的所有变量拼合。这种处理方式能更好地捕捉变量自身的长期依赖关系。随后，嵌入后的序列分别沿正向和反向送入 **双向Mamba 状态空间解码器**。Mamba 作为近年来兴起的状态空间模型，凭借线性复杂度的序列建模能力，在长序列任务上展现出超越 Transformer 的潜力。QuantFlow 通过双向处理，使模型能同时感知过去和未来的上下文信息。 最终，解码器输出被投影到 **五个条件分位数**（如 10%、25%、50%、75%、90%），从而实现概率预测，不仅给出点估计，还提供不确定性区间。此外，团队引入 **TSMixup** 数据增强方法，通过狄利克雷加权插值增加时间序列多样性，同时保持序列的结构完整性。 ## 联邦学习：隐私保护下的分布式训练 QuantFlow 的另一大亮点是内置 **联邦学习** 机制。在 20 个客户端的非独立同分布（non-IID）数据部署中，模型仅需 **三轮通信** 即可保持有用精度，且原始数据始终留在本地。这意味金融机构、医院等数据敏感方可以协作训练强大模型，而无需共享原始记录，极大拓展了实际应用场景。 ## 实验结果：优势与局限并存 在加密货币、交通流量、电力负荷、电力变压器温度（ETT）、流感和天气等六类数据集上，QuantFlow 取得了有竞争力的结果。具体指标上，在 **ETTm1** 数据集上均方误差（MSE）为 **0.2834**，在 **Weather** 数据集上为 **0.2218**，优于或持平于同类基线。 不过，论文也坦诚指出了当前版本的局限：在处理 **不规则的流行病学信号** 和 **超长预测区间** 时，QuantFlow 的泛化能力仍有不足。这提示状态空间模型在极端不规则采样和极长序列场景下，可能还需要更精细的设计。 ## 行业启示：后Transformer时代的新方向 QuantFlow 的发布正值 AI 社区对 Transformer 注意力机制进行反思的时期。Mamba 等状态空间模型凭借线性复杂度，已在语言建模和长序列任务中初露锋芒。QuantFlow 将这一思路引入时序预测，并叠加联邦学习与概率输出，为构建 **可扩展、可量化不确定性、隐私友好** 的时序基础模型指出了可行路径。对于金融风控、智慧电网、流行病监测等需要兼顾准确性与数据合规的行业而言，QuantFlow 所代表的技术方向值得密切关注。
认知诊断模型（CDM）长期以来在心理测量学中扮演着关键角色，通过分析学生对技能的掌握模式来诊断学习状态。然而，传统CDM通常依赖线性假设和简单结构，难以捕捉复杂的学习交互。近年来，深度神经网络（NN）被引入以提升预测性能，但其“黑箱”特性往往牺牲了心理测量学所珍视的可解释性。 最新发表在arXiv上的研究提出了**多层Q矩阵嵌入神经网络（M-QCDNet）**，旨在融合两者的优势。该架构的核心创新在于将**Q矩阵**作为结构先验嵌入网络设计中。Q矩阵是认知诊断中的标准工具，它定义了每个试题与所需技能之间的对应关系。M-QCDNet通过这一先验知识约束网络的学习过程，确保模型推断出的学生技能掌握轮廓不仅预测准确，而且与认知理论保持一致。 具体而言，M-QCDNet在损失函数中引入了**L2惩罚项**，对与Q矩阵不一致的技能激活进行惩罚，从而在预测性能与结构对齐之间取得平衡。此外，研究还开发了新的**可解释对齐度量**，用于量化预测的技能激活与试题级技能之间的匹配程度，为模型的可解释性提供了客观评估标准。 M-QCDNet的实践价值体现在课堂教学中：它能够早期发现学生的学习困难，并支持基于掌握程度的干预措施。通过将诊断效度直接嵌入模型设计，M-QCDNet架起了心理测量透明性与神经灵活性的桥梁，推动了认知诊断中可解释、公平且可操作的人工智能发展。 该研究由Yiyao Yang撰写，共15页，包含3个表格，目前以arXiv预印本形式发布（arXiv:2607.01278）。虽然仍有待同行评审，但M-QCDNet代表了一种有前景的方向——在深度学习模型中保留心理测量的核心原则，为教育评估领域提供了新的工具。
## 研究背景：跨被试脑电压力检测的挑战 心理压力检测在脑机接口（BCI）领域具有重要应用，但**跨被试（cross-subject）EEG信号分析**仍面临两大难题：压力相关的神经模式既具有**个体依赖性**，又表现出**频率特异性**。传统黎曼几何方法主要在时域建模空间协方差，忽略了与高级认知状态解码密切相关的神经振荡（如α、β节律）。而标准的时间分片（tokenization）往往破坏切片间的时序连贯性，导致信息丢失。 ## 方法创新：I²RiMA 网络架构 针对上述问题，来自中国的科研团队提出了 **I²RiMA（Intra-Inter Riemannian Manifold Attention Network）**，一种结合频谱黎曼表示与时空注意力机制的EEG压力检测方法。其核心创新点包括： 1. **逐频率点空间协方差建模**：在每个频率点上独立构建空间协方差矩阵，并映射到**对称正定（SPD）切空间**，从而保留通道间的几何结构以及频率特异性判别信息。 2. **频率簇聚合**：通过数据驱动的聚类方法，将信息丰富的频谱成分聚合为紧凑的频率簇，这些簇与脑电节律（如δ、θ、α、β、γ波）自然对应，有效降低冗余。 3. **内-外切片注意力模块**：自适应地融合局部切片级的频谱动态与全局时序上下文，在保持时序连贯性的同时捕捉长期依赖。 ## 实验结果与性能 研究者在**三个公开数据集**上进行了验证，与五种最先进基线方法相比，I²RiMA 取得了**82.78%的平衡准确率（balanced accuracy）**，同时模型参数仅**1.60M**，浮点运算量（FLOPs）为**31.95M**，展现了高效性与鲁棒性。 ## 行业意义与未来方向 该工作为**情感计算与精神健康监测**提供了新的技术路径。传统黎曼方法在EEG分类中受限于时域建模，而I²RiMA通过引入频谱维度与注意力机制，显著提升了跨被试泛化能力。未来，该架构有望扩展到**实时压力监测系统**、**可穿戴脑机接口**等场景，并可能结合**多模态生理信号**（如心率、皮电）进一步提升准确性。 > 论文发表于 arXiv:2607.01279，作者包括 Cheng He、Kunyu Peng 等。
## 概述 在人工智能（AI）广泛应用的时代，模型可解释性仍是医疗等专业领域面临的核心挑战。近日，一项发表于ICONIP 2024的研究提出了一种**基于领域知识的时空图卷积网络（Domain Knowledge Based Temporal-Spatial Graph Convolution Network）**，用于心电图（ECG）识别，在提升性能的同时增强了模型的可解释性。 ## 方法创新：将医学知识融入图结构 传统深度学习方法（如卷积神经网络）常被视为“黑盒”，难以解释其决策依据。该研究另辟蹊径，**引入PRQST关键点**——这些是ECG解读中至关重要的波形特征点（如P波、QRS波群、T波等），作为领域知识注入模型。 具体而言，研究者构建了一个**双流有向图**来建模ECG信号： - **空间有向图**：捕捉每个心动周期内关键点之间的相对位置关系。 - **时间有向图**：刻画连续心动周期之间关键点的时间依赖关系。 这种结构使模型不仅学习数据模式，还能利用医学先验知识，从而提升可解释性和对异常模式的识别能力。 ## 实验结果：罕见类别性能显著提升 研究团队在**首届中国心电图智能竞赛数据集**上进行了验证，该数据集包含9类心电异常。结果显示： - **总体平均F1分数**达到**88.1%**，优于现有最优模型。 - **罕见类别平均F1分数**达到**76.3%**，同样领先。 值得注意的是，引入领域知识后，模型对**罕见类别**的检测性能提升尤为明显。这在实际临床中具有重要意义——罕见心律失常往往更容易被漏诊，而该模型通过知识引导，有效缓解了数据不平衡带来的偏差。 ## 行业意义与展望 该研究为AI在医疗诊断中的应用提供了新思路：**通过嵌入领域知识，模型不仅能“看”到数据，还能“理解”临床逻辑**。这种图网络架构可推广至其他生物信号（如脑电图、肌电图）分析中。 未来，随着可解释AI（XAI）在医疗领域的合规要求日益严格，这类将**先验知识结构化**的方法有望成为主流。研究团队表示，下一步将探索更多类型的领域知识（如临床诊断规则）与图网络的融合，以进一步提升模型的泛化能力和临床适用性。
近似最近邻（ANN）搜索是机器学习与信息检索领域的核心问题，尤其在大型语言模型和向量数据库应用中扮演关键角色。长期以来，图、树和基于分区的方法主导了ANN算法研究，而网格类方法因被认为在高维空间中效率低下，逐渐淡出主流视野。然而，一篇最新预印本论文《Scaling Laws for Grid-Based Approximate Nearest Neighbor Search in High Dimensions》重新审视了网格方法的潜力，揭示了其在维度缩放方面的独特优势。 该研究由Matthew J. Liu等人完成，系统刻画了多探针网格算法在数据集规模 $N$ 和维度 $d$ 上的性能缩放规律。实验基于GloVe嵌入族进行，发现了一个此前未被报道的 **维度缩放交叉现象**：当维度增加时，图、树和分区方法的吞吐量显著下降，而多探针网格搜索的维度缩放指数几乎保持不变。这意味着网格方法在高维场景下展现出更强的 **维度鲁棒性**。 除了维度优势，网格方法在查询时间上表现出近线性的 $N$ 缩放，同时索引成本远低于其他主流ANN方法。这一特性使其特别适合 **索引重建频繁** 或 **高维度** 的应用场景——例如在线学习、动态数据集或需要频繁更新索引的推荐系统。 论文还指出，近期研究已将自注意力机制形式化为ANN操作。因此，ANN算法的 $N$ 和 $d$ 缩放特性可能为高效Transformer架构的成本分析提供指导。例如，若网格方法能在大规模序列上保持低查询复杂度，则有望被用于加速注意力计算。 **小结**：这项研究挑战了“网格方法不适合高维ANN”的传统认知，揭示了其在维度缩放上的独特竞争力。虽然网格方法在低维或极小数据集上可能不如图方法，但在高维、重建密集型场景中，它提供了一种平衡索引成本与查询精度的可行选择。未来，结合硬件加速（如GPU）和混合索引策略，网格方法或将在向量搜索领域重新占据一席之地。
随着锂离子电池在电动汽车、储能系统等领域的广泛应用，电池健康状态估计、剩余寿命预测、异常检测等任务成为研究热点。公开的锂离子电池数据集日益增多，但这些数据集在化学体系、模态、规模、标签质量、序列结构、访问状态和预处理复杂度等方面差异显著，直接影响其是否适用于近期的混合量子-经典机器学习工作流。 近日，来自印度的研究者提出了 **IonSense-QKG**，一个专为锂离子电池数据集发现设计的量子就绪元数据框架。该框架基于已有的 EV-Battery-IonSense 索引，为公开电池数据集记录添加了量子相关元数据，包括任务类型、传感模态、化学体系、标签可用性、序列类型、预处理要求、候选量子编码方案、估计量子比特范围以及 NISQ（含噪声中等规模量子）可行性。 ## 核心创新：量子就绪评分 IonSense-QKG 引入了一个透明的**量子就绪评分**，用于对数据集进行排序，作为未来混合量子-经典电池基准测试的候选资源。值得注意的是，该评分旨在作为数据集选择的启发式方法，而非量子优势的证据。框架通过基于丰富元数据的查询式发现，帮助识别适合紧凑量子特征映射、量子时间序列工作流、有限标签异常检测以及未来电池健康基准测试的数据集。 ## 框架组成与发布成果 该框架的发布成果包括：元数据表、评分脚本、鲁棒性检查、链接检查工具以及 SQL 风格的查询示例。研究者将数据集选择定位为数据管理问题，并为数据驱动的量子电池分析提供了可复现的基础。 ## 行业背景与意义 当前，量子机器学习仍处于早期探索阶段，但 NISQ 设备已展现出在特定任务上的潜力。电池领域的数据集通常具有高维度、时间序列特性，且标签获取成本高，这恰好为量子方法提供了可能的应用场景。IonSense-QKG 通过标准化数据集的量子相关属性，降低了研究者筛选合适数据集的门槛，有望加速量子计算在电池健康管理中的落地。 ## 局限与展望 尽管框架提供了系统化的元数据增强方案，但量子就绪评分目前仍基于静态元数据，未考虑实际量子硬件的性能波动。此外，框架主要针对监督学习任务，对无监督或强化学习场景的适配尚需扩展。未来，研究者计划集成更多动态指标，并探索与真实量子硬件的联合验证。 总体而言，IonSense-QKG 为电池数据集与量子计算之间搭建了一座桥梁，其数据管理视角为跨学科研究提供了新思路。随着量子硬件和算法的进步，这类框架的价值将进一步凸显。
中枢神经系统（CNS）肿瘤的精准分类对临床治疗至关重要。近日，一项发表于 arXiv 的研究提出了一种基于 DNA 甲基化数据的机器学习新方法，在分类准确率上显著超越现有主流方案。 ## 研究背景 DNA 甲基化谱分析已成为 CNS 肿瘤分类的强大工具，但跨队列迁移性、方法学严谨性及多类别鲁棒评估仍是挑战。现有参考分类器在 91 个类别上达到 82% 的一致性，仍有提升空间。 ## 方法创新 研究团队提出结合 **稀疏随机投影** 进行降维与 **多项逻辑回归** 进行分类的机器学习框架。该方法首先通过稀疏随机投影将高维甲基化特征映射到低维空间，保留关键信息的同时降低过拟合风险，再使用多项逻辑回归进行多类别分类。与传统的 t-SNE 或 PCA 不同，稀疏随机投影计算效率更高，且能保持样本间的距离结构。 ## 实验结果 在 **2,801 个样本** 的参考队列上，该方法在分层 3 折交叉验证中达到 **96%** 的平均准确率。在独立的 **1,104 个样本** 临床评估队列中，91 类级别准确率为 **86%**，甲基化类家族级别准确率高达 **93%**。相比现有参考分类器的 82% 类级别和 88% 家族级别一致性，分别提升约 **4 个** 和 **5 个百分点**。 ## 临床意义 这种改进具有直接临床价值：在诊断场景中，正确分类率提升 5 个百分点可能直接影响癌症亚型判定，进而改变治疗选择和后续决策。例如，髓母细胞瘤的不同亚型对放化疗敏感性差异显著，误分类可能导致无效治疗。 ## 行业视角 当前 AI 在病理学中的应用正从辅助走向核心。该研究通过强化方法学严谨性——如使用交叉验证、独立测试集、多层级评估——为机器学习在医疗诊断中的可靠性树立了新标杆。未来，此类方法有望整合到临床工作流中，实现自动化的甲基化分类报告。 ## 小结 这项研究展示了稀疏随机投影与逻辑回归组合在生物信息学中的潜力，不仅提升了 CNS 肿瘤分类精度，也为其他基于表观遗传标记的疾病分类提供了可复用的方法论框架。
arXiv 最新发布了一篇堪称“深度学习理论百科全书”的论文——《From Approximation to Emergence: A Theory of Deep Learning》（从近似到涌现：深度学习理论），作者为 Zhilin Zhao。该论文并非孤立地罗列结果，而是试图将现代深度学习理论构建成一个连贯的研究叙事，为研究者、研究生及数学背景的从业者提供一份严谨的理论地图。 ## 核心脉络：从经典三件套到当代前沿 论文的叙事逻辑清晰：从深度学习的**经典基础**——近似理论、优化算法和泛化能力——出发，逐步过渡到**当代核心机制**，包括过参数化、鲁棒性、生成模型、Transformer、上下文学习、规模定律、可解释性、对齐和涌现现象。 每一部分的理论都围绕三个维度展开：**控制的对象**（理论试图解释什么现象）、**成立的假设**（理论在什么条件下有效）、以及**未解释的盲区**（理论的局限性）。这种组织方式使得读者不仅能理解单个理论，还能看清各理论之间的关联与断层。 ## 为什么现在需要这样一篇论文？ 深度学习理论长期处于“各自为战”的状态：近似理论关注表达能力，优化理论关注训练动态，泛化理论关注测试误差，而涌现、对齐等更“玄学”的话题则往往依赖实验观察。Zhao 的工作正是**弥合这些鸿沟**，将分散的文献整合成一个统一的框架。 论文特别强调了**涌现**——即模型在规模、数据、架构和训练的共同作用下，展现出训练目标中未明确编码的能力。这一方向已成为当前深度学习理论最核心、也最棘手的课题。Zhao 试图证明，涌现并非不可解释的“魔法”，而是可以从更基础的原理中推导出来的。 ## 论文的定位与意义 这篇论文更像是一部**专著**而非常规的研究论文。它系统性地回顾了数以百计的文献，并给出了数学上严谨的证明导向分析。对于正在研究大模型、Transformer 或 AI 对齐的学者来说，这篇论文提供了一个宝贵的“导航图”，帮助他们理解自己的工作在更宏大理论版图中的位置。 当然，论文也坦诚地指出当前理论的**不完整性**：许多现象仍缺乏严格的数学解释，尤其是涉及涌现、对齐等前沿话题。Zhao 将这种“不完整”视为推动未来研究的动力，而非缺陷。 ## 适合谁阅读？ - **AI 研究者**：希望从理论高度理解深度学习本质的学者。 - **研究生**：正在寻找论文选题或希望系统掌握理论框架的学生。 - **工程实践者**：虽然偏重理论，但其中关于过参数化、鲁棒性、规模定律的讨论对实际调优也有启发。 ## 小结 《From Approximation to Emergence》是一篇雄心勃勃的论文，它试图为深度学习理论画出一张“完整的地图”——尽管地图上仍有很多空白区域。这种统一视角的尝试，对于推动领域走向更严谨、更可解释的理论基础，具有重要的学术价值。
编程示例学习（Programming by Example, PBE）系统通过少量输入-输出示例推断程序。传统鲁棒PBE方法通常将错误示例建模为随机噪声，并最小化期望或经验损失。然而，新研究指出一种不同的失效模式：对手在观察合成器后，故意选择破坏性最大的示例来损害返回程序。 论文《Fixed-Set Robustness in Programming by Example: Example Corruption and Semantic Partition Recovery》来自Yuan Si和Jialu Zhang，发表于arXiv:2607.01280。作者形式化了有限PBE版本空间中的**固定集最坏情况破坏**，针对字符串转换领域特定语言（DSL）实现了精确（受限池内）和启发式破坏搜索，并提出**版本空间分区聚合（VPA）**防御：在不相交的示例组上分别合成，然后通过语义签名投票。 核心发现是审慎且部分负面的：**低边际PBE任务存在对抗鲁棒性维度**，随机拼写错误和噪声PBE评估无法捕捉；而语义分区聚合仅在干净语义保持分区投票边际时有效，这在现实任务中常失败。实验证据来自多个基准：一个精心设计的编辑使所有8个尖峰任务失败，而200次随机拼写、DSL池和距离匹配随机控制的成功率分别为10.3%、11.0%和16.7%；生成的边际-1行在预算1下即被破坏，但VPA可恢复；在公共SyGuS上投票边际接近1，自适应攻击者将VPA准确率降至零；Playgol在141个接受行上显示出对随机控制的积极成对自助差距。 此外，一个基于精确输出提示的小型实验（20个受控边际-1任务）显示，本地和API模型在干净到攻击模式下呈现相同的定性模式。该研究揭示了PBE系统在面对针对性示例破坏时的脆弱性，并指出VPA防御的局限性，为未来更鲁棒的PBE设计提供了方向。