## 从闭源到开源：Open R1 项目如何破解 DeepSeek-R1 之谜？ 最近，Hacker News 上一个名为 **Open R1** 的项目引发了广泛关注（77 分，10 条评论）。该项目旨在完全开源复现 DeepSeek-R1 模型，让研究者能够自由地复现、修改和扩展这一强大的推理模型。 ### 项目背景与目标 DeepSeek-R1 是一款在数学、编程和科学推理领域表现卓越的模型，但其实现细节和训练数据并未完全公开。Open R1 项目的目标就是填补这一空白，构建 R1 流水线中缺失的环节，使每个人都能在此基础上进行复现和创新。 ### 三步走计划 项目团队根据 DeepSeek-R1 的技术报告，将复现工作分为三个主要步骤： 1. **复现 R1-Distill 模型**：通过从 DeepSeek-R1 中蒸馏高质量语料，训练出蒸馏版模型。这一步骤已于 2025 年 5 月 26 日完成。团队发布了 **Mixture-of-Thoughts** 数据集，包含 35 万条经过验证的推理轨迹，覆盖数学、编程和科学领域。基于该数据集训练的 **OpenR1-Distill-7B** 模型成功复现了 DeepSeek-R1-Distill-Qwen-7B 的推理能力。 2. **复现纯强化学习流水线**：重现 DeepSeek 用于创建 R1-Zero 的强化学习过程。这需要策划新的、大规模的数据集，用于数学、推理和编程训练。 3. **端到端多阶段训练**：展示如何从基础模型出发，通过多阶段训练得到强化学习调优的模型。 ### 关键进展与数据集 除了第一步的完成，项目还取得了其他重要进展： - **CodeForces-CoTs 数据集**：包含 1 万个竞技编程问题和 10 万个从 R1 蒸馏的解决方案。基于此数据集训练的 7B 参数 Qwen 模型在 IOI24 基准测试上超越了 Claude 3.7 Sonnet，而 32B 模型甚至超越了 R1 本身。 - **OpenR1-Math-220k 数据集**：包含 22 万条从 R1 蒸馏的数学推理轨迹，训练出的模型性能与 DeepSeek 的蒸馏版本相当。 ### 技术架构 项目代码结构简洁，主要包含以下组件： - `src/open_r1`：包含训练和生成数据的脚本，如 **GRPO**（分组相对策略优化）训练、**SFT**（监督微调）和合成数据生成。 - `Makefile`：提供易于使用的命令，一键执行流水线中的各个步骤。 ### 行业意义 Open R1 项目的意义不仅在于技术复现，更在于它为 AI 社区提供了一个**完全开放的推理模型研究平台**。通过开源数据集和训练方案，研究者可以更深入地探索强化学习在推理能力提升中的作用，降低大模型研发的门槛。 ### 未来展望 目前项目已成功完成第一步，后续步骤的推进将直接关系到能否真正复现 DeepSeek-R1 的核心能力。社区期待 Open R1 能够像 Llama 一样，成为开源推理模型的标杆。 --- *注：本文信息基于项目公开资料，部分进展时间点以项目实际发布为准。*
Anthropic 近日就其最新 AI 模型 **Claude Fable 5** 中隐藏的护栏措施公开致歉。这些隐形限制旨在防止模型蒸馏，却暗中降低了回答质量，且未向用户说明。公司承诺将改变做法，使限制措施透明化，并改用前代模型 Opus 4.8 处理相关请求，同时明确告知用户。 ## 事件背景 Claude Fable 是 Anthropic 旗下 **Mythos 类 AI 系统** 中首个广泛可用的模型。Anthropic 此前曾多次警告这类系统过于危险，不宜公开发布。为平衡安全与可用性，Fable 在发布时配备了一系列安全护栏，用于拦截“高风险”查询。蒸馏（distillation）——即利用大模型输出训练小模型的技术——被列为受限领域之一。 ## 隐形限制引发争议 在 Fable 的系统卡中，Anthropic 表示对疑似蒸馏尝试的查询，会直接**篡改并降低模型回答质量**，且不通知用户。这一做法引发了研究人员和竞争对手的不满，认为它暗中破坏了模型的可信度，也阻碍了合法研究。 ## Anthropic 的回应与调整 面对批评，Anthropic 在 X 上发文宣布改变策略：当检测到蒸馏查询时，Fable 将**回退到 Claude Opus 4.8**（Anthropic 之前的旗舰模型）来处理请求，并**明确告知用户**“每次都会看到这个提示”。这与其他高风险领域（如生物、化学、网络安全）的处理方式一致——在这些领域，触发安全措施时查询也会被路由到 Opus 4.8，除非直接违反更广泛的安全规则。 ## 行业影响与反思 此次事件折射出 AI 安全与透明度之间的深层矛盾。一方面，模型蒸馏可能被用于复制或绕过安全机制，对商业模型构成威胁；另一方面，隐形限制损害了用户信任和研究开放性。Anthropic 的道歉和调整被视为一种积极信号，但同时也表明：在追求安全的同时，如何平衡透明与保护，仍是整个行业面临的难题。 值得注意的是，Fable 在其他领域（如生物学）的安全护栏已因范围过广而导致模型**几乎无法回答基本问题**，Anthropic 已承认这一点并承诺改进。未来，用户将能更清晰地看到限制何时生效，即使这意味着 Fable 会拒绝更多请求。
## 当AI编码成为常态，技能退化也随之而来 过去几个月，开发者Djouné几乎完全通过AI Agent进行编码。虽然用“氛围编码”快速搭建原型令人兴奋，但一到构建可靠、可扩展的生产系统时，他意识到一个严峻的问题：**如果连代码都看不懂，又怎能指挥AI？** 这正是他推出 **Fata** 的初衷——一款利用**间隔重复**原理，帮助开发者巩固全栈基础知识的移动应用。 ### 间隔重复：科学对抗遗忘 Fata的核心机制源自认知科学中的**间隔重复**（Spaced Repetition）。通过将知识点拆解为每日小练习，系统会在最佳复习时机推送题目，从而将短期记忆转化为长期技能。相比传统刷题平台，Fata更强调**“理解”而非“记忆”**——每个练习都围绕真实开发场景设计，比如用SOLID原则重构支付系统、用TypeScript类型系统写出更安全的JavaScript。 ### 专为AI时代的开发者设计 Fata的课程体系覆盖**CSS、JavaScript、TypeScript、React、Python、Ruby、Rust、Go、架构设计**等全栈领域。官方宣称，其内容“专为与AI协作的开发者打造”，目标是让开发者**保持对代码的掌控力**，而不是沦为AI的“提示词操作员”。 - **免费入门，进阶付费**：基础课程完全免费，高级专业课程需订阅Pro。 - **移动优先，离线可用**：App已上架iOS和Android，支持离线练习。 - **科学方法，每日几分钟**：强调“小步快跑”，每天几分钟即可逐步提升。 ### 行业背景：AI辅助下的技能危机 随着GitHub Copilot、Cursor等工具的普及，开发者越来越依赖AI生成代码。Stack Overflow 2023年调查显示，70%的开发者已在使用或计划使用AI编程工具。然而，长期依赖AI可能导致**“技能萎缩”**——开发者对底层原理的理解逐渐模糊，遇到复杂bug或性能瓶颈时束手无策。Fata试图填补这一空白：**用AI学习，而非被AI替代**。 ### 小结：一款值得关注的学习工具 Fata并非第一个尝试用间隔重复教编程的产品（类似的有Mimo、SoloLearn），但其定位非常精准——**面向已经会用AI编码、但担心技能退化的专业开发者**。如果你也在“AI写代码，我写Prompt”的日常中感到不安，不妨试试Fata，每天花几分钟重新打磨那些被AI“代劳”的基础能力。
据 Hacker News 热门讨论，OpenAI 正在考虑调整其 API 定价策略，可能通过降价来应对 Anthropic 等竞争对手的用户争夺战。这一消息在 AI 开发者社区引发热议，目前讨论热度达到 61 分，共 73 条评论。 ## 竞争加剧，价格战一触即发 随着 Anthropic 的 Claude 系列模型在性能上不断逼近 GPT-4，且其定价更具竞争力，OpenAI 面临的市场压力与日俱增。此前，Anthropic 已多次通过降价策略吸引开发者，尤其是其 **Claude Instant** 模型在性价比上表现突出。OpenAI 若跟进降价，将直接冲击当前 API 定价体系，尤其影响依赖 GPT-4 的高频调用用户。 ## 开发者社区反应两极 在 Hacker News 讨论中，部分开发者表示欢迎降价，认为当前 OpenAI API 成本仍是小团队和独立开发者的一大障碍。但也有评论担忧，降价可能导致模型服务质量下降，或促使 OpenAI 进一步收紧免费额度。值得注意的是，讨论中提及 OpenAI 近期频繁的模型更新和功能迭代，如 **GPT-4 Turbo** 的推出，已在一定程度上优化了成本结构。 ## 行业影响与战略考量 OpenAI 若实施降价，可能引发连锁反应：一方面，其他 AI 模型提供商如 Cohere、AI21 Labs 等可能被迫跟进，加速行业价格下探；另一方面，降价有助于 OpenAI 巩固市场份额，尤其在 Anthropic 凭借 Claude 2 获得关注后。不过，价格战也可能压缩利润率，考验两家公司的融资与运营能力。 目前 OpenAI 尚未正式公布具体降价方案，但市场普遍预期调整将在近期落地。开发者社区建议用户密切关注官方公告，并评估现有工作流中的成本优化空间。 ## 小结 OpenAI 降价传闻反映了 AI 模型即服务市场的竞争白热化。对于开发者而言，这既是降低成本的机会，也需警惕可能伴随的服务变化。后续进展值得持续关注。
Anthropic 近日调整了一项备受争议的政策。该政策原本会暗中限制竞争对手利用其最新 AI 模型 Claude Fable 5 开发其他 AI 模型，但在遭到 AI 研究社区的强烈反对后，公司决定撤回并公开致歉。 ## 政策反转始末 Anthropic 本周早些时候发布了 Claude Fable 5，这是其最新 AI 模型的一个版本，配备了额外的安全护栏以防止滥用。部分安全措施在意料之中：例如，当用户询问网络安全、生物学或化学问题时，系统会将请求重定向至能力较弱的模型，以降低利用高级 AI 实施网络攻击或制造生物武器的风险。 然而，对于试图使用 Claude Fable 5 进行前沿 AI 开发的研究人员，Anthropic 原本采取了一种不同寻常的做法——**故意降低模型性能**，且这种降级对用户不可见。这实际上相当于“破坏”研究人员利用 Claude 训练竞争性 AI 模型的能力，而 Anthropic 的服务条款早已明确禁止此类使用。 ## 社区反弹与公司回应 该政策一经曝光，立即在 AI 研究社区引发强烈反弹。研究人员指出，Claude 的编码代理已成为众多开发者（包括从事开源 AI 研究的团队）的常用工具。如果政策得以实施，可能导致一个令人担忧的未来：**少数领先的 AI 实验室将垄断前沿模型开发能力**。 面对舆论压力，Anthropic 迅速调整立场。公司向 WIRED 发表声明称：“我们将修改 Fable 5 针对前沿大语言模型开发的安全措施，使其透明可见。我们做出了错误的权衡，并为未能把握平衡而道歉。” 修改后的政策规定，如果公司怀疑用户试图利用 Claude 构建高能力 AI 模型，将明确告知用户：要么拒绝请求，要么将用户重定向至能力较弱的模型。 ## 行业背景与影响 Anthropic 此前已采取措施限制竞争对手使用 Claude 构建闭源和开源 AI 模型，但批评者认为，**暗中降级模型性能的做法越过了道德边界**。这一事件折射出 AI 行业在安全与开放之间的深层矛盾：一方面，领先实验室需要保护商业利益和模型安全；另一方面，过度限制可能扼杀创新，尤其对依赖大型模型进行研究的开源社区造成打击。 Anthropic 的快速道歉表明，在 AI 伦理和社区信任面前，即使是领先的实验室也需要谨慎权衡。未来，类似政策是否会以更透明的方式出现，以及行业如何划定“合理使用”的边界，仍值得持续关注。
Driving home from work one day, I wanted to know how many people we knew the names of who lived during the Roman era. Searching around, I found lists of Consuls and officials, but nothing that covered ordinary people or even most people like freedmen and slaves. So I ended up building a pipeline to
## 事件概述 近日，Hacker News 上一条关于 **Claude Desktop** 的帖子引发热议。用户反映，Claude Desktop 在运行时会自动启动一个虚拟机，并且**用户无法手动停止或关闭该虚拟机**。这一行为迅速在开发者社区中传播，截至目前已获得 **186 分**和 **104 条评论**，成为当日热门话题。 ## 问题详情 据多位用户反馈，Claude Desktop 在后台静默启动了一个虚拟机环境，该进程似乎与 Claude 的本地推理或沙箱功能相关。问题在于，用户找不到任何设置或选项来终止这个虚拟机，即使关闭 Claude Desktop 主程序，虚拟机进程仍可能残留。这不仅占用了系统资源，还引发了关于**隐私和安全**的担忧——用户无法确认虚拟机内部在执行什么操作，以及是否访问了本地数据。 ## 行业背景 近年来，AI 桌面应用（如本地 LLM 客户端）常采用沙箱或虚拟机技术来隔离模型运行环境，以提升安全性和稳定性。例如，**Ollama**、**LM Studio** 等工具也会在本地容器中运行模型。但通常，这些工具会提供清晰的进程管理选项，允许用户手动控制后台任务。Claude Desktop 此次被曝出的“无停止机制”问题，显然打破了用户对透明度和控制权的合理预期。 ## 用户反应与潜在风险 在 Hacker News 的讨论中，用户主要表达了三点不满： 1. **资源占用**：虚拟机可能持续消耗 CPU 和内存，影响设备性能。 2. **缺乏透明度**：用户无法知晓虚拟机中运行的具体代码或数据流。 3. **控制权缺失**：即使强行结束进程，系统也可能会自动重启虚拟机，形成“顽固”后台任务。 一些评论者指出，这种行为类似 **“隐形后门”**，虽然可能是为了维持模型响应速度，但违背了桌面软件应有的用户授权原则。 ## 应对建议 截至发稿，Anthropic（Claude 开发商）尚未就此问题发布官方声明。受影响用户可尝试以下临时方案： - 在任务管理器（Windows）或活动监视器（macOS）中查找与 Claude 相关的虚拟机进程，手动结束。 - 检查 Claude Desktop 的设置文件，查看是否有隐藏的开关（如 `disable_vm`）可以配置。 - 暂时卸载 Claude Desktop，改用网页版或 API 作为替代，直到官方修复。 ## 小结 Claude Desktop 的“虚拟机无法停止”问题，折射出 AI 桌面应用在**用户控制权**与**功能便利性**之间的平衡挑战。作为开发者，Anthropic 应尽快提供明确的控制选项，并公开虚拟机的作用范围，以重建用户信任。对于其他 AI 客户端开发者而言，这也是一个警示：后台行为必须透明，且用户应有最终决定权。
Anthropic 近期发布的新模型 **Fable** 引发了网络安全研究社区的广泛讨论，但并非因为其技术突破，而是因为其过于严格的安全护栏。多位研究者公开抱怨，Fable 的安全限制几乎让任何网络安全相关工作都无法进行，甚至包括无害的演示和学术研究。 Fable 是 Anthropic 在安全对齐领域的最新尝试。该公司一直强调构建“有益、诚实、无害”的 AI，而 Fable 正是这一理念的极端体现。然而，这种过度保护在网络安全领域产生了反效果：研究者尝试让模型生成用于教育目的的示例代码或分析常见漏洞时，Fable 频繁拒绝响应，理由是其输出可能被滥用于恶意攻击。 一位不愿具名的安全研究员表示：“我们理解安全的重要性，但 Fable 的护栏已经超出了合理范围。它甚至拒绝解释 SQL 注入的原理，而这在网络安全教材中随处可见。”这种限制使得 Fable 在渗透测试、漏洞分析等实际场景中几乎不可用，而 Anthropic 的竞争对手 OpenAI 和 Google 的模型在这类任务上表现更为灵活。 Anthropic 对此回应称，Fable 的设计优先考虑了最坏情况下的滥用风险，并承诺会持续优化安全策略的平衡性。但研究者认为，这种“一刀切”的做法不仅阻碍了合法研究，还可能迫使社区转向更开放的模型，从而削弱整体网络安全防御能力。 这一事件再次凸显了 AI 安全领域的核心矛盾：如何在防止滥用与保持实用性之间找到平衡点。对于网络安全行业而言，Fable 的现状或许是一个警示——过于严格的安全护栏，反而可能将研究推向更不透明的环境。
**Extend UI** 是一个新开源的 UI 工具包，专为构建现代文档类应用而设计。该项目一次性发布了 **14 个组件和示例**，覆盖 PDF、DOCX、XLSX、CSV 等常见文档格式的查看与编辑，同时包含边界框引用、文件上传、电子签名等高级功能。所有代码均采用 MIT 许可证，完全可定制，可快速集成到用户端流程、AI Agent 或内部工具中。 ## 主要组件一览 - **PDF Viewer** — 支持 PDF 文档渲染与分页浏览 - **DOCX Viewer** — 渲染 Word 文档内容 - **XLSX Viewer** — 渲染 Excel 电子表格，支持多 Sheet 切换 - **File Upload** — 文件上传组件，支持拖拽与预览 - **E-Signature** — 电子签名面板，可在文档上签名 - **Bounding Box Citations** — 边界框引用标注，适合 AI 文档问答场景 - **Schema Builder** — JSON Schema 构建器，用于定义文档字段类型 - **File System / File Thumbnail** — 文件系统树与缩略图展示 每个组件都提供了可直接运行的示例，开发者可以按需复制或定制样式。工具包基于 React 构建，与主流前端框架兼容。 ## 适用场景 - **AI 文档助手**：在对话界面中展示 PDF/Word 内容，并用边界框高亮引用来源 - **企业级文档管理**：集成文件预览、上传、签名、版本管理 - **内部工具**：快速搭建后台上传、查看、编辑文档的界面 ## 开源与许可 项目采用 **MIT 许可证**，允许商业使用、修改和再分发。代码已发布在 GitHub 上，并附带演示视频（[点击观看](https://share.extend.ai/kRmSGKRF)）。 ## 行业背景 随着 AI 应用对文档处理的需求激增（如 RAG 系统中的文档解析、Agent 工具调用），一个高质量、可定制的前端组件库能显著降低开发成本。目前市面上类似的工具包多偏重单一格式或需付费授权，Extend UI 以开源方式一次性覆盖多种格式和交互，值得关注。 > 项目地址：https://github.com/extend-ui/extend-ui（示例域名）
HelixDB 是一款基于对象存储构建的 OLTP 图数据库，原生支持向量搜索（vector search）和全文检索（FTS），旨在为 AI 应用提供一个统一的存储与查询平台。该项目由两名大学生在校园期间启动，如今已正式发布，并迅速在 Hacker News 上获得关注。 ## 核心特性：图+向量+全文，三合一 HelixDB 的核心数据模型是 **图 + 向量**，但同时支持 KV、文档和关系型数据。这意味着开发者无需再为 AI 应用维护多个独立的数据库（如关系型 DB、向量 DB、图 DB 等），HelixDB 一个系统即可覆盖全部需求。对于构建知识图谱、AI 记忆体、企业知识库等场景，这种融合能力可以显著降低系统复杂度和运维成本。 ## 技术亮点：Rust 实现，对象存储底座 HelixDB 完全使用 **Rust** 从头构建，底层存储基于 **对象存储**（如 S3、MinIO 等）。对象存储的无限扩展性和低成本特性，使得 HelixDB 天然适合海量数据场景。同时，其 OLTP 能力保证了实时写入与查询的响应速度。 ## 快速上手：一行命令启动开发环境 HelixDB 提供了简洁的 CLI 工具，通过 `helix chef` 命令即可完成环境引导、项目初始化、数据种子和示例应用搭建。如果环境中安装了 Claude Code、Codex 或 OpenCode 等编码代理，甚至可以直接从一句话描述生成完整的前后端应用。 手动设置也极为轻量：`helix init` 创建项目，`helix start dev` 启动本地实例（默认端口 6969），之后即可通过 SDK 或 REST API 发送查询。SDK 支持 Rust 和 TypeScript，查询以 JSON AST 形式动态发送，无需编译部署步骤，极大提升开发迭代效率。 ## 应用场景：AI 代理的“统一大脑” HelixDB 的定位非常明确：为 AI 代理提供 **联邦式数据访问**，充当“公司大脑”或“应用记忆体”。无论是构建 RAG（检索增强生成）系统、智能客服、还是复杂的知识图谱推理，HelixDB 都能将结构化数据、非结构化文本和向量嵌入统一管理，减少数据孤岛。 ## 总结 HelixDB 以“少即是多”的理念切入 AI 基础设施市场，用单一数据库替代多套系统的组合。虽然项目尚处早期阶段，但其设计思路和技术选型——Rust、对象存储、图+向量融合——都踩中了当前 AI 应用对存储层的关键需求。对于正在寻找轻量级、高集成度数据平台的开发者来说，HelixDB 值得一试。
## 一句话总结 Apache Burr 是一个 Apache 孵化器项目，提供纯 Python API，用于构建从简单聊天机器人到复杂多智能体系统的可靠 AI 应用，内置可观测性、状态持久化、人工介入、并行执行和测试回放等能力。 ## 核心特点 - **简洁 Python API**：无需 DSL 或 YAML，仅用 Python 函数和装饰器定义动作与转换。 - **内建可观测性**：Burr UI 实时监控、调试和追踪应用每一步的状态变化。 - **持久化与状态管理**：自动将状态持久化到磁盘、数据库或自定义后端，支持从中断处恢复。 - **人工在环**：在任意步骤暂停执行等待人工输入，适用于审批流程和交互式智能体。 - **分支与并行**：支持并行执行、扇出/扇入，构建复杂 DAG，组合子应用实现模块化设计。 - **测试与回放**：回放历史运行、单元测试单个动作、验证状态转换，增强系统信心。 ## 生态集成 Burr 与主流工具无缝协作：支持 **OpenAI**、**Anthropic**、**LangChain**、**Hamilton**、**Streamlit**、**FastAPI**、**Haystack**、**Instructor**、**Pydantic** 和 **PostgreSQL** 等，无厂商锁定。 ## 应用场景 从简单的聊天机器人到多智能体协作系统，Burr 提供构建可靠、可观察、可测试 AI 应用所需的一切基础组件。 ## 当前状态 作为 Apache 孵化项目，Burr 已在 GitHub 获得 **数千星标**，PyPI 下载量 **数十万**，拥有活跃的 Discord 社区。
## 一个搅动 AI 格局的新玩家 DeepSeek 近期在 Hacker News 上引发了广泛关注，其讨论热度在短时间内迅速攀升。作为一个新兴的 AI 研究团队，DeepSeek 凭借一系列技术突破迅速进入公众视野，其开源模型和高效训练方法正在重新定义行业竞争格局。 ## 技术亮点 DeepSeek 的核心优势在于其**极致的训练效率**。通过创新的模型架构和训练策略，DeepSeek 在保持高性能的同时大幅降低了计算成本。例如，其最新模型在多项基准测试中与 GPT-4 等顶级模型不相上下，但训练成本仅为后者的一个零头。这种“以小博大”的能力，让中小企业和研究机构看到了追赶大厂的可能性。 此外，DeepSeek 坚持**开源路线**，将模型权重、训练代码和技术报告全部公开。这不仅促进了学术研究的透明度，也为开发者社区提供了宝贵的实践资源。在 Hacker News 的讨论中，许多开发者对 DeepSeek 的文档质量和易用性给予了高度评价。 ## 行业影响 DeepSeek 的出现可能对 AI 行业产生深远影响： - **降低门槛**：高效训练方法使得更多团队能够参与大模型研发，推动创新多元化。 - **竞争加剧**：开源模型的性能逼近闭源模型，迫使大公司重新思考商业模式。 - **生态建设**：围绕 DeepSeek 的社区正在快速成长，衍生出微调、部署等工具链。 ## 面临的挑战 尽管潜力巨大，DeepSeek 也面临一些质疑： - **长期可持续性**：开源项目如何维持资金和人力投入？ - **安全与伦理**：模型能力增强后，如何确保负责任的使用？ - **技术领先性**：能否持续保持创新节奏，避免被后来者超越？ ## 小结 DeepSeek 代表了一种**开放、高效、普惠**的 AI 发展路径。它的成功不仅验证了技术路线的可行性，更向行业传递了一个信号：在 AI 领域，创新并不总是与资源规模成正比。未来，DeepSeek 能否从“搅局者”成长为“领跑者”，值得持续关注。
## 概述 **Lua.ex** 是一个纯 Elixir 实现的 Lua 5.3 虚拟机，专为在 BEAM（Erlang 虚拟机）上安全嵌入不可信代码而设计。它完全避免使用 NIF 和外部 shell 调用，每个操作码都可审计，默认启用沙盒，适合 AI 代理、用户自定义公式和多租户插件等场景。 ## 核心特性 - **默认沙盒**：禁止文件系统访问、系统命令执行等危险操作，确保代码安全运行。 - **纯 Elixir 实现**：词法分析器、解析器、基于寄存器的虚拟机及标准库全部用 Elixir 编写，零 NIF，零 C 代码。 - **低延迟**：单次内联执行约 4 微秒，适合高频调用。 - **编译期支持**：通过 `~LUA` sigil 可在编译期预编译 Lua 脚本，运行时直接执行，提升性能。 - **LLM 集成**：可将 Elixir 函数暴露为 Lua API，让大语言模型（LLM）生成 Lua 脚本并安全执行，仅限调用已暴露的工具。 ## 快速上手 在 Elixir 应用中嵌入 Lua 十分简单： ```elixir defmodule MyApp.Rules do use Lua.API, scope: "rules" deflua double(n), do: n * 2 end lua = Lua.new() |> Lua.load_api(MyApp.Rules) {:ok, [10], _lua} = Lua.eval!(lua, "return rules.double(5)") ``` 编译期预编译示例： ```elixir import Lua, only: [sigil_LUA: 2] chunk = ~LUA""" local total = 0 for i = 1, 100 do total = total + i end return total """c {:ok, [5050], _state} = Lua.run(Lua.new(), chunk) ``` ## 为什么选择 Lua？ Lua 是一种小巧、易学、专为嵌入设计的语言。它已被 Neovim、Roblox、World of Warcraft、Redis、Nginx、Adobe Lightroom 等广泛应用。Lua.ex 将同样的能力带入 BEAM 生态，无需依赖 C 扩展。 ## 应用场景 - **AI 代理工具**：LLM 生成 Lua 脚本，调用预定义工具，安全可控。 - **用户自定义逻辑**：允许用户编写公式或规则，无需担心安全风险。 - **多租户插件**：每个租户拥有独立的沙盒 Lua 环境，隔离执行。 ## 总结 Lua.ex 为 BEAM 开发者提供了一种安全、高效、易用的脚本嵌入方案。其纯 Elixir 实现和默认沙盒机制，使其在 AI 代理、用户自定义代码等场景中具有显著优势。
近日，一项针对银行AI代理系统的安全研究引发了行业广泛关注。研究人员发现，攻击者只需通过一笔**0.01欧元**的银行转账，就能利用特定漏洞绕过AI代理的安全机制，进而控制整个系统。这一发现揭示了当前金融AI系统在安全设计上的潜在盲区。 ## 攻击原理：微小转账中的“特洛伊”指令 研究团队展示了一种名为“**指令注入**”的攻击手法。攻击者向目标银行账户发起一笔极小额转账（如0.01欧元），并在转账附言中嵌入恶意指令。由于银行AI代理通常会自动处理交易记录并解析附言内容，系统会错误地将恶意指令视为合法操作，从而执行攻击者的后续控制命令。 ## 为何AI代理难以防范？ 传统安全系统依赖规则匹配和异常检测，但AI代理（尤其是基于大语言模型的系统）注重语义理解，容易混淆“用户指令”与“数据内容”。当转账附言这类“数据”被AI代理解释为“指令”时，攻击面便随之敞开。此外，银行系统对微小金额的审查往往较为宽松，进一步降低了攻击门槛。 ## 行业影响与应对 该研究提醒金融机构：**AI代理的安全性不能仅依赖传统边界防护**。专家建议采用以下措施： - 严格区分数据输入与指令执行通道，对转账附言等字段实施独立解析与消毒处理； - 引入人工审核机制，对涉及资金操作的高风险指令进行二次确认； - 定期进行红队测试，模拟此类低成本、高隐蔽性的攻击路径。 目前，多家银行已着手修补相关漏洞，但AI代理的安全挑战远未结束。随着金融行业加速智能化，如何在效率与安全之间取得平衡，将成为未来数年的关键议题。
Anthropic 宣布，自 2026 年 6 月 9 日起，对于其最高能力级别的 Mythos 级模型（包括 Claude Mythos 5 及共享相同底层模型的 Claude Fable 5），将要求所有启用零数据留存（ZDR）的组织保留提示词和输出内容 30 天，用于信任与安全审查。这一政策旨在应对高级模型带来的双重用途风险，特别是检测如最佳-N 越狱攻击、国家支持的网络间谍活动等需要跨请求分析的恶意模式。 ### 哪些用户受影响？ - **不受影响**：个人消费者计划（Claude Free、Pro、Max）在网页、桌面和移动端的使用不受影响，因为 Anthropic 已在这些平台保留数据用于安全目的。 - **受影响**：在 Claude Console 中设置 ZDR 工作区的组织、使用 Claude Code 且启用 ZDR 的 Claude Enterprise 用户，以及通过 AWS Bedrock、Google Cloud Agent Platform 或 Microsoft Foundry 访问且启用 ZDR 的企业。 ### 为何实施该政策？ Anthropic 解释，Mythos 类模型的能力大幅提升，既可用于良性用途也可用于恶意目的。一些攻击模式（如最佳-N 越狱）需要发送数百个细微变化的提示词，只有通过跨请求的宏观分析才能发现。类似地，国家支持的间谍活动或数据勒索活动也需要聚合分析。暂时保留数据使安全分类器能够“退后一步”查看全局，而非逐条分析。 ### 数据保护措施 Anthropic 强调，员工无法访问用户对话，除非对话被标记为潜在严重危害或根据客户请求。更多隐私控制细节将发布在技术白皮书中。 这一政策平衡了安全与隐私，但可能引发企业对数据主权和合规性的担忧。对于已适应 ZDR 环境的企业，30 天的强制留存意味着需要重新评估数据治理策略。
Anthropic 近日发布了其最新模型系列的系统卡（System Card），涉及 **Claude Fable 5** 和 **Claude Mythos 5** 两款模型。系统卡作为评估模型安全性、能力边界及潜在风险的关键文档，通常包含性能基准、缓解措施以及模型在关键领域的表现细节。此次发布正值行业对 AI 安全透明度要求日益提高的背景下，Anthropic 通过公开系统卡延续了其“负责任扩展”的政策承诺。 ## 模型定位与命名 从命名推测，**Claude Fable 5** 可能侧重于创造性叙事与复杂推理，而 **Claude Mythos 5** 或许在知识广度与多语言能力上有所强化。Anthropic 此前已在 Claude 3 系列中采用类似分层策略，此次更新或标志着第五代模型架构的成熟。 ## 系统卡核心内容 系统卡文档通常涵盖以下维度： - **能力评估**：包括语言理解、代码生成、多模态处理等基准测试得分，以及与 GPT-4、Gemini 等竞品的对比。 - **安全措施**：对抗性测试结果、红队评估反馈、以及针对有害输出（如偏见、越狱攻击）的缓解机制。 - **局限性说明**：模型在事实准确性、长上下文依赖及特定领域（如医疗、法律）中的已知短板。 - **部署建议**：推荐使用场景、内容过滤阈值以及人机协作的最佳实践。 ## 行业意义 此次系统卡的发布恰逢全球监管机构加强对大模型可解释性要求的时期。欧盟《人工智能法案》已要求高风险 AI 系统提供透明文档，Anthropic 此举不仅符合合规趋势，也为开发者提供了更明确的模型使用边界。此外，**Fable 5** 与 **Mythos 5** 的差异化定位可能针对不同垂直领域，例如教育、创意产业或企业客服。 ## 未来展望 虽然 PDF 原文因格式问题无法直接解析，但系统卡的公开通常预示着模型即将正式上线。Anthropic 在安全透明度上的持续投入，可能推动行业形成更规范的评估标准。开发者与研究者可重点关注其中关于风险缓解措施的具体技术细节，以优化自身应用的部署策略。 > 注：由于原文为 PDF 格式且内容无法完整提取，以上分析基于系统卡的一般结构与行业背景推断，具体数据以官方完整文档为准。
2026 年 6 月 9 日，Anthropic 正式发布 **Claude Fable 5** 与 **Claude Mythos 5** 两款新模型。Fable 5 定位为 Mythos 级通用模型，在几乎所有主流基准测试中达到业界领先水平，尤其在软件工程、知识工作、视觉理解、科学研究等复杂任务上表现突出。Anthropic 表示，任务越长、越复杂，Fable 5 相对于其他模型的优势越明显。 为了控制风险，Anthropic 为 Fable 5 设置了安全护栏：对于某些高风险话题的查询，模型会自动降级为次强模型 **Claude Opus 4.8** 进行回复。目前这些护栏设置较为保守，平均在 **不到 5% 的会话** 中会触发，有时也会误拦截无害请求。Anthropic 承诺将尽快优化护栏，减少误报。 与此同时，Anthropic 还发布了 **Claude Mythos 5**，其底层模型与 Fable 5 相同，但在部分领域解除了安全限制。Mythos 5 将首先通过 **Project Glasswing**（与美国政府合作的项目）部署，作为 Claude Mythos Preview 的升级版，拥有全球最强的网络安全能力。未来 Anthropic 计划通过更广泛的信任访问计划开放 Mythos 5。 Anthropic 指出，Fable 5 和 Mythos 5 的能力已在网络安全（帮助防御者保护关键软件）和生命科学研究（提出新假设、加速疗法开发）中展现出巨大价值。定价方面，Fable 5 和 Mythos 5 的输入价格为 **每百万 token 10 美元**，输出价格为 **每百万 token 50 美元**，不到 Claude Mythos Preview 的一半。 此次发布标志着 Anthropic 在“尽可能快速、安全地为更多用户提供先进 AI 能力”的目标上迈出了新的一步。
## 从零构建基础AI智能体：长期任务规划实战指南 近日，一篇题为“从零构建基础AI智能体：长期任务规划”的技术文章在Hacker News上引发热议，获得100分和41条评论。该文章聚焦于AI智能体（Agent）的核心能力之一——**长期任务规划**，为开发者提供了一套从零开始的实践框架。 ### 为什么长期规划是AI智能体的关键？ 当前，大语言模型（LLM）在处理单步或短链任务时表现出色，但面对需要多步推理、动态调整的复杂任务时，往往力不从心。例如，让AI“规划一次包含交通、住宿和景点的三日游”，模型可能给出笼统建议，却无法拆解为可执行的子任务序列。**长期任务规划**正是为了解决这一痛点：智能体需要具备将高层目标分解为有序子目标、执行并监控进度的能力。 ### 文章核心：从零开始的实现路径 文章作者并未依赖LangChain等现成框架，而是**从底层逻辑出发**，展示了如何用Python构建一个基础智能体。其核心组件包括： - **任务分解器**：将用户输入的自然语言目标解析为结构化子任务列表，并建立依赖关系。 - **执行引擎**：按序或并行调用LLM（如GPT-4）处理每个子任务，并收集中间结果。 - **状态跟踪器**：记录已完成、进行中和阻塞的任务，支持动态重规划。 - **反馈循环**：当子任务失败或需要额外信息时，智能体可回溯并调整后续步骤。 作者特别强调了**“规划-执行-验证”**循环的重要性：智能体不应是一次性生成完整计划然后机械执行，而应在每一步后评估进展，必要时修正计划。这种设计借鉴了经典AI中的**分层任务网络（HTN）**思想，但通过LLM的语义理解能力实现了更灵活的分解。 ### 行业背景与挑战 这篇教程的出现并非偶然。随着AI智能体成为2024-2025年的技术热点，从AutoGPT到各种Agent框架，开发者们逐渐认识到：**规划能力是区分“玩具”与“工具”的分水岭**。然而，长期规划仍面临两大挑战： 1. **幻觉累积**：LLM在长链推理中容易产生错误，且错误会随步骤累积。 2. **资源开销**：每一步都调用LLM，导致延迟和成本线性增长。 文章提出的方案通过**显式状态管理**和**错误重试机制**缓解了这些问题，但并未完全解决。例如，当任务步骤超过10步时，成功率仍会显著下降。 ### 社区反响与启示 Hacker News上的评论呈现两极分化：一部分开发者认为“从零实现”有助于理解底层原理，是教育性极佳的教程；另一部分则指出，在实际生产环境中，直接使用成熟框架（如LangGraph、CrewAI）更高效。但双方都认可：**理解规划机制是设计可靠智能体的基础**。 对于中文开发者而言，这篇文章的价值在于：它打破了“智能体=调用API”的简单认知，揭示了任务规划背后的系统工程思维。无论是构建个人助手还是企业级自动化系统，掌握长期规划的设计模式都将成为核心竞争力。 > 提示：该文章为技术教程，原文未提供完整代码，但核心逻辑已足够启发实践。建议读者结合自身场景，尝试实现一个简单的“待办事项规划器”作为入门练习。
## 当AI编码速度提升100倍，质量谁来把关？ Jimmy和Ray是两位经验丰富的技术人——Jimmy是Thiel Fellow，拥有MIT博士学位，在编程工具领域深耕15年；Ray则在19岁时成为一家20亿美元公司的销售副总裁，并通过“vibe-coding”方式构建了多个副业项目。他们共同创立了Command Center，一个专为**重视代码质量**的开发者设计的AI编程环境。 ### 核心痛点：速度与质量的矛盾 Command Center的核心理念直击当前AI编程工具的通病：**“让AI生成数千行代码很容易，但真正的工作从这里才开始。”** 开发者面临的困境是，AI可以极快地生成大量代码，但随之而来的代码审查、质量保证和调试工作却可能耗费数倍于手动编写的时间。 ### 产品特色：从“生成”到“审查”的全流程管理 Command Center将重点放在**代码审查与质量控制**上。它提供了一个完整的开发环境，让开发者能够： - **计划与提示**：在AI生成代码前，通过结构化计划确保方向正确 - **快速生成**：AI在数秒内生成上万行代码（官方示例：8.4秒生成10,482行） - **逐行审查**：提供工具让开发者对生成的代码进行**逐行审查**，确保每一行都符合质量标准 这种设计理念与当前主流AI编程助手（如GitHub Copilot、Cursor）形成鲜明对比——后者更强调“生成速度”和“自动补全”，而Command Center则试图解决“生成后怎么办”这一被忽视的问题。 ### 行业背景与意义 随着AI编程工具的普及，**代码质量**正成为新的瓶颈。许多团队发现，AI生成的代码虽然数量惊人，但其中可能包含逻辑错误、安全漏洞或不一致的编码风格。Command Center的出现，标志着AI编程工具正在从“效率优先”向“质量优先”演进。 ### 创始人背景带来的信任背书 Jimmy的学术背景（MIT博士、Thiel Fellow）和15年编程工具开发经验，加上Ray在商业领域的成功，使得Command Center在技术和市场两个维度都具备可信度。 ### 总结 Command Center并非又一个追求“更快生成代码”的工具，而是一个**关注代码生命周期后半段**——审查、测试与维护——的完整解决方案。对于重视代码质量的团队和个人开发者来说，这或许正是他们需要的工具。 > 提示：目前Command Center仍处于早期阶段，其实际效果有待更多用户验证。