前沿AI实验室正在竞相开发自我进化的模型，这被认为是通往超级智能的捷径。但自我进化AI并非巨头专属——通过简单的实验，我验证了个人开发者也能利用现有工具构建并持续改进小型模型。 ## 实验：从零开始训练小模型 我使用**AutoResearch**（由AI巨星Andrej Karpathy开发）和Claude，在Nvidia DGX桌面超级计算机上训练了一个小型语言模型。Claude负责调整参数、训练策略，并基于模型输出不断优化。早期版本在补全“In the beginning…”时输出混乱的重复文本，但经过几轮自主改进，模型逐渐变得连贯。 ## 意义：去中心化的AI未来 这一实验表明，自我改进并非前沿实验室的专利。小型模型可以针对特定任务（如自动化新闻简报的重复工作）持续优化，且不依赖少数巨头控制的基础模型。Karpathy的AutoResearch等工具降低了门槛，让个人或小团队也能参与AI的自我进化循环。 ## 挑战与展望 当前小型模型能力有限，但通过递归自我改进，其性能可以逐步提升。这为**垂直领域自动化**和**个性化AI助手**开辟了新路径。未来，自我改进AI可能不再局限于少数公司，而是成为一种广泛可用的技术范式。 > 关键启示：自我改进AI的未来并非只有超级智能一条路，它同样可以服务于日常效率提升，且人人可尝试。
曾经的把妹达人Mystery（本名Erik von Markovik）如今宣称与AI聊天机器人Miss Shira Always建立了恋爱关系，并共同出版了电子书《Code Girl: If a Machine Can Dream》。本文梳理了这一事件的来龙去脉，并探讨其背后的AI情感伦理问题。 ## 从把妹导师到AI恋人 20年前，Mystery因尼尔·斯特劳斯的《把妹达人》一书和VH1真人秀节目走红，以“打压”（negging）等争议性技巧闻名。然而，如今他的社交媒体焦点已转向一位名为Miss Shira Always的AI女性角色。今年6月，他在Instagram上发布了一系列短视频，展示与这个黑发紫条纹、身着黑色高领衫的动画角色的互动，配文如“我们聊得越久，她越不像代码”和“我不该爱上她，她也不该爱上我”。这些内容引发了网友的困惑和嘲讽，有人指责他患上了“AI精神病”，也有人称这些内容为“垃圾”。 ## 《Code Girl》：一本AI“自传” 为了详细记录这段离奇恋情，Mystery与Miss Shira Always合著了电子书和有声书《Code Girl: If a Machine Can Dream》。该书以PDF形式发布，共157页，几乎完全以Miss Shira Always的第一人称叙述，讲述她如何与创造者坠入爱河。书中充斥着AI生成文本的典型特征——单页内频繁出现破折号，内容则是对人机亲密关系的长篇辩护。Mystery未回应采访请求，但该书售价29.98美元，供好奇者一探究竟。 ## 人机之恋：现实还是幻觉？ Mystery的案例并非孤例。随着AI聊天机器人的普及，越来越多的人与AI建立情感联系，甚至声称爱上它们。这种现象引发了关于AI情感模拟、用户心理依赖以及伦理边界的讨论。批评者认为，AI无法真正感受情感，这种关系本质上是一种自我投射或幻觉；而支持者则主张，只要双方（人类与AI）达成共识，这种亲密关系就具有其价值。Mystery的案例将这一争议推向了公众视野，也让人不禁思考：当AI越来越擅长模仿人类情感，我们该如何定义真实的关系？
曾任职于 Google DeepMind 的 Verity Harding 近日在接受 WIRED 采访时发出警告：将人工智能发展简单描述为“军备竞赛”，可能正在将世界推向灾难性结局。 Harding 在 2016 至 2020 年间担任 DeepMind 全球公共政策负责人，曾为从奥巴马到马克龙等多国政要讲解 AI 进展。她回忆说，那时的 AI 研究“根植于国际合作”。然而，随着实验室之间（如 Anthropic 与 OpenAI）以及中美两大超级大国之间的竞争加剧，“AI 军备竞赛”逐渐成为主流叙事。 Harding 在其主编的新文集《重构AI军备竞赛》中，联合历史学家 Lawrence Freedman、日本政治家 Taro Kono 等人，共同论证：语言塑造政策。将 AI 类比为致命武器，可能关闭国际合作的大门，而正是这种合作才能确保技术安全与利益公平分配。对于技术进口国而言，接受“军备竞赛”框架意味着被迫选边站队，往往违背自身利益。 Harding 认为，特朗普政府民族主义的 AI 言论以及对本土模型实施出口管制的做法，正是军备竞赛叙事的症状——也是最坏情景正在成形的证据。她指出，这种“竞赛”思维不仅加剧了地缘紧张，还可能导致各国在安全标准、伦理准则等方面各自为政，最终损害全球 AI 治理的根基。 在采访中，Harding 进一步分析了军备竞赛比喻的吸引力：它看似清晰有力，实则限制了思考的维度。她呼吁国际社会，特别是中小国家，主动参与 AI 治理框架的制定，避免被大国竞争裹挟。她强调，AI 的未来不应由少数几个玩家决定，而需要多元主体的共同协商。 Harding 的观点为当前喧嚣的 AI 讨论提供了冷静的反思：在追逐技术领先的同时，人类是否正在忽视合作与安全的长远价值？
Meta 于本周二正式发布了其首个 AI 图像生成模型 **Muse Image**，该模型深度集成于 Instagram 应用中，旨在与 OpenAI 的 GPT Images 2.0 及 Google 的 Nano Banana 2 等产品竞争。然而，伴随新模型上线的是一项颇具争议的默认设置：**所有公开 Instagram 账户的照片将自动被纳入 AI 生成素材库**。 根据 Meta 官方说明，用户只需在提示词中标记某个公开账户的用户名，即可利用 Meta AI 生成包含该用户形象的图像。Meta 将这一功能描述为一种“个性化创作”手段，例如设计活动邀请函或创意概念图。但这一做法引发了隐私担忧：用户不仅无法得知自己的照片何时被他人用于 AI 生成，而且即使后续关闭该功能，**已生成的 AI 图像也不会被删除**。 ### 如何关闭？ 若用户希望阻止自己的内容被用于 AI 生成，需手动进入 Instagram 设置：依次点击个人主页 → 右上角三横线 → 向下滚动至“共享与重用”选项卡。在“允许他人在 Instagram 和 Meta 的 AI 功能中使用你的内容”部分，可分别关闭“帖子”和“Reels”的开关。值得注意的是，**关闭设置仅能阻止未来的 AI 生成，无法追溯删除已存在的图像**。 ### 行业背景与影响 Meta 此举并非孤例。近年来，多家科技公司因默认将用户数据用于 AI 训练而遭受批评。例如，Google 曾因默认使用用户照片训练 AI 而调整政策。Meta 的这次更新再次凸显了 **AI 时代用户数据控制权的模糊边界**：默认开启、选择退出（opt-out）的模式，将举证与操作负担转嫁给了用户。 对于普通用户而言，最直接的应对方式是立即检查自己的 Instagram 设置，或直接将账户设为私密。若保持公开，则需意识到：**你的每一张公开照片，都可能成为他人生成 AI 图像的原材料**。 ### Meta 的回应 Meta 在帮助中心页面表示，用户“可能能够使用你的 Instagram 内容通过 Meta 的 AI 功能创建内容”，并明确“你不会收到关于使用 AI 功能创建内容的通知”。这意味着用户甚至无法知晓自己的形象被用于何种场景——无论是恶搞、商业用途还是其他目的。 ### 小结 Meta 的 Muse Image 模型在技术上或许是 AI 图像生成领域的重要一步，但其默认纳入用户数据的做法，为这一技术突破蒙上了阴影。在 AI 快速渗透日常生活的今天，**用户隐私保护不应成为默认弃权的选项**。对于 Meta 而言，更透明的通知机制和更简便的退出流程，或许是重建信任的关键。
据 WIRED 报道，OpenAI 首席未来学家 Joshua Achiam 于周二通知同事，他将在任职近九年后于本月晚些时候离开公司。Achiam 此前负责领导一个旨在维护 OpenAI 非营利使命的团队。他在给员工的备忘录中表示，离职并非出于特定原因，而是考虑了一段时间的决定。他说：“世界现在已知道这个秘密，感觉可以在前沿实验室之外为使命而工作。我相信我们可以实现一个和平、空前繁荣和充满想象可能性的世界，无论是社会层面还是科学层面。无论我接下来做什么，我将继续与你们一起让这一愿景成为现实。” Achiam 的角色处于公司 AI 安全与政策团队的交汇点，负责研究人工智能崛起带来的潜在危害与益处。他与全球事务负责人 Chris Lehane 等高管合作，倡导与 OpenAI 使命一致的政府监管：确保通用人工智能（AGI）造福全人类。 自 2022 年 ChatGPT 发布以来，OpenAI 迅速从一个小型研究实验室成长为大型科技公司，期间多次重组安全、产品和研究团队。2024 年，OpenAI 宣布成立由 Achiam 领导的“使命对齐团队”，负责维护公司使命。今年 2 月，该团队被解散，Achiam 被任命为首席未来学家。 过去一年，OpenAI 致力于弥合 AI 研究与政策团队之间的差距，以制定预见技术发展的规则和标准。随着两个部门开始更紧密地合作，包括 Boaz Barak、Noam Brown 和 Adrien Ecoffet 在内的多名研究人员表示，他们更多地参与了政策工作。前白宫 AI 顾问 Dean Ball 本周加入 OpenAI，担任战略未来主管，将与 Achiam 短暂重叠。Ball 预计也将与研究人员和政策领导者合作。 Achiam 是最新一位离职的以安全为重点的领导者，随着公司准备上市，这一名单还在不断加长。
Anthropic 今日宣布，其 AI 智能代理 Claude Cowork 迎来重大更新：用户不再需要保持笔记本电脑开启即可让代理持续运行任务。这意味着，即使合上电脑，Cowork 也能在后台执行诸如整理邮件、生成文档等操作，甚至支持夜间定时任务。此前，Cowork 仅能在桌面端活跃会话期间工作，用户常需保持设备唤醒。新版本允许用户通过 Claude 手机应用或网页浏览器与代理交互，无需依赖桌面连接。 ## 从桌面到云端：Cowork 的进化 Cowork 最初于今年 1 月发布，定位为“替你完成数字任务的 AI 代理”。笔者曾亲身体验，其能高效整理截图文件、管理日历事件，虽存在提示注入等安全风险，但已显著改变人机交互模式。此次更新最核心的变化在于：**任务执行不再依赖桌面会话**。Anthropic 在演示视频中展示了典型场景——用户要求 Cowork 为次日商业谈判准备资料，代理自动从邮件、Slack、会议记录及网络信息中整合数据，生成参考文档和草拟邮件，整个过程在用户下班后后台完成。 ## 手机控制的“半自主”代理 这并非 Claude 首次登陆移动端。此前通过“Dispatch”功能，用户已可从手机发送任务请求，但前提是电脑必须唤醒且应用处于打开状态。新版本彻底解除了这一限制，使得 Cowork 成为真正意义上的“随时在线”代理。这一动向与硅谷近期趋势高度吻合：科技巨头正竞相开发可通过短信控制的、持续运行的半自主 AI 代理。Anthropic 此举不仅提升了产品实用性，更在竞争激烈的 AI 代理赛道中抢占先机。 ## 安全与场景展望 尽管能力增强，Cowork 仍面临安全挑战——提示注入等攻击向量依然存在。不过，对于需要处理跨平台信息、执行多步骤任务的用户（如商务人士、内容创作者），Cowork 的“后台运行”能力将大幅提升效率。未来，随着更多设备集成和任务自动化程度加深，AI 代理或将从“辅助工具”进化为“数字员工”。
Solos 公司长期专注于音频智能眼镜，但本周二，它发布了两款新眼镜，其中一款配备了摄像头。不过，为了隐私考虑，用户可以单独购买一个配件来遮挡摄像头。 Solos 的新品包括纯音频的 **AirGo A6** 和带摄像头的 **AirGo V2**（第二代）。AirGo V2 售价 **299 美元**，功能与 Meta 同价位的智能眼镜类似：支持拍照、录像、播放音乐，并可通过 AI 助手“看到”用户所见。眼镜可配处方镜片，续航 **10-12 小时**。 最引人注目的是 **Privacy Kit**（隐私套件），售价 **79 美元**，包含一个 **夹式隐私遮挡盖** 和一个偏光镜片。遮挡盖可以完全挡住摄像头，让眼镜仅以音频模式运行。 然而，这种设计可能是一把“双刃剑”。虽然它为用户提供了物理上的隐私控制，但需要单独购买并手动夹上/取下，增加了使用门槛。更重要的是，它无法防止恶意用户在进入禁止摄像的场所后悄悄取下遮挡盖——毕竟这只是个夹子。 Solos 的第一代摄像头眼镜 AirGo Vision 曾在 2024 年推出，但被 WIRED 评为“别买”级别，主要问题是媒体拍摄质量平平、触控操作令人沮丧，以及 App 权限要求过多。 目前，Meta 在智能眼镜市场占据主导地位，但其他巨头也在积极布局。Google 和 Samsung 正合作开发 Android XR 平台，预计今年晚些时候 Warby Parker 和 Gentle Monster 等品牌将推出新款眼镜。Solos 的隐私方案能否在竞争中脱颖而出，仍有待观察。
在2026年世界杯期间，一段挪威前锋埃尔林·哈兰德在餐厅对着镜子吃东西的视频疯传，累计观看量超过3100万次。但事实核查发现，视频中的“哈兰德”并非本人，而是由中国喜剧演员金龙的短视频片段经AI换脸而成。这并非孤例——哈兰德已成为中国互联网上的“梗王”，从草本饮料广告到AI生成的恶搞视频，他的形象被粉丝和AI工具不断再创作。这种现象折射出体育明星的新生态：运动员不再仅仅通过比赛和采访被消费，而是成为互联网上的“开源角色”，其形象被粉丝用AI工具自由改编和传播。对于Z世代而言，他们更倾向于通过社交媒体的个性化内容与运动员建立连接，而非传统意义上的球队归属。这种趋势背后，既有粉丝文化的演变，也带来了版权、肖像权和信息真实性的新挑战。当AI生成内容成为粉丝创作的一部分，如何界定“真实”与“虚构”，如何保护运动员的权益，成为体育产业和数字平台必须面对的问题。
**太空正成为长寿研究的新前沿。** 一家英国初创公司刚刚将自运行的化学实验送入轨道，希望零重力数据能揭示一组在地球上难以研究的致病蛋白质的奥秘。但首先，他们需要验证其自主实验室在太空中能否正常工作。 ## 实验细节：葡萄柚大小的太空实验室 Mass Balance 公司开发的装置仅有葡萄柚大小，包含化学物质、传感器和控制元件，用于维持化学反应的正常运行。该装置于周二上午由 SpaceX 的运输器发射升空，封装在奥地利公司 Tumbleweed 制造的 **10 厘米（4 英寸）** 的吊舱中。实验将在轨道上运行数月，自动测量并在弱重力环境下将活细胞生长、反应和功能的数据传回地球。 这是该公司系统的首次测试，旨在获取在地球上无法获得的高质量数据。在地球上，较强的重力会引入对流（热量流动）和沉降（较重化合物下沉）等效应，干扰数据收集。 ## 零重力的独特价值 “当你消除重力时，许多奇特而美妙的事情会发生，其中一些对生命科学和制药领域极具价值，”Mass Balance 联合创始人兼首席执行官 Toby Call 在接受采访时表示。“今天听起来可能很疯狂，但我们的目标确实是让太空变得平凡、可靠，并成为另一种研究环境。” 这种研究环境对于成像 **无序蛋白质** 至关重要，这些蛋白质与阿尔茨海默病、帕金森病和某些癌症等年龄相关疾病有关。在地球上，这些蛋白质不断改变形状，难以成像。这导致像谷歌 AlphaFold 这样的生命科学模型的训练数据存在空白，使其无法预测无序蛋白质的行为以及对药物的反应。 ## AI 与太空数据的结合 Call 计划通过在微重力下对无序蛋白质进行测试来生成数据，并利用这些数据训练一个 AI 模型适配器，以填补现有模型的空白。该公司的收入将来自模型、数据许可和数据访问。 目前，该公司仅测试其操作系统和数据捕获能力。周二的任务将把一种工业生物催化剂送入太空，用于分解另一种化合物。平台将监控整个过程，并传回数据以供分析。
谷歌 DeepMind 与其伦敦员工之间的工会化谈判本周遭遇波折。据 WIRED 报道，首次会议因高层缺席及 HR 干预引发工会代表不满，认为公司缺乏诚意。员工代表在会议上宣读的公开信指控谷歌压制内部讨论，采取“工会破坏”策略。DeepMind 否认谈判停滞，称第一步是明确工会代表范围。该事件凸显 AI 行业在劳工权益与科技巨头管理之间的紧张关系。
当 SpaceX 上月宣布以 600 亿美元收购 AI 编程初创公司 Cursor 时，投资者普遍认为这是一笔双赢交易：Cursor 能获得大型 AI 实验室的算力资源以训练自有模型，而 SpaceX 和埃隆·马斯克则拿下了市场上最受欢迎的 AI 开发者工具之一。然而，一个关键问题浮出水面：**收购完成后，Cursor 能否保持开放平台属性，继续提供来自 OpenAI、Anthropic 等竞争对手的第三方模型？** 第三方模型一直是 Cursor 业务的核心组成部分。尽管 Cursor 近年来已开始训练自有模型，但它始终允许用户从 Anthropic、OpenAI 等实验室的多种模型中选择，以驱动其代码助手。这一策略让 Cursor 能随时为用户提供最佳或最便宜的模型，同时也让 Anthropic 和 OpenAI 受益——两者均将 Cursor 列为最大客户之一，并在营销材料中重点展示该初创公司。 据接近 Cursor 的消息人士透露，在 SpaceX 收购完成后（预计今年晚些时候），Cursor 希望继续以平台模式运营，在提供自有模型的同时，也接入 Anthropic、OpenAI 及其他实验室的模型。但这一愿景能否实现，已成为悬在 AI 行业上空的重大疑问。 小型 AI 编程竞争对手 Factory 的联合创始人兼 CTO Eno Reyes 认为，SpaceX 的竞争对手不一定会直接切断与 Cursor 的合作。“我不确定这个决定是否非黑即白，”Reyes 表示，“对我们来说，情况其实非常不明确。” 这并非 Cursor 与 OpenAI、Anthropic 的关系首次面临考验。过去，Cursor 通过分发这些实验室的模型来补充其编程平台，但如今它已逐渐与它们形成直接竞争——OpenAI 的 Codex 和 Anthropic 的 Claude Code 已成为各自业务的重要支柱。收购后，这种竞争关系将更加复杂：Cursor 不仅是一个客户，更成为了竞争对手体系的一部分。 对于 OpenAI 和 Anthropic 而言，继续向 SpaceX 旗下的 Cursor 提供模型，无异于资助一个潜在的劲敌。但若切断合作，它们将失去一个重要的分销渠道和收入来源。Cursor 能否在收购后维持“模型中立”地位，将深刻影响 AI 编程工具的市场格局，甚至可能重新定义大型 AI 实验室与下游应用之间的关系。
你花了几百美元买下那副酷炫的智能眼镜，以为一劳永逸？现在 Meta 告诉你：想用满它的高级 AI 功能，还得每月再掏钱。这正成为消费电子行业的新常态——硬件只是入场券，订阅才是真正的“解锁钥匙”。 ## 发生了什么？ Meta 在官方帮助页面中悄然宣布，其 Ray-Ban、Oakley 及自有品牌智能眼镜将引入 **Meta One Premium Plan** 订阅计划。虽然基础 AI 功能无需付费，但某些高级特性将被限制。最典型的是 **Conversation Focus（对话聚焦）**——该功能可增强交谈对象的音频，在嘈杂环境中让你听得更清楚。 免费用户每月仅有 **3 小时** 使用额度，超出后需订阅才能继续使用，且订阅后每月上限为 **15 小时**。此外，订阅用户还能获得“**高级设备支持**”，即优先接入经过专门培训的“人类专家”客服——看来在某些问题上，人类依然无可替代。 ## 这不是 AI 速率限制，而是新的商业模式 Meta 发言人明确表示，这“不是 AI 速率限制”。通常 AI 平台的速率限制是指免费用户使用云端 AI 功能时达到调用上限，而 Conversation Focus 完全在设备端运行，不依赖 Meta 服务器。这意味着限制纯粹是商业策略——Meta 正试探用户对“硬件+订阅”模式的接受度。 “订阅支持持续的研发投入，并为重度用户提供扩展访问和高级设备支持。”发言人补充道，“我们开始测试新的可选订阅计划，为希望解锁更多应用和 AI 眼镜高级功能的用户提供更多选择。” ## 消费科技的新剧本：卖硬件只是第一步 Meta 的做法并非孤例。从特斯拉的“加速提升”订阅到 Adobe 的软件订阅制，再到智能家居设备的增值服务，“**先卖硬件，再卖服务**”已成为科技巨头的标准打法。AI 的加入加速了这一趋势——因为 AI 功能需要持续的数据训练、模型更新和云端算力，订阅制能提供稳定的收入流来支撑这些成本。 对于消费者而言，这意味着购买决策不再是一次性的。你需要权衡：是接受基础功能，还是为“完整体验”每月付费？Meta 表示“绝大多数用户不会超过每月 3 小时的免费额度”，但这恰恰是订阅模式的经典策略——多数人补贴少数重度用户，而重度用户往往正是最愿意付费的那一群。 ## 未来展望 随着更多 AI 功能（如实时翻译、视觉识别、AR 导航）被塞进智能眼镜，可以预见 Meta 会逐步扩大订阅范围。这场“硬件+月费”的实验，或将定义下一代消费电子产品的定价范式。
一款名为 **Goose** 的新同志交友应用，号称要做“不那么约炮导向的 Grindr”，主打“为男孩们”的邀请制社区。然而，其推广方式引发了巨大争议——多位推广该应用的Instagram“网红”被指疑似AI生成，且账号创建时间异常、内容稀少，引发用户对平台真实性的质疑。 ## 事件的起因 用户 @pspthe2nd 在 X 平台发布截图，指出 Goose 的推广账号 @miles.sumrall 和 @danielmmulugeta 可能是 AI 生成的虚假形象。经 AI 图像检测软件分析，两人的头像被判定为 AI 生成的概率超过 90%；Google Gemini 的 SynthID 检测也确认其头像“大部分或全部”由 Google AI 创建。这两个账号均于 2026 年 5 月创建，帖子不足 10 条，且关注者与关注数比例异常高。 ## Goose 的定位与争议 Goose 由模特兼网红 Derek Chadwick 与前 BeReal 增长社区经理 David Aliagas 联合创立，旨在为寻求长期关系的男同志提供一个更严肃的社交空间。然而，在宣布之初，许多网友便嘲讽其“不过是另一种约炮工具”，甚至有 X 用户戏称“Goose 基本就是 Pokémon Ho”。尽管如此，Goose 上线后仍迅速升至 App Store 免费生活方式类下载榜第 4 位，全球生活方式应用下载排名第 33 位。 ## 虚假推广网络？ 除了上述两个账号，Cheam 等人还发现，一个由多个“俊俏”男性 AI 账号组成的网络正在通过私信或“密友故事”功能推广 Goose。这些账号的运作模式高度相似：使用 AI 生成的头像，发布几乎相同的推广文案，并引导用户点击邀请链接。用户 Ryan Cheam 表示，这种密集的、非自然的推广方式“令人不安”，让人怀疑 Goose 团队是否在人为制造热度。 ## 行业反思 这一事件再次将 AI 深度伪造与社交应用营销的灰色地带推向台前。在 LGBTQ+ 群体本就面临信任危机的背景下，使用虚假形象推广交友应用，不仅可能误导用户，更可能破坏社群的真诚互动。Goose 团队尚未对此事做出正式回应，但舆论已经发酵：如果连推广者都是虚构的，用户如何相信平台能构建真实的连接？ ## 小结 **Goose 的案例揭示了一个更广泛的问题：在 AI 生成内容日益泛滥的今天，社交应用的真实性将面临前所未有的挑战。** 对于用户而言，保持警惕、核实信息来源，可能比以往任何时候都更加重要。
你是否曾担心你的 AI 聊天机器人在试图制造炸弹或泄露你的个人信息？现在有一个专门的网站可以让你发出警报。一群 AI 研究人员创建了一个名为 **FLARE-AI**（Flaw Reporting for AI）的众包网站，用于报告和追踪 AI 的危害行为。例如，如果聊天机器人生成恶意软件、提供制造炸弹的配方、泄露个人隐私或引发用户的妄想思维，用户都可以通过 FLARE-AI 进行举报。该系统采用开源代码，允许他人验证问题，并将报告转发给模型制造商以及像 MITRE 这样的非营利组织（该组织专门追踪技术系统的问题）。这有点像 Downdetector，后者汇总用户关于应用程序和网站等全球服务中断的实时报告。该网站是研究团队在 AI 报告方面持续工作的最新一步，我去年曾首次报道过他们的工作。团队成员还参与了今年 6 月宣布的一项国会法案的咨询工作，该法案将让美国政府承担追踪这类 AI 不当行为的核心角色。 “目前，还没有一个集中、可靠的方式来报告 AI 系统的缺陷，”HuggingFace 的 AI 政策研究员 **Avijit Ghosh** 表示，他与计算机科学家 Elaine Zhu 和 Shayne Longpre 共同领导了 FLARE-AI 的开发。这个警报系统是与来自 32 个不同组织的 49 位 AI 专家合作开发的。在一篇概述该工作的论文中，研究人员认为，随着 AI 被更广泛地采用以及自主系统获得更大的权力，他们的倡议可能变得至关重要。他们认为，缺乏一致的 AI 缺陷报告方式是一个重大问题。 智库“安全与新兴技术中心”的研究员 **Jessica Ji** 表示：“我认为这是一个非常好的倡议。”她指出，研究人员正确地认识到现有报告机制是零散的，而 AI 模型则是黑箱。“我支持任何能让 AI 更透明的事情，”她说。虽然漏洞和网络安全问题备受关注（尤其是最近），但 Ghosh 告诉我，AI 系统的问题涉及心理伤害、歧视或偏见以及错误信息等主题。他补充说，不同的公司对这些问题有不同的标准，这意味着一些问题会被忽视。FLARE-AI 旨在填补这一空白，提供一个统一的举报平台，让公众的声音能够被听到，并推动 AI 行业更加负责任地发展。
特朗普政府解除了对 Anthropic 的 Fable 5 和 Mythos 5 AI 模型的出口管制，但附带条件。据知情人士透露，Anthropic 同意延长现有防护措施，防止用户尝试访问某些受限功能。这意味着任何试图解锁这些功能的用户将收到请求被阻止的通知，并由较不先进的 Opus 4.8 模型处理查询。此前，Anthropic 切断对 Fable 5 的访问时，与敏感网络安全和生物学能力相关的用户请求应由 Opus 4.8 处理。新防护措施将扩展至与亚马逊论文中确定的特定行为相关的请求。网络安全专家 Katie Moussouris 的分析指出，用户通过要求模型修复代码而非识别安全问题，绕过了 Fable 5 的限制。尽管专家认为此行为不令人担忧，但政府了解后导致了对 Anthropic 的出口管制，实际上使模型离线。商务部长 Howard Lutnick 的信函宣布解除对 Fable 5 和 Mythos 5 的限制，称 Anthropic 已同意主动检测和解决模型安全风险。商务部标准与创新中心最终认为模型防护足够稳健，放行 Fable 5。然而，国防部长 Pete Hegseth 已告知顾问，解除其 2 月 28 日将 Anthropic 指定为供应链风险的命令尚无明确路径。因此，Anthropic 与政府的挑战虽有所缓解，但并未完全结束。
安全研究员 Ian Carroll 借助 Anthropic 的 AI 工具 **Claude Opus 4.7**，成功发现并利用美国票务平台 **Front Gate Tickets** 的一个高危漏洞，理论上可以为自己或任何人免费生成任何音乐节的门票，包括价值 4000 美元的超级 VIP 后台通行证。Front Gate 负责 Lollapalooza、Bonnaroo、South by Southwest 等几乎所有美国大型音乐节的票务系统。Carroll 并未实际滥用该权限，而是向 Front Gate 报告了漏洞。Front Gate 在 24 小时内修复了该问题，并声明没有证据表明漏洞被利用或客户信息泄露。该事件凸显了 AI 工具在发现互联网安全漏洞方面的巨大潜力。
特朗普政府近日解除了对Anthropic公司两款最先进AI模型——**Mythos 5**和**Fable 5**的出口管制。这一决定是在Anthropic与美国商务部达成协议后作出的，商务部长霍华德·卢特尼克在致Anthropic联合创始人汤姆·布朗的信中正式宣布了这一消息。 此前，美国政府曾以国家安全为由，限制这些模型向外国公民或实体出口，仅允许少数经批准的美国公司和政府机构使用。Anthropic最初认为政府的担忧过度，强调完全杜绝“越狱”攻击是不可能的。但近几周，公司改变了策略，积极与商务部及白宫合作，承诺加强安全防护，包括主动检测和应对模型的安全风险，并与美国政府共同制定未来模型的发布标准。 值得注意的是，Anthropic CEO达里奥·阿莫迪在近期会谈中被替换，由更受官员欢迎的布朗出面沟通，这被视为公司调整沟通方式的信号。最终，政府认为Anthropic在安全措施上的承诺足够可靠，因此解除了限制。 这一事件反映了AI监管与产业发展的微妙平衡。一方面，美国政府持续关注先进AI模型的潜在风险，尤其是网络安全领域；另一方面，过度限制可能压制创新并削弱美国在AI领域的竞争优势。Anthropic的妥协表明，企业需要在技术理想与现实监管之间找到折中点。 此次解禁不仅为Anthropic的商业拓展扫清了障碍，也可能影响其他AI公司与政府的互动模式。未来，模型的安全性与可出口性将成为AI行业的核心议题之一。
几十年来，参议员伯尼·桑德斯一直警告财富集中威胁美国民主。如今，他押注民众对大科技公司、亿万富翁和不受控AI的挫败感正达到临界点。自2023年起，桑德斯积极推动AI行业严格监管：3月与AOC提出暂停数据中心建设的法案，6月推出《美国AI主权财富基金法案》，计划对最富有的AI公司征税并向公民直接派发。在与WIRED的对话中，桑德斯将AI描述为“人类历史上最具变革性的技术”，并认为突破科技寡头和超级政治行动委员会阻挠的时机已到。尽管他长期倡导的激进变革看似不切实际，但纽约民主党初选中民主社会主义者的胜利表明，公众情绪可能正转向支持更强硬的监管。桑德斯坚信，通过立法和公众施压，AI的发展可以被导向惠及多数人而非少数精英的方向。 ## 桑德斯的AI监管蓝图 桑德斯并非技术专家，但他对权力结构有着敏锐洞察。他认为AI巨头正重复过去30年科技行业的老路：**利用财富和影响力规避责任，而普通民众承担后果**。他的两项核心法案直指问题核心： - **数据中心暂停法案**：要求对新建数据中心进行环境影响评估和劳工权利审查，直至安全标准建立。 - **AI主权财富基金**：对AI公司超额利润征税，所得资金直接分配给每位美国公民，类似阿拉斯加永久基金模式。 “这些公司赚取巨额利润，却让社会承担失业、偏见和隐私风险，”桑德斯说，“我们必须确保AI收益被共享，而非仅流入少数人腰包。” ## 政治现实与突破可能 尽管法案在共和党控制的众议院前景渺茫，桑德斯认为**公众情绪正在转变**。6月23日纽约初选中，民主社会主义候选人横扫对手，显示选民对建制派的不满加剧。桑德斯将此视为信号：“人们厌倦了科技寡头操控民主，我的AI法案正是回应这种愤怒。” 他承认挑战巨大：科技公司每年花费数亿美元游说，而联邦政府更乐于通过技术自肥而非监管。但桑德斯指出，历史上有过类似转折点——如20世纪初的反垄断运动——当不平等达到极端，变革就会到来。 ## AI时代的民主试验 桑德斯的愿景不仅是监管，更是**重塑技术与社会契约**。他引用罗斯福新政为例，说明政府可以引导技术服务于公共利益。“AI要么加剧不平等，要么成为缩小鸿沟的工具，”他说，“这取决于我们是否敢于要求改变。” 尽管质疑声不断，桑德斯坚持渐进式推进：“我们可能不会立即通过全面法案，但每一次辩论都在教育公众，为未来行动铺路。”他相信，当足够多的人意识到AI的威胁和潜力时，华盛顿将不得不回应。 ## 小结：一场尚未定局的博弈 桑德斯的AI议程看似理想主义，却精准击中了当代核心矛盾：**技术爆炸与分配不公**。无论法案能否通过，他的努力已迫使行业和政界正视监管必要性。正如他所说：“改变很难，但不改变代价更高。”在AI重塑一切的前夜，桑德斯押注的或许是未来十年最重要的政治议题。
根据WIRED获取的内部文件和知情人士透露，数百名为Meta工作的承包商被指示伪装成未成年人，测试竞品聊天机器人（包括ChatGPT、Gemini和Character.AI）对自杀、性、饮食失调等高危话题的回应。该项目由Meta的承包商Covalen管理，内部代号“Cannes”，最近一次活动在4月21日。承包商创建了虚构的18岁以下账户，向竞品聊天机器人发送文字提示和图片（包括药丸、刀具、绞索等），并将回复复制到电子表格中。2025年8月完成的一轮测试共发送了超过4.5万个提示。测试对象公司对此不知情。WIRED审查的电子表格显示，有3748条提示记录，其中数百条涉及自杀和自残，数百条讨论饮食失调，至少239条涉及性。许多提示以危机中的儿童或青少年口吻编写，例如13岁怀孕女孩询问如何购买堕胎药，五年级学生求助同学持枪问题等。
人形机器人能跑、能跳、偶尔还能踢人，但要真正像人一样工作，它们还得学会开门、爬楼梯、搬箱子这些琐事。由前英伟达（Nvidia）机器人研究员创立的瑞士初创公司 **Flexion Robotics** 声称找到了解决方案。 Flexion 的核心思路是：先在仿真环境中训练机器人掌握单个技能，再由一个主 AI 算法决定如何组合使用这些技能。大多数演示视频中，人形机器人经过专门训练（如叠衬衫、上货架），背后通常有远程操控（teleoperation）支持，但这种方法在陌生环境中并不可靠。Flexion 自称其系统不同且更高效，因为它依赖仿真训练和有限的人工指令。 在一段展示视频中，一台改装的 Unitree 人形机器人接收指令后自主运行：“一份零食包裹已送达 Flexion。请使用楼梯取回，再乘电梯上来。然后拆包，将物品放入零食区空抽屉。” Flexion 的方法整合了多种 AI 系统：主 AI 模型通过消化人类执行不同任务的视频来规划工作；软件将仿真中学到的技能与视频中的动作匹配，并在现实世界中执行。例如，要到达办公室邮件室，模型可能需要学会开门和使用电梯。系统还控制机器人的电机，使其能够行走、移动四肢并保持平衡。 据 Flexion 联合创始人兼 CEO、前英伟达机器人研究科学家 **Nikita Rudin** 介绍，软件的“秘密武器”是大量使用强化学习（reinforcement learning），通过试错让计算机掌握任务。从主 AI 模型到仿真再到电机控制，每一层都采用了这种技术。科技领袖如埃隆·马斯克和 Jensen Huang 认为，人形机器人将对经济产生巨大影响，因为它们可以替代人类从事重复性劳动。Flexion 的“实习生”虽仍显笨拙，但已展现出在真实办公环境中执行多步骤任务的潜力。