当用户向客服助手提出"对比两款产品在三个维度上的表现"时,这实际上是一句包含六个子问题的复合查询。传统 RAG 的相似度搜索只用单个查询向量来承载所有意图,最终检索到的内容虽然主题相关,却往往只覆盖问题的一小部分。 AWS 近期展示了在 **Amazon Bedrock Managed Knowledge Base** 上结合 **LangChain** 构建 RAG 应用的方案,并对比了标准检索与 Agentic 检索在同一多部分问题下的表现。 ## 两条检索路径的本质差异 Amazon Bedrock Managed Knowledge Base 提供两个核心 API: - **Retrieve API**:执行一次混合搜索,返回带评分的文本块。在 langchain-aws 包中,它是一个标准的 LangChain retriever,可直接嵌入链式调用。 - **AgenticRetrieveStream API**:运行一个规划循环,将步骤以 trace 事件的形式流式返回。它对应 langchain-aws 中的函数检索能力。 标准检索走的是"单次搜索"逻辑——用一个查询向量近似所有意图的平均值。这种方式执行无错、评分合理,但检索结果只是"平均意图"的近似,无法完整覆盖复合问题的全部信息需求。 Agentic 检索则不同:它先把问题拆解为多个子查询,逐一执行,再判断已有证据是否充分,不够就继续搜索。整个过程通过 trace 事件暴露出来,开发者可以读取模型生成的检索计划。 ## 架构与成本权衡 该方案从架构上移除了自管理向量存储、嵌入模型和重排序模型——用户只需配置数据源,Bedrock 托管知识库负责分块、嵌入、存储和检索。示例中使用 Amazon S3 作为数据源。 成本方面,两条路径的差异值得关注:标准检索只执行一次搜索,调用开销低;Agentic 检索涉及规划、多轮搜索和证据判断,调用次数和 token 消耗都更高。因此文章也讨论了"何时该选更便宜的那条路"——对于意图单一、结构简单的问题,标准检索仍然是更经济的选择。 ## 对 RAG 架构的启示 这项对比揭示了一个常被忽视的问题:RAG 应用的质量瓶颈往往不在生成端,而在检索端。当查询本身包含多个意图时,单次向量搜索的"平均化"效应会系统性地遗漏信息。Agentic 检索通过规划循环把"一次搜索"变成"按需多搜",在复杂查询场景下显著提升召回完整性,代价是延迟和成本上升。 对于构建客服助手、产品对比、多条件分析类应用的团队而言,这意味着检索策略需要根据查询复杂度做分层设计,而非一刀切。
## 为什么需要降级用户角色? 在 **Amazon Quick** 中,用户角色分为 **Admin**、**Author** 和 **Reader** 三种。随着团队成员的职责变化,原本拥有 Author 权限的用户可能不再需要创建仪表板和分析,此时将其降级为 Reader 是遵循**最小权限原则**的关键一步。 除了安全考量,成本也是重要因素。Quick 的定价模式基于角色:**Authors 和 Admins 按固定月费计费,而 Readers 采用基于会话的定价**。如果用户仅需查看仪表板,将其降级为 Reader 可以显著降低费用。 ## 降级面临的挑战 Amazon Quick 控制台并未提供直接将用户从 Admin 或 Author 降级为 Reader 的选项。管理员需要采用间接方法,同时确保不破坏资产所有权或影响业务流程。 ## 两种可靠方法 ### 方法一:手动删除并重建 1. **转移资产所有权**:在删除用户前,将其拥有的仪表板和分析转移给其他 Author 或 Admin。 2. **删除用户**:从 Quick 中移除该用户。 3. **重新创建用户**:以 Reader 角色重新添加同一用户。 这种方法简单直接,但需注意重新创建后用户的历史记录和个性化设置可能丢失。 ### 方法二:使用 AWS CLI 逐步降级 通过 AWS CLI 可以更精细地控制角色变更,同时保留资产所有权: 1. **检查当前角色**:使用 `describe-user` 命令确认用户当前角色。 2. **转移资产**:如有必要,先将资产所有权转移给其他用户。 3. **降级角色**:通过 `update-user` 命令将角色修改为 Reader。 这种方法避免了删除重建的麻烦,且能保持用户身份和资产归属的连续性。 ## 最佳实践建议 - **定期审计**:每月或每季度审查用户角色,确保权限与职责匹配。 - **主动转移资产**:当用户职责变化时,及时转移其拥有的仪表板和分析,避免出现孤立资源。 - **结合自定义权限**:对于更细粒度的控制,可在角色基础上使用 **Custom Permissions** 限制特定操作。 - **利用 IAM 集成**:Amazon Quick 与 AWS IAM 的集成提供了额外的权限边界,增强安全性。 通过合理降级用户角色,组织不仅能强化安全态势,还能优化成本结构,实现高效协作。
## 为什么多智能体系统需要更严苛的评估 当多智能体系统从实验走向生产,一个关键挑战浮出水面:如何确保它们在真实业务场景中**持续有用、准确且可解释**。企业正越来越多地采用多智能体系统来解决供应链规划、财务分析、客户运营等复杂问题——这些任务要求跨数据源、工具和业务约束进行推理。 与简单的问答不同,多智能体系统需要协调多个专业智能体来做出决策、执行工作流并生成可操作的建议。大语言模型虽然能生成流畅的回复,但企业级应用需要的保证远不止于此:智能体必须**可靠地遵循指令、选择正确的工具、遵守约束,并对其输出提供清晰的推理过程**。 ## AgentCore Evaluations:为智能体量身定制的评估能力 **Amazon Bedrock AgentCore** 是一个用于大规模构建、连接和优化智能体的平台,支持任意框架或模型。其内置的 **AgentCore Evaluations** 功能,正是为应对上述挑战而设计——作为一个全托管能力,它能在开发和生产的全生命周期中评估智能体表现,帮助团队从多个质量维度衡量准确性、任务成功率和行为表现。 传统的评估方法仅关注模型响应质量,这对智能体系统来说远远不够。在智能体系统中,正确性取决于**工具选择、工作流执行和对业务约束的遵守**。 ## 内置评估器 vs 自定义评估器 AgentCore Evaluations 同时支持内置评估器和自定义评估器: - **内置评估器**:针对有用性、任务成功、指令遵循等常见质量维度提供预定义评估,团队无需额外设置即可快速建立智能体性能基线。 - **自定义评估器**:企业用例需要更深入的领域特定验证,自定义评估器允许团队根据自身业务需求定义评估标准。 ## 评估与防护:生产部署的双重保障 除了评估,智能体系统的生产部署还需要负责任的 AI 控制。**Amazon Bedrock Guardrails** 提供了可配置的防护措施,如内容过滤、拒绝主题检测和接地验证,与评估框架形成互补。二者分工明确: - **评估**在智能体执行后衡量其质量; - **Guardrails** 在执行过程中强制实施安全约束。 ## 实战:基于 Strands 的供应链决策系统 文章展示了如何构建一个基于 **Strands** 的多智能体供应链决策系统,并使用 AgentCore Evaluations 的内置、自定义及可解释性评估器对其进行评估。这一案例表明,通过系统化的评估框架,企业可以更自信地将多智能体系统投入生产,确保其在复杂业务场景中既安全又可靠。 对于正在探索多智能体落地的团队而言,AgentCore Evaluations 提供了一条从实验到生产的可操作路径,让评估不再停留在模型层面,而是深入到工具调用、工作流执行和业务规则遵守等关键环节。
## 当合规审查从“人工翻阅”变成“屏幕上的数字” 一家在多州持有 **5 万份租约**的物业运营商,正面临一个典型困境:各州房东-租客法规(滞纳金上限、通知期限、押金限额)随立法周期频繁变动,而每次法规更新后,合规团队必须找出哪些租约已经违规。小规模时,律师助理逐份阅读即可,答案可信,因为背后站着一个人。但当规模突破某个阈值,工作只能交给软件,新问题随之而来——**答案变成了屏幕上无人能独立验证的数字**。 AWS 在最新技术博客中提出了一种名为 **Adjudicated Query(裁决式查询)** 的设计模式,试图解决这一矛盾。其核心思路是:将生成式 AI 的对话能力与确定性的规则引擎分离。用户在 **Amazon Quick** 聊天界面中用自然语言提问,但最终的通过/拒绝判定完全由非 AI 的规则引擎做出。 ## 为什么 RAG 和 Text-to-SQL 不够用 文章明确指出,这类高利害合规场景需要两个关键属性: - **可证明的完整性**:诸如“我们检查了全部 22,910 份得克萨斯州租约”的声明必须真实且可演示。从未被评估的记录应被标记为“未评估”,而非被静默忽略。 - **可辩护性**:一项发现可能在数月后的诉讼、审计或监管检查中被质疑。辩护意味着必须清楚知道:哪条规则的哪个版本、应用于哪段条款文本、采用何种方法、在哪个日期、由谁执行。 **RAG(检索增强生成)** 解决了可访问性问题,但无法满足上述任一属性——相似度搜索没有“全部”的阈值,排序样本永远不知道自己排除了什么。**Text-to-SQL** 缩小了差距,但存在类别级风险:一个幻觉出的谓词可能静默缩小查询范围,导致漏检。 ## 参考架构与可部署示例 Adjudicated Query 模式将 Amazon Quick 聊天代理与一个**有界的 MCP 服务器**配对,后者封装在确定性规则引擎之上。文章提供了完整的 **AWS 参考架构**和一个可端到端运行的 **AWS CDK 示例**,以租约合规为具体案例。 该模式同样适用于其他高风险合规领域,例如**制裁筛查、保险理赔裁决、出口管制**。 > 对于正在探索生成式 AI 落地合规场景的团队,这一模式提供了一个重要思路:AI 负责交互与信息提取,但最终判定权必须交给可审计、可复现的确定性系统。
## 背景:知识截止问题与解决方案 Claude Desktop 在 Amazon Bedrock 上虽然能提供强大的 AI 辅助,但缺乏集成的网页搜索功能,其回答仅限于模型的训练知识截止日期。当用户需要获取最新信息,如文档更新、实时定价或天气情况时,模型无法自行检索。 **Amazon Bedrock AgentCore** 是一个用于大规模构建、连接和优化智能体的平台,支持任意框架或模型。通过其 **AgentCore Gateway** 功能,可以将 Claude Desktop 连接到 **Web Search**,从而弥补知识截止的差距。 ## Web Search 与 AgentCore Gateway Web Search 是一项完全托管、兼容 **Model Context Protocol (MCP)** 的网页搜索能力,由 Amazon 网页索引支持,覆盖数百亿文档。所有查询流量都保留在 AWS 基础设施内,无需管理外部 API 密钥,查询也不会离开您的边界。 使用 Claude Desktop,可以通过托管 MCP 服务器连接到启用了 Web Search 目标的 AgentCore Gateway。本文将逐步介绍如何设置此集成,并使用基于 **JSON Web Token (JWT)** 的入站认证来保护通信。 ## 架构与身份验证流程 许多在 AWS 上运行的企业使用 **AWS IAM Identity Center** 为其 AWS 账户提供单点登录 (SSO) 访问。在本演练中,我们使用 AWS IAM Identity Center 作为 AgentCore Gateway 的认证源。通过此设置,Claude Desktop 可以通过受信任的、企业管理的身份流调用 Web Search,符合现有组织身份治理,无需单独的凭证或第三方身份提供商。 为了将 AWS IAM Identity Center 与 AgentCore Gateway 的基于 JWT 的认证桥接,我们使用 **Amazon Cognito** 作为联合层,采用 OAuth 2.0 授权码授予流程。IAM Identity Center 通过 **SAML** 处理用户认证,Amazon Cognito 颁发 JWT,AgentCore Gateway 在每个请求时验证它们。整个认证链都保留在 AWS 内。 下图展示了此认证流程:  ## 先决条件 要遵循本文中的步骤,您需要: - 一个 AWS 账户,具有创建 AWS Identity and Access Management (IAM) 角色和 Amazon Bedrock AgentCore 资源的权限。 - 管理员访问权限(具体权限细节请参考原文)。 ## 总结 通过将 Claude Desktop 与 Amazon Bedrock AgentCore Gateway 和 Web Search 集成,并利用 AWS IAM Identity Center 和 Amazon Cognito 实现安全的 JWT 认证,企业可以在不牺牲安全性的情况下,为 AI 助手提供实时信息检索能力。这种方案完全在 AWS 内运行,简化了管理并增强了合规性。
## 为什么搜索智能体需要多轮训练? 大模型驱动的**搜索智能体**正在改变企业信息检索的方式:它不再要求用户写出精准的查询词,而是自己决定搜什么、用哪种检索策略、什么时候停下来,并在多轮交互中根据已获取的信息不断调整方向。 但要让这种多步行为真正可靠,并不容易。**没有任何基础模型天生就懂你的工具和运行环境**:提示一个小模型,多轮行为往往不稳定;提示一个前沿大模型,效果通常不错,但代价是更高的延迟和成本。 微调提供了第三条路——直接把工具和环境“教”给小模型,从而在保持小模型速度与成本优势的同时,获得原本只有前沿模型才具备的可靠性。 ## 传统微调方法为何不够用 即便微调是顺理成章的下一步,常见做法也各有短板: - **监督微调(SFT)**:依赖专家演示的理想多轮轨迹,收集成本高,而且针对你自己的场景往往根本不存在这样的数据。 - **单轮强化学习**(如 RLVR,可验证奖励的强化学习):一次只给一个回复打分。但搜索智能体的决策是多轮相互依赖的,每一步都建立在之前的上下文之上,孤立地优化单步会完全忽略这种依赖关系。 真正需要的,是一种**覆盖完整多轮轨迹**的训练方式:奖励信号只需反映最终结果好不好,而不必逐步标注。 ## 多轮强化学习(MTRL)做了什么 这正是**多轮强化学习(MTRL)**的价值所在。它训练智能体在一整串步骤中做出好决策,把环境相关的行为内化进模型,同时让你对输出质量有更强的控制。由于最终运行的是更小、更专用的模型,推理也更快、更便宜。 在本文中,我们介绍了如何使用 **Amazon SageMaker AI MTRL** 微调一个搜索智能体,并分享了在**检索质量和可靠性**上观察到的结果。 Amazon SageMaker AI MTRL 让你能够在多轮交互场景下用强化学习微调大模型,它把一个智能体任务建模为一系列决策过程。至于具体的训练配置、奖励设计与实测提升幅度,原文尚未展开,需要结合完整技术文档进一步确认。 ## 值得关注的信号 对企业而言,这条路径的意义在于:**用专门化的小模型替代通用大模型**,在搜索这类高频、多步、强依赖环境的任务上,可能同时拿到更低的延迟、更低的成本和更稳定的表现。多轮强化学习能否成为智能体训练的主流范式,值得持续观察。
## 当云迁移遇上 Agentic AI 企业级云迁移向来是一项耗时耗力的工程。一个包含 **300 多个应用**、且必须在固定财年截止日期前完成的迁移项目,如何在有限时间内高质量交付?AWS Professional Services 给出的答案是:用构建在 **Amazon Bedrock AgentCore** 上的多智能体框架,把迁移流程端到端自动化。 根据内部项目追踪数据,这套方案将每个应用的 **基础设施即代码(IaC)开发时间从 3 到 4 周缩短至几分钟**。 ## 不是替代,而是混合 需要明确的是,这套多智能体模式并非要取代 AWS 现有的托管服务,而是与之并行协作: - **AWS Transform** 负责迁移与现代化改造工作 - **AWS Database Migration Service(AWS DMS)** 负责数据库层迁移 - 本文介绍的智能体则“挂接”在这些服务之上 它面向的是有额外需求的项目——源端和目标端都通过组织自建和维护的 **Model Context Protocol(MCP)工具** 来访问。 ## 四智能体模式解析 这套架构基于 **Strands Agents SDK** 构建,运行在 Amazon Bedrock AgentCore 之上。AgentCore 是一个用于大规模构建、连接和优化智能体的平台,支持任意框架和模型。每个智能体通过 AgentCore Gateway 暴露的 MCP 工具访问其源端和目标端。 四个智能体各司其职: 1. **Intake Agent(接入智能体)**:通过 MCP 工具从文档和协作系统中读取迁移输入 2. **IaC Agent**:生成组合了组织已批准内部模块的基础设施即代码 3. **Migration Intelligence and Governance Agent(迁移智能与治理智能体)**:在组织自有项目工具内进行报告和治理 4. **Site Reliability Engineering(SRE)Agent**:负责切换后的运维工作 ## 落地前提 要复现这一模式,你需要: - 一个可访问 Amazon Bedrock AgentCore 和 Amazon Bedrock 基础模型的 AWS 账户 - 熟悉 Strands Agents SDK 和 MCP 服务器模式 - 了解组织所使用的 IaC 工具链 AWS 同时提醒:在采用这套自定义方案前,应先确认现有 AWS 托管服务是否已能覆盖你的迁移路径。 ## 行业意义 这套方案的看点在于它展示了 Agentic AI 在企业级基础设施场景中的真实落地方式——不是单一大模型包打天下,而是多个专用智能体通过标准协议(MCP)协作,嵌入到既有工作流和治理体系中。对于正在规划大规模上云的企业而言,这种“托管服务 + 定制智能体”的混合思路,或许比追求全自动化的单一方案更具现实参考价值。
With Live Data in Apps in Amazon Quick, AI-built apps query your governed Quick Sight datasets in real time instead of static, build-time snapshots. Each query runs as the person viewing the app, so row-level and column-level security apply per reader. Learn how to build, publish, and share a live-data app using natural language.
Learn how to use Amazon S3 Vectors as the persistent memory layer within the NVIDIA NeMo Agent Toolkit (NAT), deployed on Amazon Elastic Kubernetes Service (Amazon EKS). This post shows how NAT's memory subsystem works and how to implement Amazon S3 Vectors as a custom memory provider, using a multi-agent investment research use case.
生成式 AI 让个性化内容的批量生产变得又快又便宜,但新的难题随之而来:面对海量变体,该给每位用户展示哪一个?亚马逊支付(Amazon Payments)在 AWS 上给出了一个答案——用**多目标上下文多臂老虎机(multi-objective contextual multi-armed bandit, MAB)**,在亚马逊 SageMaker AI 上对产品获取漏斗进行个性化。 ## 从“生产内容”到“选择内容” 此前,亚马逊支付已经展示了如何利用 Amazon Bedrock 上的生成式 AI,在品牌指南和护栏内大规模生产个性化内容。但内容供给爆发后,选择问题变得尖锐:哪个变体对哪个用户最有效?要多久才能学会? 传统 A/B/n 测试需要等待实验结束才能决策,而老虎机方法能在持续服务用户的同时学习。它把每个内容变体视为一个“臂”,在真实流量中尝试,并逐步将曝光向表现好的臂倾斜,同时保留一部分流量继续探索。这本质上是**利用(exploitation)与探索(exploration)的权衡**。由于老虎机从不停止这两件事,它可以随着新变体的加入持续改进,也无需等待测试结束。 ## 七周线上 A/B 测试:高个位数提升,但并非人人有效 亚马逊支付将这一方法应用于产品获取漏斗,进行了为期七周的在线 A/B 测试。目前的结果显示: - 对其中一类客户群体,最终漏斗转化率实现了**高个位数百分比(high single-digit percentage)的相对提升**。 - 但另一类客户群体则没有观察到改善。 团队发现,问题出在**内容本身,而非模型**。换句话说,模型的选择机制已经足够好,但针对某些受众,现有内容变体可能缺乏足够的区分度或吸引力,导致老虎机“无米下炊”。 ## 技术直觉与架构 文章介绍了老虎机的直觉、将优化扩展到整个转化漏斗的尝试,以及背后的 AWS 架构。常见的老虎机策略包括 **epsilon-greedy、Upper Confidence Bound (UCB)、Thompson sampling** 等。亚马逊支付采用的是多目标上下文老虎机,意味着它同时优化多个目标(例如点击和转化),并利用上下文信息(用户特征、场景)来做出更精准的选择。 此外,团队还分享了一个代码仓库,你可以用合成数据在 Amazon SageMaker AI 上亲手测试这种方法,理解其工作原理。 ## 为什么值得关注 随着生成式 AI 加速内容变体的爆炸式增长,A/B/n 测试的周期和成本可能难以跟上。老虎机方法有望在个性化选择中扮演越来越重要的角色。但亚马逊支付的经历也提醒我们:**再聪明的选择算法,也无法弥补内容本身的不足**。在投资模型之前,先确保你有足够多、足够好的内容变体可供选择。
## 当事件本身成为提示词 大多数 AI 智能体的使用方式仍然是:打开聊天窗口、输入提示、等待回答。这种模式适合一次性问答,却无法应对基础设施中持续发生的事件——文件上传、数据库变更、定时任务、系统告警。**环境智能体(Ambient Agent)** 提出了一种不同的范式:它监听事件流并主动采取行动,可以并行处理多个事件,而无需人类先描述发生了什么。 AWS 在最新发布的技术博客中,详细展示了如何基于 **Amazon Bedrock AgentCore** 构建这类环境智能体,并以文档处理场景为例,串联起 **Amazon S3**、**Amazon SQS**、**AWS Lambda** 和 **Amazon DynamoDB** 等服务。 ## 一个典型场景 想象一份文件被上传到 **Amazon S3** 存储桶。几秒钟内,一个任务就出现在你的 Jobs 页面上,准备运行(如果配置了自动执行,可能已经在运行)。智能体分析文件、呈现发现结果,并在采取下一步行动之前请求你的批准。 这正是环境智能体的核心特征: - **事件即提示**:智能体响应事件流,而非等待聊天输入 - **人机协同**:通过单一的 `ask_human` 工具在需要时暂停,等待人类回复后从断点继续 - **框架无关**:不绑定特定智能体框架,可在 AgentCore Runtime 上灵活运行 ## 为什么这很重要 对于大规模处理文档的团队来说,手动分诊是真实的运营痛点:文件落入存储、有人注意到、逐个打开、判断需求、再路由给审核人员。监控告警同样如此,排队等待人工处理。环境智能体要解决的就是这些被浪费的时间。 更关键的是,这种设计**并非完全自主**。生产环境中的智能体会在需要澄清、批准或审查时才打断人类。这种人机协同机制降低了智能体上生产的风险,帮助建立用户信任,并通过反馈让智能体持续改进。 ## 技术架构要点 该方案利用 AWS 已有的事件驱动基础设施: - **Amazon S3 事件通知**触发文件到达信号 - **Amazon SQS** 作为事件队列缓冲 - **AWS Lambda** 执行处理逻辑 - **Amazon DynamoDB** 存储任务状态和上下文 - **AgentCore Runtime** 承载智能体执行 智能体在事件到达后自动启动工作流,分析内容,并通过 `ask_human` 工具暂停等待人工审批。人类在 Jobs 页面完成审核后,智能体从暂停点恢复执行。 ## 落地价值 对于已经在 AWS 上运行事件驱动架构的组织,这套方案几乎不需要引入新的基础设施概念。它把智能体从“聊天机器人”扩展为“基础设施的一部分”,让 AI 能够响应系统中真实发生的事件,同时在关键决策点保留人类控制权。这可能是智能体走向生产环境的一条更务实的路径。
## 多环境访问 Claude 平台的统一方案 企业通常需要在多种环境中调用 **Claude Platform on AWS (CPonAWS)** 的推理能力:生产环境中的 AWS 工作负载、开发者的本地笔记本,以及运行在其他云或本地 CI/CD 管道中的外部服务。这些环境的认证需求各不相同,但理想情况下应共享同一个订阅,并在生产与开发流量之间实现工作区级别的隔离。 AWS 近期发布的技术指南详细介绍了如何通过一个专用 **AI Services 账户** 实现上述目标。该方案的核心是三层账户结构: - **付款(管理)账户**:负责账单与治理。 - **AI Services 账户**:托管 CPonAWS 订阅、工作区、API 密钥和跨账户角色。 - **工作负载账户**:不直接接触订阅,而是通过承担角色(assume role)进入 AI Services 账户来发起推理调用。 这一设计将订阅所有权与消费方解耦,同时利用工作区实现生产与开发流量的逻辑隔离。 ## 三种访问模式的配置要点 针对不同环境,指南给出了三种认证路径: 1. **AWS 工作负载账户:跨账户 SigV4** 例如运行在 Amazon EKS 上的 Pod,通过承担 AI Services 账户中的 IAM 角色,使用 SigV4 签名发起请求。这种方式无需长期凭证,适合 AWS 原生工作负载。 2. **开发者:工作区范围的 API 密钥** 为开发者生成限定于特定工作区的 API 密钥,用于本地迭代。密钥的作用域隔离可防止开发流量误入生产工作区。 3. **外部环境:OIDC 联邦** 对于其他云或本地 CI/CD 管道,通过 OIDC 联邦将外部身份提供商与 AWS IAM 角色关联,实现无密钥的临时凭证访问。 ## 实施步骤与扩展建议 指南提供了完整的 CLI 命令、控制台操作和代码片段。部署时,首先在组织内创建专用 AI Services 账户,然后配置跨账户角色、生成工作区 API 密钥并设置 OIDC 信任关系。 对于拥有更多环境的组织,建议为每个团队或工作负载创建独立的工作区,并重复跨账户角色模式。这种模式不仅适用于 Claude 平台,也可为其他 AI 服务的多环境访问提供参考。 通过这套方案,企业可以在保持订阅统一的前提下,满足不同环境的认证需求,同时实现流量的精细隔离与治理。
Amazon Quick Sight 是 AWS 提供的全托管、云原生商业智能(BI)服务,支持在任何设备上访问仪表板,并可嵌入到应用程序、门户和网站中。在构建仪表板时,作者通常会添加多个筛选器,让读者能够缩小数据范围。但筛选器数量需要在灵活性和界面简洁性之间取得平衡:太多筛选器会显得杂乱,操作步骤也会变得繁琐。 ## 从六个筛选器到单一控件 以一个常见仪表板布局为例,其中包含六个独立筛选器:四个地理层级筛选器(**Region**、**Sub-Region**、**Country**、**City**),以及两个分别针对 **Segment** 和 **Product** 维度的筛选器。在真实场景中,筛选器数量往往更多,严重影响用户体验。 为此,Amazon Quick Sight 推出了**层级筛选器(hierarchy filter)**。它允许仪表板作者在**一个紧凑的控件**中提供丰富的多级筛选,减少界面杂乱,并引导读者以更少步骤找到所需数据。 ## 层级筛选器的核心优势 - **减少视觉杂乱**:读者首先看到的是简短的区域(Region)列表,而不是一次性展示数百个城市。每一步界面都保持干净,可见选项更少。 - **更少步骤,更引导式探索**:读者沿着逻辑路径(Region → Sub-Region → Country → City)下钻,而不是扫描一长串扁平筛选器。每次选择都会缩小下一级范围,帮助读者更快到达目标。 - **混合层级选择**:读者可以在一个筛选控件中组合不同层级,例如同时选择整个国家(如日本)和单个城市(如纽约)。 - **可扩展而不压倒界面**:支持最多**五级**的深层级结构,而无需添加五个独立筛选控件挤占工具栏。一个紧凑控件即可处理完整下钻路径。 - **防止读者混淆**:读者无需知道哪个国家属于哪个区域,层级结构已内置这种知识,使仪表板具备自引导能力。 层级筛选器通过将多级筛选整合到单一控件,显著提升了仪表板的易用性和可读性,尤其适用于地理层级、产品分类等具有天然层次结构的数据维度。
在零售平台的内容审核中,通用模型往往难以直接满足企业特定的业务规则。台湾统一企业集团旗下的数字平台 **uniopen** 就面临这样的挑战:其审核政策需要同时判断用户行为的九个类别和指向的三种主题(品牌、其他、禁止),两者都正确才能做出有效决策。 为了将 **Amazon Nova 2 Lite** 适配到这些业务特定政策,uniopen 团队采用了 **Amazon SageMaker AI** 中的监督微调,并结合提示级别的输出优化。整个方案将修正数据、托管训练、评估和部署控制整合到一个可重复的工作流中,确保质量可控。 ### 审核政策的特殊性 uniopen 是一个连接电商、会员权益等零售体验的数字通信和会员平台,覆盖网页、平板和移动端。其审核政策要求对每次交互从两个维度分类: - **行为类别**:共九种,描述发生了什么行为; - **主题类别**:品牌、其他或禁止,描述行为指向的对象。 这两个维度都必须正确,审核决策才有用。而且这些类别是 uniopen 业务特有的,通用模型无法开箱即用。 ### 技术方案:分离生产与训练路径 架构将生产审核路径与修正、训练、评估和部署分开: - **生产审核**:由 Amazon Nova 2 Lite 处理主要审核请求。 - **修正生成**:Amazon Nova 2 Pro 为报告的错误生成候选修正,但必须经过人工审核才能进入训练集。这种分离确保生成的标签不被当作绝对真理,从而安全地改进领域特定行为。 - **数据存储**:Amazon S3 存储验证后的修正集和训练数据;Amazon DynamoDB 跟踪活跃和候选模型配置。 - **编排与部署**:Argo Workflows on Amazon EKS 编排提示优化、评估和部署;Argo CD 将批准的配置应用到生产。 - **监控与告警**:Amazon SNS 和 Amazon CloudWatch 在硬性门槛失败或候选需要关注时通知操作员。 ### 评估与发布门槛 团队设置了业务相关的评估指标和发布门槛,确保模型质量。通过监督微调和提示优化,模型学会了 uniopen 特有的审核政策,同时保持了可重复的工作流和人工监督。 这一案例展示了如何利用 AWS 的托管服务,将通用大模型定制为符合企业特定政策的生产系统,为零售行业的 AI 审核提供了参考。
理赔答案散落在理算员日记、维修估价单、警方报告、付款台账和扫描附件里,而不是某个可搜索的字段。保单持有人可能问“理赔是否已批准”,而理算员可能需要“上个月所有金额超过 10,000 美元的未结案汽车理赔”。这两类任务都要求快速、准确地找到并整合证据。 检索增强生成(RAG)利用检索到的文档来为模型回答提供依据。**Amazon Bedrock Knowledge Bases** 是面向文档的全托管 RAG 能力。Amazon Bedrock 负责解析、分块、嵌入和向量存储,因此你可以构建一个对话界面,从理赔文件中返回带引用的答案。 本文是一篇技术操作指南,使用合成理赔记录,不描述生产客户部署。你将构建一个理赔助手,通过以下步骤用自然语言回答问题并给出引用: - 从 **Amazon Simple Storage Service (Amazon S3)** 摄取理赔文档及其元数据。 - 使用 **AgenticRetrieveStream API** 以纯语言查询。 - 提出多轮后续问题。 - 通过元数据过滤器(如理赔 ID 和理赔类型)来限定检索范围。 - 添加上下文接地护栏,确保答案与记录紧密关联。 ## 理赔查询的挑战 保单持有人、联络中心代理和理算员会提出不同的问题: - 保单持有人要求用通俗语言更新状态:“理赔 CLM-100482 的估价是否已批准?支票何时签发?” - 联络中心代理需要在客户等待时快速、准确地回答,而不转接电话。 - 理算员会提出跨理赔的多部分问题,例如上个月提交的哪些未结案汽车理赔金额超过 10,000 美元,以及每项还有哪些工作未完成。 答案存储在 PDF 理算员报告、Word 信函和文本笔记中,而不是一致的数据库字段。记录可能冲突或取代早期版本。修订后的估价可能替换早先的估价,或者临时付款可能后来被撤销。助手必须识别哪个估价、付款或状态是有效的。 由于理赔受到监管,每个答案都必须以源文档为依据并包含引用。联络中心代理可以在重复答案之前验证来源,主管可以审计助手如何得出答案。 ## 解决方案概述 该解决方案使用 Amazon Bedrock Knowledge Bases 来索引理赔文档。通过 AgenticRetrieveStream API,你可以用自然语言提问并收到带引用的回答。元数据过滤器允许你按理赔 ID、类型等属性缩小检索范围。上下文接地护栏有助于确保回答基于检索到的记录,减少幻觉。 多轮对话支持后续问题,例如先问“CLM-100482 的状态是什么?”,然后问“谁负责处理?”。 构建此助手的关键步骤包括: 1. **数据摄取**:将理赔文档和元数据从 Amazon S3 导入知识库。 2. **查询**:使用 AgenticRetrieveStream API 进行自然语言查询。 3. **多轮对话**:维护对话上下文以支持后续问题。 4. **元数据过滤**:使用理赔 ID、类型等属性限定检索。 5. **护栏**:添加上下文接地护栏,确保答案基于文档。 通过这种方式,你可以为保险理赔场景构建一个高效、准确的对话式查询工具。
## 从单智能体到多智能体,基础设施需求变了 当企业从单一用途的智能体走向多智能体系统时,底层基础设施的要求也随之改变。一个处理客户查询的独立智能体,可以在无服务器环境中以短生命周期会话运行;但当你需要三个智能体协作完成一个跨越数天的创意工作流、共享上下文并相互接续产出时,上限仅数小时的无服务器会话就不够用了。 AWS 在 **Amazon Bedrock AgentCore** 中给出了两种算力选项,而这次的实践正是围绕新选项展开。 ## 两种算力模型:MicroVM 与 Runtime Instances **MicroVM** 是此前的无服务器选项:冷启动快、会话隔离、按用量计费。**Runtime Instances** 则是新增选项,提供 AWS 托管的 EC2 基础设施,面向持久、长时间运行的智能体工作流。二者共用同一套运行时 API,但 Instances 额外带来了**多天会话、GPU、持久卷**,以及**在单个实例上共置多个智能体**的能力。 两者的关键差异体现在以下维度: - **会话时长**:MicroVM 最长 8 小时;Runtime Instances 最长可达 **14 天**。 - **每份算力上的智能体数量**:MicroVM 是一个运行时对应一个智能体(1:1);Runtime Instances 允许一个 EC2 实例承载多个智能体(1:N)。 - **GPU 访问**:MicroVM 不支持;Runtime Instances 在受支持的实例族上可用。 - **会话持久性**:MicroVM 为会话级;Runtime Instances 借助 **Amazon EBS** 实现持久存储。 - **计费方式**:MicroVM 按用量计费;Runtime Instances 的 EC2 实例运行在用户自己的账户中,可使用 AWS Savings Plans 和 On-Demand Capacity Reservations(ODCR)。 - **扩缩容**:MicroVM 按需伸缩;Runtime Instances 由容量提供程序(capacity provider)管理。 值得注意的是,两种选项都支持自定义框架(如 **CrewAI、LangGraph、LlamaIndex、Strands Agents**),都可搭配自选的基础模型,并集成了 MCP 与 A2A 协议。差异只在于底层算力模型。 ## 一条三智能体的音乐制作流水线 文章给出的示例是一条音乐制作流水线,用来直观展示上述能力: - **第一个智能体**在实例自带的 GPU 上运行生成式音频模型; - **另外两个智能体**从共享卷上打开它写出的 **.wav** 文件,继续后续处理; - 三个智能体**共置在同一台 GPU 实例**上,共享同一套文件系统,并相互交接工作,最终产出一首完整的曲目。 这个例子之所以成立,正是因为 Runtime Instances 允许智能体共置、共享文件系统、并在长时间会话中保持上下文——这些恰恰是无服务器 MicroVM 模型难以支撑的。 ## 这条流水线还顺带演示了什么 按文章所述,完成这个实践后,读者不仅能得到一首可播放的曲目,还会掌握几项关键操作: 1. 创建容量提供程序(capacity providers); 2. 从不同产物类型(artifact types)部署智能体; 3. 使用共享会话编排智能体之间的协作; 4. 让工作流跨越多天持久运行。 ## 小结 从 MicroVM 到 Runtime Instances,反映的是智能体应用形态的演进:从短任务、单智能体,走向长周期、多智能体协作。对于需要 GPU、共享文件系统和多天会话的创意与工程工作流,Runtime Instances 提供了一条托管于 AWS 的路径,同时保留了使用自有 EC2 容量与计费优惠的灵活性。至于具体的部署细节与代码,原文有完整的分步说明。
亚马逊云科技(AWS)近日宣布,**Anthropic 的 Claude Opus 5、Claude Sonnet 5 和 Claude Haiku 4.5** 三款模型已通过 **Amazon Bedrock** 在印度正式开放本地推理能力。对于需要在印度境内处理数据的客户而言,这解决了此前只能依赖全球跨区域推理的合规痛点。 ## 印度地理跨区域推理如何运作 此次上线的核心机制是 **地理跨区域推理(geographic cross-Region inference)**。简单来说,当客户从印度发起 API 调用时,请求会在 **ap-south-1(孟买)** 和 **ap-south-2(海得拉巴)** 两个区域之间自动路由,而不会流出印度境外。 这意味着: - 输入提示和输出结果仅在上述两个印度区域间移动; - 客户无需自行管理各区域的容量,请求会自动分发到推理配置文件中定义的可用后端; - 计费和配额消耗仍按**源区域**的账户进行追踪,与后端实际处理区域无关。 AWS 表示,跨区域推理通过安全的 AWS 网络运行,传输中的数据经过端到端加密。使用该功能时,客户数据**不会存储在目标区域**,而是始终保留在源区域。Amazon Bedrock 采用**零数据保留(ZDR)** 数据安全模型,默认不存储模型输入或输出。不过官方也提示,若内容被自动安全分类器标记,部分模型可能需要 AWS 进行人工审查。 ## 为什么这对印度市场重要 印度近年来对数据本地化的监管要求持续收紧,金融、医疗、政府等受监管行业尤其关注数据出境问题。此前,印度客户虽然可以通过全球跨区域推理使用 Claude 模型,但数据可能被路由到印度以外的区域处理。 此次印度地理配置的推出,让客户在**满足本地数据处理要求**的同时,仍能借助跨区域容量池获得更稳定的吞吐表现——这在流量高峰期尤为关键。换言之,合规与弹性不再是非此即彼的选择。 ## 如何开始使用 客户可以通过以下方式接入: 1. **Amazon Bedrock 控制台**直接体验; 2. 使用 **Anthropic Messages API**; 3. 使用 **Amazon Bedrock InvokeModel API**; 4. 使用 **Converse API**。 监控方面,Amazon CloudWatch 和 AWS CloudTrail 均可用于追踪相关调用。 ## 值得关注的信号 从行业视角看,这次发布延续了 AWS 与 Anthropic 深度绑定的策略,也反映出头部云厂商在**主权 AI(sovereign AI)** 趋势下的竞争焦点:谁能率先在更多司法管辖区提供合规的本地推理,谁就更容易拿下受监管行业的大单。对印度本地的 AI 应用开发者而言,Claude 系列模型的多档位选择(Opus 主打能力、Sonnet 兼顾性能与成本、Haiku 侧重速度)如今可以在境内闭环完成,这降低了合规团队的说服成本,也可能加速生成式 AI 在印度金融、客服、内容等场景的落地。 不过,目前印度配置仅覆盖孟买和海得拉巴两个区域,其他区域的客户若需本地推理,仍需等待后续扩展。
## 亚太本地推理再进一步 AWS 宣布,**Amazon Bedrock** 现已在**首尔(ap-northeast-2)**和**新加坡(ap-southeast-1)**两个区域支持 Anthropic 模型的**区域内推理(in-region inference)**。具体而言: - **首尔区域**:支持 **Claude Opus 5** 和 **Claude Sonnet 5** - **新加坡区域**:支持 **Claude Sonnet 5** 对于在韩国或新加坡有本地数据处理要求的客户——例如**金融服务、医疗健康、公共部门**——现在可以大规模使用这些模型,且推理请求与数据完全在调用所在区域内处理,不会离开该区域。 ## 区域内推理与跨区域推理有何不同 Amazon Bedrock 提供的区域内推理,核心价值在于帮助客户满足严格的数据驻留(data residency)要求。与跨区域推理配置文件不同,区域内推理**没有路由层**:你发往首尔或新加坡区域的请求,仅由该区域独立处理,输入提示词与输出结果在整个请求生命周期内都停留在该区域内。 代价是,吞吐量受该区域自身容量限制,请求受各区域服务配额约束。计费遵循所调用区域的标准按需定价;配额消耗、**Amazon CloudWatch** 指标以及 **AWS CloudTrail** 日志条目,均限定在同一区域内,监控时无需区分来源与目标区域。 ## 如何开始使用 区域内推理通过 **bedrock-runtime** 端点提供。对于新应用,AWS 推荐使用该端点,并以直接模型 ID 调用,例如 `anthropic.claude-opus-5` 或 `anthropic.claude-sonnet-5`。 它支持 Anthropic 的 **Messages API**,以及 Amazon Bedrock 的 **InvokeModel API** 和 **Converse API**,同时兼容 **Amazon Bedrock Guardrails** 和**智能提示词路由**等特性。 这意味着,无论是从 Amazon Bedrock 控制台,还是通过代码接入,开发团队都可以在满足合规前提下,将 Claude 模型能力部署到亚太本地业务场景中。 ## 谁最该关注 对于受监管行业而言,数据不能出境往往是采用生成式 AI 的首要障碍。此次首尔与新加坡的区域内推理支持,直接回应了这一痛点:合规团队无需再为数据跨境流动额外评估,工程团队也能以标准 API 方式快速集成。 需要注意的是,区域内推理的容量与配额由单一区域决定,高并发场景下可能需要提前规划配额申请。
## GPT-6.1 Sol 登陆 Amazon Bedrock 亚马逊云科技宣布,**GPT-6.1 Sol** 现已在 **Amazon Bedrock** 上正式可用。作为 GPT-6 Sol 的重要升级版本,它在智能体编程、计算机使用以及高频专业工作负载上带来了更强的推理能力。据 OpenAI 介绍,该模型将 **接近 Astra 级别的智能** 带入日常工作流。 对于 AI 智能体而言,完成一项任务往往需要收集信息、调用工具、尝试不同路径、从错误中恢复并验证结果。每一步决策都会影响后续走向,一次错误转向就可能增加模型交互、工具调用、延迟以及人工干预。因此,智能体的经济性由整个任务过程决定:**Token 价格**影响单次交互成本,而**推理质量**则决定工作需要多少次交互、能否成功完成。 ## 推理质量如何改变开发工作流 软件工程是体现推理质量影响的典型场景。智能体可能需要理解陌生的代码库、追踪依赖关系、确定修改位置并验证实现。根据 OpenAI 的数据,**GPT-6.1 Sol 在 DeepSWE v1.1 上的表现与 GPT-6 Astra 持平,但每个任务的成本仅约为其五分之一**。同时,它比 GPT-6 Sol 的最佳成绩高出 **6.4 个百分点**,且使用的推理强度更低。 **Codex** 可将这种推理能力贯穿整个开发周期。用户可以在 Amazon Bedrock 上配置 Codex 使用 GPT-6.1 Sol,覆盖调查、实现和测试等环节。Codex 可与代码仓库、本地文件、终端和开发工具协作,编写功能、修复缺陷并运行测试,并可通过桌面应用、CLI 和支持的 IDE 访问。针对 AWS 开发,**Agent Toolkit for AWS** 能通过一条终端命令将 Codex 连接到 AWS 文档、API 和服务。 ## 从信息到行动 当智能体需要解读复杂文档、选择合适的工具并随条件变化而调整时,同样的推理能力同样适用。GPT-6.1 Sol 在 Amazon Bedrock 上的正式可用,意味着企业可以在一个为性能、安全和规模化可靠性而构建的推理引擎上,将更强推理能力应用于日常智能体工作。
在 **Amazon Quick** 中,提示工程直接决定了 AI 驱动功能对你自然语言请求的响应准确性与可靠性。无论你是构建自定义代理、编写自动化流程,还是通过对话式分析查询数据,提示的结构方式都会直接影响输出质量。 ## 为什么提示工程至关重要 当团队要求 Quick“分析客户数据”时,可能只得到泛泛的摘要,错过关键洞察。但如果要求它“识别上一季度医疗保健行业中参与度下降的前五大企业客户,按收入影响排序,并找出与流失风险相关的具体产品使用模式”,就能获得可推动留存策略的可操作情报。 差异不在于 AI 的能力,而在于你如何传达需求。有效的提示工程能带来: - **首次尝试即获得更好结果**,节省时间 - **减少迭代和优化次数** - **无需自定义代码即可自动化复杂工作流** - **可复用的模式**,能在整个组织内扩展 这些好处会随着团队共享提示词汇而不断累积。当一个人发现某种特定表述对季度报告有效,这个模式就成为所有人的可复用资产。 ## 基础:核心提示原则 在探索组件特定技巧之前,先掌握适用于所有 Quick 功能的基本准则。可以把它们看作提示工程的语法:一旦内化,其他一切都会变得更容易。 ### 通过具体性实现清晰 模糊的请求产生模糊的结果。比较以下两种写法: - **通用**:“显示销售信息” - **具体**:“展示我们企业软件部门 2025 年第三、四季度每月收入趋势,突出增长最快的三条产品线,并识别与第三季度营销活动发布之间的任何关联” 具体版本明确了时间范围、部门、指标和期望的分析维度,让 AI 能够精准响应。 ### 设定上下文 除了具体性,提供背景信息同样关键。例如,在查询数据时,说明数据源、时间范围、业务目标等,能帮助 Quick 更好地理解你的意图。 ### 少样本示例 通过给出几个输入输出示例,可以引导 AI 模仿你期望的格式和风格。这在需要高度结构化输出时尤其有效。 ### CRISPE 框架 **CRISPE** 是一个可复用的结构化框架,包含: - **C**apacity and Role(能力与角色):定义 AI 的角色 - **R**equest(请求):明确任务 - **I**nsight(洞察):提供背景信息 - **S**tatement(声明):指定输出格式 - **P**ersonality(个性):设定语气 - **E**xperiment(实验):鼓励尝试不同方案 这一框架能帮助你在各种场景下构建一致、高质量的提示。 ## 总结 本文是两部分系列的第一部分,聚焦于通用原则和可复用框架,适用于任何 Quick 组件。第二部分将深入探讨 Research、Flows、Sight、Chat Agents 和 Action Integrations 等组件的特定技巧。掌握这些基础,你将能更高效地利用 Amazon Quick 的 AI 能力,提升团队生产力。