Learn how to build a voice ordering system for restaurants that answers a phone call and takes an order end to end, with no app, no website, and no sign-in. It uses Amazon Connect for telephony, Amazon Connect Agentic Voice for real-time speech, an Amazon Connect AI agent for reasoning, and Amazon Bedrock AgentCore Gateway to reach backend tools through MCP.
Metadata harmonization (standardizing labels, identifiers, and formats so datasets can work together) is still largely manual. This post shows how AI-powered metadata correction works in practice, covering two approaches, human-in-the-loop validation and autonomous agent-driven workflows, plus governance considerations for production deployment.
The Agentic Data Operations Platform (ADOP) is a reference architecture on Amazon Bedrock that uses specialized AI agents to automate the full Bronze-to-Silver-to-Gold data pipeline lifecycle, compressing new-source onboarding from weeks to hours while keeping data governance and compliance controls inline.
Give your AI agents governed, auditable access to enterprise tools without consolidating infrastructure. This post walks through a four-scope maturity model (Connect, Control, Catalog, and Harden) for building a governed tool gateway with Amazon Bedrock AgentCore, advancing only when real governance pain demands it.
Input tokens are often a meaningful part of the cost of running Retrieval Augmented Generation (RAG) at scale. This post describes a query-aware context compression pattern on Amazon Bedrock: after retrieval, a smaller model filters retrieved chunks against the query before the primary model answers, reducing input tokens and cost while preserving answer quality.
Panasonic Avionics worked with AWS and the AWS Generative AI Innovation Center to build an agentic AI system on Amazon Bedrock, Amazon SageMaker, and AWS Glue that diagnoses in-flight entertainment and connectivity (IFEC) issues across a global fleet, reducing diagnosis time from hours to minutes while maintaining accuracy.
Amazon Bedrock now offers OpenAI GPT-5.6 models (Sol, Terra, and Luna) in more than 25 AWS Regions with cross-Region inference. Learn how US geographic and global inference profiles route requests for higher throughput, how to call the models with the OpenAI and Converse APIs, and how to configure IAM, quotas, and monitoring.
Healthcare, retail, and life sciences teams store large volumes of operational data in Snowflake, but turning it into predictions is hard. In Part 1 of this series, you set up your AWS account and Snowflake environment for a no-code ML workflow with Amazon SageMaker Canvas, laying the foundation for building a fraud detection model without writing code.
In Part 2 of this no-code ML series, you connect Amazon SageMaker Canvas to Snowflake, prepare and join transaction data with Data Wrangler visual transformations, and train an XGBoost fraud detection model. All without writing machine learning code, laying the groundwork for interactive dashboards in Part 3.
In Part 3 of this no-code ML series, you bring fraud detection predictions to life. Import your Amazon SageMaker Canvas predictions into Amazon Quick Sight, build interactive dashboards, use generative BI to answer questions in natural language, and publish AI-generated executive summaries for stakeholders.
Amazon Bedrock AgentCore 支付功能现已正式可用,该服务使AI代理能够自主执行支付交易,并内置消费限额、协议无关的支付编排和生产级可观测性。 ## 从聊天到自主交易 AI代理已从简单的聊天应用演变为自主、长期运行的系统,能够在没有人工监督的情况下动态发现并组合数十种工具。与此同时,服务提供商正从订阅制转向按使用量付费模式,单次成本往往只有几美分。然而,当涉及支付环节时,代理便遇到了障碍。为此,我们与 Coinbase 和 Stripe 合作,在5月推出了 AgentCore 支付的预览版,使开发者仅需几行代码即可让代理自主支付API、MCP和内容费用。 ## 钱包支持与安全机制 AgentCore 支付与 Coinbase 和 Stripe Privy 钱包集成,支持稳定币钱包,适用于微交易支付。用户可通过信用卡或 USDC 稳定币为代理钱包充值,并需授权代理代表其消费。为确保安全,AgentCore 将开发者凭证存储在 AgentCore Identity Secrets Manager 中,代理无法看到原始凭证,而是使用短期令牌来执行钱包操作。此外,GA版本提供了“快速创建”选项,开发者无需离开 AgentCore 即可配置 Coinbase 凭证,节省时间。 ## 协议无关的支付编排 AgentCore 支付设计为协议无关,抽象化底层支付流程,使开发者能够专注于业务逻辑。它支持多种支付协议,并提供统一接口,简化集成。 ## 生产级可观测性 该服务提供全面的日志和监控功能,帮助企业在生产环境中跟踪支付交易,确保合规性和透明度。 ## 赋能企业AI代理 AgentCore 支付的正式可用,使企业能够以安全、可控的方式为代理赋予支付能力,推动AI代理在真实业务场景中的规模化应用。
Amazon Quick 嵌入聊天为您的 Web 应用带来了对话式 AI 界面。本文通过容器和 SDK 样式设置、品牌移除以及自定义代理角色,使嵌入聊天与您的品牌外观、感觉和声音相匹配。 ## 自定义 Amazon Quick 嵌入聊天 Amazon Quick 嵌入聊天提供了一个对话式 AI 界面,您可以直接将其集成到 Web 应用中。您的用户无需离开应用即可提问、探索数据并获得见解。然而,通用的聊天界面会造成脱节的体验。聊天界面必须看起来和感觉像是应用的自然组成部分,而不是外部附加物。借助 Quick 的自定义功能,您可以扩展组织的视觉主题和品牌声音,以匹配应用的外观和感觉,提供一致且品牌化的体验。在本文中,我们将介绍自定义 Quick 嵌入聊天的配置选项,以在您的应用中提供一致且品牌化的体验。 ## 概述 自定义需求通常分为两个关键领域。第一个是视觉主题,以匹配公司的品牌。您的组织已建立品牌指南,嵌入聊天必须反映这些指南。第二个是语气,以匹配公司的声音,因为仅视觉一致是不够的。聊天沟通的方式也必须反映您组织的个性。以下示例使用嵌入在财务绩效仪表板中的财务分析助手,演示如何配置视觉主题和语气自定义。 ## 配置视觉主题 当您首次将 Quick 聊天嵌入到应用中时,聊天界面使用其默认样式。这会造成视觉不匹配。聊天看起来像是外部工具附加到您的应用上,而不是原生组件。注意不匹配的调色板、通用品牌以及缺乏与周围财务仪表板的视觉集成。应用视觉主题,使嵌入聊天感觉像是财务仪表板的自然部分。 嵌入聊天的视觉主题在两个层面运作。第一是容器和布局样式,即您围绕聊天 iframe 控制的 CSS。第二是 SDK 帧选项,即传递给嵌入 SDK 的配置,控制 iframe 行为和品牌元素。由于聊天在 iframe 内渲染,您无法直接设置其内部元素的样式。相反,您需要设置包裹 iframe 的容器样式,并使用 SDK 选项移除与您的设计冲突的默认品牌元素。 ## 帧选项配置 frameOp
在保险行业,每天需要处理成千上万份文档,如保单、宣誓书、批单和监管表格,准确分类对于合规、理赔和客户服务至关重要。然而,手动分类耗时且易出错,传统自动化方法又难以区分外观相似但用途不同的文档。例如,保单批单与监管宣誓书可能包含相似术语,但误分类可能导致合规问题或处理延迟。 本文介绍如何利用 **Strands Agents SDK** 构建多代理解决方案,在 **Amazon Bedrock** 上实现向量提示文档分类。该方案通过编排三个专业代理协同工作:**文档分析代理**(基于文本推理)、**向量相似性搜索代理**(基于布局模式识别)和**验证代理**(质量保证)。每个代理在各自领域内自主操作,然后通过**编排器**协作,最终输出高准确率的分类结果。 ### 架构与工作流程 多代理架构结合了**Anthropic 的 Claude Haiku 4.5** 的先进推理能力与 **Amazon Titan Multimodal Embeddings** 的视觉模式识别能力,突破了单模型分类的局限。在测试中,单模型方法在处理边缘案例和复杂文档时表现不佳,而多代理系统通过将任务分解为专门子任务,充分利用不同基础模型的优势。 选择 Strands Agents SDK 的原因在于它将代理实现为工具,使得编排器可以像调用函数一样调用专业代理,实现灵活的任务调度。具体工作流程如下: 1. **文档分析代理**:使用 Claude Haiku 4.5 对文档文本进行深度推理,提取关键语义特征。 2. **向量相似性搜索代理**:使用 Titan Multimodal Embeddings 生成文档的向量表示,并与预定义类别向量进行相似度比较,识别布局和视觉模式。 3. **验证代理**:结合前两个代理的输出,进行交叉验证和置信度评估,确保分类结果可靠。 ### 技术要点与实现 实现过程中,开发者需要掌握以下关键步骤: - **配置 Amazon Bedrock**:启用 Claude Haiku 4.5 和 Titan Multimodal Embeddings 模型。 - **定义代理工具**:使用 Strands Agents SDK 将每个代理封装为工具,并注册到编排器。 - **设计提示词**:为每个代理定制提示词,明确其职责和输出格式。 - **集成验证逻辑**:在验证代理中实现规则或模型,对不一致结果进行纠偏。 ### 总结与展望 该多代理方案在保险文档分类场景中展现了显著优势,不仅提高了准确率,还增强了系统的可解释性和扩展性。未来,此类架构可进一步推广至金融、法律等文档密集型行业,结合更多基础模型和工具,实现更复杂的文档处理任务。
**Jumio**,一家专注于身份验证和欺诈检测的公司,在AWS上成功构建了一个集中式的实时特征存储系统,解决了数据重复、特征工程效率低下、手动部署风险以及延迟等问题。该架构结合了**Amazon SageMaker Feature Store**、**Amazon Managed Service for Apache Flink**和**Amazon Kinesis Data Streams**,实现了**亚100毫秒**的特征服务延迟,并且每年节省约**12万美元**的成本。 ## 挑战:特征管理的碎片化 在构建实时特征存储之前,Jumio的特征工程和部署流程分散且低效,导致了一系列问题: - **数据重复**:不同团队各自维护离线特征存储,造成数据冗余和特征定义不一致。 - **手动部署**:团队需要在生产代码中手动重新实现离线训练的特征,增加了出错风险。 - **延迟瓶颈**:欺诈检测需要即时访问特征,包括上游模型的输出,但现有架构难以满足。 - **事件延迟**:某些事件类型可能延迟到达,或者模式不规则,例如在初步活动后几周才出现,这给实时决策带来了挑战。 ## 架构设计:实时特征存储的基石 Jumio的解决方案基于一个清晰的架构模式,核心组件包括: - **Amazon SageMaker Feature Store**:作为集中式的特征注册和存储中心,支持特征的在线和离线检索。 - **Amazon Managed Service for Apache Flink**:用于处理流式数据,实现实时特征计算。 - **Amazon Kinesis Data Streams**:作为数据管道,连接原始事件和特征存储。 该架构的关键在于**统一特征定义**,确保离线训练和在线推理使用一致的特征,避免了手动重新实现的错误。同时,通过流式处理,特征得以实时更新,满足了欺诈检测的时效性要求。 ## 设计权衡与性能表现 在构建过程中,Jumio团队面临了多种设计权衡,例如在延迟、吞吐量和成本之间寻求平衡。最终的系统实现了: - **亚100毫秒延迟**:满足实时预测的严格要求。 - **高可扩展性**:能够处理高并发的特征请求,并支持特征目录的持续增长。 - **成本节约**:通过优化资源利用,每年节省约12万美元。 ## 对AI行业的启示 Jumio的案例为其他依赖实时ML决策的企业提供了可复用的架构模式。随着AI在金融、安全等领域的应用日益广泛,实时特征存储的需求将持续增长。这一案例表明,通过合理利用云原生服务,企业可以构建高效、可靠且成本可控的ML基础设施。 对于希望优化自身ML特征管理的团队,Jumio的经验值得借鉴:**集中管理特征定义**,**利用流处理实现实时更新**,以及**在设计之初就考虑成本和性能的权衡**。
在娱乐和媒体等行业,企业需要管理数千份跨司法管辖区的复杂合同,以确定权利、续约选项、地域限制和合规义务。传统上,这项工作主要依靠人工完成,耗时且成本高昂,难以规模化。AWS 推出的 AI 驱动标注(AIDA)解决方案,利用 Amazon Bedrock Knowledge Bases 的检索增强生成(RAG)架构,将非结构化合同转化为可搜索、可操作的智能数据,让用户能够用自然语言查询大型合同库。 然而,仅靠语义搜索难以确保高准确率。法律文件高度依赖上下文,RAG 系统可能检索出过多内容,超出语言模型的有效处理能力。若不对检索片段加以精细控制,或缺乏文档级上下文,关键条款可能被忽略或误读。AIDA 通过隐式和显式过滤,结合元数据增强的分块(metadata-enriched chunking),有效解决了这些挑战。 在数据摄取阶段,AIDA 将合同同步至 Amazon Bedrock Knowledge Bases,并附带结构化元数据,如当事人、生效日期、终止日期、司法管辖区等关键属性。这些元数据为后续的精确过滤奠定了基础。AIDA 支持隐式过滤,即利用用户查询中的实体自动生成过滤器,例如识别出"2020年后的合同"或"与特定公司签订的协议";同时支持显式过滤,允许用户通过界面指定筛选条件,如合同类型或司法管辖区。 通过结合这些过滤机制,AIDA 能将检索范围精准缩小到相关合同,避免无关内容干扰。此外,元数据增强的分块策略确保每个文本块都包含足够的上下文信息,如合同标题、当事人和条款编号,使检索结果更易于理解和验证。 实际应用中,AIDA 显著提升了合同搜索的准确性和效率。用户无需手动翻阅大量文件,即可快速获得针对具体问题的答案,并确保答案基于正确的合同、正确的法律背景和正确的访问权限范围内。这一方案不仅降低了运营成本,还提高了决策速度,尤其适用于合同数量庞大且复杂的行业。 未来,随着 RAG 技术的不断演进,类似 AIDA 的智能解决方案有望在更多领域落地,帮助企业从海量文档中挖掘价值,推动业务流程的数字化转型。
随着独立软件供应商(ISV)不断扩展其产品并融入 AI 代理,如何在多租户环境中确保安全、可扩展性和成本效益成为关键挑战。Axonius 作为资产情报平台,利用 Amazon Bedrock AgentCore 实现了数百个客户环境的完全隔离,避免了从零构建计算隔离、身份验证和可观测性基础设施的复杂工作。 ## 多租户架构模式的考量 在 SaaS 模型中,ISV 通常面临三种架构模式的选择:**silo(隔离)**、**pool(池化)** 和 **bridge(桥接)**。 - **Silo 模式**:为每个租户提供专用资源,在 AgentCore 中即为每个租户部署独立的代理,确保最大程度的隔离。 - **Pool 模式**:多个租户共享一个代理,通过为每个用户会话分配唯一的会话 ID 来实现隔离。 - **Bridge 模式**:混合模式,例如,专用代理结合共享的 Amazon Bedrock 知识库。 Axonius 选择了 **silo 模式**,为每个客户环境部署独立的代理,以满足严格的安全和合规要求。这种架构不仅简化了租户级隔离,还便于实施精细的访问控制和成本追踪。 ## Axonius 的架构实践 Axonius 的 SaaS 基础设施运行在 AWS 上,管理着数百个隔离的客户环境。通过使用 Amazon Bedrock AgentCore,Axonius 能够: - **利用托管服务**:无需自建计算隔离、身份验证和可观测性基础设施,直接使用 AgentCore 的内置功能。 - **整合现有方法**:将代理工作负载与其现有的安全、审计和合规流程无缝集成,从而将手动负担降低高达 50%。 - **快速扩展**:借助 AgentCore 的弹性,轻松应对客户数量的增长。 ## 关键收益 Axonius 的实践表明,**Amazon Bedrock AgentCore** 为 ISV 提供了一条高效路径,使他们能够专注于核心业务,同时确保多租户 AI 代理的安全性和可管理性。对于平台工程师和架构师而言,理解这些模式并选择适合自身需求的架构至关重要。
NVIDIA Nemotron 3.5 Lightning 现已上线 Amazon SageMaker JumpStart,这是一款专为高并发 Agent 工作负载设计的开源模型。该模型采用混合专家(MoE)架构,总参数量 30B,但仅有 3B 激活,可在单 GPU 上运行,吞吐量最高提升 4 倍,任务完成速度最高提升 30%。本文介绍如何通过 SageMaker JumpStart 快速部署该模型,并解析其技术亮点与适用场景。
## 给自主代理一个钱包和消费护栏 随着 AI 代理从简单的问答工具进化为能够自主执行多步骤任务的智能体,它们经常会遇到需要付费才能访问的服务,例如付费 API、MCP 服务器或网页内容。传统的支付方式需要人工介入,这大大限制了代理的自动化能力。为了解决这个问题,AWS 与 OpenClaw 基金会合作,推出了一种新的解决方案,让代理能够在预设的限额内自主完成支付。 ## 核心设计:分离权限,确保安全 这种支付能力的关键在于安全设计。钱包提供商的凭证以及创建或扩展支付会话的权限被严格地**放置在模型运行时之外**,通过一个可信的管理路径由人类预配置。这样,即使模型被恶意输入诱导,也无法突破预设的边界。运行时只能在这些限额内发起经过批准的支付。 Amazon Bedrock AgentCore 的 **AgentCore payments** 功能提供了钱包集成、支出限额和一致的支付层,为代理支付协议的发展提供了基础。该方案支持 **x402** 和 **Machine Payments Protocol (MPP)** 等协议,这些协议支持代理与服务之间的程序化支付流程。 ## 为什么代理需要支付能力? 自主代理在执行长时间运行的研究或工作流任务时,可能会在操作员不在场的情况下遇到付费 API 或内容端点。一个受限的支付层允许代理在人类预先设定的限额内继续运行,这些限额可以限制**收款方、资产、网络、单笔支付金额、累计预算和有效期**。 许多 API、内容服务、计算服务和 MCP 工具采用按使用量付费的定价模式。单笔交易可能不足一美元甚至几分之一美分,而传统的信用卡处理费使得这种小规模交易变得不划算。相比之下,**稳定币支付**支持小额和近实时结算,使得 x402 等 HTTP 原生协议非常适合程序化、代理发起的支付。 ## 实现方式:OpenClaw 与 aws-agents-pay 插件 本教程将指导你如何将 **OpenClaw** 连接到由人类通过可信管理路径提供的钱包和受限支付会话,然后使用 **aws-agents-pay 插件** 让代理发起经过批准的测试网支付。 这种设计不仅解决了代理支付的即时需求,还考虑到了安全性和可扩展性,为代理经济的未来发展奠定了基础。
在多轮强化学习(RL)中,自定义奖励函数决定了模型真正学到的内容。一个细微的错误奖励可能在训练曲线看似健康的同时,悄悄教会模型错误的行为。设计一个在多轮、智能体任务中稳健的奖励函数,是定制Amazon Nova模型最困难的部分之一。 Amazon Nova Forge通过其自带编排(BYOO)能力,让你在自己的环境中运行奖励逻辑。你可以专注于定义什么是好的结果,而Nova Forge则协调 rollout、消息传递和跨轮对话状态。此外,Nova Forge还提供了无服务器多轮RL选项(现已全面可用),适合不想管理环境的团队。本文采用BYOO路径。 Amazon Nova提供多种定制方法,其中强化微调(RFT)尤为突出,因为它可以通过迭代反馈教会模型你想要的行为。与监督微调(SFT)不同,RFT不要求带有注释推理路径的精选示例,而是从模型自身输出的评估信号中学习。多轮RFT将其扩展到在一系列步骤中行动的智能体,例如调用工具、执行代码或从错误中恢复。它优化整个轨迹的累积奖励,而不是评估单个响应。 RFT的核心是奖励函数:指导模型的评分机制,也是你设计的部分。研究表明,RL在分布外(OOD)泛化方面优于SFT,但前提是奖励设计得当。 本文聚焦于奖励函数本身:如何设计一个复合多轮奖励,让组相对策略优化(GRPO)能够学习。文章还展示了如何在奖励中安全地执行模型生成的代码,以及为什么对每个组件进行监控,以便你信任训练所学。第一部分涵盖了Amazon SageMaker HyperPod和Nova Forge基础设施。最后,我们总结了可能悄悄破坏奖励的陷阱,这些陷阱来自一次真实运行,其中权重最高的组件默默贡献了零学习信号。 ## 关键要点 - **奖励设计是RFT的核心**:奖励函数决定了模型的学习方向,必须精心设计。 - **BYOO提供灵活性**:在自有环境运行奖励逻辑,便于集成现有代码和工具。 - **安全执行模型代码**:在奖励中执行模型生成的代码需谨慎,防止安全风险。 - **监控每个组件**:通过监控,确保每个奖励组件都提供有效的学习信号。 ## 陷阱与建议 在一次真实训练中,权重最高的奖励组件没有提供任何学习信号,导致模型未按预期优化。因此,建议对每个奖励组件进行单独监控,并定期检查其分布,确保它们仍在提供有效反馈。此外,奖励设计应避免过度稀疏或过于复杂,以免训练不稳定。 ## 结论 多轮强化学习的奖励函数设计需要深思熟虑,结合领域知识、安全考虑和持续监控。Amazon Nova Forge提供了强大的工具,但真正的挑战在于如何定义“好”的结果。通过本文的指导,你可以避免常见陷阱,让模型真正学到有价值的行为。
在构建智能体工作流时,一个常见的挑战是如何在同一个系统中混合使用托管基础模型(FM)和自有的成本优化或领域特定模型,而无需重写整个智能体框架。本文介绍如何将 Amazon SageMaker AI 上的 OpenAI 兼容端点与 Amazon Bedrock AgentCore 运行时相结合,实现多智能体协作,其中每个专业智能体使用最适合其任务的模型。 ## 架构概览 该架构通过一个 Amazon Bedrock AgentCore 容器连接三条模型托管路径: - **编排智能体**(Bedrock 上的 Claude Haiku 4.5):负责分类用户意图,并通过全局跨区域推理路由任务。 - **预算智能体**(Bedrock 上的 Claude Sonnet 4.6):处理 50/30/20 预算分解,使用结构化 Pydantic 输出。 - **财务分析智能体**(SageMaker AI 上的 Qwen 3.5 9B):执行股票分析和投资组合构建,支持工具调用。 用户请求进入运行在 Bedrock AgentCore 运行时内的编排智能体。编排智能体采用 Strands Agents 的“智能体即工具”模式,将请求路由至预算智能体或财务分析智能体。两个专业智能体分别调用各自的模型:预算智能体通过 Amazon Bedrock 调用 Claude Sonnet 4.6,财务分析智能体通过 SageMaker AI 实时端点(使用 OpenAI 兼容 API)调用 Qwen 3.5 9B。结果流经编排智能体返回给用户。 ## 集成细节 关键在于集成机制,尤其是如何从 SageMaker 端点获取令牌级可观测性,因为 Strands 默认不提供这一功能。通过结合 SageMaker AI 和 Bedrock AgentCore,您可以在一个生产就绪的架构中实现成本优化、数据驻留和模型灵活性。 ## 前置条件 开始之前,您需要具备以下条件: - 一个 AWS 账户,并具有创建 SageMaker 端点和 Bedrock AgentCore 资源的权限。 - 已部署 Qwen 3.5 9B 模型到 SageMaker AI,并获取 OpenAI 兼容端点的 URL。 - 熟悉 Strands Agents 框架的基本概念。 完整源代码请参阅随附的 GitHub 仓库。 ## 总结 通过这种组合,您可以在不牺牲性能的前提下,利用 SageMaker 上部署的专用模型(如 Qwen)与 Bedrock 上的托管模型(如 Claude)协同工作。该方案特别适合需要数据驻留或成本优化的场景,同时保持了智能体编排的灵活性。