SheepNav
新上线15天前0 投票

uniopen 如何定制 Amazon Nova,实现符合零售审核政策的生产部署

在零售平台的内容审核中,通用模型往往难以直接满足企业特定的业务规则。台湾统一企业集团旗下的数字平台 uniopen 就面临这样的挑战:其审核政策需要同时判断用户行为的九个类别和指向的三种主题(品牌、其他、禁止),两者都正确才能做出有效决策。

为了将 Amazon Nova 2 Lite 适配到这些业务特定政策,uniopen 团队采用了 Amazon SageMaker AI 中的监督微调,并结合提示级别的输出优化。整个方案将修正数据、托管训练、评估和部署控制整合到一个可重复的工作流中,确保质量可控。

审核政策的特殊性

uniopen 是一个连接电商、会员权益等零售体验的数字通信和会员平台,覆盖网页、平板和移动端。其审核政策要求对每次交互从两个维度分类:

  • 行为类别:共九种,描述发生了什么行为;
  • 主题类别:品牌、其他或禁止,描述行为指向的对象。

这两个维度都必须正确,审核决策才有用。而且这些类别是 uniopen 业务特有的,通用模型无法开箱即用。

技术方案:分离生产与训练路径

架构将生产审核路径与修正、训练、评估和部署分开:

  • 生产审核:由 Amazon Nova 2 Lite 处理主要审核请求。
  • 修正生成:Amazon Nova 2 Pro 为报告的错误生成候选修正,但必须经过人工审核才能进入训练集。这种分离确保生成的标签不被当作绝对真理,从而安全地改进领域特定行为。
  • 数据存储:Amazon S3 存储验证后的修正集和训练数据;Amazon DynamoDB 跟踪活跃和候选模型配置。
  • 编排与部署:Argo Workflows on Amazon EKS 编排提示优化、评估和部署;Argo CD 将批准的配置应用到生产。
  • 监控与告警:Amazon SNS 和 Amazon CloudWatch 在硬性门槛失败或候选需要关注时通知操作员。

评估与发布门槛

团队设置了业务相关的评估指标和发布门槛,确保模型质量。通过监督微调和提示优化,模型学会了 uniopen 特有的审核政策,同时保持了可重复的工作流和人工监督。

这一案例展示了如何利用 AWS 的托管服务,将通用大模型定制为符合企业特定政策的生产系统,为零售行业的 AI 审核提供了参考。

延伸阅读

  1. Anthropic无法可靠控制AI智能体,切断内部评估的实时互联网访问
  2. Prime Agent 用 Rust 重写:2000 个 AI 智能体协作完成自我重写
  3. 乌克兰无人机袭击俄罗斯AI数据中心,Yandex超级计算机受损
查看原文