ChatGPT Ads 的三条架构边界:状态、模型和交付不能混在一起

上一篇看了 ChatGPT Ads 的工作流,这一篇专门拆它的架构边界。对后端工程师来说,这些边界比“用了什么模型”更有参考价值,因为它们决定了系统在故障、延迟和业务变化下还能不能保持可控。

一、状态边界:广告会话独立于聊天会话

ChatGPT 的对话本身已经有状态,但广告系统又维护了自己的有状态会话。为什么不直接复用聊天上下文?

因为两者的生命周期和目标不同:

  • 聊天上下文服务于回答质量;
  • 广告会话服务于商业意图判断;
  • 广告系统需要跟随多轮对话更新,但不能反过来污染回答生成;
  • 有些对话永远不适合展示广告。

广告会话只吸收它在合规范围内需要的信息,并拥有自己的更新节奏。这样即使广告逻辑变化,也不需要改动 ChatGPT 的回答链。

二、模型边界:LLM 编排,但不做最终决策

编排器负责理解意图、改写查询、选择工具,但它不决定广告是否一定展示,也不直接定价。最终投放要经过资格审核、竞价和前端展示检查。

这是一条很清晰的责任边界:

层 负责 不负责
LLM 编排器 意图、查询、工具选择 定价、最终广告选择
广告业务服务 资格、预算、竞价、投放 生成聊天回答
前端 展示与回执 改变广告业务规则

模型可以理解复杂上下文,但关键规则必须能单独测试、审计和回滚。

三、交付边界:服务端成功不等于用户体验成功

ChatGPT Ads 把“服务端交付广告”和“用户在界面上看到广告”分成两个事件。广告要赶上当前回复窗口,才能展示;如果迟到,就不展示,也不会让聊天等待。

这个设计看似只是延迟优化,实际上定义了一条产品原则:主功能的时延优先级高于增值功能。

对做推荐、搜索和广告系统的团队,这很值得借鉴。很多系统会把附加模块同步塞进主链路,最后导致主功能被一个非核心依赖拖慢。更稳妥的方式是旁路计算、超时即放弃,并用回执确认最终是否真正生效。

四、评估边界:模型评估模型,但人负责方向

OpenAI 用更强的模型评估广告交付结果,再训练执行检索和排序的模型;同时保留用户点击、隐藏、问卷和广告主反馈。模型负责扩大评估规模,人负责判断“什么算得体”。

这说明大厂 AI 系统并不是把判断全部交给模型,而是把模型放进一个持续反馈的闭环里。

五、可以马上借鉴的设计

  1. 为主链路和增值链路建立独立故障域。
  2. 把模型输出当作候选,不让它直接写最终业务状态。
  3. 为交付类操作设计回执,区分“发送成功”和“用户实际看到”。
  4. 用可观测日志记录每个阶段的失败原因,而不是只记录总成功率。

六、我的判断

ChatGPT Ads 的架构价值,不在于它是广告系统,而在于它示范了如何把大模型接入一个高流量、强合规、低延迟的核心产品:模型在旁路理解,业务服务做确定性判断,主回答链路保持独立。

这套模式可以迁移到推荐、风控、客服和 Agent 工具调用。越是核心业务,越不该让一个概率模型直接接管最终状态。

参考来源

说明:本文基于 OpenAI 官方工程文章进行架构分析,不涉及广告效果或商业收益的独立验证。