助手开始「主动干活」:从一问一答转向持续执行
OpenAI 发布 dots,强调可以持续推进复杂任务的主动型助手;同期 Anthropic 和 OpenAI 的企业案例都指向同一件事。请求—响应式的调用方式正在让位于能自己往下走的代理。
9 月 29 日,OpenAI 发布 dots,定位是能够持续推进复杂任务和日常事务的主动型助手。同一天发布的 DevDay 汇总里,“proactive” 这个词反复出现。
企业侧的案例也在同一时间落地:10 月 1 日 Anthropic 宣布 Barclays 计划扩大 Claude 的使用范围以改造运营流程和服务体验;OpenAI 同日提到 The Den 用 ChatGPT Work 每周腾出 10 到 15 小时。
形态上的变化
过去的集成模型很清楚:你的代码发一个请求,模型回一个响应,然后结束。“主动助手”打破的是这个边界——任务不再是一次调用,而是有状态的持续推进。
这带来三个直接的工程后果:
- 状态变得重要。 任务跨多个回合,失败之后要能从上次的位置继续,而不是从头再来。
- 失败更贵。 一个跑了几分钟的代理任务,因为上游一次 429 就整体作废,代价比单次问答高几个数量级。
- 成本变得可预测才有用。 代理循环会消耗大量 token,事先不知道花了多少就很难敢开自动执行。
对自建网关的意义
Free Router 在响应头发出之前才重试,输出一旦开始就不重放——这个规则原本是为了避免重复内容,在代理场景下变成了避免重复工作。
配合多 Key 轮询与按错误类型冷却,一个跑长时间的代理任务可以在限流发生时切到另一个 Key 继续,而不是整段失败。对照其他方案,这也是“自己握在本地网关里”的一个具体理由:上游怎么调度你看不见,但重试边界、冷却时长、切换时机都可以自己定。