OpenAI DevDay:计算机使用代理与新开发者栈的进展

Latent Space3 天前

OpenAI DevDay 的两条主线:Computer Use 与开发者 API

这期 DevDay 相关访谈聚焦两组 OpenAI 团队:一组负责 Computer Use Agent(计算机使用代理),另一组负责 API 平台。讨论内容主要围绕两个方向展开:

  1. 计算机使用能力为何在近期发生明显变化
  2. OpenAI 新一代开发者栈如何支持更快、更实时的 Agent 应用

受访者包括负责 OpenAI Computer Use 产品与工程的 Ari Weinstein,以及 OpenAI API 产品团队的 Nikunj Handa。

Computer Use:从“会点操作”到更能调试与恢复

访谈中,Ari Weinstein 表示,Computer Use 与数月前相比已经“180 度不同”。这里的核心变化不只是模型能看屏幕、点击按钮,而是代理在操作软件时具备了更强的上下文理解、调试能力和失败恢复能力。

讨论中提到,现代 Computer Use Agent 不再只依赖单一截图,而是会结合多种信号:

  • 屏幕截图
  • 无障碍信息树
  • DOM
  • Playwright
  • 生成的 JavaScript 代码

这些信号共同帮助模型更准确地理解界面、定位元素、执行操作,并在失败后尝试修复路径。相比传统“看图点击”的方式,这种组合更接近一个带有浏览器自动化、程序化操作和视觉理解能力的混合系统。

每个 Agent 拥有自己的 Linux 电脑意味着什么

访谈还讨论了 Dots 以及“每个 Agent 拥有自己的 Linux computer”的概念。其意义在于,Agent 不只是调用 API 或执行孤立任务,而是拥有一个可持续工作的计算环境。

这可能让 Agent 更适合处理长流程任务,例如:

  • 打开和操作网页应用
  • 在多个工具间切换
  • 执行软件测试
  • 写代码后直接验证结果
  • 在失败时重新尝试或调试

文中提到,Computer Use 在某些任务上已经可以比普通人更快完成。团队也将下一阶段目标描述为让代理在软件使用上达到“literally superhuman”的水平。不过,这仍是受访者对方向的描述,并不等同于所有任务都已达到超人水平。

Computer Use 对软件开发的影响

一个重要场景是软件开发闭环:Agent 不只写代码,还能打开软件、运行流程、观察结果并进行测试。

这意味着 Computer Use 可以连接两个过去常分离的环节:

  • 编写软件
  • 实际使用和测试软件

如果代理能够在真实界面中测试自己生成的功能,就可能提升编码代理在质量验证、回归测试和 QA 场景中的实用性。

信任、权限与安全问题

当 Agent 能够操作网站、提交表单,甚至进行支付时,权限和安全边界会变得非常关键。访谈中提到,Agents API 相关设计需要处理信任、授权和安全问题。

这类问题包括:

  • 哪些操作需要用户确认
  • Agent 能否访问敏感网页或本地信息
  • 支付、提交、删除等高风险动作如何审批
  • 长时间运行的代理线程如何被监控和中断

这部分没有给出完整解决方案,但明确被列为开发者栈设计中的重点议题。

新开发者栈:让 Agent 更实时、更低延迟

访谈后半部分由 Nikunj Handa 介绍 OpenAI API 平台的新能力,重点包括:

  • 异步工具调用(async tool calling)
  • Mid-turn steering
  • WebSockets
  • UltraFast inference
  • Decisions API
  • Prompt caching
  • Cache pre-warming
  • Context compaction
  • Agents API

这些能力的共同目标,是让开发者构建更快、更实时、更稳定的 Agent 应用。

异步工具调用:模型不必等待工具完成

传统工具调用流程中,模型往往需要先停止生成,等待工具执行结果返回,再继续推理。异步工具调用的思路是让工具运行和模型推理更好地并行化。

这对 Agent 应用尤其重要,因为许多真实任务会调用多个慢工具,例如:

  • 浏览器操作
  • 数据库查询
  • 文件处理
  • 第三方 API
  • 外部自动化流程

如果模型每次都必须停下来等待,整体响应会变慢。异步工具调用试图减少这种阻塞。

Mid-turn steering、WebSockets 与实时控制

访谈还提到 mid-turn steering 和 WebSockets。它们与实时交互、持续控制有关。

在更实时的 Agent 架构中,开发者可能希望在模型生成或执行过程中插入新的指令、调整方向,或者持续接收状态变化。WebSockets 则有助于建立更低延迟的双向通信。

这对实时计算机控制、语音交互、快速工具调用等场景都有意义。

UltraFast inference:降低前沿模型延迟

OpenAI 还讨论了 UltraFast inference,即推动前沿模型向更低延迟方向发展。低延迟对 Agent 体验很关键,因为 Agent 往往不是一次性回答问题,而是持续观察、决策、调用工具、等待反馈、再决策。

如果每一步都延迟较高,完整任务体验会明显变差。因此,更快推理、缓存、预热和更高效的上下文管理会成为 Agent 基础设施的重要组成部分。

Decisions API:面向实时决策的接口

访谈特别讨论了 Decisions API。根据介绍,它用于让应用进行实时决策,例如:

  • 内容分类
  • 请求路由
  • 选择下一个 Agent 动作
  • 支持工单分类
  • 内部工作流判断

文中提到,当前 Decisions API 暂时是基于 GPT-6 Luna 的封装,但团队认为复制优秀模式并快速产品化是有价值的。

受访者还强调,Decisions API 不只是“低延迟结构化输出”。它更像是面向开发者的高层决策原语,让应用能以更简单方式把模型判断嵌入实时系统。

Prompt caching、预热与长线程压缩

开发者栈中还包括与性能和成本相关的能力:

  • 更长的 prompt caching
  • cache pre-warming
  • cache-aware applications
  • server-side compaction
  • manual compaction

对于长时间运行的 Agent 来说,上下文会不断增长。如果所有历史都原样保留,成本和延迟都会上升。上下文压缩可以帮助系统保留关键状态,同时降低后续调用负担。

访谈区分了服务端压缩与开发者手动压缩:前者由平台自动处理,后者则让开发者根据业务需求自行控制摘要和记忆结构。

Agents API 与“AI Cloud”方向

最后,讨论延伸到 Agents API 与 OpenAI 作为“AI cloud”的定位。核心问题是:哪些能力应该由 OpenAI 的高层 API 提供,哪些应该留给开发者自己的 harness?

可以放入平台层的能力包括:

  • 工具调用管理
  • 长线程状态
  • 权限与安全控制
  • 上下文压缩
  • 缓存与预热
  • 多步骤 Agent 执行

而开发者可能仍希望保留对业务逻辑、工具编排、状态管理和用户体验的控制。

这反映出 OpenAI 正在从“模型 API”向更高层的 Agent 基础设施演进:不只是提供模型调用,而是提供构建智能应用所需的执行、决策、记忆和实时交互组件。

主要讨论点概览

  • Computer Use 在近期被认为出现显著进展
  • Agent 可以结合截图、无障碍树、DOM、Playwright 和生成代码操作软件
  • 代理正在增强调试和失败恢复能力
  • Dots 与个人云电脑让 Agent 拥有持续运行环境
  • Computer Use 可用于编码、测试与 QA 闭环
  • Agents API 需要处理信任、权限与安全问题
  • 异步工具调用减少模型等待工具的阻塞
  • Mid-turn steering 与 WebSockets 支持更实时的 Agent
  • UltraFast inference 面向更低延迟的前沿模型体验
  • Decisions API 用于分类、路由和实时决策
  • Prompt caching、预热和上下文压缩改善性能与成本
  • OpenAI 正在探索模型 API 之上的更高层 AI 云原语
评论

请登录后发表观点

暂无数据