原生异步工具与steer是什么

原生异步工具让模型在工具未完成时继续处理独立工作,steer允许用户在响应进行中追加要求;取消、回滚与状态一致性仍需运行时负责。

要点

  1. 按来源所引Responses API文档,function/custom工具设async: true,完成后按原call_id回传;模型协议层的异步不同于服务端async def。
  2. 并行调用是多个工具一起执行,未必允许模型边等边做;Background mode是模型响应后台生成。异步不消除依赖,测试完成前不能宣称通过。
  3. steer经Responses API的WebSocket发送response.steer,指定目标响应和补充消息;accepted仅代表更新入队,不代表已经执行。
  4. 更新在当前输出项及运行中的托管工具工作完成后进入后续响应,缺客户端结果或审批时可能等待;既有输出和动作不会被改写或撤销,已启动工具也不会自动取消。
  5. 运行时需跟踪任务状态、call_id、超时、失败与重复回传;测试结果绑定代码版本,需求变化后识别过时结果和待取消任务,提交等动作执行前重新核验授权。
  6. https://developers.openai.com/api/docs/guides/async-tool-calling;https://developers.openai.com/api/docs/guides/steering

来源