OpenAI WebSocket Mode for Responses API

概要

継続的なAIエージェントを実現する WebSocket モード。従来は毎ターン全文脈を再送信していたが、増分入力のみを送ることで重いツール呼び出しのワークフローでエンドツーエンドのレイテンシを最大40%削減します。

主な特長

• 一つの持続的接続 /v1/responses。ターンごとに新しいHTTPハンドシェイクは不要
• 増分入力のみ送信、全文脈を送らない
• セッション状態はメモリ内に保存、前回の続きから再開
• 複雑なタスクで約39%高速、最良ケースで50%
• サーバーサイド圧縮と併用で長時間実行可能

対象ユーザー

• 反復的なツール呼び出しを含むエージェント型コーディングツールを運用するチーム
• コンピュータ利用・ブラウザ自動化のループ
• 遅延がユーザー体験の品質に影響するオーケストレーションシステム

注意点

• 短いタスクでは WebSocket ハンドシェイクによる若干の TTFT オーバーヘッドが発生します。重いワークロードでの効果が大きくなるため、ユースケースを事前に見極めて適用してください。