GateKeep — Decision-Gate Routing Kit

概要

• 小型の意思決定モデルを使い、エージェントのツール呼び出しをミリ秒単位で判定・振り分けるルーティングキットです。
• 確信度の高い判断は低コストなモデルへ、不確かな判断は高性能なフロンティアモデルへ自動的にエスカレーションします。
• FastAPIベースの意思決定ゲートを既存スタックに組み込み、単純なYes/No判定にかかる推論コストを抑えます。

主な機能

• ゲーティング用ミドルウェアと3種類のルーティングポリシーを備え、エージェントの各ツール呼び出しを一貫したルールで制御できます。
• 予算超過やキルスイッチ発動時はフェイルクローズし、402エラーを返して処理を停止。未知のキーもブロックします。
• しきい値調整に使えるキャリブレーション手順書と、根拠を確認できる価格表がセットになっています。

こんな人におすすめ

• 単純な分類や許可・拒否判定まで高価なフロンティアモデルに任せ、推論コストの削減余地を探しているチームに適しています。
• AIエージェントのツール利用を安全に制御し、予算上限や停止条件を確実に適用したい開発者向けです。
• モデルのしきい値調整やフェイルクローズ設計を、手順書と価格データを参照しながら導入したいチームに役立ちます。