AnchorShell Relay logo

AnchorShell Relay

エージェントやチームのための、高速で柔軟なスマートAIルーティング

Artificial Intelligence Developer Tools GitHub API

概要

  • AnchorShell Relayは、エージェントやアプリとAIモデルの間に入り、リクエストの内容に応じて最適なモデルやプロバイダーへ振り分けるAIゲートウェイです。
  • 単なるプロキシではなく、モデル選択からキュー処理、制限管理、障害時の切り替え、利用状況の可視化まで担う運用コントロール層として設計されています。

主な特徴

  • 数百種類のモデル経路に対応し、内蔵の超高速分類器やLayaなどのSystem Oneモデルを使って、リクエストを数ミリ秒で分類・ルーティングします。
  • RPMを考慮したリクエストペーシングやキュー優先スケジューリング、制御可能なフォールバックにより、プロバイダーの上限超過や障害の影響を抑えます。
  • ルーティング判断、レイテンシ、トークン数、コストをリアルタイムに追跡でき、エージェント運用における性能と支出を把握できます。

こんな人におすすめ

  • 複数のAIモデルやプロバイダーを使い分け、リクエスト内容・性能・コストに応じて自動的に送信先を切り替えたい開発チームに適しています。
  • エージェントの本番運用で、プロバイダーのレート制限、障害時のフォールバック、キュー制御を一元管理したい人に向いています。
  • ホステッド版に加えて、Communityエディションをnpxコマンドでローカル実行できるため、自己ホストや公開リポジトリを重視する開発者にも適しています。
投票数: 6
← 投稿一覧に戻る