ngrok AI Gateway

概要

ngrok.ai は、公開プロバイダ・カスタムエンドポイント・自分で運用するモデルを1つのホスト型ゲートウェイで管理するプラットフォームです。1つのURLと1つのキーで OpenAI・Anthropic・セルフホストを横断してルーティングし、観測性・アクセス制御・フォールバックを組み込み済み。プライベートモデルは ngrok のネットワーク経由で公開網へ露出しません。

主な機能

• セルフホストモデルをプライベート接続
• ゲートウェイ内でフォールバックを定義
• クレジットを使ってリクエスト
• 既存プロバイダキーの利用
• アプリ/開発者ごとにアクセスを制御
• 全体の使用状況を一元可視化
• ダッシュボードまたは API で管理

対象

モデル戦略を変えるたびに新たなインフラを作らずに済ませたい開発者・プラットフォームチーム