ModelPointer logo

ModelPointer

エンタープライズ向けLLMインフラストラクチャのオープンソースAIゲートウェイ

Artificial Intelligence GitHub Open Source API

ModelPointerはエンタープライズLLMインフラを想定したオープンソースのAIゲートウェイです。Rust製で高性能を追求し、モデル認識型ルーティング、APIキー管理、RPM/TPMレート制限、観測性を標準搭載しています。従来のAPIゲートウェイや単純なLLMプロキシを超え、信頼性と運用性を両立。複数プロバイダ(OpenAI、Anthropic、Gemini、DeepSeek、Qwen、セルフホスト)を一元管理する中核レイヤーとして設計され、ハイブリッドクラウド対応でローカル容量が尽きた際には自動的にクラウドへバーストします。

投票数: 1
← 投稿一覧に戻る