FreeGate

概要

• 複数の無料LLMプロバイダーを一つのOpenAI互換エンドポイントにまとめ、サービス停止や利用上限到達時も自動で別プロバイダーへ切り替えます。
• MITライセンスのオープンソースとして、npmまたはDockerから導入でき、環境を問わず運用しやすいLLM接続基盤を提供します。

主な特徴

• Groq、Mistral、Gemini、NVIDIA NIM、OpenRouter、ZAIなど13以上のプロバイダーに対応し、特定サービスへの依存を抑えられます。
• サーキットブレーカー、プロバイダー状況やRPM・上限を確認できるダッシュボード、重複実行を防ぐディスクキャッシュを備えています。
• opencode、Cursor、独自スクリプトなど、OpenAI互換APIに対応する既存のクライアントからそのまま利用できます。

こんな人におすすめ

• LLMの利用料金を抑えつつ、各サービスの無料枠を効率よく活用したい個人開発者や小規模チームに適しています。
• 一つのLLMプロバイダーの障害やレート制限でアプリが停止するリスクを減らし、安定した推論環境を構築したい人に向いています。