iwant

概要

• GCPの複数リージョンから空きGPUを自動的に探し、オープンモデルの実行環境を素早く構築できるCLIツールです。
• モデルごとのハードウェア要件やサービング設定を意識せず、必要な構成でモデルを自分のクラウドアカウント上に展開できます。

主な特徴

• マシンのプロビジョニング、モデルウェイトのダウンロード、vLLMの設定を一連の処理として自動化します。
• 構築後はOpenAI互換のAPIエンドポイント、APIキー、SSHアクセスが提供され、既存のツールやワークフローから利用できます。
• --dry-runで実行計画を確認でき、不要になったクラスターはiwant downで削除できます。

こんな人におすすめ

• DeepSeekやKimiなどのオープンモデルを試したいものの、GPUの確保や推論サーバー構築に時間をかけたくない開発者。
• GCPのクレジットやGPUクォータを活用し、自分のクラウドアカウント内でモデルを運用したいチーム。