Lupine

概要

• Lupineは、既存のPyTorch・JAX・TensorFlowコードを変更せずにGPUをオンデマンド利用できるCUDAシムです。
• 自社環境内のGPUを複数マシンから1つのフリートにまとめ、ジョブの開始と終了に合わせて柔軟に稼働させられます。
• プライベートクラウドや完全なエアギャップ環境で利用でき、モデルやデータを自社ネットワーク内に保持できます。

主な特徴

• ジョブ到着時にGPUを起動し、処理完了後は即座に解放。アイドル時間ではなく、実際の計算量に応じたコスト管理が可能です。
• サーバー管理なしで大規模な推論を実行でき、導入は2つのコンテナで完了。複雑なコントロールプレーンも必要ありません。
• ファインチューニングや分散学習にも対応し、必要なときだけGPUを確保して100台以上へスケールできます。

こんな人におすすめ

• GPUを保有しているものの稼働率が低く、予約済みの計算資源に継続的な費用を支払っているチームに適しています。
• PyTorch、JAX、TensorFlowの既存コードや運用環境を変えずに、推論やモデル学習を柔軟に拡張したい開発者に向いています。
• 機密性の高いモデルやデータを外部クラウドへ送らず、自社設備や閉域ネットワーク内でGPU計算を行いたい組織に適しています。