AIVory Smart Inference

概要

Smart Inferenceは、同じモデルを提供する最も安いプロバイダへリアルタイムでLLM呼び出しをリルーティングする従量課金ソリューション。1エンドポイントで50以上のモデルをサポート。スポット価格を常時更新、最安順に選択。開始は$10、クレジット期限なし、サブスクなし。中央値約30%の節約、オープンウェイトモデルで最大89%。セルフホストも可能、1クリックでスポットGPUを展開し同エンドポイント経由で利用。

特徴

• 1エンドポイントでGPT/Claude/Gemini/Llamaほか
• 料金比較ダッシュボード
• 従量課金、席数なし

補足

AIVory Guard/Architectと同じバックエンドだが、Smart Inferenceは独立して提供開始