TheModelVerse-Model Catalog & Benchmarks

概要

• 548種類以上の基盤モデルについて、パラメータ数やコンテキスト長、MMLU-Pro・HumanEvalなどのベンチマーク結果を横断的に比較できます。
• APIの実際のトークン料金とベンチマーク精度を照らし合わせ、性能とコストのバランスに優れたモデルを見つけられます。
• 広告なし・完全無料で、アカウント登録やAPIキーも不要。モデル選びに必要な情報を一か所で手軽に確認できます。

主な機能

• FP16／BF16、FP8、INT4、INT2の4段階の量子化に対応し、モデルの重みがストレージやVRAMをどれだけ占有するかを試算できます。
• 2,000〜100万トークンのコンテキスト長をスライダーで変更し、KVキャッシュのメモリ増加や生成中のOOMリスクを考慮して必要VRAMを計算できます。
• RTX 3060・4070・3090・4090、Apple Silicon搭載Mac、A100／H100など、手元のハードウェアで動作するかを即座に判定できます。

こんな人におすすめ

• 大容量のオープンウェイトモデルをダウンロードする前に、自分のGPUやMacで実行できるかを正確に確認したい開発者や研究者。
• 量子化形式やコンテキスト長の違いが推論時のメモリ使用量に与える影響を把握し、予期せぬメモリ不足を避けたい人。
• 複数のAIモデルについて、ベンチマーク性能だけでなくAPI料金も含めて比較し、用途に合う費用対効果の高いモデルを選びたい人。