BestLLMfor
ストックにはログインが必要です
GPUに最適な239種類のローカルLLMを調べられる無料のオープンデータAPI
Artificial Intelligence
Developer Tools
GitHub
Open Source
概要
- 239種類のオープンウェイトモデルを、必要なVRAM、GPUごとの推定トークン生成速度、ライセンス、コンテキスト長などで比較できます。
- 86種類のGPUとMacに対応し、手元の環境でどのモデルが動作するかを判断するためのデータを一か所に集約しています。
- CC BY 4.0で利用できる無料JSON APIを、APIキーなし・CORS対応で公開しており、データの利用、キャッシュ、フォークが可能です。
主な機能
- MCPサーバーにより、Claude DesktopなどのMCPクライアントから「16GB VRAMに最適なローカルLLM」のように自然言語で検索できます。
- VRAM容量の計算、ローカル実行とAPI利用のコスト比較、量子化方式の推奨、環境構築予算、API費用の増加シミュレーションを行えます。
- 今後は、新モデルのリリースごとにベンチマーク環境で実測したトークン生成速度を追加し、コミュニティ投稿のベンチマークにも対応する予定です。
こんな人におすすめ
- 自分のGPUやMacのVRAMで動作するモデルを、複数のモデルカードやコミュニティ投稿を横断せず効率的に探したい人に適しています。
- ローカルLLMの導入前に、モデルの速度、量子化、ライセンス、必要なハードウェア、API利用との費用差を比較したい開発者に向いています。
- LLMを扱うエージェントやアプリケーションに、構造化されたモデル情報を無料APIやMCP経由で組み込みたい人にも活用できます。
投票数: 1