RunLLMLocal

概要

• 使用しているNVIDIA、AMD、IntelのGPUやApple Siliconのチップを選択し、手元の環境で動かせる人気のオープンAIモデルを確認できます。
• モデルごとに、快適に動作するか、オフロードが必要か、メモリ不足で実行できないかを分かりやすく分類します。

主な特徴

• ダウンロードすべき量子化形式、必要なメモリ容量、推定実行速度をモデルごとに表示し、導入前の判断をサポートします。
• VRAMや量子化の基礎、GPU選びに関するガイドも用意されており、ローカルAI環境の構築に役立ちます。
• 無料・アカウント登録不要で、専用ソフトをインストールせずブラウザから手軽に利用できます。

こんな人におすすめ

• 手持ちのPCやMacで、どのローカルAIモデルを実行できるのか事前に確認したい人に適しています。
• GPUの購入やアップグレードを検討しており、VRAM容量とモデルの動作性能の関係を比較したい人に向いています。