OpenBench

OpenBenchは、ローカルLLMの性能をデスクトップ上でオープンソースとして比較・評価するツールです。実ワークロードを実行しながら、トークン速度、TTFT、VRAM使用量、GPU温度、コンテキスト性能、応答品質など複数指標を同時にモニタリングします。Rust/TAuri/Reactで構築され、将来的にはコンテキスト検証・カスタムデータセット・LLMをジャッジとして活用する機能を拡張予定。第一版はまだベストなベンチマーク法を確立していませんが、使い勝手やニーズをフィードバックとして集め、次の機能開発へつなげたい意図です。