Open Source LLM Performance Tracker

LLM パフォーマンス トラッカーとは

LLM パフォーマンス トラッカーは、AI アプリのコールを監視するために設計されたオープンソースのテンプレートです。このツールは、Tinybird によって開発され、リアルタイムでのデータ分析を実現します。

主な機能

• バックエンド: LLM コールイベントを保存・処理するための Tinybird を使用
• フロントエンド: LLM メトリック（コスト、TTFT、リクエスト数など）を視覚化
• フィルタリング機能: 多様な次元でビジュアライゼーションをフィルタリング可能
• デプロイの簡便さ: Vercel/Tinybird に無料でデプロイが可能
• マルチテナンシー: Clerk を使用してユーザーごとの使用状況を管理可能

オープンソースコミュニティへの参加

このプロジェクトはオープンソースであり、プルリクエストを受け付けています。Tinybird の Slack コミュニティでは、質問にも答えてくれます。ご自身のアプリでの利用方法やアイデアの提案をお待ちしています。