LLM Observatory

概要

LLM Observatoryは Claude/OpenAI API の利用をリアルタイムで監視するツールです。呼び出しごとにトークン数・コスト・レイテンシを追跡し、遅延オーバーヘッドはゼロ。オープンソースでセルフホスト可能、マルチテナント対応。WebSocketダッシュボード、予算アラート、Discord通知、データエクスポートを統合済み。

特長

• すぐに組み込める SDK ラッパー（Node.js + Python）
• Claude/OpenAI の全呼び出しを横断監視
• リアルタイム可視化とコスト管理
• セルフホスト・マルチテナント対応
• ダッシュボード、通知、データエクスポートを提供