LLMWatch

概要

• LLMWatchは、アプリとOpenAIの間に位置するプロキシです。1行のコード変更で、すべてのリクエストをコスト・レイテンシ・トークン内訳とともに自動記録します。
• 請求額が膨らむ前に、メールでアラートを受け取ることができ、予算管理をサポートします。
• 導入はわずか1行の変更で済み、既存のコードベースを大きく崩すことなく利用可能。作者の体験談に基づく実用的なツールで、LLMsを使う開発者のフィードバックを歓迎しています。