TokenTab
ストックにはログインが必要です
ベースURLを変えるだけで、顧客ごとのLLMコストを把握
Artificial Intelligence
Developer Tools
SaaS
概要
- SDKのベースURLをTokenTabのプロキシに変更するだけで、OpenAI・Anthropic・Geminiの利用コストを顧客単位で追跡できます。
- X-Customerや任意のX-Featureヘッダーをリクエストに付けることで、誰がどの機能で費用を発生させたかを可視化します。
主な特徴
- 顧客・機能・モデル別のレポートをコスト順に表示し、支出の大きい対象をすぐに確認できます。
- 前日の顧客別トークン使用量を毎日Stripe Billing Metersへ冪等的に連携し、従量課金の運用を効率化します。
- レスポンスは変更せず、使用量ブロックだけを読み取って料金表に基づき計算します。リクエスト本文は保存されません。
制限と料金
- 初期バージョンでは非ストリーミングリクエストのみ対応し、未知のモデルはトークン数を記録してもコストをゼロとして扱います。
- リクエスト本文は4MBまでに制限され、月10,000リクエストまでは無料、その後は100万件29ドル、1,000万件79ドルです。
投票数: 1