TokenTab logo

TokenTab

ベースURLを変えるだけで、顧客ごとのLLMコストを把握

Artificial Intelligence Developer Tools SaaS

概要

  • SDKのベースURLをTokenTabのプロキシに変更するだけで、OpenAI・Anthropic・Geminiの利用コストを顧客単位で追跡できます。
  • X-Customerや任意のX-Featureヘッダーをリクエストに付けることで、誰がどの機能で費用を発生させたかを可視化します。

主な特徴

  • 顧客・機能・モデル別のレポートをコスト順に表示し、支出の大きい対象をすぐに確認できます。
  • 前日の顧客別トークン使用量を毎日Stripe Billing Metersへ冪等的に連携し、従量課金の運用を効率化します。
  • レスポンスは変更せず、使用量ブロックだけを読み取って料金表に基づき計算します。リクエスト本文は保存されません。

制限と料金

  • 初期バージョンでは非ストリーミングリクエストのみ対応し、未知のモデルはトークン数を記録してもコストをゼロとして扱います。
  • リクエスト本文は4MBまでに制限され、月10,000リクエストまでは無料、その後は100万件29ドル、1,000万件79ドルです。
投票数: 1
← 投稿一覧に戻る