Tokenwise
ストックにはログインが必要です
支払い過多の箇所を可視化するスマートなLLMプロキシ
Artificial Intelligence
Developer Tools
Analytics
概要
Tokenwiseは、OpenAI互換のbaseURLを使う1行のLLMプロキシです。クリエイターや小規模チーム向けに設計され、実際のリクエストから学習してどこで過払いが生じているかを可視化します。
特徴
- 自分のトラフィック上でコスト・レイテンシ・トークン・無駄を可視化
- 公開ベンチマークではなく自分のデータで検証
- 1クリックの修正で節約を実額で検証
使い方のポイント
- コードを1行追加するだけ、またはエージェントを向けるだけで導入完了
- 品質基準に合致した修正のみ適用されるため、コスト削減と出力品質の両立を実現
投票数: 121