TokenProxy
ストックにはログインが必要です
超高速 Rust ゲートウェイで LLM の出費を抑える 🦀
Artificial Intelligence
Developer Tools
SaaS
概要
TokenProxy は、リアルタイムに AI コストを抑制する高速 Rust ゲートウェイです。リアルタイムのハードリミット、BYOK、個別キーでの granular control、1つの OpenAI 互換エンドポイントで GPT-4 / Claude 3.5 にアクセス可能、レイテンシーゼロのオーバーヘッドを実現します。
主な特徴
- リアルタイムで予算を適用
- BYOK(自前キーの安全な利用)
- 開発者/プロジェクトごとの個別リミット
- Claude + OpenAI を1エンドポイントで切替
- Rust 製で高速&安全
使い方の利点
- 請求ショックを抑制
- コストのリアルタイム可視化と制御
- セキュアなキー管理と権限分離
現在の状況
アーリーアクセス中で、ダッシュボード機能を最終調整中
投票数: 0