Vidai

概要

Vidaiはゲートウェイの境界を拡張する1つのRustバイナリです。コスト割当・inline policy・監査を同時に実行します。提供ベンダー・フレームワークに依存せず、外部通信なし。無料コミュニティ版はCPUがあればどこでも動作。21,803 RPS、中央値1.95ms、規制準拠はISO/IEC 42001 SoA、EU AI Act 12条、DORA、GDPR 44条。

特徴

• 1つのバイナリで7機能を統合
• ネイティブ翻訳をプロキシ経路に組み込み
• 同一リクエストでコスト割当・ポリシー・監査を取得
• ハイパースケーラー級の効率性・低遅延・低ハードウェア要件
• ベンダー非依存・フレームワーク非依存・外部通信不要

アーキテクチャ/実装のポイント

Rustで実装され、Anthropic/OpenAI間のネイティブ変換をサポート。ベンチマークや比較記事も公開。監査証跡は初回リクエストから生成され、ISO/IEC 42001等の準拠に整合。

参考・リソース

ブログ・比較・ベンチマーク・VidaiMockのリンクを参照。