zn
ストックにはログインが必要です
zn:AIエージェント向けローカル・プロンプトインジェクション防御ゲート — Rust + MCP
Artificial Intelligence
GitHub
Open Source
Security
概要
- znは、検索結果やスクレイピングしたページなどの信頼できない入力とAIエージェントの間に配置する、ローカル実行型のプロンプトインジェクション対策ゲートです。
- 入力を外部へ送信せず、MCP対応クライアントから接続して利用できます。ツール権限を持つモデルへ悪意ある指示が届く前に検査します。
主な特徴
- 構造的な攻撃を判定する決定論的ルールと、ルールでは捉えにくい言い換えを検出する小規模ニューラル分類器を融合しています。
- LLM呼び出しを処理のクリティカルパスに置かず、CPU上の中央値5ミリ秒未満で動作。RustとMCPを基盤に、高速性と導入しやすさを両立しています。
- 217件のベクトルを用いた評価を事前に固定し、FPR 1.27%、FNR 9.42%を公開。比較対象の結果も併記し、検証可能な形で性能を示しています。
こんな人におすすめ
- 検索・取得データ、Issueタイトル、Webページなど、外部由来のテキストをAIエージェントへ渡している開発者に適しています。
- ツール実行権限を持つエージェントを、外部APIやクラウドへプロンプトを送らずに保護したいチームに向いています。
投票数: 1