Unplug AI
ストックにはログインが必要です
LLMアプリケーションを攻撃から守るセキュリティレイヤー
Artificial Intelligence
GitHub
Open Source
Security
概要
- Webページ、メール、アップロードファイルなど、エージェントが読み込む外部コンテンツに潜むプロンプトインジェクションを検知します。
- 入力全体を破棄せず、悪意のある命令部分だけを特定して除去し、必要な情報を活用できる状態に保ちます.
主な特徴
- ユーザー入力・取得データ・ツール出力の出所を追跡し、テキストだけでなくエージェントのツール呼び出しや実行アクションも監視します。
- APIキーの外部送信などの危険なツール操作はレビュー対象にし、破壊的なコマンドは明確にブロックできます。
- 完全オフラインで運用でき、データをインフラ外へ出さず、ローカルMLモデルによる検知にも対応します。
こんな人におすすめ
- Webやメール、ファイルを参照するAIエージェントを運用し、外部コンテンツ経由の乗っ取りや情報漏えいを防ぎたい開発者。
- 有用な入力を丸ごと遮断する従来のガードレールではなく、攻撃箇所だけを除去して処理継続したいチーム。
投票数: 3