Guardana

概要

GuardanaはAIシステム全体を対象とするオープンソースのセキュリティ検証フレームワークです。組み込みの47チェックに加え、YAML/Pythonルールやカスタム評価器・ターゲットを追加して、プロジェクト固有のリスクに対応します。

主な機能

• ビルド時セキュリティ: モデルファイル、リポジトリ、依存関係、プロンプト、テンプレート、サプライチェーンのリスクをスキャン
• ランタイム検証: 実運用中のモデルやエージェントをプロンプトインジェクション・ジャailbreak・ツール脆弱性などから検証
• MCPセキュリティ: MCPサーバーの認証・ツール表面の検証
• 実行トレース分析: モデル呼び出し・ツール・リトリーブ・権限・ memory 等の挙動を分析
• セキュリティ回帰テスト: リリース間の比較でセキュリティ低下を検出
• 拡張性: 独自ルール・評価器・ターゲット・プライベートパックを作成可能

アーキテクチャと運用

• CLI/pytest/CI/CD/スケジュール健康チェックから利用可能
• 自前のセキュリティロジックで拡張可能
• ローカル実行・自社ホスティングに適した設計

目的

• アプリケーションに合わせた柔軟なセキュリティ適用
• デプロイ前後でのセキュリティゲート運用を支援