Adversarial Prompt Lab

概要

• AIエージェントを実際に攻撃して挙動を観察し、防御を有効化したうえで再攻撃する流れにより、攻撃と対策の関係を直感的に学べます。
• 12種類の実践的なセキュリティ実験を収録し、AIエージェントに潜む代表的な脆弱性を安全な環境で検証できます。

主な特徴

• プロンプトインジェクション、MCPツールポイズニング、過剰な権限、RAG／メモリポイズニング、ゼロクリック情報流出などを体験できます。
• 処理はすべてクライアントサイドで実行され、自分のAPIキーを使用する設計です。バックエンドやテレメトリーはなく、実際の秘密情報ではなく無害なカナリアを使います。

こんな人におすすめ

• AIエージェントの安全性を実践的に学びたいセキュリティ研究者、AIエンジニア、レッドチーム担当者に適しています。
• エージェントを開発・運用しており、どのような攻撃が起こり得るのか、また防御によって挙動がどう変わるのかを確認したい人におすすめです。