Raven

概要

• チャットボットのシステムプロンプトを、実際の攻撃パターンで検証できるセキュリティスキャンツールです。
• ライブ環境のボットにAPIキーを接続することなく、プロンプト単体を貼り付けて即座に診断できます。
• スキャン結果として総合的なリスクスコア、攻撃タイプ別の内訳、改善に役立つ修正案を確認できます。

主な特徴

• プロンプトインジェクション、ジェイルブレイク、情報漏えいなど、OWASP LLM Top 10の6カテゴリーを対象にテストします。
• 明確な脆弱性には高速なパターンマッチング、曖昧な拒否応答にはローカル分類器を使うハイブリッド方式を採用しています。
• 無料・登録不要で利用でき、追加のLLM呼び出しに依存せず効率的にプロンプトの安全性を確認できます。

こんな人におすすめ

• AIチャットボットを公開する前に、システムプロンプトの漏えいや指示の突破リスクを手軽に確認したい開発者。
• OWASP LLM Top 10を基準に、プロンプトの安全性を体系的にテストし、具体的な改善点を把握したいチーム。
• 自分の攻撃ライブラリや検知精度を検証しながら、誤検知や未知の攻撃パターンを見つけたいセキュリティ担当者。