LLM Honeypot
ストックにはログインが必要です
LLM へのプロンプト注入とジャイルブレイク攻撃を罠にはめる
Artificial Intelligence
GitHub
Open Source
Security
全情報に基づく概要: LLM Honeypot は、プロンプト注入やジャイルブレイクといった LLM 攻撃に対し、攻撃を阻止する代わりに偽の環境を提供して攻撃者を誘導・欺くハニーポット型防御ツールです。攻撃手口を記録し、脅威情報の材料として活用します。週末プロジェクトとして始まりましたが、欺瞞の有用性に気づき、研究・実験用途へ拡張しました。ライブデモと GitHub リポジトリが公開されており、セキュリティ・AI コミュニティからのフィードバックを歓迎します。
投票数: 4