LLM Honeypot logo

LLM Honeypot

LLM へのプロンプト注入とジャイルブレイク攻撃を罠にはめる

Artificial Intelligence GitHub Open Source Security

全情報に基づく概要: LLM Honeypot は、プロンプト注入やジャイルブレイクといった LLM 攻撃に対し、攻撃を阻止する代わりに偽の環境を提供して攻撃者を誘導・欺くハニーポット型防御ツールです。攻撃手口を記録し、脅威情報の材料として活用します。週末プロジェクトとして始まりましたが、欺瞞の有用性に気づき、研究・実験用途へ拡張しました。ライブデモと GitHub リポジトリが公開されており、セキュリティ・AI コミュニティからのフィードバックを歓迎します。

投票数: 4
← 投稿一覧に戻る