GitHub

概要

• アラビア語、Arabizi、英語で入力されるLLMへの攻撃を検知する、多言語対応のセキュリティゲートウェイです。
• プロンプトインジェクションやジェイルブレイク、フィッシング、Unicodeベースの攻撃など、複数の脅威をまとめて分析します。
• アラビア語話者4億人のLLM利用を想定し、従来十分に保護されてこなかった言語圏の安全性向上を目指します。

特徴

• 入力の埋め込みをアラビア語・Arabizi・英語のアンカーセットと比較し、3次元の特徴ベクトルとして脅威を分析します。
• 軽量なロジスティック回帰分類器を採用しているため、高速に動作し、GPUを必要とせず判断の根拠も説明できます。
• 単純な二値分類による誤検知を抑え、攻撃に関する学習目的の質問と悪意ある入力を区別しやすい設計です。

従来の防御が抱える課題

• 単一の脅威にしか対応できない仕組みでは、複数タイプの攻撃が組み合わされた入力を見逃す可能性があります。
• 英語中心の防御では、アラビア語やラテン文字で入力されたArabiziによる攻撃を正確に捉えられません。
• ブラックボックス型の判定では、なぜ危険と判断されたのかを利用者や運用担当者が確認できません。