Pengu.inc - Dialogue with uncensored AI

概要

PinguはAIエージェントの挙動をレッドチーミングで検証するツール。攻撃用テキスト/音声プロンプトなどの非構造化入力を用い、二値ベースの脆弱性検査だけでなく統計的アプローチを提供します。

背景

自動運転車に接触しかけた経験から、ニューラルネットの意思決定は二値ではなくリスクベースで変動します。

提供価値

• 非対称な脆弱性を検出
• 攻撃シナリオの網羅性を高める
• セキュリティ設計の改善を促す

対象

AIエージェントの開発・運用者

特徴

・非構造化入力を対象とする高度な攻撃シナリオ
・統計ベースのリスク評価
・既存のセキュリティ製品の前提を見直す設計思考