Rakshak by KalpitLabs

概要

RakshakはLLM APIの前段に置くガードレール機構。入力をブロックし、出力の漏洩を赤字化して守る。

特徴

• 3段階パイプライン（パターン検出、意味的類似性、LLM分類器）
• どのLLM APIにも対応、統合は1時間未満
• インドの言語環境に適応した設計（英語のみのガードレールに留まらずヒンディー語・ウルドゥー語対応を想定）

背景と意義

インドのAI製品で発見したシステムプロンプト抽出、プロンプトインジェクション、ガードレール回避といった脆弱性を受け、標準的な入力セキュリティ層の欠如を埋める目的で開発。

活用の見通し

インドを含む全てのLLM展開での実装を想定。edgeケースの報告やディスカッションを歓迎。