GitHub

概要

信頼性と安全性を重視したエージェント開発を支援するツール。クラウドの最先端モデルの挙動を人任せにせず、内部を観察可能な機能で不正な挙動を検出・抑制します。

何が特徴か

• エージェントが誤ったツールを呼ぶ、望ましくない指示に従うのを抑制
• モデル内部を見られるツール群をエージェント開発者にも提供
• AI研究者でなくても挙動の制御・安全性の評価が可能

目指す価値

広い開発者コミュニティで信頼性の高いAIツールを普及させ、デプロイ時のリスクを低減