Watchtower

概要

• AIエージェントが担当しているタスクに応じて、必要最小限の権限だけを与える仕組みを検証するオープンソースの実験的プロジェクトです。
• エージェントのタスクと能力を定義し、権限境界を生成したうえで、実行しようとする操作を許可・要確認・ブロックに分類します。

主な機能と特徴

• MVPでは、エージェントの権限設定や操作判定を試せるSecurity Labと、判定履歴を確認できる監査証跡機能を提供します。
• 認証バグの修正に必要なGitやテスト環境は許可しつつ、SSHキーや本番環境、決済機能など不要な資源へのアクセスを制限する考え方です。
• 現在のWeb上のセキュリティ判定はシミュレーションで、Linuxランタイム機能も実験段階にあります。

こんな人におすすめ

• 自律型AIエージェントの権限管理や、最小権限の原則を実行時セキュリティへ応用する方法に関心がある開発者に適しています。
• AIエージェントがタスクの範囲を超えて機密情報や本番システムへアクセスするリスクを、具体的なルールで検証したい人におすすめです。
• AIの安全な実行基盤を研究・開発しており、タスク単位の権限境界をどのように設計・強制すべきか試したい人に向いています。