Witness
ストックにはログインが必要です
証拠・推論・AIの出力を明確に区別する。
Artificial Intelligence
Developer Tools
Open Source
概要
- 観測された事実、そこから導いた推論、AIなどが生成した内容を別々の記録として管理し、両者が同じように権威的に見える問題を抑えます。
- 各記録の内容、前提、採用した手法、反証条件を確認でき、結論に至るまでの手順をローカル環境で追跡できます。
- Rust/CargoとPython 3で動作する試作版で、モデルAPIキーは不要。INSTALL.mdの合成デモから安全に試せます。
主な機能
- CLI、REST API、GraphQL API、ブラウザダッシュボードを通じて、証拠記録とその関係をさまざまな方法で確認できます。
- コンテンツ識別子、ハッシュ、任意の署名に対応し、欠落した記録を参照する推論を拒否するなど、記録の整合性を検査します。
- 署名データは表示できますが、現行ダッシュボードは読み取り時の署名検証には未対応で、機構の限界も明示されています。
こんな人におすすめ
- 研究者や開発者など、観測・解釈・生成結果を分離し、証拠がどのように結論へつながったかを自分で監査したい人に向いています。
- 再現可能な実験や証拠管理の仕組みを検討し、成功だけでなく失敗や不確定な結果も含めて公開したいチームに適しています。
- ハッシュや署名を真実性の証明と誤解せず、証拠履歴を既存のワークフローへ組み込む前に、限界まで含めて評価したい人に適しています。
投票数: 0