OLLM.COM

概要

OLL Mは機密コンピューティングチップ上にデプロイされた人気のLLMを厳選して提供する、プライバシー重視のAIゲートウェイです。ゼロ知識アーキテクチャによりデータの可視性・保持・トレーニング利用を一切行わず、処理中もデータは暗号化されたままです。TEE内で処理されたことを暗号的に証明する追加のプライバシー機構も搭載しています。

主な特徴

• 機密コンピューティング（Intel SGX/NVIDIA 等）を活用
• データは転送中・保存時・処理中すべて暗号化
• 要求処理の暗号証明を提供

実用ケース

• 銀行のリスク部門が機密データを保護したまま内部コパイロットで分析
• 医療機関が患者記録を機密環境内で要約
• 公共部門・Web3 がユーザー行動を分析しつつ、識別情報・プロンプト・出力をTEEsに封じて規制要件を満たす

現状とフィードバック

現状はMVP。機密コンピューティングチップ上にデプロイされた厳選されたオープンソースLLMをサポート。OSSモデルの不足点・動作課題・実際に使いたいモデルの要望を募集。