WebPizza AI - Private PDF Chat logo

WebPizza AI - Private PDF Chat

POC:WebGPU のみを用いたブラウザ内完結のプライベートPDF AI

Artificial Intelligence GitHub Open Source Privacy

プロダクト概要

  • ブラウザ内で完結するRAGパイプライン(PDF→埋め込み→ベクトル検索→LLM)を実装
  • WebGPUとWebLLMによるローカル推論、サーバー依存ゼロ
  • PDFはIndexedDBにローカル保存、モデルはキャッシュ後オフライン動作
  • 複数モデル対応(Phi-3/Mistral/Llama/Qwen)、WeInfer による約3.7倍の高速化
  • オープンソース・監査可能
投票数: 7
← 投稿一覧に戻る