N0X
ストックにはログインが必要です
ブラウザ内で任意のLLMを実行 — オフライン、プライベート、クラウド不要。
Artificial Intelligence
Developer Tools
GitHub
Product Hunt
概要
- ブラウザ内で任意のLLMをオフライン、プライベート、クラウド不要で実行できるソリューション。
- ローンチ後、ツールを自動で実行する ReAct エージェントを追加。ウェブ検索・Python・ドキュメント・画像生成を連携して操作可能。
- BM25 とベクトル検索を RRF/MRR による再ランキングと組み合わせたハイブリッドRAG。ベクトルのみより高いリコールを達成。
- 複雑さに応じてローカルとクラウドを自動ルーティング。Chrome AI(Gemini Nano、ダウンロード不要)はWebGPU、Ollama、OpenAI互換エンドポイントと共存。
- セッションを跨ぐ意味論的メモリを保持。GPUレベルの検出でデバイスのOOMを防ぐモデルをブロック。
投票数: 3