Shoggoth
ストックにはログインが必要です
自分のハードウェアで動かすローカルAI:エージェント、バックエンド、AIOを一つに
Artificial Intelligence
GitHub
Productivity
User Experience
概要
- 自分のハードウェア上でローカルAIモデルを動かすための、Linux向けオールインワンUIです。
- チャットやAIエージェント、各種バックエンドをまとめ、複雑な初期設定をできるだけ簡単にします。
特徴
- 用途に合ったモデルを推奨してくれるため、数多くの選択肢を比較する手間を減らせます。
- llama.cpp、lemonade-server、Strataなどの実績ある技術を基盤に、無理のない初期設定で利用できます。
- Strataに対応し、QwenやGLMシリーズの高性能モデルもローカル環境で扱えます。
こんな人におすすめ
- コマンドライン操作や複雑な設定を避けながら、自分のPCでローカルAIを始めたい人に適しています。
- 複数のAIエージェントや実行基盤を比較する時間を減らし、わかりやすい環境で試したい人に向いています。
投票数: 0