ModelNap

概要

• ModelNapは、Mac上で動作するOllamaやSplashをメニューバーから手軽に管理できる、無料かつオープンソースのネイティブアプリです。
• 使っていないモデルを一定時間後にメモリから解放し、必要になったときは次のメッセージに応じて自動的に再読み込みします。
• アカウント不要・テレメトリーなしで、ローカル環境を離れるデータ送信もありません。MITライセンスで提供されています。

主な特徴

• ワンクリック、または⌥⌘OのショートカットでOllamaをオン・オフ。Ollama.app、Homebrewサービス、ollama serveなど、起動時と同じ仕組みで停止します。
• アイドル状態のモデルを5〜60分後にアンロードし、モデルが長時間保持していた15〜20GB規模のメモリを解放できます。
• Splash（Inco AI）の制御と実メモリ表示にも対応し、必要に応じて先にOllamaのモデルを解放して空き容量を確保します。

こんな人におすすめ

• MacでOllamaなどのローカルAIモデルを使っており、使用後もモデルがメモリを占有し続けることに悩んでいる人。
• HomebrewサービスやLaunchAgentによってOllamaが意図せず再起動され、プロセス停止だけでは管理しにくい人。
• クラウドにデータを送らず、アカウント登録やテレメトリーのないオープンソース環境でローカルAIを運用したい人。