Ollama(オラマ)は大規模言語モデル(LLM)をローカル環境で実行出来る、ランタイムプラットフォームです。
Mac/Windows/Linuxで実行できます。
モデルとしては下記の系統のもの等が使用できます。
Ollamaのインストール
Ollamaのサイト(https://ollama.com/)にアクセスし、「Download」をクリックします。
(キャラクターかわええ・・・)

対象のOSを選択してDownloadをクリックします。
(今回はmacOSなので「Download for macOS」をクリック)

ダウンロードされたOllama.dmgをインストール。

Ollamaの実行
起動すると画面が表示されます。

「gpt-oss:20b」と表示されている部分がモデル選択となり、リストから変更できます。

メッセージ初回入力時はモデルのダウンロードが行われるため、少し時間がかかります。

回答が返ってきました。時間は結構かかります。
自分の環境のスペックが低いこともありますが、ここはしょうがないですね。

※各モデルの詳しい情報は、OllamaサイトのModels(https://ollama.com/search)から参照することができます。


コメント