2026年7月11日土曜日

Ollama

今更、AIですが...
ChatGPTに少しだけ質問して、回答を読んで、おお!と思ったけど、その後は特に使ってない...って私だけでしょうか?
たぶんAIを使いまくって良さが分かるまで、かなりかかるんだと思います。でも、無料で使える範囲だと...

ローカル生成AIってあるんですが、お手軽に使えるのか?
そこで、家のPCで動くようにしてみました。

家のPCはDTMするのに購入したんですが、ゲームも快適に動けばいいなと思って選んだものです。
CrazyRaccoonって筐体に書かれてます。
3年以上前に購入したものです。
CPUは12th Gen Intel(R) Core(TM) i7-12700 (2.10 GHz)
メモリは64GB
GPUはNVIDIA GeForce RTX 3060 (12 GB)
ストレージはSSDが1TB
OSはWindows 11 Homeです。

どんなやり方でインストール(構築)したら良いか考えました。
1.PCをWin11とUbuntuのデュアルブートにして、Ubuntu上にインストール
2.Win11にOracle VirtualBoxをインストールしてUbuntu上にインストール
3.Win11のWSLのUbuntu上にインストール

3のやり方で、WSL上のUbuntuからGPUが使えると書かれてたので、これに決めました。

$ curl -fsSL https://ollama.com/install.sh | sh

ERROR: This version requires zstd for extraction. Please install zstd and try again: -
Debian/Ubuntu: sudo apt-get install zstd - RHEL/CentOS/Fedora: sudo dnf install zstd - Arch: sudo pacman -S zstd
「zstd」が必要と怒られたので、それをインストール
$ sudo apt-get install zstd

そして、再度
$ curl -fsSL https://ollama.com/install.sh | sh

正常にインストールされたのをバージョン表示で確認
$ ollama --version
ollama version is 0.30.6

次は、ローカルで動作させる生成AIのモデルをダウンロード
$ ollama pull gemma3:4b

ダウンロードが完了したら、以下のコマンドを実行
$ ollama run gemma3:4b
>>> Send a message (/? for help)

すると、もう、モデルと対話が可能に...
ローカル生成AIなんで、好きなだけAIと対話が出来ます。

0 件のコメント: