今更、AIですが...
ChatGPTに少しだけ質問して、回答を読んで、おお!と思ったけど、その後は特に使ってない...って私だけでしょうか?
たぶんAIを使いまくって良さが分かるまで、かなりかかるんだと思います。でも、無料で使える範囲だと...
ローカル生成AIってあるんですが、お手軽に使えるのか?
そこで、家のPCで動くようにしてみました。
家のPCはDTMするのに購入したんですが、ゲームも快適に動けばいいなと思って選んだものです。
CrazyRaccoonって筐体に書かれてます。
3年以上前に購入したものです。
CPUは12th Gen Intel(R) Core(TM) i7-12700 (2.10 GHz)
メモリは64GB
GPUはNVIDIA GeForce RTX 3060 (12 GB)
ストレージはSSDが1TB
OSはWindows 11 Homeです。
どんなやり方でインストール(構築)したら良いか考えました。
1.PCをWin11とUbuntuのデュアルブートにして、Ubuntu上にインストール
2.Win11にOracle VirtualBoxをインストールしてUbuntu上にインストール
3.Win11のWSLのUbuntu上にインストール
3のやり方で、WSL上のUbuntuからGPUが使えると書かれてたので、これに決めました。
$ curl -fsSL https://ollama.com/install.sh | sh
ERROR: This version requires zstd for extraction. Please install zstd and try again: -
Debian/Ubuntu: sudo apt-get install zstd - RHEL/CentOS/Fedora: sudo dnf install zstd - Arch: sudo pacman -S zstd
「zstd」が必要と怒られたので、それをインストール
$ sudo apt-get install zstd
そして、再度
$ curl -fsSL https://ollama.com/install.sh | sh
正常にインストールされたのをバージョン表示で確認
$ ollama --version
ollama version is 0.30.6
次は、ローカルで動作させる生成AIのモデルをダウンロード
$ ollama pull gemma3:4b
ダウンロードが完了したら、以下のコマンドを実行
$ ollama run gemma3:4b
>>> Send a message (/? for help)
すると、もう、モデルと対話が可能に...
ローカル生成AIなんで、好きなだけAIと対話が出来ます。
0 件のコメント:
コメントを投稿