ollama官網(wǎng) https:/// 直接點(diǎn)擊下載,會根據(jù)你的系統(tǒng)自動下載相應(yīng)的版本。  下載完之后,直接點(diǎn)擊安裝,默認(rèn)安裝到c盤。 安裝完之后就可以在命令窗口測試一下。  ollama的常用命令如下:
ollama serve 啟動ollama
ollama create 從模型文件創(chuàng)建模型
ollama show 顯示模型信息
ollama run 運(yùn)行模型
ollama pull 從注冊表中拉取模型
ollama push 將模型推送到注冊表
ollama list 列出模型
ollama cp 復(fù)制模型
ollama rm 刪除模型
ollama help 獲取有關(guān)任何命令的幫助信息
安裝模型默認(rèn)都是安裝在c盤的,如果c盤空間不足可以指定安裝模型位置。 在系統(tǒng)變量中添加一個名為:OLLAMA_MODELS的變量名,路徑選擇一個合適的位置。  設(shè)置好路徑之后,一定要重新啟動重啟,才能生效。 接下來就是拉去大模型,打開官網(wǎng)可以看到從ollama可以直接拉去的大模型:  比如說我選擇llama3,點(diǎn)進(jìn)去之后,也可以選擇版本:  然后拉去這個大模型的話,直接復(fù)制右邊的命令:ollama run llama3。 在命令窗口執(zhí)行就好了。如下,我安裝得不是llama3。  這樣就安裝完成了。運(yùn)行:  查看本地已經(jīng)安裝的模型:  一定要注意,自己的電腦配置是否適合模型的大小。 注意:您應(yīng)該至少有 8 GB 可用 RAM 來運(yùn)行 7B 型號,16 GB 來運(yùn)行 13B 型號,32 GB 來運(yùn)行 33B 型號。 模型的大小如下:  還可以安裝一些web和桌面程序來交互大模型,比如:  github鏈接:ollama 比如說:Open WebUI 
|