日韩黑丝制服一区视频播放|日韩欧美人妻丝袜视频在线观看|九九影院一级蜜桃|亚洲中文在线导航|青草草视频在线观看|婷婷五月色伊人网站|日本一区二区在线|国产AV一二三四区毛片|正在播放久草视频|亚洲色图精品一区

分享

ollama在windows系統(tǒng)上安裝總結(jié)以及注意事項(xiàng)

 宇宙之窗 2024-07-11 發(fā)布于福建

ollama官網(wǎng)
https:///
直接點(diǎn)擊下載,會根據(jù)你的系統(tǒng)自動下載相應(yīng)的版本。
在這里插入圖片描述
下載完之后,直接點(diǎn)擊安裝,默認(rèn)安裝到c盤。
安裝完之后就可以在命令窗口測試一下。
在這里插入圖片描述
ollama的常用命令如下:

ollama serve       啟動ollama
ollama create      從模型文件創(chuàng)建模型
ollama show        顯示模型信息
ollama run         運(yùn)行模型
ollama pull        從注冊表中拉取模型
ollama push        將模型推送到注冊表
ollama list        列出模型
ollama cp          復(fù)制模型
ollama rm          刪除模型
ollama help        獲取有關(guān)任何命令的幫助信息

安裝模型默認(rèn)都是安裝在c盤的,如果c盤空間不足可以指定安裝模型位置。
在系統(tǒng)變量中添加一個名為:OLLAMA_MODELS的變量名,路徑選擇一個合適的位置。
在這里插入圖片描述
設(shè)置好路徑之后,一定要重新啟動重啟,才能生效。
接下來就是拉去大模型,打開官網(wǎng)可以看到從ollama可以直接拉去的大模型:
在這里插入圖片描述
比如說我選擇llama3,點(diǎn)進(jìn)去之后,也可以選擇版本:
在這里插入圖片描述
然后拉去這個大模型的話,直接復(fù)制右邊的命令:ollama run llama3。
在命令窗口執(zhí)行就好了。如下,我安裝得不是llama3。
在這里插入圖片描述
這樣就安裝完成了。運(yùn)行:
在這里插入圖片描述
查看本地已經(jīng)安裝的模型:
在這里插入圖片描述
一定要注意,自己的電腦配置是否適合模型的大小。
注意:您應(yīng)該至少有 8 GB 可用 RAM 來運(yùn)行 7B 型號,16 GB 來運(yùn)行 13B 型號,32 GB 來運(yùn)行 33B 型號。
模型的大小如下:
在這里插入圖片描述
還可以安裝一些web和桌面程序來交互大模型,比如:
在這里插入圖片描述
github鏈接:ollama
比如說:Open WebUI
在這里插入圖片描述

    本站是提供個人知識管理的網(wǎng)絡(luò)存儲空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點(diǎn)擊一鍵舉報。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多