過(guò)年我們也沒(méi)閑著,大年初一就來(lái)給大家更新一篇教程,零基礎(chǔ)小白也完全沒(méi)問(wèn)題! 想象一下:
以后就不用擔(dān)心了,因?yàn)镈eepseek R1登場(chǎng)了?。?/p> 想必這幾天Deepseek R1取得的成功已經(jīng)在各位的手機(jī)中刷屏了。它在許多方面追平了OpenAI o1!更重要的是,它輕量!!它還開(kāi)源?。?! 話不多說(shuō),如題所見(jiàn),我們直接開(kāi)始教大家在本地部署Deepseek R1!零基礎(chǔ)也完全沒(méi)問(wèn)題! 第一步:部署Deepseek R11.首先,搜索引擎搜索ollama,在官網(wǎng)上下載并安裝到電腦上 2.安裝完畢后,運(yùn)行cmd終端??梢暂斎胍韵旅畈榭磑llama是否安裝成功。成功的話,會(huì)顯示ollama的版本。 ollama -v 3.接著就可以用ollama下載部署deepseek啦。
我這里安裝的是7b,我的顯卡是筆記本版的3070ti,顯存是8G。運(yùn)行毫無(wú)壓力,反應(yīng)速度非??臁H供大家參考! 當(dāng)然,你的配置更好或者更差的話也可以選擇其他的模型。據(jù)說(shuō)1.5b模型,4G顯存就能跑;7b、8b的模型,8G顯存就能跑;14b 模型,12GB顯存能跑;32b 模型,24GB顯存能跑: ollama run deepseek-r1:1.5b 下載完后,發(fā)現(xiàn)出現(xiàn)了“>>>”,輸入文字就可以對(duì)話啦!
想使用更多指令,可以直接在中輸入 4.我們的目的是把deepseek接入Zotero,所以我們現(xiàn)在需要找到它的api。
找到了端口是11434 所以,我的API就是: http://localhost:11434(端口號(hào)) 只要本地啟動(dòng)了ollama服務(wù),我們就可以用這個(gè)API在內(nèi)網(wǎng)任意地調(diào)用我們部署的大模型啦。比如寫(xiě)進(jìn)VSCode的Cline插件中輔助寫(xiě)代碼~ 第二步:將部署好的Deepseek接入Zotero1.安裝Zotero的GPT插件?,F(xiàn)在Zotero中已經(jīng)有GPT插件了,使用比較廣泛的插件是Awesome GPT??梢栽凇癦otero中文社區(qū)”中搜到它,這里的下載安裝就不細(xì)說(shuō)咯 2.安裝好后,在Zotero中按 3.接著就是在召喚的界面中填入你的模型信息。
接著,在插件中輸入密鑰。因?yàn)槲覀冞@里沒(méi)有密鑰,所以直接敲一個(gè)空格按回車(chē)即可: /secretKey 接下來(lái)指定要用的模型:
最后根據(jù)deepseek r1的官方README的推薦,把temperature設(shè)置在0.5~0.7(推薦0.6)。 /temperature 0.6 這就配置好啦! 4.最后,可以在插件中查看配置的信息:
測(cè)試一下功能我輸入 非常迅速地得到了輸出結(jié)果: 蕪湖~~爽! |
|