大家好，我是在管理咨詢(xún)行業(yè)工作超10年的顧問(wèn)輕舟，擁抱AI，效率賦能。

最近比較忙，有半個(gè)月沒(méi)使用扣子Bot平臺(tái)開(kāi)發(fā)智能體了。今天打開(kāi)扣子，發(fā)現(xiàn)跟上個(gè)月大不一樣。一轉(zhuǎn)眼，好幾個(gè)知名的大模型又、雙、叒接入到扣子了。字節(jié)做事情，真的是迅速，一個(gè)字：服。

國(guó)內(nèi)的扣子以前只有云雀（現(xiàn)在的豆包）大模型，但是海外版的扣子可以介入chatGPT，所以一直被詬病國(guó)內(nèi)版本。但自從接入了Kimi，就強(qiáng)大了很多?，F(xiàn)在又增加了通義千問(wèn)、MiniMax，特別是MiniMax，號(hào)稱(chēng)億級(jí)參數(shù)，最長(zhǎng)文本處理能力，對(duì)扣子的模型能力會(huì)有一個(gè)重量級(jí)的支撐。除了增加大模型，扣子還優(yōu)化了大模型使用的參數(shù)配置，用戶(hù)使用起來(lái)便利了不少。

重要的是，這些完全都是，免費(fèi)的！扣子就是免費(fèi)的AI bot平臺(tái)，里面的大模型也是完全免費(fèi)使用的，這樣就不需要做復(fù)雜的大模型API調(diào)用操作了。而且bot可以發(fā)布到扣子、飛書(shū)、豆包、微信等多個(gè)平臺(tái)，等于是通過(guò)bot完全免費(fèi)在其他平臺(tái)上使用這些大模型。扣子的進(jìn)步，是看得見(jiàn)的日新月異，甩其他廠商幾條街不是吹的。

01 升級(jí)后的bot模型設(shè)置參數(shù)解析

除了模型可選增多，具體模型的參數(shù)設(shè)置也做了明顯的豐富和優(yōu)化。大家可以看下圖，對(duì)比下升級(jí)前后的設(shè)置界面。升級(jí)后的界面：

以前的界面：

我們分別來(lái)看下扣子大模型調(diào)用參數(shù)都做了哪些更新：1.生成多樣性扣子配置了4種生成多樣性模式供用戶(hù)直接選擇：

（1）精確模式：嚴(yán)格遵循指令生成內(nèi)容適用于需準(zhǔn)確無(wú)誤的場(chǎng)合，如正式文檔、代碼等

（2）平衡模式：在創(chuàng)新和精確之間尋求平衡適用于大多數(shù)日常應(yīng)用場(chǎng)景生成有趣但不失嚴(yán)謹(jǐn)?shù)膬?nèi)容

（3）創(chuàng)意模式：激發(fā)創(chuàng)意，提供新穎獨(dú)特的想法適合需要靈感和獨(dú)特觀點(diǎn)的場(chǎng)景，如頭腦風(fēng)暴、創(chuàng)意寫(xiě)作等

（4）自定義模式：通過(guò)高級(jí)設(shè)置，自定義生成方式根據(jù)需求，進(jìn)行精細(xì)調(diào)整，實(shí)現(xiàn)個(gè)性化優(yōu)化。

過(guò)去的參數(shù)配置，只有自定義模式，需要用戶(hù)根據(jù)專(zhuān)業(yè)判斷來(lái)配置參數(shù)。有了這精確、平衡、創(chuàng)意3種模式定義，用戶(hù)的操作難度降低了很多，可以傻瓜式的選擇一個(gè)標(biāo)配就好。

高級(jí)設(shè)置：生成多樣性除了4種模式選擇，具體還有2個(gè)高級(jí)設(shè)置，生成隨機(jī)性和topP。1）生成隨機(jī)性（temperature）: 調(diào)高溫度會(huì)使得模型的輸出更多樣性和創(chuàng)新性，反之，降低溫度會(huì)使輸出內(nèi)容更加遵循指令要求但減少多樣性。建議不要與“Top p'同時(shí)調(diào)整。（這個(gè)解釋也做了更新）2）Top p-累計(jì)概率: 模型在生成輸出時(shí)會(huì)從概率最高的詞匯開(kāi)始選擇，直到這些詞匯的總概率累積達(dá)到Topp值。這樣可以限制模型只選擇這些高概率的詞匯，從而控制輸出內(nèi)容的多樣性。建議不要與“生成隨機(jī)性“同時(shí)調(diào)整。Top p這個(gè)設(shè)置是之前沒(méi)有的，相對(duì)難理解一些，通過(guò)詞頻來(lái)控制輸出多樣性。這2個(gè)參數(shù)，實(shí)際上都是控制模型輸出的穩(wěn)定性的，要根據(jù)bot的使用場(chǎng)景來(lái)配置。

2.輸入及輸出設(shè)置1）攜帶上下文輪次、最大回復(fù)長(zhǎng)度：以前的設(shè)置也都有。這里要說(shuō)明的是，最大回復(fù)長(zhǎng)度，取決于大模型給到扣子的最大長(zhǎng)度，而不是這些大模型公布的最大長(zhǎng)度。2）輸出格式：這是新增加的內(nèi)容，輸出格式可選“文本”或“markdown”格式輸出。

具體有什么區(qū)別，我簡(jiǎn)單測(cè)試了下我之前開(kāi)發(fā)的bot——AI投標(biāo)助手測(cè)試了下，（在扣子上的使用地址為：https://www./s/iYEcHfpq/）。貌似輸出上沒(méi)有明顯區(qū)別。

文本格式輸出如下：

markd格式輸出如下：

3.月之暗面Moonshot模型的2個(gè)獨(dú)特參數(shù)配置以上參數(shù)適用每個(gè)大模型，而Moonshot還有2個(gè)獨(dú)特的個(gè)性化配置，重復(fù)語(yǔ)句懲罰、重復(fù)主題懲罰。如下：

1.重復(fù)語(yǔ)句懲罰frequency penalty：當(dāng)該值為正時(shí)，會(huì)阻止模型頻繁使用相同的詞匯和短語(yǔ)，從而增加輸出內(nèi)容的多樣性。2.重復(fù)主題懲罰presence penalty：當(dāng)該值為正時(shí)，會(huì)阻止模型頻繁討論相同的主題，從而增加輸出內(nèi)容的多樣性。這兩個(gè)參數(shù)，也是控制輸出準(zhǔn)確性與多樣性的指標(biāo)，大家可以通過(guò)參數(shù)調(diào)整、測(cè)試來(lái)對(duì)比效果。

02 新增的MiniMax、阿里千文、Kimi初體驗(yàn)

我們來(lái)簡(jiǎn)單看一下扣子新接入的這幾個(gè)大模型怎么樣。

1.MiniMax的abab6.5系列

MiniMax 是一家類(lèi)似kimi的新銳人工智能公司，成立于 2021 年 12 月。

MiniMax 自主研發(fā)了不同模態(tài)的通用大模型，其中包括萬(wàn)億參數(shù)的 MoE 文本大模型、語(yǔ)音大模型以及圖像大模型，號(hào)稱(chēng)是最大上下文的大模型。

基于不同模態(tài)的通用大模型，MiniMax 推出生產(chǎn)力工具海螺AI、沉浸式AI內(nèi)容社區(qū)星野等原生應(yīng)用。MiniMax 開(kāi)放平臺(tái)為企業(yè)和開(kāi)發(fā)者提供安全、靈活、可靠的 API 服務(wù)，助力快速搭建 AI 應(yīng)用。

MiniMax的大模型產(chǎn)品叫abab6.5，提供的API以極簡(jiǎn)的形式供企業(yè)客戶(hù)和個(gè)人開(kāi)發(fā)者調(diào)用，同時(shí)針對(duì)不同的行業(yè)及場(chǎng)景進(jìn)行不同的能力抽象和封裝。

MiniMax 模型上下文長(zhǎng)度高達(dá)245K，是非常高的上下文長(zhǎng)度了，扣子里面已經(jīng)全量放送了，這是扣子四大模型里面，上下文最長(zhǎng)的大模型了。

2.通義千問(wèn)：qwen-max

就在昨天，6月7日，阿里通義千問(wèn)Qwen2大模型發(fā)布，并在Hugging Face和ModelScope上同步開(kāi)源。Qwen2系列涵蓋5個(gè)尺寸的預(yù)訓(xùn)練和指令微調(diào)模型，其中包括Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B，上下文長(zhǎng)度支持進(jìn)一步擴(kuò)展，最高達(dá)128K tokens。

官方表示，相比Qwen1.5，Qwen2在大規(guī)模模型實(shí)現(xiàn)了非常大幅度的效果提升。

不過(guò)在扣子平臺(tái)，通義千問(wèn)提供的是千文Max-8k的模型，最大輸出長(zhǎng)度只有2000 tokens，遠(yuǎn)低于MiniMax 和kimi的大模型。通義縮水不少，對(duì)于制作比較長(zhǎng)文本輸出的bot而言，這個(gè)長(zhǎng)度還是有些困難的。

3。Kimi的noonshot模型

Kimi是最早第一個(gè)接入扣子的外部大模型，一開(kāi)始就是全量接入，非常給力，提供了3種長(zhǎng)度的模型，并且最大輸出支持到131072 tokens，雖然比MiniMax 少了一半，但已經(jīng)是非常夠用了。

03 大模型免費(fèi)一鍵接入到微信

扣子是一個(gè)開(kāi)發(fā)性很高的平臺(tái)。

除了接入的大模型越來(lái)越豐富，扣子平臺(tái)制作的bot也可以發(fā)布到多個(gè)平臺(tái)。

一方面扣子內(nèi)部就有扣子、豆包、飛書(shū)3大平臺(tái)，特別是飛書(shū)有很大的用戶(hù)基礎(chǔ)，發(fā)布到飛書(shū)對(duì)于AI辦公及推廣非常給力。