講AI,靠得住,藍(lán)色字體求關(guān)注
大家好,我是老渡。
最近 Agent 智能體很火,人工智能領(lǐng)域國(guó)際上最權(quán)威的學(xué)者之一吳恩達(dá)教授,不但總結(jié)了Agent設(shè)計(jì)模式,還親自下場(chǎng)開(kāi)發(fā)了一款翻譯Agent。 這個(gè)翻譯Agent在設(shè)計(jì)模式和提示詞工程等方面都有許多值得學(xué)習(xí)的地方。老渡拆解一下,跟朋友們分享。 翻譯Agent項(xiàng)目已開(kāi)源,有三千多的關(guān)注 
下面是翻譯Agent的實(shí)現(xiàn)思路,分三步驟
- 讓大模型反思初版翻譯結(jié)果,提出建設(shè)性的改進(jìn)建議
對(duì)于我們大部分人來(lái)說(shuō),一般只用到第一步。而翻譯Agent之所以被稱(chēng)為Agent,核心就在后兩步。后兩步用到的是Agent設(shè)計(jì)模式中的反思模式,就是讓大模型檢查、評(píng)估上一步生成的結(jié)果,提出改進(jìn),并重新生成。其中,第二步反思Prompt的內(nèi)容如下: 得到改進(jìn)意見(jiàn)后,第三步的Prompt會(huì)基于這些改進(jìn)意見(jiàn)重新翻譯上述Prompt提示詞,有兩個(gè)值得學(xué)習(xí)的地方——分隔符和系統(tǒng)提示。正好前不久“首屆GPT-4提示工程大賽” 奪冠者也提到了這兩點(diǎn)。分隔符是特殊的符號(hào),能幫助大語(yǔ)言模型辨識(shí)提示詞中哪些部分是有特殊含義的,一般可用 XML 標(biāo)簽表示。比如,上面的提示詞中<SOURCE_TEXT>、<TRANSLATION>、<EXPERT_SUGGESTIONS>等XML標(biāo)簽用來(lái)標(biāo)識(shí)原文、翻譯后的內(nèi)容和改進(jìn)意見(jiàn)。大模型可以直接讀懂這些分隔符,而不需要在提示詞中增加額外解釋?zhuān)瑥亩?jiǎn)化整體提示詞的復(fù)雜度。系統(tǒng)提示是向大語(yǔ)言模型提供的關(guān)于其應(yīng)如何響應(yīng)的額外指示。這被視為一種額外的提示,因?yàn)樗隽舜竽P偷某R?guī)用戶(hù)提示。上面提示詞中 system_message 中的內(nèi)容就是系統(tǒng)提示詞。翻譯Agent項(xiàng)目是用Python代碼編寫(xiě)的,實(shí)現(xiàn)了簡(jiǎn)單工作流將上述三個(gè)步驟串聯(lián)起來(lái)。老渡之前也分享過(guò)基于Agent平臺(tái)開(kāi)發(fā)智能體,不管是 dify 還是扣子,都支持工作流,配置好大模型和提示詞,就可以零代碼復(fù)現(xiàn)這個(gè)翻譯Agent了。老渡最近一直在研究利用大模型開(kāi)發(fā)Agent智能體,公眾號(hào)持續(xù)分享。
|