2023年真是不平凡的一年！短短365天，我們見(jiàn)證了生成式AI的寒武紀(jì)大爆發(fā)，國(guó)內(nèi)外各種大模型，可以說(shuō)是你方唱罷我登場(chǎng)，發(fā)展速度之快讓人目不暇接。

各大科技公司也都開(kāi)始思考如何把生成式AI技術(shù)用好，實(shí)現(xiàn)商業(yè)化創(chuàng)新。

大語(yǔ)言模型的快速進(jìn)步，讓生成式AI從早期玩家的嘗鮮，逐漸進(jìn)入企業(yè)關(guān)鍵業(yè)務(wù)領(lǐng)域?，F(xiàn)在，整個(gè)社會(huì)、各個(gè)行業(yè)和企業(yè)，都在思考如何充分利用生成式AI技術(shù)，為產(chǎn)業(yè)升級(jí)和數(shù)字化轉(zhuǎn)型賦能。

當(dāng) “百模大戰(zhàn)”升級(jí)到“千模大戰(zhàn)”，廣大用戶及開(kāi)發(fā)者關(guān)注的不是大模型的參數(shù)達(dá)到了怎樣一個(gè)量級(jí)，而是如何以更便利的方式快速上手，把想要的模型與企業(yè)業(yè)務(wù)結(jié)合，這是“2023亞馬遜云科技re:Invent中國(guó)行”的使命所在，就是希望從全球戰(zhàn)略、技術(shù)角度探討生成式AI的應(yīng)變之道，把全球最好的產(chǎn)品和體驗(yàn)帶給中國(guó)客戶。

2023年12月12日，re:Invent中國(guó)行北京站盛大開(kāi)啟，大會(huì)現(xiàn)場(chǎng)座無(wú)虛席，人氣持續(xù)火爆。無(wú)論是主會(huì)場(chǎng)，還是場(chǎng)外的展區(qū)，都能看到參會(huì)者認(rèn)真而專注的神情。就內(nèi)容而言，re:Invent北京站全面展示了全球大會(huì)的最新產(chǎn)品和技術(shù)、前沿趨勢(shì)以及相關(guān)實(shí)踐。作為云計(jì)算領(lǐng)域的開(kāi)拓者和創(chuàng)新者，亞馬遜云科技多次提到一個(gè)關(guān)鍵詞叫做 “重塑”，從底層、平臺(tái)層到最上面的應(yīng)用層，云計(jì)算正在以前所未有的顛覆力構(gòu)建全棧生成式AI能力，為用戶提供最佳體驗(yàn)。

當(dāng)智能數(shù)字業(yè)務(wù)走向深水區(qū)

從應(yīng)用變化的角度來(lái)看，生成式AI之所以觸發(fā)科技的轉(zhuǎn)折點(diǎn)，遵循的是“大模型摩爾定律”。雖然，新世界還沒(méi)有到來(lái)，但生成式AI的未來(lái)已至。之后，企業(yè)IT基礎(chǔ)架構(gòu)也會(huì)跟著發(fā)生化學(xué)反應(yīng)。巨大算力增長(zhǎng)背后其實(shí)是底層服務(wù)器、芯片、數(shù)據(jù)等重要能力的升級(jí)，而云正在重塑一切。

大模型如火如荼背后，底層的芯片、到中間的平臺(tái)再到上層的應(yīng)用，都與過(guò)去不同。如果企業(yè)繼續(xù)采用傳統(tǒng)的IT架構(gòu)，CPU和加速器之間的接口會(huì)限制產(chǎn)品的性能水平，也就無(wú)法更好地支持生成式AI時(shí)代的新需求。與此同時(shí)，由AI模型帶來(lái)的大量資源消耗，也是企業(yè)關(guān)注的重點(diǎn)問(wèn)題。所以，滿足未來(lái)需求的企業(yè)架構(gòu)設(shè)計(jì)，一定會(huì)充分考慮到成本和可持續(xù)發(fā)展問(wèn)題。

進(jìn)一步講，生成式AI不能單獨(dú)創(chuàng)造價(jià)值，其工作負(fù)載的計(jì)算密集程度非常高，它需要底層更強(qiáng)大的硬件支持。因此，具有擁有高性價(jià)比的基礎(chǔ)設(shè)施，是應(yīng)用成功構(gòu)建的關(guān)鍵要素之一。

另外，智能化系統(tǒng)之所以更具顛覆性，是因?yàn)樵诟兄⒗斫?、學(xué)習(xí)、推理、交互等方面具有更廣泛的適應(yīng)性，以及更友好的多模交互能力。所以，在架構(gòu)設(shè)計(jì)上要充分考慮到可行性、可控性和通用性，才能滿足多場(chǎng)景、多需求、多任務(wù)之間的快速切換。

智能化系統(tǒng)并不是只有一個(gè)大模型，架構(gòu)設(shè)計(jì)者需要在根據(jù)不同業(yè)務(wù)場(chǎng)景的需求進(jìn)行偏好對(duì)齊，具備多模索引、模型選擇、模型算力調(diào)度和模型推理的能力。比如：有的大模型是和員工的生產(chǎn)力、工作效率相關(guān)。有的大模型則和智能化水平相關(guān)，包括營(yíng)銷、客服、HR、財(cái)務(wù)。有的是專屬應(yīng)用場(chǎng)景，比如金融領(lǐng)域的欺詐、醫(yī)療領(lǐng)域的病例生成，以及供應(yīng)鏈管理等。企業(yè)要根據(jù)不同需求，以及不同技術(shù)支撐能力，選擇適合的智能化架構(gòu)升級(jí)路線。

而儉約云架構(gòu)可以憑借天然優(yōu)勢(shì)，快速落地生成式AI所需要的一切能力，借助專門構(gòu)建的工具和底層基礎(chǔ)設(shè)施，可以快速搭建高性價(jià)比應(yīng)用，體驗(yàn)到開(kāi)箱即用的效果。

三層生成式AI架構(gòu)讓用戶實(shí)現(xiàn)“模型自由”

為了進(jìn)一步降低利用生成式AI的門檻，幫助客戶更輕松、安全地構(gòu)建應(yīng)用。亞馬遜云科技推出了三層架構(gòu)，包括用于基礎(chǔ)模型訓(xùn)練和推理的基礎(chǔ)設(shè)施、使用基礎(chǔ)模型進(jìn)行構(gòu)建的工具，以及利用基礎(chǔ)模型構(gòu)建的應(yīng)用程序。

1、底層：提供用于基礎(chǔ)模型訓(xùn)練和推理的基礎(chǔ)設(shè)施

生成式AI在激發(fā)人類的智慧和創(chuàng)造力，也會(huì)帶來(lái)一系列的挑戰(zhàn)。比如：如何兼顧規(guī)模和成本？如何選擇適合的模型，保證自身業(yè)務(wù)的安全性和隱私？包括如何利用私有數(shù)據(jù)去訓(xùn)練模型，讓生成式AI成為所在領(lǐng)域的技術(shù)專家？

所以，從關(guān)注性能、成本和經(jīng)濟(jì)效益的底層開(kāi)始，亞馬遜云科技在13前年就看到了加速計(jì)算芯片帶來(lái)的價(jià)值。亞馬遜云科技是第一家把GPU帶人云端的供應(yīng)商，現(xiàn)在GPU服務(wù)器已經(jīng)廣泛用于HPC、視頻、AI工作負(fù)載等等多種應(yīng)用領(lǐng)域。

如今，亞馬遜云科技不僅提供了通用GPU芯片，還推出了專門用于訓(xùn)練和推理的芯片。最新發(fā)布的Amazon Trainium2處理器，可針對(duì)具有數(shù)千億至數(shù)萬(wàn)億參數(shù)的基礎(chǔ)模型進(jìn)行訓(xùn)練優(yōu)化，相較 Amazon Trainium 4 倍性能提升，能夠達(dá)到65 ExaFLOPS的按需超級(jí)計(jì)算性能。同時(shí)，最新發(fā)布的Amazon SageMaker HyperPod 服務(wù)，可大規(guī)模加速基礎(chǔ)模型訓(xùn)練，能夠縮短高達(dá)40%的訓(xùn)練時(shí)間，并可以確保持續(xù)數(shù)周或數(shù)月的訓(xùn)練過(guò)程不中斷。

除了自研芯片，亞馬遜云科技也在選擇與優(yōu)秀的合作伙伴合作，為用戶提供基礎(chǔ)架構(gòu)的多種選擇。在本次re:Invent 2023全球大會(huì)上，亞馬遜云科技和英偉達(dá)共同宣布了幾項(xiàng)最新合作：1）亞馬遜云科技將提供首款搭載NVIDIA Grace Hopper超級(jí)芯片和亞馬遜云科技UltraClusters技術(shù)的云AI超級(jí)計(jì)算機(jī)；2）首款使用NVIDIA最新芯片GH200 NVL32 的NVIDIA DGX云即將登錄亞馬遜云科技；3）兩家公司共同開(kāi)展“Project Ceiba”合作項(xiàng)目， 將全球最快的GPU驅(qū)動(dòng)AI超級(jí)計(jì)算機(jī)和NVIDIA DGX云超級(jí)計(jì)算機(jī)用于NVIDIA AI的訓(xùn)練、研發(fā)、定制化模型的開(kāi)發(fā)。

2、中間層：提供使用基礎(chǔ)模型進(jìn)行構(gòu)建的全托管服務(wù)

對(duì)于客戶來(lái)說(shuō)，大模型需求千變?nèi)f化，但無(wú)需把每個(gè)模型都重新開(kāi)發(fā)一遍，選擇錯(cuò)誤的模型技術(shù)路線，會(huì)極大地消耗企業(yè)的精力，無(wú)法擁抱快速變化的世界。

選擇平臺(tái)化的工具， Amazon Bedrock是利用大模型構(gòu)建和擴(kuò)展生成式人工智能應(yīng)用的最簡(jiǎn)單方法。各行各業(yè)的客戶已經(jīng)在使用Amazon Bedrock 重塑他們的用戶體驗(yàn)、產(chǎn)品和流程，并將人工智能帶入他們的業(yè)務(wù)核心。

Amazon Bedrock不僅提供了亞馬遜云科技自研的Amazon Titan，還可以通過(guò)API調(diào)用等方式，輕松訪問(wèn)AI21 Labs、Anthropic、Cohere、Meta、Stability AI等眾多主流第三方模型，來(lái)重構(gòu)業(yè)務(wù)、提升用戶體驗(yàn)。

Amazon Bedrock最新發(fā)布可支持Anthropic Claude 2.1和Meta LLama 2 70B。Claude 2.1為企業(yè)提供了先進(jìn)的關(guān)鍵功能，包括業(yè)界領(lǐng)先的200K標(biāo)記上下文窗口，與此前模型相比，Claude 2.1 在開(kāi)放式對(duì)話中的錯(cuò)誤陳述減少了50%。支持 Meta 的 LLama 2 70B，適用于大規(guī)模任務(wù)，如語(yǔ)言建模、文本生成和對(duì)話系統(tǒng)。

能為企業(yè)真正創(chuàng)造價(jià)值的生成式AI，有一個(gè)關(guān)鍵點(diǎn)，就是能夠用企業(yè)自己的數(shù)據(jù)進(jìn)行定制，構(gòu)建差異化壁壘。所以，在Amazon Bedrock 中，有一種自定義模型的方法就是持續(xù)預(yù)訓(xùn)練，這是一種使用大量未標(biāo)記數(shù)據(jù)（如內(nèi)部報(bào)告、財(cái)務(wù)計(jì)劃或研究成果的原始文本）來(lái)提高基礎(chǔ)模型對(duì)特定領(lǐng)域的知識(shí)和推理能力的技術(shù)，這種方式是適合想要擁有“領(lǐng)域大模型”，或者說(shuō)將領(lǐng)域知識(shí)以及技能嵌入大模型能力的場(chǎng)景。

同時(shí)，微調(diào)是另外一項(xiàng)重要模型定制技術(shù)，經(jīng)常被用來(lái)控制模型去理解特定的輸入格式（比如：固定問(wèn)問(wèn)題的問(wèn)法），輸出以及理解回答問(wèn)題的角色。然后，Amazon Bedrock 會(huì)復(fù)制一個(gè)客戶專屬的基礎(chǔ)模型，并結(jié)合客戶準(zhǔn)備的S3上的數(shù)據(jù)，進(jìn)行微調(diào)，并生成一個(gè)新的定制模型。最后，RAG檢索增強(qiáng)，可能是現(xiàn)在最常見(jiàn)的用企業(yè)數(shù)據(jù)定制的方式。知識(shí)庫(kù)功能可將模型安全地連接到公司內(nèi)部數(shù)據(jù)源，并通過(guò)RAG檢索增強(qiáng)生成的方式，為聊天機(jī)器人或問(wèn)答系統(tǒng)等應(yīng)用，提供更準(zhǔn)確的回答。

有了模型和定制能力，還需要和應(yīng)用集成才能服務(wù)于業(yè)務(wù)。最新發(fā)布的Amazon Bedrock 代理功能，可以使生成式AI應(yīng)用跨公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。通過(guò)代理功能，客戶在進(jìn)行訪問(wèn)權(quán)限等簡(jiǎn)單設(shè)置后即可用自然語(yǔ)言編寫(xiě)要求，隨后代理即可自動(dòng)分析請(qǐng)求并將其分解為邏輯序列，以及采取相應(yīng)的行動(dòng)。

值得一提的是，亞馬遜云科技自研模型Amazon Titan，是用戶關(guān)注的大模型重點(diǎn)應(yīng)用。基于25年人工智能和機(jī)器學(xué)習(xí)經(jīng)驗(yàn)，Amazon Titan可支持多種用例。而借助Amazon Titan Text Embeddings，可以讓用戶把本文轉(zhuǎn)化成向量，讓模型更容易找到相似單詞的距離。

與Amazon Titan相關(guān)的各種創(chuàng)新，還有很多，可以讓用戶實(shí)現(xiàn)更復(fù)雜場(chǎng)景的應(yīng)用。比如：新發(fā)布的Amazon Titan Text Lite 是一種更小巧、更具成本效益的模型，可以支持聊天機(jī)器人問(wèn)答或文本摘要等用例。它最大的特點(diǎn)是，重量輕，非常適合微調(diào)，為業(yè)務(wù)需求提供高度可定制的選擇。而Amazon Titan Text Express 模型參數(shù)量更大，可用于更廣泛的任務(wù)，如開(kāi)放式文本生成和對(duì)話聊天。Amazon Titan Multimodal Embeddings多模態(tài)嵌入模型，能夠創(chuàng)建更豐富的多模態(tài)搜索和推薦體驗(yàn)。Amazon Titan Image Generator圖像生成模型預(yù)覽版，現(xiàn)已推出預(yù)覽版，使客戶能夠使用自然語(yǔ)言提示生成高質(zhì)量、逼真的圖像或增強(qiáng)現(xiàn)有圖像。

3、頂層：提供利用基礎(chǔ)模型構(gòu)建的應(yīng)用程序

如果想讓用戶更深度地使用生成式AI，有沒(méi)有一種開(kāi)箱即用的解決方案？

首先，亞馬遜云科技還提供了生成式AI助手Amazon Q。Amazon Q專門為了數(shù)字化工作場(chǎng)景而設(shè)計(jì)，它可以通過(guò)自然語(yǔ)言交互來(lái)快速獲得答案，生成內(nèi)容并采取行動(dòng)。同時(shí)，做負(fù)責(zé)任的AI理念體現(xiàn)在每一款產(chǎn)品設(shè)計(jì)中， Amazon Q是通過(guò)用戶現(xiàn)有的身份和訪問(wèn)權(quán)限來(lái)進(jìn)行訪問(wèn)，用戶在目前應(yīng)用環(huán)境下，他們能擁有什么樣的權(quán)限，會(huì)完全按照這樣的權(quán)限來(lái)進(jìn)行訪問(wèn)。Amazon Q可使用身份驗(yàn)證系統(tǒng)來(lái)確認(rèn)用戶職能和訪問(wèn)權(quán)限，并支持指定話題屏蔽或關(guān)鍵詞過(guò)濾等管理控制功能。

Amazon Q是企業(yè)級(jí)生成式AI領(lǐng)域的殺手锏級(jí)應(yīng)用，由亞馬遜云科技17年來(lái)積累的知識(shí)和經(jīng)驗(yàn)訓(xùn)練而成，可以在多種界面回答客戶提出的各種亞馬遜云科技相關(guān)的專業(yè)問(wèn)題。Amazon Q可以在Amazon CodeWhisperer中回答開(kāi)發(fā)人員的各種代碼相關(guān)的問(wèn)題并附上可一鍵實(shí)施的代碼，并提供代碼轉(zhuǎn)換功能，可以將應(yīng)用維護(hù)和升級(jí)時(shí)的代碼轉(zhuǎn)換所需時(shí)間從幾天縮短至幾分鐘。

Amazon Q也是業(yè)務(wù)人員的“數(shù)字化助手”，它擁有40多個(gè)兼容流行數(shù)據(jù)源的內(nèi)置連接器，并支持自定義連接器，企業(yè)可以輕松將其連接至其業(yè)務(wù)數(shù)據(jù)和系統(tǒng)中。Amazon Q可支持引入多種企業(yè)級(jí)服務(wù)，包括可以引入BI應(yīng)用到Amazon QuickSight中，它能夠在幾秒鐘內(nèi)響應(yīng)用戶要求，創(chuàng)建精準(zhǔn)且美觀的月度業(yè)務(wù)變化的相關(guān)描述，該功能現(xiàn)已提供預(yù)覽。Amazon Q也是聯(lián)絡(luò)中心專家，用戶可將Amazon Q引入云聯(lián)絡(luò)中心應(yīng)用Amazon Connect中，它能夠根據(jù)實(shí)時(shí)對(duì)話檢測(cè)客戶問(wèn)題，并能夠自動(dòng)回復(fù)、給出建議以及提供相關(guān)資料，該功能現(xiàn)已正式可用。

其次，亞馬遜云科技提供了Amazon CodeWhisperer代碼生成工具，通過(guò)近乎實(shí)時(shí)的生成代碼建議，幫助企業(yè)更快、更便捷地去構(gòu)建應(yīng)用程序。通過(guò)Amazon CodeWhisperer可以通過(guò)簡(jiǎn)單的自然語(yǔ)言的交互，就可以生成代碼，目前該應(yīng)用已經(jīng)支持15種最流行的編程語(yǔ)言。

今年，Amazon CodeWhisperer也有重要更新，提供了建議編碼和定制化預(yù)覽功能。Amazon CodeWhisperer的最大特點(diǎn)是，可以近乎實(shí)時(shí)地生成代碼，幫助開(kāi)發(fā)者更快、更安全地構(gòu)建應(yīng)用程序。開(kāi)發(fā)者可以通過(guò)自然語(yǔ)言構(gòu)建應(yīng)用，然后在IDE中收到準(zhǔn)確的代碼建議。

讓編寫(xiě)代碼任務(wù)變得更快，讓更多開(kāi)發(fā)者受益。Amazon CodeWhisperer秉承普惠AI理念，可以免費(fèi)供開(kāi)發(fā)者使用。幾個(gè)月之前，Amazon CodeWhisperer還發(fā)布了定制化預(yù)覽功能，企業(yè)用戶可以安全地基于內(nèi)部代碼庫(kù)來(lái)學(xué)習(xí)，快速獲得更相關(guān)、定制化和更有用的代碼建議。

亞馬遜云科技做云計(jì)算的方式是基于客戶需求，不斷進(jìn)行產(chǎn)品的快速迭代，這一系列生成式AI創(chuàng)新再次充分體現(xiàn)了這一點(diǎn)。

從2023年12月12日起，re:Invent中國(guó)行將走進(jìn)北京、上海、深圳、廣州、成都、青島、南京、西安、杭州、長(zhǎng)沙，各大城市的用戶及開(kāi)發(fā)者都可以體驗(yàn)到最新產(chǎn)品和技術(shù)，通過(guò)生成式AI構(gòu)建應(yīng)用，為產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型賦能。2023年12月15日，re:Invent中國(guó)行將在廣州和成都同期開(kāi)啟。對(duì)生成式AI感興趣的朋友可以關(guān)注一下。