Qwen官方網(wǎng)站消息，8月8日，阿里發(fā)布了Qwen2-Math（1.5B/7B/72B）系列。Qwen2-Math是一系列基于Qwen2 LLM構(gòu)建的專門用于數(shù)學(xué)解題的語(yǔ)言模型，數(shù)學(xué)推理能力全球第一。

Qwen團(tuán)隊(duì)表示，Qwen2-Math是基于Qwen2大型語(yǔ)言模型構(gòu)建的一系列專業(yè)數(shù)學(xué)語(yǔ)言模型，其數(shù)學(xué)能力顯著超越了開源模型甚至閉源模型（例如GPT-4o）。希望Qwen2-Math能夠?yàn)榻鉀Q復(fù)雜的數(shù)學(xué)問題做出社區(qū)貢獻(xiàn)。

Qwen團(tuán)隊(duì)表示，一系列數(shù)學(xué)基準(zhǔn)評(píng)測(cè)結(jié)果表明，阿里最大的數(shù)學(xué)專用模型Qwen2-Math-72B-Instruct超越了最先進(jìn)的模型，包括GPT-4o、Claude-3.5-Sonnet、Gemini-1.5-Pro和Llama-3.1-405B。

Qwen團(tuán)隊(duì)介紹，Qwen2-Math的基礎(chǔ)模型以Qwen2-1.5B/7B/72B為起點(diǎn)，然后在精心設(shè)計(jì)的數(shù)學(xué)專業(yè)語(yǔ)料庫(kù)上進(jìn)行預(yù)訓(xùn)練。該語(yǔ)料庫(kù)包含大規(guī)模高質(zhì)量的數(shù)學(xué)網(wǎng)絡(luò)文本、書籍、代碼、考試題目以及由Qwen2合成的數(shù)學(xué)預(yù)訓(xùn)練數(shù)據(jù)。

團(tuán)隊(duì)使用中英文的數(shù)學(xué)基準(zhǔn)評(píng)測(cè)對(duì)Qwen2-Math-72B-Instruct進(jìn)行評(píng)估。除了常用的GSM8K和Math基準(zhǔn)評(píng)測(cè)，還加入了更具挑戰(zhàn)性的考試，例如，OlympiadBench、CollegeMath、中考、高考等。