以下文章来源于通义千问Qwen:

思考、质疑、理解,是人类探索未知的永恒追求。

今天,我们向大家正式介绍 Qwen家族的新成员——QwQ-32B-Preview

QwQ(QwQ 的发音为 /kwju:/ ,与单词 “quill” 的读音近似)模型是由 Qwen 团队开发的实验性研究模型,专注于增强 AI 推理能力。

通过深入的探索和无数的试验,我们发现了一个深刻的道理:当模型有足够的时间思考、质疑和反思时,它对数学和编程的理解就会深化。就像学生通过认真地检查自己的工作并从错误中学习变得更加聪明一样,我们的模型也通过耐心和深思熟虑的分析获得了更深入的见解。这种细致的反思和自我质疑的过程,使得 QwQ 模型能够取得解决复杂问题的突破性进展

然而,正如所有智慧的追求者一样,QwQ 也有其局限性。当前的版本标志着这一漫长探索之旅的起点——它仍在学习如何在理性的道路上稳步前行。尽管其思绪偶尔飘散,提供的解答可能尚待完善,但智慧仍在不断积累之中。这正是学习过程的迷人之处:QwQ 既展现出能力,又保持着谦逊;既积累知识,又永远对未知充满好奇。

现在,我们邀请你一起,共同踏上这无尽的理解之旅。

模型局限性

作为预览版本,QwQ-32B-Preview 展现了令人期待的分析能力,同时也存在以下局限:

1.语言切换问题:模型可能在回答中混合使用不同语言,影响表达的连贯性。

2.推理循环:在处理复杂逻辑问题时,模型偶尔会陷入递归推理模式,在相似思路中循环。这种行为虽然反映了模型试图全面分析的努力,但可能导致冗长而不够聚焦的回答。

3.安全性考虑:尽管模型已具备基础安全管控,但仍需要进一步增强。它可能产生不恰当或存在偏见的回答,且与其他大型语言模型一样,可能受到对抗攻击的影响。我们强烈建议用户在生产环境中谨慎使用,并采取适当的安全防护措施。

4.能力差异:QwQ-32B-Preview 在数学和编程领域表现出色,但在其他领域仍有提升空间。模型性能会随任务的复杂度和专业程度而波动。我们正通过持续优化,努力提升模型的综合能力。

模型表现

在数学和编程领域,QwQ-32B-Preview 解决了一些最具挑战性的问题的卓越能力,包括:

GPQA:一个通过研究生级别问题评估高阶科学解题能力的评测集,旨在考察科学问题解决能力。

AIME:涵盖算术、代数、计数、几何、数论、概率等中学数学主题的综合评测,测试数学问题解决能力。

MATH-500:包含500个测试样本的MATH评测集,全面考察数学解题能力。

LiveCodeBench:评估真实编程场景中代码生成和问题解决能力的高难度评测集。

打开网易新闻 查看精彩图片

具体表现如下:

GPQA:65.2%,展示了研究生水平的科学推理能力;

AIME:50.0%,证明了强大的数学问题解决技能;

MATH-500:90.6%,体现了在各类数学主题上的全面理解;

LiveCodeBench:50.0%,验证了在实际编程场景中的出色表现。

这些成果充分体现了QwQ在分析和问题解决能力方面的显著进步,尤其是在需要深度推理的技术领域。

样例

下列样例展示了QwQ深度自省的能力——质疑自身假设、进行深思熟虑的自我对话,并仔细审视其推理过程的每一步。

Example1: Logical Reasoning

User

S先生、P先生、Q先生他们知道桌子的抽屉里有16张扑克牌:红桃A、Q、4 黑桃J、8、4、2、7、3 草花K、Q、5、4、6 方块A、5。约翰教授从这16张牌中挑出一张牌来,并把这张牌的点数告诉 P先生,把这张牌的花色告诉Q先生。这时,约翰教授问P先生和Q 先生:你们能从已知的点数或花色中推知这张牌是什么牌吗?于是,S先生听到如下的对话:

P先生:我不知道这张牌。

Q先生:我知道你不知道这张牌。

P先生:现在我知道这张牌了。

Q先生:我也知道了。

请问:这张牌是什么牌?

QwQ-32B-Preview

这道题是逻辑推理题,涉及到信息的逐步披露和推理。题目中有一副16张扑克牌,分别是:

红桃:A、Q、4

黑桃:J、8、4、2、7、3

草花:K、Q、5、4、6

方块:A、5

约翰教授选了一张牌,把点数告诉了P先生,把花色告诉了Q先生。然后通过他们的对话,我们要推断出是哪张牌。

首先,让我们来梳理一下对话的内容:

P先生说:“我不知道这张牌。”

这意味着点数是重复的,因为如果点数唯一,P先生就能确定是哪张牌。例如,如果点数是K,只有草花K,那P先生就能确定是草花K。但P先生说不知道,所以点数必须在多个花色中出现。看看哪些点数是重复的:

A:红桃和方块

Q:红桃和草花

4:红桃、黑桃和草花

5:草花和方块

其他点数都是唯一的在某个花色中。

所以,可能的点数是A、Q、4、5。

Q先生说:“我知道你不知道这张牌。”

红桃:A、Q、4

黑桃:J、8、4、2、7、3

草花:K、Q、5、4、6

方块:A、5

A:红桃和方块

Q:红桃和草花

4:红桃、黑桃、草花

所以,红桃花色中的所有点数都是重复的。

4:黑桃、红桃、草花

其他点数在黑桃中是唯一的。

但Q先生说他知道P先生不知道,所以花色中的所有点数都必须是重复的。但在黑桃中,除了4,其他点数都是唯一的。所以,如果花色是黑桃,且点数是J、8、2、7、3,那么P先生就能知道,这与Q先生的说法矛盾。因此,花色不能是黑桃。

Q:草花和红桃

4:草花、红桃、黑桃

5:草花和方块

K和6是唯一的。

所以,如果花色是草花,点数是K或6,P先生就能知道,这又与Q先生的说法矛盾。因此,花色不能是草花。

A:方块和红桃

5:方块和草花

所以,方块中的点数都是重复的。

这句话有点 tricky。Q先生知道花色,而且他说他知道P先生不知道。这意味着,根据Q先生知道的花色,可以确定点数一定是重复的。因为如果花色中的点数是唯一的,那么P先生就能知道是哪张牌。但Q先生肯定地说他知道P先生不知道,所以花色中的点数必须是重复的。

让我们看看每个花色中的点数情况:

综上所述,Q先生知道花色,且确定所有可能的点数都是重复的,所以花色只能是红桃或方块。

P先生说:“现在我知道这张牌了。”

A:红桃和方块

Q:只有红桃

4:红桃

5:方块

P先生原来不知道,但现在知道了。这意味着,在Q先生发言后,P先生通过点数和花色的可能组合,确定了是哪张牌。

我们已经知道花色只能是红桃或方块,点数是A、Q、4、5。

但P先生现在知道牌了,说明点数加上花色的限制,使得只有唯一一个可能性。

让我们看看点数在红桃和方块中的分布:

等一下,Q先生说花色只能是红桃或方块,但根据之前的分析,花色是红桃或方块。

但是,点数Q只有红桃,4只有红桃,A有红桃和方块,5只有方块。

P先生原来不知道,说明点数是重复的,即A或5。

如果点数是Q或4,只有红桃,那么P先生知道点数后,结合花色是红桃,就能知道是哪张牌,这与P先生第一句“我不知道这张牌”矛盾。

所以,点数不能是Q或4,只能是A或5。

现在,P先生说他知道牌了,说明在A或5中,结合花色,只有唯一可能性。

但A在红桃和方块都有,5只有方块有。

等一下,如果点数是5,只有方块5,那么P先生知道点数是5,结合花色是方块,就可以确定是方块5。

如果点数是A,花色可以是红桃或方块,那么P先生还是不能确定是哪一张。

但是,P先生说现在知道这张牌了,所以点数不能是A,因为A在红桃和方块都有,除非花色是方块,但P先生只有点数信息。

等一下,也许我需要更仔细地思考。

Q先生说花色是红桃或方块,因为只有这些花色的点数都是重复的。

P先生知道点数,现在他说知道了,说明在花色是红桃或方块的限制下,点数唯一确定了牌。

对于点数A,花色可以是红桃或方块,所以P先生不能确定是哪一张。

对于点数5,只有方块5,所以P先生知道是方块5。

因此,只有当点数是5时,P先生才能确定是方块5。

所以,牌是方块5。

Q先生说:“我也知道了。”

Q先生原来只知道花色,但不知道是哪张牌,现在他也知道了。

如果花色是方块,点数是A或5。

但P先生刚才已经确定是方块5,所以Q先生现在也知道了是方块5。

如果花色是红桃,点数是A、Q、4。

但是,根据之前的推理,点数Q和4只有红桃,点数A有红桃和方块。

但P先生原来不知道,所以点数不能是Q或4,只能是A。

但是,如果花色是红桃,点数是A,P先生不能确定是红桃A还是方块A。

但P先生说现在知道了,所以只有当点数是5,花色是方块时,P先生才能确定。

因此,Q先生现在也确定是方块5。

综上所述,这张牌是方块5。

最终答案

方块5

Example: Math

User

有个人想买几套餐具,到了店里发现,自己的钱可以买21把叉子和21个勺子,也够买28个小刀,但是,他想三样东西都买,而且要配成一套,并且把钱刚好花完,如果你是这个人,你会怎么买呢?

QwQ-32B-Preview

这个问题挺有意思的。我得好好想想。题目说,我有多少钱可以买21把叉子和21个勺子,或者可以买28个小刀。但是我想三样都买,而且要配成一套,还要把钱正好花完。我要怎么安排呢?

首先,我需要理解一下这里的“一套”是什么意思。

我想应该是买一把叉子、一个勺子和一个小刀作为一个组合,也就是一套包括这三种餐具各一件。对吧?

所以,我的目标是买若干套这样的餐具,每套包含一把叉子、一个勺子和一个小刀,而且要把所有的钱都花完。

但是,题目中给出的信息是,我的钱可以买21把叉子和21个勺子,或者可以买28个小刀。

这说明,叉子和勺子的价格是相同的,因为用同样的钱可以买到相同数量的叉子和勺子,而小刀的价格不同,因为同样的钱可以买更多的小刀。

让我设一下变量,方便计算。

假设叉子的价格是x,勺子的价格也是x,小刀的价格是y。

那么,根据题意:21x + 21x = 42x,这是我的总预算。

另外,这个总预算也可以买28个小刀,也就是28y。

所以,42x = 28y。从这个等式,我可以得出x和y之间的关系。

42x = 28y两边都除以14,得到:3x = 2y

所以,y = (3/2)x

好了,现在我知道小刀的价格是叉子价格的1.5倍。

现在,我想要买若干套餐具,每套包括一把叉子、一个勺子和一个小刀,而且要把钱正好花完。

设我买n套,那么总成本是:n(x + x + y) = n(2x + y)

但是,y = (3/2)x,所以代入得:n(2x + (3/2)x) = n((7/2)x)

所以,总成本是n*(7/2)x

而我的总预算是42x,所以:n*(7/2)x = 42x

两边都除以x(假设x不为零),得到:n*(7/2) = 42

然后,解n:n = 42 / (7/2) = 42 * (2/7) = 12

所以,我可以买12套餐具,每套包含一把叉子、一个勺子和一个小刀,而且把钱正好花完。

但是,我感觉这个答案有点简单,可能哪里想错了。让我再检查一下。

首先,根据题意,钱可以买21叉子和21勺子,或者28小刀。

我设叉子和勺子各为x,小刀为y,然后得到42x = 28y,从而y = (3/2)x

然后,每套餐具是x + x + y = 2x + (3/2)x = (7/2)x

总预算42x,除以每套的成本(7/2)x,得到12套。看起来逻辑是对的。

但是,也许还有其他考虑。

比如,是否必须买整数套?

还是可以单独购买餐具?

题目说要配成一套,并且把钱刚好花完。

所以,应该是买整数套,而且钱要正好花完。

我的计算中,n=12,是整数,符合要求。

或者,可能有其他组合,比如不完全配成套,但题目明确说要配成一套,并且把钱花完,所以应该按照套来买。

所以,我认为答案是买12套餐具,每套包括一把叉子、一个勺子和一个小刀。

最终答案

12

One more thing

大型语言模型的推理过程是一个复杂而多面的课题,我们的研究团队在多个领域进行了深入的探索。

从 Process Reward Model 到 LLM Critique,从多步推理到强化学习,我们一步步深化对智能的理解。虽然最终的目标尚未明确,但每一步的努力都使我们更接近真理、更接近智能。我们坚信,通过不懈的努力和探索,奇迹终将发生。

您可通过以下链接体验QwQ:

huggingface:

https://huggingface.co/Qwen/QwQ-32B-Preview

demo:

https://huggingface.co/spaces/Qwen/QwQ-32B-preview


版块介绍 —产业之声

紧跟产业发展脉搏,我们汇集行业领袖与企业的真实声音,在算力基础设施的规划与布局、能耗优化、大模型能力发展、大模型评测体系、产业应用案例深入研究、新技术与应用趋势前瞻探索等方面,剖析成功案例背后的逻辑与挑战,并提供基于产业深度洞察的策略建议。同时,我们依托于阿里巴巴集团在人工智能领域的全面布局,分享阿里的AI产业生态和应用的实践落地,探讨技术如何重塑产业格局并推动社会经济的转型升级。

Reading

1、

2、

3、

4、

5、

6、

7、

8、

9、

10、

11、

12、

13、

14、

15、

16、

17、

18、

19、

20、

21、

22、

23、

24、

25、

26、