深夜突袭，阿里Qwen3登顶全球开源王座！暴击DeepSeek-R1，2小时狂揽17k星

tayun

新智元报道

编辑：编辑部 YZH

【新智元导读】阿里Qwen3凌晨开源，正式登顶全球开源大模型王座！它的性能全面超越DeepSeek-R1和OpenAI o1，采用MoE架构，总参数235B，横扫各大基准。这次开源的Qwen3家族，8款混合推理模型全部开源，免费商用。

就在今天凌晨，备受全球期待的阿里新一代通义千问模型Qwen3开源！

一经问世，它立即登顶全球最强开源模型王座。

它的参数量仅为DeepSeek-R1的1/3，但成本大幅下降，性能全面超越R1、OpenAI-o1等全球顶尖模型。

Qwen3是国内首个「混合推理模型」，「快思考」与「慢思考」集成进同一个模型，对简单需求可低算力「秒回」答案，对复杂问题可多步骤「深度思考」，节省算力消耗。

它采用混合专家（MoE）架构，总参数量235B，激活仅需22B。

它的预训练数据量达36T ，并在后训练阶段多轮强化学习，将非思考模式无缝整合到思考模型中。

一经诞生，Qwen3立即横扫各大基准。

而且，性能大幅提升的同时，它的部署成本还大幅下降，仅需4张H20即可部署Qwen3满血版，显存占用仅为性能相近模型的1/3！

亮点总结：

· 各种尺寸的稠密模型和混合专家（MoE）模型，包括0.6B、1.7B、4B、8B、14B、32B以及30B-A3B和235B-A22B。

· 能够在思考模式（用于复杂的逻辑推理、数学和编码）和非思考模式（用于高效的通用聊天）之间无缝切换，从而确保在各种场景中实现最佳性能。

· 推理能力显著增强，在数学、代码生成和常识逻辑推理方面，超越了之前处于思考模式下的QwQ和处于非思考模式下的Qwen2.5 instruct模型。

· 更符合人类偏好，擅长创意写作、角色扮演、多轮对话和指令遵循，从而提供更自然、引人入胜和更真实的对话体验。

· 精通AI智能体能力，支撑在思考和非思考模式下与外部工具的精确集成，并在复杂的基于智能体的任务中，在开源模型中实现了领先的性能。

· 首次支撑119种语言和方言，具有强大的多语言指令跟随和翻译能力。

目前，Qwen 3已同步上线魔搭社区、Hugging Face、GitHub，并可在线体验。

全球开发者、研究机构和企业均可免费下载模型并商用，也可以通过阿里云百炼调用Qwen3的API服务。个人用户可马上通过通义APP直接体验Qwen3，夸克也即将全线接入Qwen3。

在线体验：https://chat.qwen.ai/

魔搭社区：https://modelscope.cn/collections/Qwen3-9743180bdc6b48

Hugging Face：https://huggingface.co/collections/Qwen/qwen3-67dd247413f0e2e4f653967f

GitHub：https://github.com/QwenLM/Qwen3

至此，阿里通义已开源200余个模型，全球下载量超3亿次，千问衍生模型数超10万个，彻底超越美国Llama，成为全球第一开源模型！

Qwen 3家族登场

8款「混合推理」模型全开源

这次，阿里一口气开源了8款混合推理模型，包括2款30B、235B的MoE模型，以及0.6B、1.7B、4B、8B、14B、32B等6款稠密模型，均采用 Apache 2.0许可。

其中，每款模型均斩获同尺寸开源模型SOTA。

Qwen3的30B参数MoE模型实现了10倍以上的模型性能杠杆提升，仅激活3B就能媲美上代Qwen2.5-32B模型性能。

Qwen3的稠密模型性能继续突破，一半的参数量可实现同样的高性能，如32B版本的Qwen3模型可跨级超越Qwen2.5-72B性能。

同时，所有Qwen3模型都是混合推理模型，API可按需设置「思考预算」（即预期最大深度思考的tokens数量），进行不同程度的思考，灵活满足AI应用和不同场景对性能和成本的多样需求。

比如，4B模型是手机端的绝佳尺寸；8B可在电脑和汽车端侧丝滑部署应用；32B最受企业大规模部署欢迎，有条件的开发者也可轻松上手。

开源模型新王，刷新纪录

Qwen3在推理、指令遵循、工具调用、多语言能力等方面均大幅增强，即创下所有国产模型及全球开源模型的性能新高——

在奥数水平的AIME25测评中，Qwen3斩获81.5分，刷新开源纪录。

在考察代码能力的LiveCodeBench评测中，Qwen3突破70分大关，表现甚至超过Grok3。

在评估模型人类偏好对齐的ArenaHard测评中，Qwen3以95.6分超越了OpenAI-o1及DeepSeek-R1。

具体来说，旗舰模型 Qwen3-235B-A22B与其他顶级模型（如DeepSeek-R1、o1、o3-mini、Grok-3和Gemini-2.5-Pro）相比，在编码、数学、通用能力等各项基准测试中，成绩都相当亮眼。

此外，小型混合专家模型Qwen3-30B-A3B虽然激活参数只有QwQ-32B的十分之一，但性能却更胜一筹。

甚至是Qwen3-4B这样的小模型，也能媲美Qwen2.5-72B-Instruct的性能。

经过微调的模型，如Qwen3-30B-A3B，及其预训练版本（如 Qwen3-30B-A3B-Base），现在都可在Hugging Face、ModelScope 和Kaggle等平台上找到。

对于部署，阿里推荐使用SGLang和vLLM等框架。对于本地使用，强烈推荐Ollama、LMStudio、MLX、llama.cpp和KTransformers等工具。

无论研究、开发还是生产环境，Qwen3都可轻松集成到各种工作流程中。

利好智能体Agent和大模型应用爆发

可以说，Qwen3为即将到来的智能体Agent和大模型应用爆发提供了更好的支撑。

在评估模型Agent能力的BFCL评测中，Qwen3创下70.8的新高，超越Gemini2.5-Pro、OpenAI-o1等顶尖模型，这将大幅降低Agent调用工具的门槛。

同时，Qwen3原生支撑MCP协议，并具备强大的工具调用能力，结合封装了工具调用模板和工具调用解析器的Qwen-Agent框架。

这将降低编码复杂性，实现高效的手机及电脑Agent操作等任务。

主要特点

混合推理模式

Qwen3模型引入了一种混合问题解决方式。它们支撑两种模式：

1. 思考模式：在该模式下，模型会逐步推理，然后给出答案。这适合需要深入思考的复杂问题。

2. 非思考模式：在该模式下，模型会快速给出答案，适用于对速度要求较高的简单问题。

这种灵活性，让用户可以根据任务的复杂程度，控制模型的推理过程。

例如，难题可以通过扩展推理来解决，而简单的问题可以直接回答，而不会延迟。

至关重要的是，这两种模式的结合，提高了模型稳定高效地控制推理资源的能力。

如上所示，Qwen3表现出可扩展且平滑的性能改进，这与分配的计算推理预算直接相关。

这种设计使用户能够更轻松地配置特定于任务的预算，从而在成本效率和推理质量之间实现更优化的平衡。

多语言支撑

Qwen3模型支撑119种语言和方言。

如此广泛的多语言能力，也意味着Qwen 3有极大潜力创建风靡全球的国际应用。

更强大的智能体能力

阿里对Qwen3模型进行了优化，以提高编码和智能体能力，并且还加强了对MCP的支撑。

下面这个示例，很好地展示了Qwen3是如何思考并与环境交互的。

36万亿token，多阶段训练

作为千问系列最强模型，Qwen3究竟是如何实现如此惊艳的表现？

接下来，一起扒一扒Qwen3背后技术细节。

预训练

与Qwen2.5相比，Qwen3预训练数据集规模几乎是上一代两倍，从18万亿个token扩展到了36万亿个token。

它覆盖了119种语言和方言，不仅来源于网络，还包括从PDF等文档中提取文本内容。

为了确保数据质量，团队利用Qwen2.5-VL提取文档文本，并通过Qwen2.5优化提取内容的准确性。

此外，为了提升模型在数学和代码领域的表现，Qwen3还通过Qwen2.5-Math和Qwen2.5-Coder生成大量合成数据，包括教科书、问答对和代码片段。

Qwen3预训练过程，一共分为三个阶段，逐步提升模型的能力：

第一阶段（S1）：基础语言能力构建

使用超30万亿个token，以4k上下文长度进行预训练。这一阶段为模型奠定了扎实的语言能力和通用常识基础。

第二阶段（S2）：常识稠密型优化

通过增加STEM、编码和推理任务等常识稠密型数据的比例，模型在额外5万亿和token上继续训练，进一步提升专业能力的表现。

第三阶段（S3）：上下文能力扩展

利用高质量上下文数据，将模型的上下文长度扩展至32k，确保其能够处理复杂、超长输入。

得益于模型架构优化、数据规模扩展和更高效的训练方法，Qwen3 Dense基础模型展现出亮眼的性能。

如下表所示，Qwen3-1.7B/4B/8B/14B/32B-Base可以媲美Qwen2.5-3B/7B/14B/32B/72B-Base，以更小的参数量达到更大模型的水平。

尤其是，在STEM、编码和推理等领域，Qwen3 Dense基础模型甚至优于更大的Qwen2.5模型。

更令人瞩目的是，Qwen3 MoE模型仅用10%激活参数，即可实现Qwen2.5 Dense基础模型相似的性能。

这不仅大幅降低了训练和推理成本，还为模型的实际部署提供了更高的灵活性。

后训练

为了打造一个既能进行复杂推理，又能快速响应的混合模型，Qwen3设计了一个四阶段后训练流程。

1. 长思维链冷启动

使用多样化的长思维链数据，覆盖数学、编码、逻辑推理和STEM问题，训练模型掌握基本的推理能力。

2. 长思维链强化学习

通过扩展RL的计算资源，结合基于规则的奖励机制，提升模型在探索和利用推理路径方面的能力。

3. 思维模式融合

使用长思维链数据和指令微调数据进行微调，将快速反应能力融入推理模型，确保模型在复杂任务中既精准又高效。

此数据由第二阶段的增强思考模型生成，确保推理和快速响应能力的无缝融合。

4. 通用强化学习

在20多个通用领域任务，如指令遵循、格式遵循和智能体能力中应用RL，进一步提升模型的通用性和鲁棒性，同时纠正不良行为。

全网好评如潮

Qwen3开源不到3小时，GitHub狂揽17k星，彻底点燃了开源社区的热情。开发者们纷纷下载，开启了极速测试。

项目地址：https://github.com/QwenLM/Qwen3

苹果工程师Awni Hannun宣布，Qwen3已经得到MLX框架支撑。

而且，不论是苹果（0.6B, 4B），还是MacBook（8B, 30B, 3B/30B MoE）、M2/M3 Ultra（22B/235B MoE）消费级设备，均可本地跑。

他在M2 Ultra上运行了Qwen3 235B MoE，生成速度高达28 token/s。

有网友实测后发现，与Qwen3大小相同的Llama模型，简直不在一个级别上。前者推理更深入，保持更长上下文，还能解决更难的问题。

还有人表示，Qwen3就像是一个DeepSeek时刻。

官方指南

如何用Qwen3进行开发

这次，阿里还放出了在不同框架上使用Qwen3的简单指南。

首先，这是一个在Hugging Face transformers中使用Qwen3-30B-A3B的标准示例：

<pre><code>from modelscope import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3-30B-A3B"

# load the tokenizer and the model
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)

# prepare the model input
prompt = "Give me a short introduction to large language model."
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True # Switch between thinking and non-thinking modes. Default is True.
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# conduct text completion
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=32768
)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()

# parsing thinking content
try:
    # rindex finding 151668 ()
    index = len(output_ids) - output_ids[::-1].index(151668)
except ValueError:
    index = 0

thinking_content = tokenizer.decode(output_ids[:index], skip_special_tokens=True).strip("\n")
content = tokenizer.decode(output_ids[index:], skip_special_tokens=True).strip("\n")

print("thinking content:", thinking_content)
print("content:", content)</code></pre>
要关闭推理功能，只需更改参数enable_thinking，如下所示：

<pre><code>text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=False  # True is the default value for enable_thinking.
)</code></pre>
对于部署，可以使用sglang&gt;=0.4.6.post1或vllm&gt;=0.8.4创建与OpenAI兼容的API端点：

SGLang：

<pre><code>python -m sglang.launch_server --model-path Qwen/Qwen3-30B-A3B --reasoning-parser qwen3</code></pre>
vLLM：

<pre><code>vllm serve Qwen/Qwen3-30B-A3B --enable-reasoning --reasoning-parser deepseek_r1</code></pre>
如果将其用于本地开发，则可以通过运行简单的命令ollama run qwen3:30b-a3b来使用ollama运行模型，或者，也可使用LMStudio、llama.cpp和ktransformers在本地进行构建。

高级用法

团队提供了一种软切换机制，当enable_thinking=True时，用户可以通过该机制动态控制模型的行为。

具体来说，可以将/think和/no_think添加到用户提示或系统消息中，以逐轮切换模型的思考模式。该模型将遵循多轮对话中最近的指令。

下面就是一个多轮对话的示例：

<pre><code>from transformers import AutoModelForCausalLM, AutoTokenizer
class QwenChatbot:
    def __init__(self, model_name="Qwen/Qwen3-30B-A3B"):
        self.tokenizer = AutoTokenizer.from_pretrained(model_name)
        self.model = AutoModelForCausalLM.from_pretrained(model_name)
        self.history = []
    def generate_response(self, user_input):
        messages = self.history + [{"role": "user", "content": user_input}]
        text = self.tokenizer.apply_chat_template(
            messages,
            tokenize=False,
            add_generation_prompt=True
        )
        inputs = self.tokenizer(text, return_tensors="pt")
        response_ids = self.model.generate(**inputs, max_new_tokens=32768)[0][len(inputs.input_ids[0]):].tolist()
        response = self.tokenizer.decode(response_ids, skip_special_tokens=True)
        # Update history
        self.history.append({"role": "user", "content": user_input})
        self.history.append({"role": "assistant", "content": response})
        return response
# Example Usage
if __name__ == "__main__":
    chatbot = QwenChatbot()
    # First input (without /think or /no_think tags, thinking mode is enabled by default)
    user_input_1 = "How many r's in strawberries?"
    print(f"User: {user_input_1}")
    response_1 = chatbot.generate_response(user_input_1)
    print(f"Bot: {response_1}")
    print("----------------------")
    # Second input with /no_think
    user_input_2 = "Then, how many r's in blueberries? /no_think"
    print(f"User: {user_input_2}")
    response_2 = chatbot.generate_response(user_input_2)
    print(f"Bot: {response_2}")
    print("----------------------")
    # Third input with /think
    user_input_3 = "Really? /think"
    print(f"User: {user_input_3}")
    response_3 = chatbot.generate_response(user_input_3)
    print(f"Bot: {response_3}")</code></pre>
智能体功能的使用

Qwen3在工具调用方面的表现非常出色。

团队建议开发者使用Qwen-Agent，来充分利用Qwen3的智能体功能。

Qwen-Agent在内部集成了工具调用模板和解析器，从而降低了编码的复杂程度。

要定义可用的工具，可以使用MCP配置文件，使用Qwen-Agent的集成工具，或者自己集成其他工具。

<pre><code>


</code></pre><pre><code><code>from qwen_agent.agents import Assistant
# Define LLM
llm_cfg = {
    'model': 'Qwen3-30B-A3B',
    # Use the endpoint provided by 阿里巴巴 Model Studio:
    # 'model_type': 'qwen_dashscope',
    # 'api_key': os.getenv('DASHSCOPE_API_KEY'),
    # Use a custom endpoint compatible with OpenAI API:
    'model_server': 'http://localhost:8000/v1',  # api_base
    'api_key': 'EMPTY',
    # Other parameters:
    # 'generate_cfg': {
    #         # Add: When the response content is ` this is the thought this is the answer;
    #         # Do not add: When the response has been separated by reasoning_content and content.
    #         'thought_in_content': True,
    #     },
}
# Define Tools
tools = [
    {'mcpServers': {  # You can specify the MCP configuration file
            'time': {
                'command': 'uvx',
                'args': ['mcp-server-time', '--local-timezone=Asia/Shanghai']
            },
            "fetch": {
                "command": "uvx",
                "args": ["mcp-server-fetch"]
            }
        }
    },
  'code_interpreter',  # Built-in tools
]
# Define Agent
bot = Assistant(llm=llm_cfg, function_list=tools)
# Streaming generation
messages = [{'role': 'user', 'content': 'https://qwenlm.github.io/blog/ Introduce the latest developments of Qwen'}]
for responses in bot.run(messages=messages):
    pass
print(responses)
</code></code></pre><pre>

</pre>参考资料：

https://qwenlm.github.io/blog/qwen3/


来源：网易