开源模型应用落地-qwen模型小试-Qwen3-8B-快速体验-pipeline方式（二） - 指南

一、前言

    阿里云最新推出的Qwen3-8B大语言模型，作为国内首个集成“快思考”与“慢思考”能力的混合推理模型，凭借其 80 亿参数规模及 128K 超长上下文支持，正在重塑AI 应用边界。该模型既可通过轻量化“快思考”实现低算力秒级响应，也能在艰难任务中激活深度推理模式，以多步逻辑解决难题，显著降低综合成本。

    本文将深入探讨利用Transformers的pipeline实现非流式和流式输出。

    前置文章：开源模型应用落地-qwen模型小试-Qwen3-8B-快速体验（一）

---

二、术语

2.1. Qwen3

    通义千问3（Qwen3）是阿里巴巴于2025年4月29日推出的全新一代大语言模型，并采用Apache