如何看待qwen3-Embedding模型？

rag的时候，Embedding如何选，一般情况都是能力+成本的综合评估，我一般选择，看排行榜（重点关注的哪项能力），然后再看部署成本。一般看mteb的评估即可。
https://huggingface.co/spaces/mteb/leaderboard

MTEB 评估（Massive Text Embedding Benchmark）

这是目前最权威、最广泛使用的 embedding 评估基准，由 Hugging Face 和一批研究人员发起，旨在全面衡量嵌入模型在不同下游任务中的泛化能力。包含 8 大类、58 个任务。具体的分类和任务我们不做讨论。

我们看下embedding 模型应当具备的能力

能力	相关任务	对应意义
语义表征能力	STS、分类	是否能准确理解句子含义
检索能力	检索、Rerank	是否能找到语义上相似的句子
多语言泛化能力	跨语言检索	不同语言之间语义是否对齐，英文搜索中文
聚类/结构能力	Clustering	embedding 空间是否语义组织良好
迁移泛化能力	MTEB 全面任务	是否在多个任务/数据集上都有效

在qwen3-Embedding 0.6b没有出来之前，同规格下，bge-m3还是不错的。

我把表格数据下载下来，丢给chatgpt，让它综合评估了下。

BGE-m3 适用场景和不推荐使用场景

Qwen3 Eembedding亮点

Qwen3 Eembedding基于 Qwen3 系列的密集基础模型，所以它天然的继承了qwen3的多语言能力、长文本理解和推理能力。它提供了各种大小（0.6B、4B 和 8B）的全面文本嵌入和重新排序模型。

• • 卓越的多功能性：嵌入模型在广泛的下游应用评估中取得了最先进的性能。8B 大小的嵌入模型在 MTEB 多语言排行榜上排名第 1（截至2025年6月5日，得分为 70.58），而重排序模型在各种文本检索场景中表现出色。
• • 全面的灵活性：Qwen3 Embedding 系列为嵌入和重排序模型提供了从 0.6B 到 8B 的全尺寸范围，适用于重视效率和效果的各种使用场景。开发者可以无缝地结合这两个模块。此外，嵌入模型允许在所有维度上灵活定义向量，并且嵌入和重排序模型都支持用户定义的指令，以增强特定任务、语言或场景的性能。
• • 多语言能力：得益于 Qwen3 模型的多语言能力，Qwen3 Embedding 系列支持超过 100 种语言。这包括各种编程语言，并提供了强大的多语言、跨语言和代码检索能力。

• • MRL 支持 表示嵌入模型是否支持自定义最终嵌入的维度。

• • 指令感知 表示嵌入或重排序模型是否支持根据不同任务定制输入指令。

通过数据可以看到Qwen3-embedding模型上下文长度为32k，嵌入维度可以灵活自定义。

我也让chatgpt基于mteb评测数据综合评估下qwen3-Embedding


不管是通过官方的介绍，还是chatgpt、deepseek通过评测数据，qwen3-embedding确实强。怎么选？

 

部署

 

在ollama上这个模型，怎么部署？

第一步，安装Ollama。打开官网下载：https://ollama.com/download

可以选择Download for Windows来下载。然后双击OllamaSetup.exe按提示安装完成。

第二步，打开Windows PowerShell，或者CMD命令。

如下载Qwen3-Embedding-0.6B，可以输入Ollama命令：

ollama run dengcao/Qwen3-Embedding-0.6B:F16

如下载Qwen3-Reranker-0.6B，可以输入Ollama命令：

ollama run dengcao/Qwen3-Reranker-0.6B:F16

接下来等待下载完成即可。

---------------------------------------

下面列出Qwen3-Embedding和Qwen3-Reranker各个版本的Ollama安装命令。

Qwen3-Embedding-0.6B系列：

ollama run dengcao/Qwen3-Embedding-0.6B:Q8_0

ollama run dengcao/Qwen3-Embedding-0.6B:F16

Qwen3-Embedding-4B系列：

ollama run dengcao/Qwen3-Embedding-4B:Q4_K_M

ollama run dengcao/Qwen3-Embedding-4B:Q5_K_M

ollama run dengcao/Qwen3-Embedding-4B:Q8_0

ollama run dengcao/Qwen3-Embedding-4B:F16

Qwen3-Embedding-8B系列：

ollama run dengcao/Qwen3-Embedding-8B:Q4_K_M

ollama run dengcao/Qwen3-Embedding-8B:Q5_K_M

ollama run dengcao/Qwen3-Embedding-8B:Q8_0

ollama run dengcao/Qwen3-Embedding-8B:F16

Qwen3-Reranker-0.6B系列：

ollama run dengcao/Qwen3-Reranker-0.6B:Q8_0

ollama run dengcao/Qwen3-Reranker-0.6B:F16

Qwen3-Reranker-4B系列：

ollama run dengcao/Qwen3-Reranker-4B:Q4_K_M

ollama run dengcao/Qwen3-Reranker-4B:Q5_K_M

ollama run dengcao/Qwen3-Reranker-4B:Q8_0

Qwen3-Reranker-8B系列：

ollama run dengcao/Qwen3-Reranker-8B:Q3_K_M

ollama run dengcao/Qwen3-Reranker-8B:Q4_K_M

ollama run dengcao/Qwen3-Reranker-8B:Q5_K_M

ollama run dengcao/Qwen3-Reranker-8B:Q8_0

ollama run dengcao/Qwen3-Reranker-8B:F16

至于效果，后续实际测试下

后记

• • 大模型这半年迭代速度太快了，一个接一个的推出，能力也是越来越强

• • 怎么选模型，简单，找deepseek或者chatgpt把，把评测数据丢上去，把自己的使用场景和要求也给它们，他们会给你一个相对靠谱的建议，然后你就可以小范围测试了

 

原文作者：yxkong  转载自公众号：5ycode

​