收藏必备！小白也能懂的大模型知识：提示词、Token与嵌入技术详解 - 教程

在人工智能技术飞速迭代的当下，AI大模型已从工艺概念逐步落地为赋能各行业的实用工具。对于开发者而言，掌握大模型的基础原理、关键技术与应用方法，是构建高效智能应用的核心前提。本文将体系梳理AI大模型的核心知识体系，涵盖模型本质、提示词工程、Token机制、数据接入技术、检索增强生成（RAG）、嵌入（Embedding）概念及回答评估方法，同时补充实际开发中的实用技巧，为开发者提供从理论到实践的完整指导。

一、AI大模型的本质与类型

AI大模型并非单一算法，而是一套通过大规模材料训练、具备复杂信息处理与生成能力的算法集群，其核心目标是模拟人类认知逻辑，实现对文本、图像、音频等多类型信息的理解与输出。不同于传统小模型“专才式”的任务定位，大模型通过海量数据学习通用规律，可灵活适配多种场景，例如文本创作、图像生成、数据分析等。

从输入输出类型划分，主流AI大模型可分为以下几类，覆盖不同应用需求：

• 文本-文本模型：以ChatGPT为代表，接收文本指令并生成文本响应，广泛用于智能对话、内容创作、代码生成等场景，是目前开发者最常用的模型类型。
• 文本-图像模型：如Midjourney、Stable Diffusion，通过文本描述（Prompt）生成符合意境的图像，在设计、影视、游戏等领域应用广泛，可快捷达成创意可视化。
• 文本-数值模型检索增强生成（RAG）技术的核心支撑。就是：这类模型鲜少被大众关注，但其是大模型技术链中的关键环节——它能将文本转换为固定长度的数值数组（即嵌入向量），用于捕捉文本语义特征，为后续的相似度计算、语义搜索提供基础，也

值得注意的是，以GPT系列为代表的大模型，其“预训练（Pre-trained）”特性彻底降低了开发门槛。“预训练”意味着模型已凭借万亿级数据完成基础学习，开发者无需掌握复杂的机器学习理论或进行大规模训练，只需基于预训练模型进行微调或设计提示词，即可快速搭建应用，这也是大模型能快速普及的重要原因。

二、提示词（Prompt）：大模型的“沟通语言”

提示词是开发者与大模型交互的核心媒介，它不仅是简单的文本输入，更是引导模型理解任务目标、输出符合预期结果的“指令体系”。在ChatGPT等模型的API中，提示词并非单一字符串，而是包含角色定义的结构化指令，不同角色承担不同功能：

• 系统角色（System）：相当于模型的“行为准则”，用于设定模型的身份、交互规则与输出格式。例如，可利用“你是一名专业的Python开发者，仅用简洁代码回答问题”定义模型角色，确保输出符合开发需求。
• 用户角色（User）：即开发者或用户的实际需求，是模型需要解决的核心问题。例如，“编写一个读取Excel档案并统计数据的Python函数”。
• 助手角色（Assistant，可选）：用于提供历史对话上下文，帮助模型理解交互逻辑。例如，在多轮对话中，可加入模型上一轮的回答，确保上下文连贯。

设计高效提示词是一门兼具“技能”与“艺术”的技能，行业内称之为“提示词工程（Prompt Engineering）”。随着研究深入，越来越多实用技巧被总结出来：

• 分步引导：繁琐任务中，通过“深呼吸，分步完成以下任务：1. 分析疑问需求；2. 列出实现步骤；3. 生成具体方案”的指令，降低模型理解难度，提升输出准确性。这一技巧在2024年多项学术研究中被证实对GPT-3.5、GPT-4均有效。
• 场景具象化：避免模糊指令，加入具体场景细节。例如，将“写一篇产品介绍”优化为“为一款面向大学生的便携充电宝写一篇300字介绍，突出20W快充、1万毫安容量、轻量化设计三个卖点”，模型输出会更贴合需求。
• 格式约束：明确要求输出格式，如“用Markdown表格列出Python中常用的数据结构及适用场景”，便于后续处理与阅读。

目前，提示词分享已成为开发者社区的核心实践，GitHub、知乎等平台上有大量优质提示词模板，同时，提示词工程也成为学术研究热点，不断有新的优化方法被提出，开发者可通过关注最新研究成果持续提升提示词设计能力。

三、Token：大模型的“数据货币”

Token是大模型处理信息的基本单位，相当于人类语言中的“词语片段”。在输入阶段，模型会将文本拆分为一个个Token；在输出阶段，再将Token重组为自然语言。理解Token机制，是控制开发成本、避免API调用失败的关键。

1. Token的量化与换算

不同语言的Token与字符/单词的换算比例不同：在英语中，1个Token约对应0.75个单词（或4个字符）；而在中文中，1个Token约对应1-2个汉字（因中文语义更密集）。为方便开发者估算，可参考以下常见案例：

• 一篇500字的中文短文，约对应300-400个Token；
• 莎士比亚全集（约90万个英语单词），换算后约为120万个Token；
• 一份10页的PDF文档（中文，含少量表格），约对应5000-8000个Token。

### 2. Token与成本、性能的关联
在实际开发中，Token直接影响两个核心问题：费用与上下文窗口限制：

• Token = 成本：主流大模型（如OpenAI GPT、Anthropic Claude）均按Token数量计费，且输入Token与输出Token分别统计。例如，GPT-4（8K上下文）的输入费用为0.03美元/1K Token，输出费用为0.06美元/1K Token，若一次调用输入2K Token、输出1K Token，则需支付0.032 + 0.061 = 0.12美元。
• Token限制 = 上下文窗口：每个模型都有固定的Token上限（即上下文窗口），超出限制的文本会被模型忽略。不同模型的上下文窗口差异较大，开发者需根据需求选择：

  模型	上下文窗口（Token）	适用场景
  GPT-3.5	4K / 16K	短对话、简便文本生成
  GPT-4	8K / 16K / 32K	复杂任务、长文本分析
  Anthropic Claude	100K	超长文档处理（如PDF全文总结）
  Meta Llama 3（部分版本）	1M	大规模数据处理（如资料集分析）

例如，若需用GPT-4总结莎士比亚全集（120万Token），由于GPT-4最大上下文窗口仅32K，无法一次性处理，需设计数据拆分策略：将全集按章节拆分为38个片段（每个片段约32K Token），逐一输入模型生成小结，最后再将38个小结整合为完整总结——这也是大模型开发中常见的“分而治之”思路。

四、数据接入：让大模型“认识”你的信息

预训练大模型的知识存在两个局限：一是时间截止性（如GPT-3.5/4的训练素材截止到2021年9月，无法获取之后的新信息）；二是领域局限性（无法直接使用企业内部文档、行业专属素材）。要应对这一问题，需通过技术手段将自定义数据接入大模型，目前主流方案有三种：微调（Fine Tuning）、提示词填充（Prompt Stuffing）、函数调用（Function Calling）。

1. 微调（Fine Tuning）：深度定制模型

微调是经过在自定义数据集上继续训练模型，调整其内部权重，使模型适配特定任务或领域的手艺。例如，用企业客服历史对话数据微调模型，可让模型更精准地回答客户问题。

但微调存在明显局限：

• 技术门槛高：需掌握机器学习训练流程（如数据清洗、超参数调优、训练监控），对非算法背景的开发者不友好；
• 资源消耗大：大模型参数规模通常达百亿、千亿级，微调需高性能GPU集群（如多台A100），成本极高；
• 灵活性低：部分模型（如GPT-4基础版）不开放微调接口，且微调后若数据更新，需重新训练，无法实时适配新信息。

因此，微调更适合必须深度领域适配、且具备充足技术与资金资源的场景（如大型企业的专属客服模型、医疗领域的诊断辅助模型）。

2. 提示词填充（Prompt Stuffing）：轻量数据接入

公司2024年产品规划文档片段：… ”，再提出问题。就是提示词填充是将自定义数据（如企业文档片段、行业知识）直接嵌入提示词，让模型在生成回答时参考这些材料的方法。例如，要让模型回答“公司2024年产品规划”，可在提示词中加入“以下

这种方法的核心优势是轻量、低成本，无需复杂技术，只需筛选与障碍相关的数据片段即可。但它受限于模型的上下文窗口：若数据量过大（如超过10K Token），无法全部嵌入提示词，因此需先对数据进行“相关性过滤”——仅保留与用户问题最相关的片段（如依据关键词匹配、语义相似度筛选），再填充到提示词中。

提示词填充适合数据量较小、更新频率低的场景（如个人知识库查询、小型企业的产品信息问答）。

3. 函数调用（Function Calling）：连接外部系统

函数调用是让大模型调用自定义函数或外部API，获取实时数据或执行特定操作的技术。它处理了大模型“知识陈旧”与“无法交互外部系统”的痛点：

• 获取实时数据：例如，通过调用天气API，让模型实时获取某地天气并生成出行建议；调用股票API，获取实时股价并分析趋势；
• 执行操作任务：例如，调用邮件API，让模型根据用户指令自动发送邮件；调用数据库API，查询并统计业务数据。

函数调用的实现流程简单清晰：

1. 开发者注册自定义函数（需定义函数名称、参数、返回值格式）；
2. 模型接收用户问题后，判断是否需要调用函数（如“今天北京天气如何”需调用天气API）；
3. 模型生成函数调用指令，开发者执行函数并返回结果；
4. 模型基于函数返回结果，生成自然语言回答。

这种方法适合需要实时内容、或需与外部系统交互的场景（如智能办公助手、实时数据分析工具）。

五、检索增强生成（RAG）：大模型的“外置知识库”

检索增强生成（RAG）是结合“检索外部材料”与“模型生成”的技术，旨在解决提示词填充中“数据量有限”的问题，让模型能高效利用大规模自定义数据（如企业文档库、行业知识库）生成回答。RAG的核心思路是：先检索、后生成，即先从海量数据中找到与问题相关的片段，再将这些片段作为参考，让模型生成准确回答。

1. RAG的核心流程（ETL+检索+生成）

RAG的实现可分为“材料预处理”与“用户交互”两个阶段，整体流程类似素材工程中的ETL（提取、转换、加载） pipeline：

阶段1：数据预处理（离线执行）

• 提取（Extract）：从多种数据源（如PDF、Word、Excel、数据库、网页）中提取非结构化数据（文本、表格）；
• 转换（Transform）RAG的关键步骤，需将原始数据处理为模型可利用的格式，核心操作包括：就是：这
  1. 语义拆分：将长文档按语义边界拆分为短片段（如按章节、段落拆分，避免拆分表格、代码块等完整结构），确保每个片段语义完整；
  2. Token截断：将拆分后的片段进一步处理为“小于模型上下文窗口1/3”的长度（如模型上下文窗口为8K Token，则片段长度控制在2K Token以内），避免后续嵌入与检索时的效率问题；
  3. 嵌入转换：利用嵌入模型（如OpenAI Embedding、BERT Embedding）将每个片段转换为嵌入向量，捕捉片段的语义特征；
• 加载（Load）：将嵌入向量存储到矢量数据库（如Pinecone、Milvus、Chroma）中，矢量数据库能高效存储与检索高维向量，为后续的相似性查询提供支持。

阶段2：用户交互（在线执行）

1. 用户问题处理：接收用户挑战，将其转换为嵌入向量；
2. 相似片段检索：在矢量数据库中，利用计算“问题向量”与“片段向量”的相似度（如欧几里得距离、余弦相似度），检索出Top 5-10个最相关的片段；
3. 提示词构建：将检索到的片段嵌入提示词，格式如“参考以下信息回答问题：[片段1]… [片段2]… 问题：[用户问题]”；
4. 模型生成：将构建好的提示词发送给大模型，模型基于参考片段生成回答，确保回答的准确性与相关性。

2. RAG的优势与适用场景

RAG相比微调与提示词填充，具有明显优势：

• 数据更新灵活：新增数据只需重新执行“提取-转换-加载”流程，无需重新训练模型，实时性强；
• 成本低：无需高性能GPU，矢量数据库的存储与检索成本远低于微调；
• 可解释性强：回答可追溯到具体的参考片段，便于验证准确性（如企业合规场景中，需证明回答来源）。

RAG广泛应用于需大规模知识库支持的场景，如企业内部文档问答（如HR政策查询、产品手册咨询）、行业知识助手（如法律条文解读、医疗文献查询）、学术研究辅助（如论文检索与总结）。

六、嵌入（Embedding）：语义的“数值密码”

嵌入（Embedding）是将非结构化数据（文本、图像、音频）转换为高维数值向量的工艺，其核心价值是用数值捕捉语义关系——语义相似的内容，其嵌入向量在高维空间中的距离更近；语义差异大的内容，向量距离更远。例如，“猫喜欢吃鱼”与“猫咪爱吃鱼”的嵌入向量距离很近，而与“狗喜欢吃肉”的向量距离较远。

1. 嵌入的基本原理

以文本嵌入为例，其完成过程可简单理解为：

1. 嵌入模型（如OpenAI的text-embedding-3-small、Google的Universal Sentence Encoder）对文本进行语义分析，提取关键词、语法结构、情感倾向等特征；
2. 将这些特征映射为固定长度的浮点数数组（即嵌入向量），向量长度（维度）通常为1536维、2048维等（维度越高，捕捉的语义细节越丰富，但存储与计算成本也越高）。

例如，“人工智能”的嵌入向量可能是“[0.123, -0.456, 0.789, …, 0.321]”（共1536个数值），每个数值代表一个语义特征的权重。

2. 嵌入的核心应用

嵌入是RAG、语义搜索、文本分类等技术的基础，具体应用场景包括：

• 相似性检索：如RAG中检索与问题相关的文档片段，或社交平台中推荐“相似帖子”；
• 文本分类：将嵌入向量输入分类模型，实现“垃圾邮件识别”“情感分析”等任务；
• 推荐系统：通过计算用户偏好向量与商品描述向量的相似度，达成“个性化推荐”。

对于开发者而言，无需深入理解嵌入模型的数学原理（如Transformer架构、注意力机制），只需掌握“如何调用嵌入API生成向量”“如何用矢量数据库存储与检索向量”即可满足大部分创建需求。例如，通过OpenAI的Embedding API，只需发送文本请求，即可获取对应的嵌入向量，操作简单高效。

七、评估（Evaluation）：确保大模型回答的准确性

有效评估人工智能系统回答的正确性，对于确保最终应用程序的准确性和实用性相当关键，一些新兴技术使得预训练模型本身能够用于此目的。
Evaluation 评估过程涉及分析响应是否符合用户的意图、与查询的上下文强相关，一些指标如相关性、连贯性和事实正确性等都被用于衡量 AI 生成的响应的质量。
一种方法是把用户的请求、模型的响应一同作为输入给到模型服务，对比模型给的响应或回答是否与给出的响应数据一致。
此外，利用矢量数据库（Vector Database）中存储的信息作为补充数据可以增强评估过程，有助于确定响应的相关性。

八、如何学习大模型 AI ？

提升的。就是由于新岗位的生产效率，要优于被取代岗位的生产效率，因此实际上整个社会的生产效率

然而具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。支援很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也许可通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

九、为什么要学习大模型？

我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年，人才缺口已超百万，凸显培养不足。随着AI技术飞速发展，预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。

十、大模型入门到实战全套学习大礼包

1、大模型系统化学习路线

通过作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线能够为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最环境的学习成长路线图和学习规划，带你从零基础入门到精通！

---

2、大模型学习书籍&文档

学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。

3、AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

4、大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

5、大模型大厂面试真题

面试不仅是技巧的较量，更需要充分的准备。在你已经掌握了大模型科技之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术挑战，让你在面试中游刃有余。

适用人群

第一阶段（10天）：初阶应用

通过该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，能够在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握机制最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，假如学到这里，你根本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个容易的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验信息集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

若是你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】