zhangkele

摘要： 深入剖析Self-Attention中最核心、最关键的数学操作：Q, K, V矩阵运算。现代所有大语言模型基础架构的基石。 核心比喻：信息检索系统 想象一个高度智能的图书馆： 你（Query）：带着一个明确的问题走进图书馆，比如“我想找关于人工智能伦理的哲学论述”。 书籍的索引卡（Key）：每本书都 阅读全文

摘要： 用一个搜索引擎工程师熟悉的例子来解释： 核心类比：搜索联想词的延伸 想象在Google搜索框里打字： 第一步：基础联想 你输入："如何学习" 搜索引擎立即给出联想："如何学习英语"、"如何学习编程"、"如何学习做饭"... 大语言模型的第一步，就像这些联想词，但它能算出每个可能的"下一个词"的概率 阅读全文

摘要： template <template <typename...> typename E> class A 这个定义，在C++中通常被称为 ​​类模板​​，并且因为它接受一个​​模板模板参数​​，所以更具体地可以称作 ​​“接受模板模板参数的类模板” 专业术语称为 ​​“带有模板模板参数的类模板”​​ 阅读全文

摘要： 优化 I/O 加载 主要是为了减少 CPU-GPU 之间的数据传输瓶颈，提升推理效率。DeepSeek 可能采用了以下几种 极致优化方案： 🔹 1. CPU-GPU 直接访问（Pinned Memory & Zero Copy） ✅ 问题：普通数据传输 • CPU 内存（系统 RAM）和 GPU 阅读全文

摘要： 在大模型计算（如深度学习模型）中，量化是一种用较低精度数据类型表示模型参数和激活值的技术。它可以带来以下主要收益： 1. **降低存储需求**: - 使用低精度数据表示（如 `int8` 而不是 `float32`）可以显著减少模型所需的存储空间。这对于在内存有限的设备（如移动设备、嵌入式系统）上部 阅读全文

摘要： FAISS（Facebook AI Similarity Search）是一个高效的向量检索库，特别适用于大规模高维数据的相似度搜索。它的核心原理是通过不同类型的索引结构来加速相似度搜索过程。三个基础索引类型是： 1. IndexFlatL2 2. IndexIVFFlat 3. IndexIVFP 阅读全文

摘要： 1. 差异编码（Delta Encoding）：倒排列表中可能会采用差异编码，即存储相邻文档 ID 之间的差值，而不是直接存储每个文档 ID，这样可以进一步压缩空间。 2. 字典压缩（Dictionary Encoding）：对于倒排列表中的文档 ID，可以使用字典进行压缩，进一步减少存储需求。 举 阅读全文

摘要： 当我们提到 存储压缩 时，尤其是在处理 倒排索引（Inverted Index）时，主要的目标是减少存储空间和提高查询效率。通过将 词项映射到ID 和 使用位图代替传统的倒排列表，我们能有效减少存储空间的占用，尤其是在处理具有大量重复词项的数据时。下面我将详细解释 词项映射到ID 的收益，并通过具体 阅读全文

摘要： 1. 背景：搜索引擎与索引压缩 在搜索引擎或类似需要对海量文档进行检索的系统中，通常会构建倒排索引（Inverted Index）。为降低存储成本、减少 I/O 并提升检索速度，对倒排索引所包含的大量整数序列进行压缩是一种行之有效的手段。 • 目标：在确保解压速度的同时，尽量获得更好的压缩率。 • 阅读全文

摘要： 在使用K-means算法进行聚类时，我们通常需要执行以下步骤： 初始化簇中心、 分配样本点到最近的簇中心、 更新簇中心，直到收敛。 这些步骤可以用C++实现如下： #include <iostream> #include <vector> #include <cmath> #include <lim 阅读全文