摘要： 线程安全的LRU实现 无清理线程 实现方案 根据需求，我们需要在原有LRU缓存基础上增加线程安全、过期时间，并确保写入不阻塞读取。以下是分步骤的代码实现和解释： 一、增加线程安全（读写锁） 使用 std::shared_mutex（读写锁）保护共享资源，确保： 读操作（get）：允许多个线程同时读取 阅读全文

摘要： STL heap相关算法 内容 C++ 标准库提供了一组底层堆操作算法（定义在 <algorithm> 头文件中），这些函数允许直接操作序列式容器（如 vector、array）来构造和操作堆。这些算法与 priority_queue 的区别在于它们 更灵活、更底层，允许开发者直接控制堆结构。以下是 阅读全文

摘要： LLVM小总结 内容 在面试中涉及 LLVM 的知识时，需重点突出其 编译器框架设计、中间表示（IR）、优化技术 等核心概念，并结合实际应用场景。以下是系统化的知识补充和回答策略： 一、LLVM核心概念 1. LLVM是什么？ 定义：模块化、可重用的编译器基础设施，提供前端无关的优化和代码生成支持。 阅读全文

摘要： TVM & MLIR 内容 TVM 和 MLIR 的定义与核心概念 1. TVM（Tensor Virtual Machine） 定位：深度学习编译器栈，专注于机器学习模型的端到端优化与跨平台部署。 核心功能： 计算图优化：自动融合算子（Operator Fusion）、消除冗余计算。 硬件后端支持 阅读全文

摘要： CUDA三类__shfl函数总结 内容 1. __shfl_xor_sync 蝴蝶交换 函数签名 T __shfl_xor_sync( unsigned mask, // 参与线程的位掩码 (通常0xffffffff) T value, // 要交换的值 (int/float) int lane_m 阅读全文

摘要： Flash Attention & Paged Attention 内容 FlashAttention 和 PagedAttention 是两种针对 Transformer 注意力机制的显存优化技术，分别解决不同维度的性能瓶颈。这里用技术对比的方式帮你快速理解： 1. FlashAttention（ 阅读全文

摘要： C++当中long int vs long long int & long double vs double 内容 在 C/C++ 中，double、long double 和 long int、long long 的区别主要在于 精度、存储大小和用途。以下是详细对比： 一、浮点类型：double 阅读全文

摘要： cd命令背后发生了什么 内容 当你输入 cd 命令时，操作系统和 Shell 协同完成目录跳转。以下是详细的执行步骤： 1. 命令解析 Shell 接收输入： 终端捕获你的输入（例如 cd /path/to/dir），并将命令传递给 Shell 进程（如 Bash、Zsh 等）。 识别内置命令： c 阅读全文

摘要： Python当中的自由变量 内容 在 Python 中，自由变量（Free Variable）是一个与函数作用域密切相关的概念。它特指在某个函数中被使用，但既不在该函数的局部作用域定义，也不在全局作用域（模块级别）定义的变量。自由变量通常出现在嵌套函数中，并被闭包（Closure）机制捕获。 1. 阅读全文

摘要： 梯度方差的概念 内容 在深度学习中，梯度方差（Gradient Variance） 是一个关键概念，它直接影响模型的训练稳定性和收敛速度。以下用通俗的语言和实际例子解释它的含义、作用及影响。 1. 什么是梯度方差？ 定义： 梯度方差表示 不同批次数据计算出的梯度之间的波动程度。 如果每个批次（bat 阅读全文