Gold_stein - 博客园

2025年4月10日

摘要： Xavier初始化内容在神经网络中，参数初始化对模型的训练效果至关重要。Xavier初始化（又称Glorot初始化）是一种广泛使用的权重初始化方法，尤其在Transformer架构中常见。以下是关于xavier_uniform_的详细解释： 1. Xavier初始化的原理 Xavier初始化阅读全文

posted @ 2025-04-10 22:22 Gold_stein 阅读(514) 评论(0) 推荐(0)

深度学习——Softmax与交叉熵：从原理到梯度推导

摘要：深入理解Softmax与交叉熵：从原理到梯度推导在深度学习中，Softmax函数与交叉熵损失（ Cross-Entropy Loss ）是分类任务的核心组件。本文将从数学原理出发，推导它们的梯度计算过程，并解释参数更新中涉及的矩阵求导关键点。无论你是刚入门的新手还是希望巩固基础的开发者，这篇博客都阅读全文

posted @ 2025-04-10 21:51 Gold_stein 阅读(1740) 评论(0) 推荐(0)

2025年4月7日

深度学习——Dropout

摘要：深度学习——Dropout 内容 Dropout 详解 Dropout 是深度学习中一种常用的正则化技术，由 Geoffrey Hinton 等人在 2012 年提出，核心目的是防止神经网络过拟合。其核心思想是：在训练过程中随机“关闭”一部分神经元，迫使网络不依赖某些特定神经元，从而提升模型的泛阅读全文

posted @ 2025-04-07 22:56 Gold_stein 阅读(353) 评论(0) 推荐(0)

2025年4月5日

面经——动态库和静态库的区别

摘要：面经——动态库和静态库的区别内容以下是一个结构清晰、技术深度到位的优秀回答模板，分为核心要点、原理对比、应用场景三部分：一、核心定义静态库（Static Library）文件格式：.a（Linux）、.lib（Windows）编译时完整链接：库代码被直接复制到最终可执行文件特点：自包含阅读全文

posted @ 2025-04-05 00:32 Gold_stein 阅读(127) 评论(0) 推荐(0)

2025年4月2日

面经——死锁的条件和预防

摘要：面经——死锁的条件和预防内容在面试中回答如何防止死锁时，需要兼顾理论深度和工程实践，展现系统性思维。以下是结构化回答框架，涵盖从经典方法到现代实践的完整视角：一、理论层：死锁必要条件与应对策略先明确死锁的四个必要条件，再针对每个条件给出破坏方法： 1. 互斥（Mutual Exclusion 阅读全文

posted @ 2025-04-02 18:21 Gold_stein 阅读(70) 评论(0) 推荐(0)

面经——总结常见机器学习算法

摘要：面经——总结常见机器学习算法内容在面试中被问到常见的机器学习算法时，一个漂亮的回答需要兼顾全面性、结构化思维和场景化理解。以下是一个分层次、有逻辑的回答框架，既能展示知识广度，又能体现对算法本质的理解：一、分类框架：按学习范式与核心思想回答时先分类再展开，避免零散罗列。用“总-分”结构体现系阅读全文

posted @ 2025-04-02 17:26 Gold_stein 阅读(157) 评论(0) 推荐(0)

深度学习&DFS的剪枝

摘要：深度学习&DFS的剪枝内容在深度学习和算法题（如DFS）的语境中，"剪枝"（Pruning）这一术语虽然都表示减少计算量的优化策略，但具体含义和应用方式存在显著差异：一、算法题DFS中的剪枝核心目标：减少搜索空间，提升算法效率实现方式****（以回溯为例）： def backtrack(p 阅读全文

posted @ 2025-04-02 16:51 Gold_stein 阅读(93) 评论(0) 推荐(0)

C++模板编程是否添加typename关键字

摘要： C++模板编程是否添加typename关键字内容在C++模板编程中，是否需要使用 typename 关键字取决于名称的解析上下文。以下是两者的核心差异分析：一、关键差异原理代码片段上下文类型 typename 必要性根本原因第一段非依赖名称（Non-dependent context 阅读全文

posted @ 2025-04-02 16:41 Gold_stein 阅读(46) 评论(0) 推荐(0)

面经——训练优化技巧

摘要：面经——训练优化技巧内容在面试中回答“训练优化技巧”时，若想惊艳面试官，需结合技术深度、系统性分类和前沿实践，以下是结构化回答建议：一、基础篇：必知核心技巧 1. 优化器选择与调参 AdamW：解决Adam中权重衰减（Weight Decay）与自适应学习率的耦合问题（参考论文《Decoup 阅读全文

posted @ 2025-04-02 01:59 Gold_stein 阅读(213) 评论(0) 推荐(0)

2025年4月1日

C++ bitset

摘要：在 C++ 中，std::bitset 是用于处理二进制位（bit）的固定大小容器，常用于位操作、标志位管理或优化存储。以下是详细用法指南： C++ bitset 内容一、基本用法 1. 头文件 #include <bitset> 2. 初始化 // 默认初始化（所有位为0） std::bitse 阅读全文

posted @ 2025-04-01 21:54 Gold_stein 阅读(182) 评论(0) 推荐(0)

公告