2025年3月9日
备份1
摘要： 在这篇文章中我将使用LangGraph在Gemini API之上定义一个基于状态图名为BaristaBot的模拟咖啡馆点餐系统应用程序，它将为顾客提供一个循环的聊天界面，他们可以使用自然语言订购咖啡饮品，并且您将构建节点来表示咖啡馆的实时菜单和"后厨"点餐系统。BaristaBot用于其他Gemin 阅读全文
posted @ 2025-03-09 21:04 HaibaraYuki 阅读(12) 评论(0) 推荐(0)
叫嚣若是代码能力够好->2025CVPR代码复现
摘要： dd 阅读全文
posted @ 2025-03-09 19:56 HaibaraYuki 阅读(20) 评论(0) 推荐(0)
编辑内容快捷键
摘要： Ctrl + / 实现编辑内容全局化 再点一个实时预览美滋滋 阅读全文
posted @ 2025-03-09 19:55 HaibaraYuki 阅读(29) 评论(0) 推荐(0)
Hyperspectral Image Classification Summarize
摘要： [24/11/14] A Comprehensive Survey for Hyperspectral Image Classification: The Evolution from Conventional to Transformers and Mamba ModelsPDF [22] QAH 阅读全文
posted @ 2025-03-09 19:38 HaibaraYuki 阅读(11) 评论(0) 推荐(0)
高光谱图像——丁晨组论文
摘要： Integrating Prototype Learning With Graph Convolution Network for Effective Active Hyperspectral Image Classification期刊情况 Hyperspectral Image Classifi 阅读全文
posted @ 2025-03-09 19:37 HaibaraYuki 阅读(27) 评论(0) 推荐(0)
2025年3月6日
Bias的作用
摘要： 多层感知机中的偏置（bias）项可以看作是每个神经元的一个可训练的常数项，主要区别在于： 不使用偏置时，每个神经元的输出仅由输入和权重的线性组合决定，输出形式为 y = Wx。当激活函数为线性函数（或无激活函数）时，这相当于所有决策边界必须过原点，限制了网络的表达能力。 使用偏置后，输出形式为 y 阅读全文
posted @ 2025-03-06 22:24 HaibaraYuki 阅读(77) 评论(0) 推荐(0)
Multi-Heads Attention参数量计算
摘要： 单头与多头注意力结构如下： Q，K，V是输入的三个句子词向量 \(d_{model}=768\) h=12,12个头 由下图知\(d_{k}=d_{v}=d_{model}/h64\) 最后把12个头concat后又进行线性变换,用到参数\(W_{o}(768*768)\) Self Attenti 阅读全文
posted @ 2025-03-06 22:11 HaibaraYuki 阅读(324) 评论(0) 推荐(0)
LayerNorm层参数量计算
摘要： 有\(\gemma\)和\(\beta\)等两个参数 三个地方用到了LayerNorm层 Embedding层后 \(768*2\) Multi-Head Attention后 \((768*2)*12\) Feed-Forward后 \((768*2)*12\) 故，12层LayerNorm层参数 阅读全文
posted @ 2025-03-06 21:57 HaibaraYuki 阅读(54) 评论(0) 推荐(0)
前馈网络(Feed Forword)的参数量计算
摘要： Feed Forward(前馈网络)参数量计算 主要由2个全连接层组成，论文中全连接层的公式如下: \[FFN(X) = max(0,xW1+b1)W2+b2 \] 其中用到的两个参数W1和W2，已知\(BERT_{BASE}的设置为d_{model}=768\)，BERT沿用了惯用的全连接层大小设 阅读全文
posted @ 2025-03-06 21:24 HaibaraYuki 阅读(49) 评论(0) 推荐(0)
Positional Embedding
摘要： 在原始的 Transformer 模型中，位置嵌入是由正弦和余弦函数组成的，这样设计的原因在于它具有周期性，可以帮助模型处理比训练时更长的序列，同时保持一定的泛化能力。 阅读全文
posted @ 2025-03-06 20:34 HaibaraYuki 阅读(23) 评论(0) 推荐(0)