橙汁不吃糖 - 博客园

Neural Networks投稿要求总结

摘要：自用，NN投稿要求，相关的部分的中文版翻译，原文链接：https://www.sciencedirect.com/journal/neural-networks/publish/guide-for-authors Neural Networks 投稿要求介绍国际神经网络学会、欧洲神经网络学会和日阅读全文

posted @ 2023-11-10 20:49 橙汁不吃糖阅读(5227) 评论(0) 推荐(0)

注意力机制总结

摘要：空间注意力机制针对图片中不同的位置，不同的权重，即对不同位置的图像进行仿射变换，来得到输出以后进行分类。通道注意力机制首先使用全局池化，将H\times W\times C变为1\times 1\times C，然后每个通道对齐进行权重的调整。时间注意力机制在处理序列数据，如时间序列或文本阅读全文

posted @ 2023-10-09 15:50 橙汁不吃糖阅读(113) 评论(0) 推荐(0)

2021北京智源大会SNN部分

摘要：神经形态视觉计算当前问题： spikes vs bits （脉冲 vs 位） meurons vs memory （神经元 vs 计算单元）（真空管vacuum tube，晶体管transistor，忆阻器memristor） synapses vs memory（突触 vs 记忆） distri 阅读全文

posted @ 2022-12-03 15:37 橙汁不吃糖阅读(74) 评论(0) 推荐(0)

讲座整理_李国齐老师

摘要：类脑脉冲神经网络模型算法（讲座整理）研究背景类脑计算研究背景：计算机科学与生物学的桥梁，ai系统忽略了生物突触的动态复杂性脑科学与类脑计算结合计算神经科学与认知科学受人脑信息处理方式启发，基于神经元的结构和功能、以更通用的人工智能和高效智能边缘端/云端为目标构建信息系统的技术总称。类脑阅读全文

posted @ 2022-10-17 11:42 橙汁不吃糖阅读(334) 评论(0) 推荐(0)

SNN_文献阅读_Effective and Efficient Computation with Multiple-timescaleSpiking Recurrent Neural Networks

摘要： Adaptive SRNN 基于多时间尺度脉冲循环神经网络的高效计算（SRNN）中心思想：使用替代梯度进行训练，克服SNN中梯度不连续的问题。在PyTorch中直接使用BPTT进行训练。结构本文讨论由一个或者多个递归层组成的SNN——SRNN。使用LIF神经元+Adaptive脉冲神经元阅读全文

posted @ 2022-10-17 11:23 橙汁不吃糖阅读(479) 评论(0) 推荐(0)

SNN_文献阅读_Text Classification in Memristor-based Spiking Neural Networks

摘要： SNN中局部学习和非局部学习，基于梯度的规则都需要对用于表示单个连续值的脉冲训练窗口上的累积误差进行平均，这种方法在更新权重时考虑了每一个脉冲的影响。在计算速度和空间效率等方面，特别是当代表单个数值的脉冲序列很长的时候，以及在设计中涉及到记忆功能的时候，效率很低。此外，与one-hot向量相比，在阅读全文

posted @ 2022-10-10 16:29 橙汁不吃糖阅读(99) 评论(0) 推荐(0)

SNN_SRM模型

摘要： # SRM模型 ## 早期SRM模型 Spike Response Modul（SRM）模型将传统的LIF微分模型换成了一个关于输入、输出的脉冲函数，可以将脉冲神经网络简化为第二代神经网络。基本公式： $u_i(t)=\eta_i\left(t-\hat{t}_i\right)+\sum_{j \ 阅读全文

posted @ 2022-09-06 14:51 橙汁不吃糖阅读(365) 评论(0) 推荐(0)

SNN_TIPS

摘要：脉冲神经网络的研究思路： ANN2SNN 代表：梯度下降法代表： STDP 代表：神经网络代差划分以神经元实现功能为准：优势 SNN是一个动态系统，在动态识别中发挥出色，比如语音识别和动态图片识别。当一个SNN在工作的时候仍然可以继续学习。训练SNN的时候只需训练输出神经元，且SNN通阅读全文

posted @ 2022-07-14 11:41 橙汁不吃糖阅读(177) 评论(0) 推荐(0)

SNN_文献阅读_Spiking Deep Convolutional Neural Networks for Energy-Efficient Object Recognition

摘要：两种方法将CNN转化成为SNN：直接训练一个类似CNN架构的SNN「虽然有类似于STDP等无监督方法，但是处于起步状态」训练初始的CNN，将训练得到的权重直接应用于类似于CNN架构的SNN「将CNN转化为SNN的时候，训练的准确性可能无法保证」准确性损失的原因： CNN中的负值在SNN中无法准阅读全文

posted @ 2022-05-09 18:04 橙汁不吃糖阅读(394) 评论(0) 推荐(0)

SNN_文献阅读_Spiking neural networks, an introduction

摘要： Spiking neural networks, an introduction 脉冲神经网络的生物学背景+两种采用脉冲编码的神经元模型概论本文介绍了脉冲神经网络的生物学背景，并将介绍两种采用脉冲编码的脉冲神经元模型。人工神经元的历史第一代：十五年之前McCulloch-Pitts提出，当神阅读全文

posted @ 2022-05-09 18:03 橙汁不吃糖阅读(486) 评论(0) 推荐(0)

特不靠谱的论文总结机+十级废话bb机

导航

公告