计算机解决问题的本质
计算机解决问题的本质(小感,不喜随便喷)
我理解的计算机解决问题的本质还是加法和乘法的问题,首先从计算机组成原理的最底层来看,计算机里面只有加法器和乘法器两种。减法和除法也就是加个负数和乘个小树的问题。
修行讲究入世再出世。
若不入深入了解深度学习,神经网络,强化学习,图神经网络,transformer等模型的实际设计思路,并不能理解上面的加法和乘法。
Attention(注意力机制),所有的加法和乘法都可以经过一系列的排列组合得到现实生活中所能看到体会到的具体事物,这才是计算机科学和数学研究的伟大之处。注意力机制说白了还是我们更需要关注对我们重要的事情,运用数字来说就是对各个问题进行加权,把重要的事情权重变大。对于一个张量而言,就是我取一个相同大小的权重张量跟你相乘或者相加,你得到的一个新的张量便被注意力机制给做用到了。
注意力机制一样可以为我们的现实生活有其他意义。比如我们需要处理的事情:重要紧急、重要不紧急、不重要紧急、不重要不紧急。给予这四种事情不同的权重,让自己更加关注到重要紧急和重要不紧急的事情,而减少对于工作学习中的很多不重要紧急、不重要不紧急事情的关注。这样我们的生活会不会更精彩一些。
这个权重矩阵如何设计、我们可以用一个神经网络来模拟,也可以用传统的算法来推演,更大的魅力在于这些方法的组合是无穷无尽的,才有了生活和科学界的多姿多彩。
随心随我

浙公网安备 33010602011771号