摘要：
https://blog.csdn.net/yy_diego/article/details/81563160 https://www.tensorflow.org/api_docs/python/tf/pad 1.二维张量 pad( tensor, paddings, mode='CONSTANT 阅读全文
posted @ 2020-06-06 21:14
lypbendlf
阅读(287)
评论(0)
推荐(0)
摘要：
1.多头注意力 多头注意力，我们可以看到源码中是进行了切割，从return的shape可以看出来。 2.transformer编码部分 可以看到它的输入就是经过emb和位置编码求和之后的输入。下面是正式使用到的编码函数： 上面的编码函数中，主要调用还是多头注意力这个函数： 调用的语句： //注意，这 阅读全文
posted @ 2020-06-06 18:32
lypbendlf
阅读(876)
评论(0)
推荐(0)
摘要：
1.介绍 以前的方法都是编码为一个固定的长度，然后翻译，但是这样的话针对长句子就不友好，记忆不了那么长的句子。 与基本的编码器/解码器相比，此方法最重要的区别在于，它不会尝试将整个输入语句编码为单个固定长度的向量。 取而代之的是，它将输入的句子编码为一系列向量，并在解码翻译时自适应地选择这些向量的子 阅读全文
posted @ 2020-06-06 16:20
lypbendlf
阅读(403)
评论(0)
推荐(0)
摘要：
https://blog.csdn.net/weixin_40894921/article/details/88528159 1.全局 从上面给的例子中可以看出，它可以被用来全局的 2.类内部函数的内部 class A: def f(self): a=2 def ff(): a=5#这里是无法改变a 阅读全文
posted @ 2020-06-06 09:49
lypbendlf
阅读(304)
评论(0)
推荐(0)
浙公网安备 33010602011771号