快乐的拉格朗日

摘要： ECAPA-TDNN网络架构被分成了三个小节，下面将对ecapa-tdnn模型架构以及代码进行详细分析。 依赖通道和时序的统计池化。 通道注意力模块 多层特征的聚合 论文地址 代码地址1 建模通道和时序依赖关系的统计池化 其本质是将时序注意力机制延伸到通道注意力，形成通道-时序注意力方法。在此之前需 阅读全文

摘要： Attention Is All You Need 论文 transformer代码 以下大部分是根据论文理解进行的总结和概括，如有疑问，欢迎交流~ transformer仅仅使用注意力机制，没有使用任何的卷积或者RNN结构。 传统RNN结构的当前隐层状态$h_t$需要当前时刻的输入以及上一时刻的隐 阅读全文

摘要： attention 在正式开始探索attention之前，首先了解一下seq2seq。循环神经网络只能将一个序列信号转换为定长输出，但Seq2Seq可以实现一个序列信号转化成一个不定长的序列输出，因此seq2seq模型应用广泛，可以应用于很多不对等输入输出的场景，比如机器翻译，文本摘要，对话生成，诗 阅读全文

摘要： LSTM提出背景 LSTM缓解了RNN中梯度消失的问题，使其可以处理长短时序列，但是需要注意的是LSTM并没有彻底解决梯度消失的问题。LSTM被各大科技公司应用在文字翻译，语音识别等方向，因为其相比RNN，在各个应用场景上带来了比较大的效果提升。 LSTM经过千锤百炼才有了现在的形态，so，让我们开 阅读全文

摘要： python+mysql——高效的数据处理方式 使用场景 大规模数据处理； 多个任务可以并发执行； 需要保存结果； 为实现以上三个要求，就需要充分利用服务器中的多核资源，让程序高效并发执行，并采用一定的方式保存结果。 用到的工具和方法 采用多进程 + mysql + BaseManager 由于py 阅读全文

摘要： RNN原理 RNN在实际使用的频率并不多，大多使用LSTM替代RNN，因此对RNN进行简单的介绍。RNN是研究LSTM的基础，毕竟LSTM是基于RNN的改良，二者循环原理大体一致。 初识RNN，要记住在时间步上，RNN的权值共享即可。 RNN的运行原理就相当于，每一个时间步利用RNN计算一次得到输出 阅读全文

摘要： 测试不同的异步实现方式：协程+第三方库；线程池 测试工具 最近使用tornado 6.1版本进行服务开发，毕竟纸上得来终觉浅，于是针对tornado异步非阻塞的功能进行了详细的验证和测试，并在测试过程中发现了关于压测工具ab的一个特别有意思的事情。 如果想获得有关异步非阻塞的测试结果，请忽略ab的测 阅读全文

摘要： tornado原理介绍及异步非阻塞实现方式 以下内容根据自己实操和理解进行的整理，欢迎交流~ 在tornado的开发中，我们一般会见到以下四个组成部分。 ioloop： 同一个ioloop实例运行在一个单线程环境下。 tornado.ioloop.IOLoop.current().start() a 阅读全文

摘要： 音频常用操作 常见的ffmpeg音频参数 常用参数解释： - i 表示input，即输入文件 - f 表示format，即输出格式 - vn 表示vedio not，即输出不包含视频 - ar 设定采样率 - ac 设定声音的channel数 - ab 音频数据流量，一般选择32、64、96、128 阅读全文