摘要:网络编程里常听到阻塞IO、非阻塞IO、同步IO、异步IO等概念,总听别人装13不如自己下来钻研一下。不过,搞清楚这些概念之前,还得先回顾一些基础的概念。 1 基础知识回顾 注意:咱们下面说的都是Linux环境下,跟Windows不一样哈~~~ 1.1 用户空间和内核空间 现在操作系统都采用虚拟寻址, 阅读全文
posted @ 2017-05-16 21:55 ZingpLiu 阅读(24353) 评论(14) 推荐(12) 编辑
摘要:1 协程 1.1协程的概念 协程,又称微线程,纤程。英文名Coroutine。一句话说明什么是线程:协程是一种用户态的轻量级线程。(其实并没有说明白~) 我觉得单说协程,比较抽象,如果对线程有一定了解的话,应该就比较好理解了。 那么这么来理解协程比较容易: 线程是系统级别的,它们是由操作系统调度;协 阅读全文
posted @ 2016-09-27 09:52 ZingpLiu 阅读(16850) 评论(2) 推荐(4) 编辑
摘要:1 简介 BERT全称Bidirectional Enoceder Representations from Transformers,即双向的Transformers的Encoder。是谷歌于2018年10月提出的一个语言表示模型(language representation model)。 1 阅读全文
posted @ 2020-10-20 22:51 ZingpLiu 阅读(315) 评论(0) 推荐(0) 编辑
摘要:psutil,(process and system utilities),可以通过一两行代码实现系统监控,还可以跨平台使用,支持Linux/UNIX/OSX/Windows等,是系统管理员和运维小伙伴不可或缺的必备模块。 1 安装 1 pip install psutil 2 获取CPU信息 1 阅读全文
posted @ 2020-04-07 15:21 ZingpLiu 阅读(759) 评论(0) 推荐(0) 编辑
摘要:TensorFlow默认会占用设备上所有的GPU以及每个GPU的所有显存;如果指定了某块GPU,也会默认一次性占用该GPU的所有显存。可以通过以下方式解决: 1 Python代码中设置环境变量,指定GPU 本文所有代码在tensorflow 1.12.0中测试通过。 import os os.env 阅读全文
posted @ 2020-02-15 23:52 ZingpLiu 阅读(425) 评论(0) 推荐(1) 编辑
摘要:内存是程序运行必不可少的资源,由操作系统分配和管理。作为程序员,我们通常做的只能是申请和归还。本文主要介绍C++内存的申请和释放(归还),以及注意事项。 1 申请和释放内存的运算符 申请 new 释放 delete 2 方法 申请内存: int *p = new int; // 定义一个指针,来接收 阅读全文
posted @ 2020-01-30 12:49 ZingpLiu 阅读(278) 评论(1) 推荐(1) 编辑
摘要:深度学习广泛应用于各个领域。基于transformer的预训练模型(gpt/bertd等)基本已统治NLP深度学习领域,可见transformer的重要性。本文结合《Attention is all you need》论文与Harvard的代码《Annotated Transformer》深入理解t 阅读全文
posted @ 2019-10-24 02:27 ZingpLiu 阅读(11724) 评论(3) 推荐(7) 编辑
摘要:Dropout是深度学习中的一种防止过拟合手段,在面试中也经常会被问到,因此有必要搞懂其原理。 1 Dropout的运作方式 在神经网络的训练过程中,对于一次迭代中的某一层神经网络,先随机选择中的一些神经元并将其临时隐藏(丢弃),然后再进行本次训练和优化。在下一次迭代中,继续随机隐藏一些神经元,如此 阅读全文
posted @ 2019-10-08 12:11 ZingpLiu 阅读(3426) 评论(1) 推荐(2) 编辑
摘要:0 前言 本文主要内容:介绍Pointer-Generator-Network在文本摘要任务中的背景,模型架构与原理、在中英文数据集上实战效果与评估,最后得出结论。参考的《Get To The Point: Summarization with Pointer-Generator Networks》 阅读全文
posted @ 2019-09-26 11:36 ZingpLiu 阅读(7644) 评论(26) 推荐(2) 编辑
摘要:深度学习中的优化问题通常指的是:寻找神经网络上的一组参数θ,它能显著地降低代价函数J(θ)。针对此类问题,研究人员提出了多种优化算法,Sebastian Ruder 在《An overview of gradient descent optimizationalgorithms》(链接:https: 阅读全文
posted @ 2019-08-19 16:17 ZingpLiu 阅读(4424) 评论(0) 推荐(1) 编辑
摘要:1 系统环境 搭建的系统环境为centos7.5 。 2 修改主机名 2.1 主机名修改为 hadoop1 。 2.2 查看主机名 2.3 确认是否修改成功 重新登陆后主机名已更改 3 添加hadoop用户 本次用hadoop用户部署,需要添加hadoop用户,密码也设置为hadoop。 登陆 4 阅读全文
posted @ 2019-07-23 17:05 ZingpLiu 阅读(7397) 评论(0) 推荐(1) 编辑
摘要:1 基本概念 集成学习的主要思路是先通过一定的规则生成多个学习器,再采用某种集成策略进行组合,最后综合判断输出最终结果。一般而言,通常所说的集成学习中的多个学习器都是同质的"弱学习器"。基于该弱学习器,通过样本集扰动、输入特征扰动、输出表示扰动、算法参数扰动等方式生成多个学习器,进行集成后获得一个精 阅读全文
posted @ 2019-06-24 12:11 ZingpLiu 阅读(3074) 评论(4) 推荐(0) 编辑
/* 登录到博客园之后,打开博客园的后台管理,切换到“设置”选项卡,将上面的代码,粘贴到 “页脚HTML代码” 区保存即可。 */