jasonzhangxianrong

2021年9月1日

摘要： PyTorch 作为一个深度学习平台，在深度学习任务中比 NumPy 这个科学计算库强在哪里呢？我觉得一是 PyTorch 提供了自动求导机制，二是对 GPU 的支持。由此可见，自动求导 (autograd) 是 PyTorch，乃至其他大部分深度学习框架中的重要组成部分。了解自动求导背后的原理和阅读全文

posted @ 2021-09-01 16:42 jasonzhangxianrong 阅读(271) 评论(0) 推荐(0)

（二）PyTorch 中的 tensor 及使用

摘要：这篇文章主要是围绕 PyTorch 中的 tensor 展开的，讨论了张量的求导机制，在不同设备之间的转换，神经网络中权重的更新等内容。面向的读者是使用过 PyTorch 一段时间的用户。本文中的代码例子基于 Python 3 和 PyTorch 1.1，如果文章中有错误或者没有说明白的地方，欢迎在阅读全文

posted @ 2021-09-01 15:29 jasonzhangxianrong 阅读(571) 评论(0) 推荐(0)

（一）PyTorch 中的 ModuleList 和 Sequential

摘要： PyTorch 中有一些基础概念在构建网络的时候很重要，比如 nn.Module, nn.ModuleList, nn.Sequential，这些类我们称之为容器 (containers)，因为我们可以添加模块 (module) 到它们之中。这些容器之间很容易混淆，本文中我们主要学习一下 nn.Mo 阅读全文

posted @ 2021-09-01 15:09 jasonzhangxianrong 阅读(673) 评论(0) 推荐(1)

文本分类（六）：不平衡文本分类，Focal Loss理论及PyTorch实现

摘要：转载于：https://zhuanlan.zhihu.com/p/361152151 转载于：https://www.jianshu.com/p/30043bcc90b6 摘要：本篇主要从理论到实践解决文本分类中的样本不均衡问题。首先讲了下什么是样本不均衡现象以及可能带来的问题；然后重点从数据层面和阅读全文

posted @ 2021-09-01 14:14 jasonzhangxianrong 阅读(3718) 评论(0) 推荐(0)

2021年8月30日

tensorflow_1.x（三）：Tensorflow2入门（基础、张量、常量与变量、变量的赋值、计算模型、图执行模式、兼容1.0、会话、变量、占位符、feed提交数据）

摘要：一、基础二、张量三、Tensorflow2的常量与变量四、Tensorflow2变量的赋值四、Tensorflow2计算模型五、Tensorflow2图执行模式六、Tensorflow2的session会话七、变量初始化八、占位符九、feed提交数据fetch提取数据十、可视化阅读全文

posted @ 2021-08-30 19:36 jasonzhangxianrong 阅读(97) 评论(0) 推荐(0)

2021年8月27日

centos7环境下卸载cuda与安装

摘要：注：官方pytorch版本 https://download.pytorch.org/whl/torch_stable.html 一、卸载卸载原有驱动方法一：找到显卡驱动.run文件： $ sh NVIDIA-Linux-x86_64-418.126.02.run --uninstall 方法二阅读全文

posted @ 2021-08-27 15:31 jasonzhangxianrong 阅读(7214) 评论(0) 推荐(1)

2021年8月23日

文本分类（六）：pytorch实现DPCNN

摘要：一、简介 ACL2017年中，腾讯AI-lab提出了Deep Pyramid Convolutional Neural Networks for Text Categorization(DPCNN)。论文中提出了一种基于word-level级别的网络-DPCNN，由于上一篇文章介绍的TextCNN 阅读全文

posted @ 2021-08-23 14:03 jasonzhangxianrong 阅读(1153) 评论(0) 推荐(0)

2021年8月20日

NLP（三十八）：联邦学习

摘要：一、概述链接：https://pan.baidu.com/s/18nfxLB2cDE-ZLPXuS-TCjg 提取码：v5li 关注公众号：嬉皮工匠获取更多论文笔记～联邦学习(Federated Learning)结构由Server和若干Client组成，在联邦学习方法过程中，没有任何用户数据阅读全文

posted @ 2021-08-20 14:16 jasonzhangxianrong 阅读(834) 评论(0) 推荐(0)

NLP（三十七）：pytorch的差分隐私保护

摘要： https://zhuanlan.zhihu.com/p/210653076 https://zhuanlan.zhihu.com/p/212862132 一、概述近日，Facebook 开源了一个新型库 Opacus，它支持使用差分隐私来训练 PyTorch 模型，扩展性优于目前的 SOTA 方阅读全文

posted @ 2021-08-20 13:46 jasonzhangxianrong 阅读(1634) 评论(0) 推荐(0)

NLP（三十六）：对抗训练

摘要：转自：https://zhuanlan.zhihu.com/p/91269728 本文分享一个“万物皆可盘”的NLP对抗训练实现，只需要四行代码即可调用。盘他。最近，微软的FreeLB-Roberta [1] 靠着对抗训练 (Adversarial Training) 在GLUE榜上超越了Face 阅读全文

posted @ 2021-08-20 09:43 jasonzhangxianrong 阅读(1086) 评论(0) 推荐(0)

公告