随笔分类 -  NLP

摘要：一、背景 bert是一种基于transformer的结构，也就是比较经典的attention机制，bert的思维导图模型如下所示（其他人总结的）： 二、bert使用 使用bert首先需要安装transformers以及bert的模型（可以在安装完bert后使用） pip install transf 阅读全文

摘要：一、背景 在进行深度学习的时候，需要进行模型的预处理和数据转换，这里记录一下内容和方法，方便以后的使用和查找。根据模型的过程，将会按照数据集的处理、标签转化、文本向量化、模型构建、添加评估内容等几个基础的方面进行介绍。 二、内容介绍 2.1 数据的读取 数据的读取一般是直接使用pandas进行读取。 阅读全文