摘要:
1. Transformer的框架 这段描述的基本结构涉及到了Transformer模型中的几个重要组成部分,下面对每个部分进行简要解释: 1. Embedding + Position Embedding Embedding层将输入的token转换为向量表示,通常是通过一个可学习的词嵌入矩阵将每个 阅读全文
posted @ 2025-05-09 18:34
赵家小伙儿
阅读(12)
评论(0)
推荐(0)
摘要:
1. NLP的发展脉络 1.1 文本表示方式的演进 要处理NLP问题,首先要解决文本的表示问题。虽然我们人去看文本,能够清楚明白文本中的符号表达什么含义,但是计算机只能做数学计算,需要将文本表示成计算机可以处理的形式。自然语言处理的核心是将“语言”转化为“模型可处理的向量”,其表示方式经历了如下演变 阅读全文
posted @ 2025-05-07 11:09
赵家小伙儿
阅读(31)
评论(0)
推荐(0)