最爱丁珰

2025年3月3日

摘要： ![image](https://img2024.cnblogs.com/blog/2490134/202503/2490134-20250303215001358-527347110.png) 阅读全文

posted @ 2025-03-03 22:01 最爱丁珰阅读(8) 评论(0) 推荐(0)

摘要：注意，我们这里必须要将输入的前两维（batch_size和num_steps）结合起来，而不能将后两维（num_steps和dimension）结合起来，因为这里num_steps是变化的（num_steps是我们指定的超参数，指定之后编码器-解码器的确只能处理固定长度的序列，因为有truncate 阅读全文

posted @ 2025-03-03 21:50 最爱丁珰阅读(38) 评论(0) 推荐(0)

10.6.2 比较卷积神经网络、循环神经网络和自注意力

摘要： CNN怎么做序列？实际上之前已经接触过了，就是把序列当成没有高只有宽的图片而已将书上讲的复杂度汇总如下 CNN 计算复杂度：进行一次卷积计算，由于卷积层大小为\(k\)，输入有\(d\)个通道，所以复杂度为\(O(kd)\)；由于序列长为\(n\)，所以计算完输出的一个通道的时间复杂度为\(O(k 阅读全文

posted @ 2025-03-03 15:09 最爱丁珰阅读(70) 评论(0) 推荐(0)

2025年3月2日

第一次作业

摘要：作业题目：请设计一份问卷，分别针对软件工程师和高年级同学，调查他们在设计、开发软件系统时通常会面临的困难和困惑，并调研其解决问题的途径和方法。目录软件工程师版问卷一、基本信息二.设计痛点三、开发痛点四、解决方案高年级学生版问卷一、基本信息二.设计痛点三、开发痛点四、解决方案软件工程师版问卷一、阅读全文

posted @ 2025-03-02 23:58 最爱丁珰阅读(27) 评论(0) 推荐(0)

14.8.1 从上下文无关到上下文敏感

摘要：最后一段话各个句子的意思： ELMo将来自预训练的双向长短期记忆网络的所有中间层表示组合为输出表示：ELMo（Embeddings from Language Models）通过双向长短期记忆网络（BiLSTM）生成上下文敏感的词表示，其核心思想是结合双向LSTM所有层的中间表示，形成动态的词向量。阅读全文

posted @ 2025-03-02 22:06 最爱丁珰阅读(69) 评论(0) 推荐(0)

14.5.1 带全局语料库的跳元模型

摘要：最后一段最后一句话的含义及示例说明：核心问题：交叉熵损失在处理大型语料库中的罕见共现事件时，会赋予它们过高的权重，导致模型过度关注这些不常见的情况，从而影响整体性能。具体解释在跳元模型中，损失函数为： \[-\sum_{i \in V} \sum_{j \in V} x_{ij} \log q 阅读全文

posted @ 2025-03-02 20:39 最爱丁珰阅读(48) 评论(0) 推荐(0)

2.2.3 HTTP报文格式

摘要： HTTP 请求中的 PUT 和 POST 方法均可用于向服务器提交数据，但它们在语义、用途和幂等性上有本质区别。以下是两者的关键差异： 1. 语义与用途 PUT 作用：用于完整替换服务器上某个已知 URI 对应的资源。场景：客户端明确知道目标资源的 URI（例如 /users/123），并希望将数阅读全文

posted @ 2025-03-02 19:35 最爱丁珰阅读(53) 评论(0) 推荐(0)

14.1.3 跳元模型

摘要：跳元模型的似然函数选择为： \[\prod_{t=1}^T \prod_{-m \leq j \leq m, \, j \neq 0} P(w^{(t+j)} \mid w^{(t)}) \]而非其他形式，主要基于以下核心原因： 1. 模型目标的直接对应跳元模型的核心目标是最大化给定中心词生成其上阅读全文

posted @ 2025-03-02 14:59 最爱丁珰阅读(61) 评论(0) 推荐(0)

14.6.2 字节对编码

摘要： ' '.join(list(token))是将token中的每个元素用空格给连接起来。比如' '.join(['f', 'a', 's', 't', '_']) → 'f a s t _' split()函数的默认行为是按照任意空白字符（包括空格、制表符、换行符等）进行分割，并且会自动处理连续的空格阅读全文

posted @ 2025-03-02 14:57 最爱丁珰阅读(10) 评论(0) 推荐(0)

2025年3月1日

14.4.3 应用词嵌入

摘要： ![image](https://img2024.cnblogs.com/blog/2490134/202503/2490134-20250301210633177-385056364.png) 阅读全文

posted @ 2025-03-01 21:06 最爱丁珰阅读(4) 评论(0) 推荐(0)

公告