摘要: 读第二章时,我最大的感受是:Attention 不是一个神秘模块,而是把“谁该看谁、看多少”这件事显式写进了模型。RNN 依赖顺序传递信息,长依赖和并行性都不理想;Attention 则把序列里每个 token 之间的关系一次性算出来,再让模型按相关性取信息。这个变化看起来只是计算方式不同,实际上却 阅读全文
posted @ 2026-07-21 20:50 Hazy_star 阅读(0) 评论(0) 推荐(0)
摘要: 很多人第一次接触大模型时,都会把注意力直接放在 Transformer、Prompt、RAG 和 Agent 上。这样当然能很快看到结果,但一旦模型效果不稳定,或者检索、分词、上下文拼接出问题,就会发现自己缺的不是新概念,而是对 NLP 基础链路的理解。 这篇笔记记录我读 Happy-LLM 第一章 阅读全文
posted @ 2026-07-21 10:33 Hazy_star 阅读(7) 评论(0) 推荐(0)
摘要: 最近准备按 Datawhale 的 Happy-LLM 开源教程系统补一遍大语言模型。这个系列不打算把教程内容搬运一遍,而是按自己的学习节奏记录每一章里真正需要抓住的知识点、容易混淆的地方,以及读完之后能落到工程实践里的想法。 项目地址在这里:https://github.com/datawhale 阅读全文
posted @ 2026-07-20 15:30 Hazy_star 阅读(14) 评论(0) 推荐(0)
摘要: 1. 前言 Conda是Anaconda中一个强大的包和环境管理工具,可以在Windows的Anaconda Prompt命令行使用,也可以在macOS或者Linux系统的终端窗口(terminal window)的命令行使用。 本文简单介绍conda的一些常用命令(对于大多数人来说掌握了这些就基本 阅读全文
posted @ 2024-09-03 11:28 Hazy_star 阅读(7407) 评论(0) 推荐(0)
摘要: 1.Anaconda虚拟环境查看 安装好anaconda环境后,有两种方式可以查看虚拟环境: 第一种: 打开anaconda,如图所示即可查看。 第二种: 打开Anaconda Prompt,输入 conda env list 如图所示,base环境即是当前的环境,TensorEMG是我创建的环境, 阅读全文
posted @ 2024-09-03 10:49 Hazy_star 阅读(11521) 评论(0) 推荐(0)
摘要: 原文链接:https://blog.csdn.net/mmk27_word/article/details/84378346 byte: 字节 bit: 位 短整型short: 所占内存大小:2byte=16bit; 所能表示范围:-3276832767;(即-2^152^15-1) 整型int: 阅读全文
posted @ 2024-03-17 10:47 Hazy_star 阅读(8919) 评论(0) 推荐(1)
摘要: 参考知乎回答:https://www.zhihu.com/question/304499849/answers/updated 鲁棒性,英文为Robustness(承受故障和干扰的能力),是许多复杂系统(包括复杂网络)的关键属性。复杂网络的鲁棒性研究对许多领域都非常重要。本文着重介绍了鲁棒性的基本定 阅读全文
posted @ 2024-03-13 10:35 Hazy_star 阅读(1297) 评论(0) 推荐(1)
摘要: 转载自知乎:https://zhuanlan.zhihu.com/p/611772031 1.定义结构体 法一(推荐,写法简单) struct Student{ string m_Name; int m_Age; Student()=default; Student(string name,int 阅读全文
posted @ 2024-03-08 16:55 Hazy_star 阅读(771) 评论(0) 推荐(0)
摘要: 装载自知乎(虽然有AI辅助操作,但是确实写得好好):【C++ STL容器set 】std::set 的全方位解析 - 知乎 (zhihu.com) 在这里插入图片描述 第一章: 引言 在探索现代软件开发的奥秘时,C++ 标准模板库(STL)显得尤为重要。STL 不仅是 C++ 编程的基石,也是程序员 阅读全文
posted @ 2024-03-03 23:43 Hazy_star 阅读(2762) 评论(0) 推荐(2)
摘要: (转载补充)原文链接:https://blog.csdn.net/sevenjoin/article/details/81943864 1,map简介 map是STL的一个关联容器,它提供一对一的hash。 第一个可以称为关键字(key),每个关键字只能在map中出现一次; 第二个可能称为该关键字的 阅读全文
posted @ 2024-03-03 23:09 Hazy_star 阅读(1179) 评论(0) 推荐(0)