Loading

摘要: 课程 周数 类别 内容 课程一:神经网络和深度学习 第一周:深度学习简介 理论 (1)深度学习简介 实践 无 第二周:神经网络基础 理论 (1)回归基础 (2)分类与逻辑回归 (3)梯度下降法 (4)损失函数与传播 (5)向量化 (6)向量化的反向传播 实践 E & C 第三周:浅层神经网络 理论 阅读全文
posted @ 2026-02-06 18:22 哥布林学者 阅读(2033) 评论(0) 推荐(1)
摘要: 本篇代码仓位:ImageStitching 经过前面七篇的铺垫,我们已经得到了精确匹配的内点集和一个描述图像间几何关系的全局单应性矩阵。 虽然在现代拼接管道中仍有很多其他处理步骤和相应算法,但就我们目前所拥有的材料,已经可以尝试进行一次最简易的图像拼接。 复述一下我们现有的材料: 图像 A 和图像 阅读全文
posted @ 2026-07-14 22:40 哥布林学者 阅读(126) 评论(0) 推荐(0)
摘要: 依旧是需求导向的简单应用,甚至比上一次的全屏浮窗还简单。相比之前,这次的主要尝试是加入注册表相关操作,以及对需求本身的分析。 1.总结 用时:半小时。 配置:Reasonix 接 dsV4-flash 花费: 成果:最终版是一个 275 KB 的 Rust 后端 exe 文件和两个用于写入和删除注册 阅读全文
posted @ 2026-07-08 18:30 哥布林学者 阅读(176) 评论(1) 推荐(0)
摘要: 本篇代码仓位: USAC 上一篇我们介绍了标准 RANSAC。而在之后的四十多年里,围绕这一经典算法,又陆续出现了大量改进方法。 不同于 SIFT 在局部特征领域衍生出众多并行发展的分支,RANSAC 的演进路线更加清晰:研究者们针对算法内部的不同环节不断提出改进,最终由 USAC(Universa 阅读全文
posted @ 2026-07-06 20:05 哥布林学者 阅读(91) 评论(0) 推荐(0)
摘要: 本篇算法仓位:RANSAC 1. 特征匹配中的几何约束 上一篇我们梳理了 SIFT 的多种变体与改进方向,现在再回到拼接管线本身: 之前我们利用 SIFT 完成了特征匹配,拿到了初步的匹配点对,但即使经过比率测试,结果中仍然存在误匹配。原因是: 比率测试只关心描述子空间的"数值接近性",不关心两张图 阅读全文
posted @ 2026-07-04 15:16 哥布林学者 阅读(110) 评论(0) 推荐(1)
摘要: 前两篇完整展开了 SIFT 的算法逻辑,本篇关于其后续变体和这类特征检测和匹配算法的发展,更类似于综述一些,之后再完整展开部分现代算法。 1. SIFT 的局限和改进路线 在前两篇的内容里我们已经知道:从 DoG 尺度空间开始,到关键点检测、亚像素定位、方向分配,再到 128 维描述子的构建和最终匹 阅读全文
posted @ 2026-07-03 12:16 哥布林学者 阅读(126) 评论(0) 推荐(0)
摘要: 本篇代码仓位:SIFT 1. 特征描述 在上一篇中,我们完成了 SIFT 特征点检测的全部流程,得到了一批位置精确、尺度明确、对比度足够且非边缘的稳定特征点,每个特征点携带的信息是: \[(x,\ y,\ \sigma) \]现在便正式来到下一部分: 拿到了这些关键点后,怎么在另一张图像中找到它?也 阅读全文
posted @ 2026-07-02 12:10 哥布林学者 阅读(146) 评论(0) 推荐(0)
摘要: 本篇内容关于SIFT 特征点检测,由于内容较多,本篇只包含 SIFT 的检测逻辑,特征匹配逻辑和代码会放在下一篇。 1. 从 Harris 到 SIFT 在上一篇中,我们详细介绍了 Harris 角点探测,其首次系统性地用结构张量来描述局部特征。 但其终究只是一个“原始基座”,一个很明显的问题是: 阅读全文
posted @ 2026-07-01 10:57 哥布林学者 阅读(150) 评论(0) 推荐(0)
摘要: 上一篇我们把现代大模型的五个核心模块拼回了 LLaMA 这个完整案例中,可以看到注意力机制仍然是计算最密集的部分。 而这个密集程度在序列变长时,会变得越来越恐怖: 标准自注意力的计算复杂度和空间复杂度都是 \(O(n^2)\):序列长度翻倍,计算量翻四倍,内存占用也翻四倍。 而在之前,我们用 KV 阅读全文
posted @ 2026-06-19 16:31 哥布林学者 阅读(179) 评论(0) 推荐(0)
摘要: 上一篇我们介绍了 GQA,通过分组共享 KV Head,在注意力质量和推理效率之间找到了实际的平衡点。 至此,从第 25 篇到第 29 篇,我们分别拆解了现代大模型的五个核心设计模块: RoPE:旋转位置编码,让 QK 点积天然感知相对位置。 RMSNorm:去掉均值中心化的简化归一化。 SwiGL 阅读全文
posted @ 2026-06-16 17:19 哥布林学者 阅读(234) 评论(2) 推荐(0)
摘要: 上一篇我们介绍了 KV Cache:它把每一步重复的 K、V 计算存进缓存,让自回归推理的计算量骤降。 但这个加速不是没有代价的。KV Cache 的大小正比于多项参数,因此又反过来推动了注意力结构本身的改进。 这便是本篇内容:分组查询注意力(Grouped-Query Attention,GQA) 阅读全文
posted @ 2026-06-09 11:10 哥布林学者 阅读(217) 评论(0) 推荐(0)