摘要: 也是突然想起了这篇老文章。 可以说是现代大模型的鼻祖级文章之一。 之前大四闲得没事的时候看过一次,但是完全不知所云。 什么 QKV,什么 Attention,完全看不懂。 看了一两天之后就放弃了。 现在回头看,连带着数学,一个小时就看得差不多了。 可以说是成功对 Transformer 祛魅。 或者 阅读全文
posted @ 2026-08-11 10:31 阿基米德的澡盆 阅读(8) 评论(0) 推荐(0)
摘要: (本文自己写了草稿,格式和数学公式,以及部分逻辑错误由gpt辅助完成) 早就听说了 Drifting 的大名,组里的学长左 Drifting 右 Drifting 的。 终于,在回想起自己还是一个没毕业的硕士研究生之后, 想起来要拜读一下这篇文章。 好家伙,不读不知道,一读吓一跳,这篇文章居然是 2 阅读全文
posted @ 2026-08-07 17:02 阿基米德的澡盆 阅读(11) 评论(0) 推荐(0)
摘要: 打黑工好几个月,突然想起来自己是个没毕业的硕士研究生() 读完了也实在是没力气写博客了,让gpt生成了一个 看点老的文章也算纯纯满足好奇心了 凑活记录一下吧 # 从概率分布到对抗博弈:我的 GAN 原始论文阅读笔记 ## 一、GAN 到底在学习什么? GAN 的目标不是让生成器记住某一张真实图片,而 阅读全文
posted @ 2026-07-31 15:11 阿基米德的澡盆 阅读(11) 评论(0) 推荐(0)
摘要: 1. 任务目标 在 RTX 4090 主机上,将 Hugging Face 格式的 Qwen3-0.6B 模型转换为 TensorRT-LLM 的 Weight-Only 量化 checkpoint,然后将量化结果传输到 Jetson Orin NX 上构建 TensorRT Engine。 整体流 阅读全文
posted @ 2026-07-24 16:16 阿基米德的澡盆 阅读(16) 评论(0) 推荐(0)
摘要: 一、最终目录关系 整个流程会产生三类模型目录: Qwen3-0.6B/ ├── config.json ├── model.safetensors ├── tokenizer.json └── ... 这是从 Hugging Face 下载的原始模型,也是权重转换和量化的起点。 Qwen3-0.6B 阅读全文
posted @ 2026-07-24 14:26 阿基米德的澡盆 阅读(29) 评论(0) 推荐(0)
摘要: 其实我也不太知道我在干什么,因为这两天加班实在是有点昏头233 省流就是:因为一开始想兼容老项目,所以装了ubuntu22为基底的jetpack6.x 接下来就是一大堆版本不兼容,不支持qwen3,不支持量化这些 于是,在gpt的帮助下,大改了一通 包括kv cache、qvk投影层等 最终,是实现 阅读全文
posted @ 2026-07-13 13:53 阿基米德的澡盆 阅读(28) 评论(0) 推荐(0)
摘要: # 在 RTX 4090 上部署 TensorRT-LLM 0.12.0 并完成 Qwen3-0.6B W4A16 量化记录 ## 1. 背景 本次目标是在 RTX 4090 主机上,使用 TensorRT-LLM 0.12.0 对 Qwen3-0.6B 进行 INT4 Weight Only 量化 阅读全文
posted @ 2026-07-13 13:46 阿基米德的澡盆 阅读(22) 评论(0) 推荐(0)
摘要: 也是玩skill玩了有一段时间了。 感受就是好用,agent发展有点太快了 从学期开始,接触到了真正的agent,claude openclaw等 然后就离不开了。 相比之下,去年我vibe出来的那个被称为agent的小网页不能说是小巫见大巫了只能说是小巫见大巫... 没多长时间就有了skill啊p 阅读全文
posted @ 2026-05-22 10:28 阿基米德的澡盆 阅读(35) 评论(0) 推荐(0)
摘要: 也算是组里的传统了,参加一下腾讯开悟的智能体比赛,大概忙活了半个月,成绩有但不多。 很遗憾没能冲出重围,但还是学习到了不少东西,习惯性记录一下,脸滚键盘说不上什么顺序逻辑。 0.赛题介绍 控制一个智能体,在地图中进行避障、躲避敌人、到达指定目标点的任务。 很经典的强化学习算法环境,作为从理论新手到工 阅读全文
posted @ 2026-05-09 10:14 阿基米德的澡盆 阅读(60) 评论(0) 推荐(0)
摘要: v4发布剌!token大大大减价剌!又高智商又便宜的agent,感谢科技掌握在文明手中,感谢梁圣开源! ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ 开始做项目以来,也是不得不用 阅读全文
posted @ 2026-04-14 16:44 阿基米德的澡盆 阅读(145) 评论(0) 推荐(0)