我的随笔

时空图神经网络ST-GNN的概念以及Pytorch实现

deephub 2024-04-15 10:02 阅读:462 评论:0 推荐:0

Moirai：Salesforce的时间序列预测基础模型

deephub 2024-04-14 11:33 阅读:388 评论:0 推荐:0

PiSSA ：将模型原始权重进行奇异值分解的一种新的微调方法

deephub 2024-04-12 11:43 阅读:174 评论:0 推荐:0

10个大型语言模型(LLM)常见面试问题和答案解析

deephub 2024-04-11 11:33 阅读:121 评论:0 推荐:0

推测解码：在不降低准确性的情况下将LLM推理速度提高2 - 3倍

deephub 2024-04-10 10:01 阅读:148 评论:0 推荐:0

5种常用于LLM的令牌遮蔽技术介绍以及Pytorch的实现

deephub 2024-04-09 11:33 阅读:45 评论:0 推荐:0

为什么大型语言模型都在使用 SwiGLU 作为激活函数？

deephub 2024-04-08 10:09 阅读:629 评论:0 推荐:0

归一化技术比较研究：Batch Norm, Layer Norm, Group Norm

deephub 2024-04-07 09:58 阅读:87 评论:0 推荐:0

大模型中常用的注意力机制GQA详解以及Pytorch代码实现

deephub 2024-04-03 10:12 阅读:573 评论:0 推荐:0

大语言模型中常用的旋转位置编码RoPE详解：为什么它比绝对或相对位置编码更好?

deephub 2024-04-01 10:25 阅读:439 评论:0 推荐:0