岁

摘要： 快速部署大模型 阅读全文

摘要： MLA的公式放在这里： \[\begin{align*} \mathbf{c}_t^{KV} &= W^{DKV}\mathbf{h}_t &(1) \\ [\mathbf{k}_{t,1}^C, \mathbf{k}_{t,2}^C, ..., \mathbf{k}_{t,n_h}^C] = \m 阅读全文

摘要： 反向传播是用来计算损失函数（Loss Function, \(L\)）关于网络中各个参数的梯度的过程。这些梯度用于更新参数，从而降低损失函数的值，使网络性能更好。 \(\nabla_y L\): 这是损失函数 \(L\) 关于 \(y\) 的梯度。\(y\) 是前向传播中激活函数的输出。 \(\fr 阅读全文

摘要： 我觉得最重要的有两点： 处理变长序列的稳定性：BN是在不同样本的同一维度做归一化，因为在seq2seq的场景中，样本数量不是固定的/输入序列是变长的，使用BN会导致不稳定。LN是在同一样本的不同维度做归一化，这样会更稳定。 小批量下的鲁棒性：Batch Norm的性能受批量大小影响显著，小批量可能导 阅读全文

摘要： 对于AlphaStar 中间的LSTM部分有不解的地方，这里对一些问题和细节做出了解释 阅读全文

摘要： 在docker或linux中一劳永逸解决matplotlib中文显示问题 安装 mplfonts的安装方法是pip: $ pip install -U mplfonts 使用 安装好mplfonts之后，需要有一个初始化的配置过程 在终端执行$ mplfonts init即可。 测试 import 阅读全文

摘要： 自动历史管理 前面的示例将消息显式地传递给链。这是一种完全可接受的方法，但确实需要外部管理新消息。LangChain还包括一个名为RunnableWithMessageHistory的包裹器，能够自动处理这个过程。 为了展示其工作原理，我们稍微修改上面的提示，增加一个最终输入变量，该变量在聊天历史记 阅读全文

摘要： from langchain_core.output_parsers import StrOutputParser from langchain_core.runnables import RunnableParallel from langchain_openai import ChatOpenA 阅读全文

摘要： xinference+Qwen1.5MoE+LangChain，如何让国内开源大模型输出我们想要的知识 阅读全文

摘要： LangChain SQL 该模块可以让我们向LLM提问时从数据库中查询数据并做出回答。 架构 SQL chain和agent的高层抽象架构： 问题转查询SQL：使用LLM将用户输入转成SQL查询 执行SQL查询：执行SQL语句 回答问题：LLM根据数据库查询结果返回回答内容 环境安装 安装必要环境 阅读全文