第四周学习报告

学习任务

1、大模型Function Calling:工具调用数据集格式、调用流程、多轮工具调用
2、RAG与知识库构建：向量数据库+知识图谱结合大模型，掌握RAG/GraphRAG流程，构建知识库接入大模型智能问答
3、基于Langchain的Agent实战
4、

项目	内容
论文理解	iTransformer（Liu et al., ICLR 2024 Spotlight, CCF-A）
论文链接	https://arxiv.org/abs/2310.06625
官方代码	https://github.com/thuml/iTransformer
阅读重点	inverted embedding（把整条序列当一个 token）、为何比 vanilla Transformer 更适合多变量时序、与 Linear 模型的对比

---

公共代码库（有时间可以读）

• Time-Series-Library：https://github.com/thuml/Time-Series-Library （时序模型全家桶）
• tsai：https://github.com/timeseriesAI/tsai （Python 时序 AI，入门友好）
• d3rlpy：https://github.com/takuseno/d3rlpy （离线 RL）

---

iTransformer

为何在多变量时间序列预测任务中iTransformer性能优于Vanilla Transformer？

这个问题的本质应该是任务的特性不同：首先，多变量时间序列预测任务有一个客观存在要素是变量之间的相关性对多变量时间序列预测是极其重要的！
Vanilla Transformer架构的嵌入层将具有不同物理意义的变量融合在一个向量中的操作，极大的消解了不同特征之间的相关性，同时解释性弱。