摘要: 数据格式 prompt的三种格式 System prompts chain-of-thought Multi-modal spatial-temporal(ST) text prompts. <s>[INST]<<SYS>> Role: You are an expert traffic volum 阅读全文
posted @ 2024-10-21 13:29 GraphL 阅读(126) 评论(0) 推荐(0)
摘要: 所以我可以理解成这些是在定义LoRA 模块的网络么 是的,可以这么理解。这些参数实际上是在 定义 LoRA 模块要插入的网络位置。具体来说,通过 target_modules 参数,代码指定了 LoRA 应该注入 LLaMA 模型的哪些层,以实现轻量化微调。 LoRA 模块的网络定义:如何理解? L 阅读全文
posted @ 2024-10-21 11:20 GraphL 阅读(451) 评论(0) 推荐(0)