摘要: 传统VS大模型 智能客服系统在没有大模型之前我们也是可以设计完成的只是实现的效果没有大模型那么好。下面是两则设计的原理 向量与Embeddings的定义 在数学中,向量(也称为欧几里得向量),指具有大小(magnitude)和方向的量。它可以形象化地表示为带箭头的线段。箭头所指:代表向量的方向;线段 阅读全文
posted @ 2025-03-12 12:03 Michael_Z 阅读(79) 评论(0) 推荐(0)
摘要: LLM的缺陷: LLM的知识不是实时的,不具备知识更新。 LLM可能不知道你私有的领域/业务知识。 LLM有时会在回答中生成看似合理但实际上是错误的信息。 为什么会用到RAG: 提高准确性:通过检索相关的信息,RAG可以提高生成文本的准确性。 减少训练成本:与需要大量数据来训练的大型生成模型相比,R 阅读全文
posted @ 2025-03-12 12:02 Michael_Z 阅读(309) 评论(0) 推荐(0)
摘要: 1.智能学员辅导系统 利用大模型来写界面 利用大模型来写界面,把学员填写的信息利用大模型生成答案 拆解一下项目: 传统的html css js jq vue框架 前端 AI streamlit gradio 提示词 帮我用streamlit模块写一个可以和大模型交互的界面 提示词: 用streaml 阅读全文
posted @ 2025-03-12 11:43 Michael_Z 阅读(62) 评论(0) 推荐(0)
摘要: 1.生成数据 从具有生成连贯文本的强大能力。使用有效的提示策略可以引导模型产生更好、更一致和更真实的响应。 从模型还可以特别有用地生成数据,这对于运行各种实验和评估非常有用。例如,我们可以使用它来为情感分类器 生成快速样本,如下所示: 提示: 生成10个情感分析的范例。示例被归类为正面或负面。生成2 阅读全文
posted @ 2025-03-12 11:42 Michael_Z 阅读(75) 评论(0) 推荐(0)
摘要: 1.零样本提示 如今,经过大量数据训练并调整指令的LLM能够执行零样本任务 prompt = """ 将文本分为中性、负面或正面。 文本:我认为这次假期一般。 情感: """ # prompt = "中国的首都是哪里?" # 在上面的提示中,我们没有向模型提供任何示例——这就是零样本能力的作用。 d 阅读全文
posted @ 2025-03-12 11:41 Michael_Z 阅读(150) 评论(0) 推荐(0)
摘要: 大模型之提示工程 1.提示词工程 什么是提示词(Prompt) 所谓的提示词其实指的就是提供给模型的一个文本片段,用于指导模型生成特定的输出或回答。提示词的目的是为模型提供一个任务的上下文,以便模型能够更准确地理解用户的意图,并生成相关的回应。 什么是提示词工程(Prompt Engineering 阅读全文
posted @ 2025-03-07 17:09 Michael_Z 阅读(572) 评论(0) 推荐(0)
摘要: 通过llamindex实现ReAct RAG Agent # 加载电商财报数据 from llama_index.core import SimpleDirectoryReader from dotenv import load_dotenv load_dotenv() # 加载 PDF 文件 A. 阅读全文
posted @ 2025-03-07 17:05 Michael_Z 阅读(73) 评论(0) 推荐(0)
摘要: 1.如何使用大模型 阿里云(K8s容器服务、Serverless架构等),千问 2.大模型的训练 预训练、SFT(监督微调)以及RLHF(基于人类反馈的强化学习) 预训练:预测(补全句子),Transformer框架 SFT:按照人类意图回答专业问题、预测(但是模型的回答有时候可能不符合人类的偏好, 阅读全文
posted @ 2025-03-07 02:04 Michael_Z 阅读(60) 评论(0) 推荐(0)