JerryChen

摘要： 定义将检索系统与大型语言模型相结合的AI技术。Embedding模型获取https://modelscope.cn在LangChain中，问答链的文档处理方法主要有以下几种： 1. Stuff（填充） 原理：将检索到的所有文档直接拼接成一个完整的上下文，一次性输入给LLM 优点：简单高效，保留所有信 阅读全文

摘要： 定义Embeddings是将任何信息（文本、图像、音频等）转换为数值向量的技术向量数据库专门设计用于高效存储、管理和检索高维向量的数据库系统目的将信息置换为向量，是为了高性能的相似性搜索常见的向量数据库FAISSMilvusPinecone 阅读全文

摘要： Prompt的组成:1.任务(Task):始终以动词开始任务句子(如"生成"，"给予","写作"等)，明确表达你的最终目标，可以有多个。 2.上下文(context):提供上下文背景、所处环境等。 3.示例(Exemplars):提供具体的例子，用于可以提高输出质量。 有时候我们没有示例，这时可以让 阅读全文

摘要： 工具vllmvllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-32B --tensor-parallel-size 2 -–max-model-len 32768 -–enforce-eagervllm serve：启动vllm推荐服务的命令deepse 阅读全文

摘要： 7b模型 7B 是指模型有 70亿（7 billion） 个参数（parameters）。 蒸馏Distill 用大参数模型训练小参数模型 (百炼)阿里云大模型服务平台 https://bailian.console.aliyun.com 魔搭社区 模型库、MCP、数据集、AIGC…… https: 阅读全文

摘要： sudo mkdir -p /etc/docker sudo tee /etc/docker/daemon.json <<-'EOF' { "registry-mirrors": ["https://register.liberx.info", "https://dockerpull.com", " 阅读全文

摘要： 官方教程 安装 sudo dnf update -ysudo dnf install -y dotnet-host sudo dnf install -y dotnet-runtime-8.0 dotnet --list-runtimes 阅读全文

摘要： snap 是一种用于安装和管理应用程序的软件包格式‌，它有助于简化Linux系统上的软件安装和更新过程，使得用户可以更轻松地管理他们的应用程序。‌ snap的优势 ‌简化管理‌：通过Snap，用户可以更轻松地安装、更新和删除应用程序，无需担心依赖问题。 ‌提高安全性‌：由于应用程序被隔离在单独的容器 阅读全文

摘要： 一般image都会有TZ这个环境变量 -e TZ=Asia/Shanghai 如果不生效可以使用 -v /etc/localtime:/etc/localtime:ro 阅读全文

摘要： 更新系统 sudo dnf update 安装 Docker 所需的软件包和依赖项 sudo dnf install -y yum-utils device-mapper-persistent-data lvm2 添加 Docker 官方的 YUM 仓库 #官方 sudo yum-config-ma 阅读全文