摘要: Linux通用: 查看Linux 系统版本 hostnamectl yum: 查看启用的源 yum repolist 通配符查找包 yum list available 'python3.12*' openssl: 查看版本 openssl version pyenv: 激活虚拟环境 pyenv a 阅读全文
posted @ 2025-08-18 14:30 zheng019 阅读(4) 评论(0) 推荐(0)
摘要: 技术揭秘:用 Python yield 实现自己的流式 API 在与大语言模型(如ChatGPT)交互时,我们都对它逐字吐出的“打字机效果”印象深刻。这背后的核心技术就是流式传输 (Streaming)。本文将带你了解流式传输的定义,剖析其实现关键 yield,并手把手教你用 Flask 构建一个与 阅读全文
posted @ 2025-07-23 16:26 zheng019 阅读(208) 评论(0) 推荐(0)
摘要: 分支相关命令 查看分支 git branch 查看本地分支 git branch -a 查看本地及远端分支 新建分支并切换 git checkout -b your_branch_name 切换分支 git checkout your_branch_name 将本地A分支内容同步到B分支 git c 阅读全文
posted @ 2025-07-23 16:06 zheng019 阅读(12) 评论(0) 推荐(0)
摘要: 安装包相关 模糊查找包 conda search <模糊词> 查找包全名 conda search --full-name 通过特定channel安装包 conda install <pkg_name> --channel <channel_name> 阅读全文
posted @ 2025-07-15 17:11 zheng019 阅读(9) 评论(0) 推荐(0)
摘要: Linux下的虚拟环境 Linux下使用python虚拟环境有很多方法,本文主要介绍采用virtualvenv和virtualenvwrapper下的虚拟环境 step1:安装包 pip install virtualenv pip install virtualenvwrapper step2:创 阅读全文
posted @ 2025-07-14 15:19 zheng019 阅读(112) 评论(0) 推荐(0)
摘要: Q:不赞同“每个AI系统都要单独实现文件操作的function call”, 被调用功能放置一个文件中即可 不同的AI系统采用相同的参数对该功能进行调用 A:你说得对,从纯技术实现角度来看,确实可以把功能放在一个文件中,让不同AI系统用相同参数调用。 你提到的方案的合理性 如果只是几个功能、几个AI 阅读全文
posted @ 2025-07-11 16:39 zheng019 阅读(20) 评论(0) 推荐(0)
摘要: RAG 大模型面临的问题 易出现幻觉 利用文档减少幻觉但文档内容太多、大模型寻找答案变难 什么是RAG RAG,全称Retrieval Augmented Generation,检索增强生成。RAG旨在解决从文档中抽取与用户问题相关的文字片段。 Embedding模型————RAG的基础 将一句话、 阅读全文
posted @ 2025-07-08 14:23 zheng019 阅读(16) 评论(0) 推荐(0)
摘要: MCP 定义 MCP,全称Model Context Protocal(模型上下文协议),MCP 为 AI 模型连接各种数据源和工具提供了标准化的接口。 Why MCP? 标准化MCP与外部数据源的交互方式,现存方式需要为不同数据源反复构建相同逻辑,采用MCP后可以只构建一次即可复用 > 没有MCP 阅读全文
posted @ 2025-07-08 14:21 zheng019 阅读(59) 评论(0) 推荐(0)
摘要: Prompt System Prompt:描述AI的角色、性格等 Agent 定义 大模型Agent是一种构建于大型语言模型(LLM)之上的智能体,它具备环境感知能力、自主理解、决策制定及执行行动的能力。 为什么要有Agent,下面是Claude4.0给出的回答: 这是个很好的问题!确实,大模型本身 阅读全文
posted @ 2025-07-08 11:50 zheng019 阅读(59) 评论(0) 推荐(0)
摘要: 经过一番折腾得出几点总结: conda管理下的虚拟环境中单独安装cudnn无法做到普通环境中的安装:解压而后放到对应的cuda文件夹中,因为虚拟环境安装下cuda和普通环境中安装的目录结构等不相同 安装一个东西时可以先看看conda能否安装,若能那么可以做到事半功倍。 安装cuda11.8(较低版本 阅读全文
posted @ 2023-02-22 22:27 zheng019 阅读(5090) 评论(0) 推荐(0)