摘要：
vLLM 是一个快速且易于使用的库，用于进行大型语言模型（LLM）的推理和服务。这里通过运行实际的例子，来和传统原始方法进行比较。初步结论是vllm没有体现出明显优势。 阅读全文
posted @ 2024-04-24 14:18
jsxyhelu
阅读(5243)
评论(0)
推荐(0)
2024年4月24日
2024年4月14日
摘要：
分析输入信息的类别，目前是一个闭集、但是要按照开集的方式来进行分析；名称越乱越好，让系统自己来进行划分。必须首先考虑传统的方法；优先考虑数据结构的构建；强化监控机制的构建、首先进行认知和技术积累。一、数据情况找到了清华大学整理的关于体育的新闻，每篇一个新闻，第一行是标题，而后是内容。基于现有工具，直 阅读全文
posted @ 2024-04-14 16:50
jsxyhelu
阅读(80)
评论(0)
推荐(0)
2024年4月10日
摘要：
一、基本chain from langchain_core.output_parsers import StrOutputParser from langchain_core.prompts import ChatPromptTemplate from langchain_community.llm 阅读全文
posted @ 2024-04-10 20:15
jsxyhelu
阅读(58)
评论(0)
推荐(0)
2024年1月24日
摘要：
一、和chatglm3通信，基于chromadbimport jsonimport requestsimport osfrom pdfminer.high_level import extract_pagesfrom pdfminer.layout import LTTextContainerimp 阅读全文
posted @ 2024-01-24 07:03
jsxyhelu
阅读(308)
评论(0)
推荐(0)
摘要：
embeded模型基于m3e。 一、原生向量代码，自己计算距离 import numpy as np from numpy import dot from numpy.linalg import norm from sentence_transformers import SentenceTrans 阅读全文
posted @ 2024-01-24 07:00
jsxyhelu
阅读(93)
评论(0)
推荐(0)
2024年1月5日
摘要：
一、什么是RAG? RAG的架构如图中所示，简单来讲，RAG就是通过检索获取相关的知识并将其融入Prompt，让大模型能够参考相应的知识从而给出合理回答。因此，可以将RAG的核心理解为“检索+生成”，前者主要是利用向量数据库的高效存储和检索能力，召回目标知识；后者则是利用大模型和Prompt工程，将 阅读全文
posted @ 2024-01-05 19:35
jsxyhelu
阅读(4568)
评论(0)
推荐(2)
2023年12月20日
摘要：
工作相关和扩展核心能力的需要，采用较为简单的方法来学习Elasticsearch，作相关记录备查。一、采用Docker安装sudo docker pull elasticsearch:7.7.0sudo docker imagessudo docker run --name elasticsearc 阅读全文
posted @ 2023-12-20 20:55
jsxyhelu
阅读(54)
评论(0)
推荐(0)
摘要：
主要是出图，结合实际做3个例子：1、形容天气非常寒冷的风景图片（ 画一幅未来极度寒冷下城市的场景）2、妈妈过生日的庆祝图片（画一幅妈妈过生日的庆祝图片，水墨画风格）3、包含GreenOpen字样的富含科技感的图片未来不可限量，对于当前来说是提出准确的需求。关注提高用户体验： 阅读全文
posted @ 2023-12-20 15:12
jsxyhelu
阅读(82)
评论(0)
推荐(0)
2023年12月15日
摘要：
本例项目来源于群里面网友提问“在流水线上采集到的图片，相互之间位移基本确定，需要进行进一步精细拼接” 阅读全文
posted @ 2023-12-15 09:55
jsxyhelu
阅读(300)
评论(1)
推荐(0)
2023年5月1日
摘要：
问题来源,在使用mmrotate的过程中，需要能够对识别的结果进行推断，结果发现缺乏相关功能： From the demo i know show_result_pyplot can plot the inferred results, I would like to ask how to conv 阅读全文
posted @ 2023-05-01 07:03
jsxyhelu
阅读(824)
评论(0)
推荐(0)
浙公网安备 33010602011771号