随笔分类 -  大模型

摘要:RAG的原理 针对大模型,补充大模型的外部数据库,避免大模型在生成数据时产生幻觉 Embeddings 将文本、图像和音频等非结构化数据格式转换为向量 Milvus支持三种部署模式 Milvus Lite是一个Python库,百万向量级别 Milvus Standalone是单机部署,十亿向量级别 阅读全文
posted @ 2026-01-26 13:55 showMeTheCodes 阅读(7) 评论(0) 推荐(0)
摘要:为什么要使⽤虚拟环境 项⽬部署时,直接导出项⽬对应的环境中的库就可以了; 同时开发多个项⽬,各⾃项⽬使⽤的python版本不同,譬如⼀个是python2,另⼀个是python3,那么需要来回的切换python版本; 当你同时开发多个项⽬时,特别是多个项⽬使⽤同⼀个库,譬如:django,但是各⾃项⽬ 阅读全文
posted @ 2026-01-26 13:54 showMeTheCodes 阅读(1) 评论(0) 推荐(0)
摘要:1、算力云租用一张4090显卡 算力云地址:https://autodl.com/console/instance/list? tag_id=&_random_=1760162242450 2、在魔塔社区找到千问大模型下载地址,拷贝下载方式,使用sdk下载 https://www.modelscop 阅读全文
posted @ 2026-01-23 10:18 showMeTheCodes 阅读(19) 评论(0) 推荐(0)