随笔分类 -  AI

摘要:1. 什么是工作流 1.1 官方解释 工作流是通过把复杂任务拆分成多个子任务的方式来提升输出结果的准确性。如果目标场景非常多,逻辑复杂,那么可以选择通过工作流的方式来处理任务。 使用工作流的优点显而易见,能够把目标场景的任务逻辑详细拆分,确保逻辑清晰易懂,从而提升输出结果的准确性,其缺点也很明显,配 阅读全文
posted @ 2025-08-10 19:45 人艰不拆_zmc 阅读(90) 评论(0) 推荐(0)
摘要:1. 引言:为什么选择离线部署 在当今AI技术快速发展的时代,许多企业面临着数据安全与合规性的严格要求,特别是在金融、医疗和政府等领域,离线部署AI模型成为刚需。本文将详细介绍如何利用Xinference框架在完全离线的环境中部署四种核心AI能力:文本嵌入(Embedding)、重排序(Rerank 阅读全文
posted @ 2025-07-17 11:06 人艰不拆_zmc 阅读(1566) 评论(0) 推荐(2)
摘要:1、概述 在《Token:大语言模型的“语言乐高”,一切智能的基石》与《LLM 输出配置 (LLM output configuration)》这两篇博文中介绍了LLM Token、最大输出长度、温度、Top-K、Top-P概念,这篇文章介绍下LLM 上下文长度。 2、上下文长度 2.1 上下文长度 阅读全文
posted @ 2025-06-10 11:23 人艰不拆_zmc 阅读(1018) 评论(0) 推荐(0)
摘要:1、概述 大型语言模型(LLM)的输出行为可以通过多种配置参数进行精细控制。这些参数共同决定了模型生成文本的质量、风格和多样性。理解这些配置选项及其相互作用对于有效使用LLM至关重要。 2、输出长度 (Output length) 一个重要的配置设置是响应中要生成的令牌数量。生成更多令牌需要 LLM 阅读全文
posted @ 2025-06-09 14:06 人艰不拆_zmc 阅读(472) 评论(0) 推荐(0)
摘要:1、什么是Token?——AI眼中的“文字积木块” Token 是模型用来表示自然语言文本的基本单位,也是模型的计费单元,可以直观的理解为“字”或“词”;通常 1 个中文词语、1 个英文单词、1 个数字或 1 个符号计为 1 个 token。 一般情况下模型中 token 和字数的换算比例大致如下: 阅读全文
posted @ 2025-06-06 15:35 人艰不拆_zmc 阅读(721) 评论(0) 推荐(0)
摘要:1、概述 随着人工智能技术的飞速发展,越来越多的开发者和企业开始关注大语言模型(LLM)。这些模型以其强大的自然语言处理能力,在文本生成、问答、翻译、分类等多种任务中表现出色。然而,在实际使用中,许多人会遇到如何快速且高效地部署这些模型的问题。本文将介绍如何通过 Ollama 工具在本地部署 Dee 阅读全文
posted @ 2025-03-14 15:43 人艰不拆_zmc 阅读(1490) 评论(0) 推荐(0)
摘要:1、概述 Ollama 是一款开源跨平台大模型工具,主要用于在本地便捷部署和运行大型语言模型(LLM),核心目标是降低用户使用大模型的门槛,同时保障数据隐私。核心功能与特点如下: (1)本地部署,隐私保护 支持在 Windows、MacOS、Linux 等系统本地运行模型,无需依赖云端,数据交互全程 阅读全文
posted @ 2025-03-14 14:30 人艰不拆_zmc 阅读(1797) 评论(0) 推荐(3)
摘要:1. 安装darknet 使用Git克隆源码 git clone https://github.com/pjreddie/darknet 我们可能需要修改Makefile,主要修改前三行,配置使用GPU(CUDA),CUDNN,OPENCV GPU=1 CUDNN=1 OPENCV=1 之后运行 m 阅读全文
posted @ 2019-05-16 11:28 人艰不拆_zmc 阅读(4580) 评论(0) 推荐(0)
摘要:目前darknet框架下的模型训练都是在C环境下训练的,难免较为晦涩,如果能将模型转换到Tensorflow环境下完成模型的训练,在将训练好的权重转为Darknet可以识别的权重部署到实际应用中。这样就可以将算法的训练和实际部署分开! 1、将Darknet框架下的.cfg与.weights 转为Te 阅读全文
posted @ 2019-05-16 10:28 人艰不拆_zmc 阅读(3879) 评论(0) 推荐(0)
摘要:theta:旋转度数,theta=0代表不旋转。 算法原理 发现这个cv2.warpAffine是个很强大的函数, 要扣明白了,找到了CSDN博文:图像的几何变换很详细了, 就不转了! 阅读全文
posted @ 2019-05-16 10:13 人艰不拆_zmc 阅读(2242) 评论(0) 推荐(0)
摘要:首先,python接口文件在安装好的darknet目录下的python文件夹,打开就可以看到 这里的darknet.py文件就是python接口 用编辑器打开查看最后部分代码: 使用十分简单,先将网络配置加载进去,然后进行检测就行了。但其实现在还不能直接用,主要是以下两点: 1、在python目录下 阅读全文
posted @ 2019-05-15 14:46 人艰不拆_zmc 阅读(2821) 评论(0) 推荐(0)
摘要:最近有人问起在YOLOv2训练过程中输出在终端的不同的参数分别代表什么含义,如何去理解这些参数?本篇文章中我将尝试着去回答这个有趣的问题。 刚好现在我正在训练一个YOLOv2模型,拿这个真实的例子来讨论再合适不过了,下边是我训练中使用的 .cfg 文件(你可以在cfg文件夹下找到它): 以下是训练过 阅读全文
posted @ 2019-04-30 11:36 人艰不拆_zmc 阅读(1042) 评论(0) 推荐(0)
摘要:目标检测中,原始图片的标注过程是非常重要的,它的作用是在原始图像中标注目标物体位置并对每张图片生成相应的xml文件表示目标标准框的位置。本文介绍一款使用方便且能够标注多类别并能直接生成xml文件的标注工具——labelImg工具,并对其使用方法做一个介绍。 1、下载LabelImg 方式1:网址:h 阅读全文
posted @ 2019-04-30 11:11 人艰不拆_zmc 阅读(2728) 评论(0) 推荐(0)
摘要:今天下午在配置pycharm时一直出现tensorflow不能导入的错误,如下图所示: 通过以下步骤可以解决问题: 步骤一: 1)在pycharm安装目录下,进入bin目录(一般情况下我们下载解压pycharm的文件夹,就是安装文件夹)下图所示: 2)在当前目录(bin文件夹)打开终端,输入下面命令 阅读全文
posted @ 2019-04-18 11:35 人艰不拆_zmc 阅读(397) 评论(0) 推荐(0)
摘要:查看自己python的版本,然后下载自己版本Python的devel,比如python3.6.8就是 阅读全文
posted @ 2019-04-03 11:23 人艰不拆_zmc 阅读(10789) 评论(3) 推荐(0)
摘要:解决方法find / -name lsb_releaserm -rf /usr/bin/lsb_release 阅读全文
posted @ 2019-04-02 13:40 人艰不拆_zmc 阅读(1884) 评论(0) 推荐(0)
摘要:安装opencv的时候,往往会卡在这里: 其实就是墙的原因,然后你去搜,解决方法就是先下载好,然后安装opencv的时候从本地载入。 ippcv的下载地址其实就藏在ippcv.cmake文件(在opencv/3rdparty/ippicv文件夹下)中。里边有几个比较重要的变量。 第一个是IPPICV 阅读全文
posted @ 2019-04-01 13:50 人艰不拆_zmc 阅读(858) 评论(0) 推荐(0)