随笔分类 - AI
摘要：前言 作者：白玉光 正如李飞飞在她的自传中的说的：人工智能算法不是像传统算法那样，被告知该做什么，而是通过数据来学习该做什么，这也是本文想要表达的核心内容。 导读： 推开AI的门，你是站在门外怕迟到的人。很多人害怕迟到，害怕在众目睽睽之下，被视作一个犯错的学生。就如同，AI“呼的一下”就来了，并且发
阅读全文
摘要：前言 由于 P5000 VRAM 有限，我们优先使用 QLoRA（4-bit 量化）模式进行高效微调，避免 OOM（内存不足）错误。 下载模型 https://modelscope.cn/models/LLM-Research/Meta-Llama-3-8B-Instruct/files 使用 mo
阅读全文
摘要：制作 LLaMA-Factory 华为 npu 镜像 https://hub.docker.com/r/hiyouga/llamafactory/tags 默认情况下 LLaMA-Factory 镜像有 cuda版本的镜像 docker pull hiyouga/llamafactory:lates
阅读全文
摘要：一、Fine-tuning的本质 Fine-tuning（微调）：通过特定领域数据对预训练模型进行针对性优化，以提升其在特定任务上的性能。 一、微调的定义 大模型微调是利用特定领域的数据集对已预训练的大模型进行进一步训练的过程。它旨在优化模型在特定任务上的性能，使模型能够更好地适应和完成特定领域的任
阅读全文
摘要：下载模型仓库 git clone https://github.com/deepseek-ai/DeepSeek-VL2.git 国内下载仓库失败时，可以使用以下代理： git clone https://github.moeyy.xyz/https://github.com/deepseek-ai
阅读全文
摘要：前言 之前一直使用，以下两种方式安装英伟达驱动 Ubuntu Nvidia driver驱动安装（新） Ubuntu Nvidia driver驱动安装及卸载 其实安装好 CUDA Toolkit, 驱动也会一同安装 cuda下载地址 https://developer.nvidia.com/cud
阅读全文
摘要：下载模型仓库 git clone https://github.com/deepseek-ai/Janus.git 国内下载仓库失败时，可以使用以下代理： git clone https://github.moeyy.xyz/https://github.com/deepseek-ai/Janus.
阅读全文
摘要：前言 英伟达更新了安装驱动的方式，更新一下文档 旧文：Ubuntu Nvidia driver驱动安装及卸载 下载官方驱动安装 1.安装驱动前一定要更新软件列表和安装必要软件、依赖（必须） sudo apt-get update #更新软件列表 sudo apt-get install -y g++
阅读全文
摘要：什么是COCO数据集？ MS COCO的全称是Microsoft Common Objects in Context，起源于微软于2014年出资标注的Microsoft COCO数据集，与ImageNet竞赛一样，被视为是计算机视觉领域最受关注和最权威的比赛之一。 COCO数据集是一个可用于图像检测
阅读全文
摘要：前言 AI 落地时，在某些场景下 AI 模型在训练或者是推理时，其算力要求不需要占用整卡的 GPU，比如只需要0.5卡 GPU 即可满足需求。 在这种情况下，可以使用 GPU 虚拟化技术来解决这个问题，将整卡的 GPU 虚拟化为两个0.5卡的 GPU，这样就可以在一张卡上同时跑两个 AI 训练或者
阅读全文
摘要：前言 当前英伟达下载的驱动不再是 .run 的 shell文件，所以有了新的文档，如下 Ubuntu Nvidia driver驱动安装（新） 当然如果你有 shell 文件，也可以继续使用本文档安装驱动 下载官方驱动安装 1.安装驱动前一定要更新软件列表和安装必要软件、依赖（必须） sudo ap
阅读全文
浙公网安备 33010602011771号