摘要：
问题描述 Node.js 是一个基于 Google 的 V8 引擎的事件驱动 I/O 服务端 JavaScript 环境。以下主要解决在Ubuntu环境中的Node配置问题。 解决方案 使用node -v可以查看当前的node版本，如果未安装node和npm可以尝试以下指令： apt update 阅读全文
posted @ 2024-06-23 13:11
yicheng_liu0219
阅读(268)
评论(0)
推荐(0)
摘要：
问题描述 由于本地显卡 GeForce RTX 4070Ti 推理速度较慢，我们拟采用服务器 GeForce RTX 3090 进行最后的项目展示，因而需要重新配置环境。由于Cuda版本和Conda版本基本一致，拟采用conda pack指令进行快速迁移。 解决方案 第一步，在base环境下载con 阅读全文
posted @ 2024-06-23 13:11
yicheng_liu0219
阅读(74)
评论(0)
推荐(0)
摘要：
现象描述 在运行程序时，发现torch.cuda.OutOfMemoryError: CUDA out of memory.错误，考虑模型大小远小于所用显卡显存，使用： $ nvidia-smi # 或每隔两秒自动刷新 $ watch -n 2 -d nvidia-smi 进行查看，发现显存占用高且 阅读全文
posted @ 2024-06-23 13:11
yicheng_liu0219
阅读(833)
评论(0)
推荐(0)
摘要：
HuggingFace [1] Hugging Face是一个人工智能领域尤其是自然语言处理领域的开源平台，包含数据集、模型、文档、解决方案等内容的分享。由于 LLM 的参数量较大，往往将参数文件托管到该平台并使用 transformers [3] 库进行模型调用。 模型下载 由于项目要求模型本地运 阅读全文
posted @ 2024-06-23 13:11
yicheng_liu0219
阅读(257)
评论(0)
推荐(0)
摘要：
目前，本博客仅用于本科项目实训的过程记录。 由于项目接近尾声，之前考试周复习，做的很多工作并没有写成博客进行展示，因而接下来会有较为集中的博客发布，发布顺序可能与实际过程顺序有一定差异。 阅读全文
posted @ 2024-06-23 13:10
yicheng_liu0219
阅读(15)
评论(0)
推荐(0)
浙公网安备 33010602011771号